iPhone kullanıcıları, Apple'ın gelecek yapay zeka modellerinin de halüsinasyonlara sahip olacağına ve potansiyel olarak yanlış bilgi ve diğer tehlikeli içerikleri yayacağına hazırlıklı olmalıdır. Üretici, sonbaharda iOS 18, iPadOS 18 ve macOS 15 yüklü çok sayıda cihazda satışa sunulacak yapay zeka paketi “Apple Intelligence”ı sunduktan kısa bir süre sonra bunu itiraf etti.
Duyuru
Apple'ın başkanı Tim Cook, bir röportajda dahili üretken yapay zekanın halüsinasyon görmediğinden %100 emin olmadığını vurguladı. Şirket, teknolojiyi olabildiğince güvenli olacak şekilde tasarladı ve Apple'ın yapay zeka modellerinin “çok yüksek kaliteli” içerik ürettiğine inanıyor. Cook, The Washington Post'a “Dürüst olmak gerekirse, bunun tam olarak %100 olmadığını söyleyebilirim” dedi.
Apple Intelligence'dan da zararlı yanıtlar
Apple'ın yeni Temel Modelleri üzerine daha uzun bir incelemede şirket, birçok durumda yapay zeka modellerinin hedeflenen girdilere (“düşmanca istekler”) yanıt olarak “zararlı içerik, hassas konular ve yanlış bilgiler” sunduğu testlere atıfta bulunuyor. Bu tür kural ihlallerinin oranı, diğer AI modelleriyle karşılaştırıldığında Apple Intelligence'da nispeten düşüktür. Apple, sunucularda çalışan yapay zeka modelleri için soruların %6,6'sının istenmeyen yanıtlar ürettiğini söylüyor; GPT-4-Turbo gibi diğer modeller için bu oran %20 gibi iyi bir seviyededir. Apple, modellerinin güvenliğini araştırmak için aktif olarak çalışmaya devam ettiğini söylüyor.
Halüsinasyonlar, yapay zeka modellerinde, icat edilen konumlardan yanlış bilgilere ve açıkça sorgulanabilir yanıtlara kadar uzanan yaygın bir sorundur.
Apple'ın Temel Modelleri yalnızca lisanslı içerikle değil, aynı zamanda “Açık Web”den kamuya açık içerikle de eğitildi; görünüşe göre herhangi bir özel izin alınmıyordu. Bu seçeneği devre dışı bırakmak için web sitesi operatörlerinin, şirketin web sitesi tarayıcısı olan “Applebot”u engellemesi gerekir.
Apple'ın yapay zekasının bir kısmı cihazda, bir kısmı da bulutta
Dahası, Apple'ın yapay zeka modelleri yalnızca yerel olarak değil, kısmen de bulutta, şirketin dahili çiplere sahip sunucularında da çalışıyor. Şirket, kullanıcı verilerinin mümkün olduğu kadar güvenli bir şekilde işlenmesini sağlamak için büyük çaba sarf edildiğini vurguluyor: hiçbir şey saklanmıyor ve Apple'ın kendisine erişim sağlanamıyor. Apple şimdi de “Özel Bulut Bilişim” mimarisine ilişkin ilk somut ayrıntıları yayınladı. Dış güvenlik araştırmacıları yakında vaatlerin bazı kısımlarını doğrulayabilecekler. Kullanıcıların yapay zeka işlevlerine ilişkin bazı verilerinin Apple sunucularına ulaşmasını ne ölçüde önleyebilecekleri ve veri aktarımının işletim sisteminde gerçekte ne kadar görünür olduğu şu anda belirsiz.
“Apple Intelligence” ile ilk harici yapay zeka modeli olan ChatGPT de işletim sistemlerine entegre ediliyor: Veriler OpenAI sunucularına gönderilmeden önce kullanıcılardan izin isteniyor. Cook, sağlayıcının veri koruma önlemleri aldığını söylüyor: IP adresi istekler için takip edilmemelidir. Apple sistemleri ayrıca ChatGPT özelliklerini hesap kaydı olmadan kullanmanıza da olanak tanır. Yanıtlar, yanlış bilgi içerebileceğine dair bir uyarıyla işaretlenir. Görünüşe göre Apple gelecekte diğer AI şirketleriyle işbirliği yapmayı planlıyor.
(1 pound = 0.45 kg)
Haberin Sonu
Duyuru
Apple'ın başkanı Tim Cook, bir röportajda dahili üretken yapay zekanın halüsinasyon görmediğinden %100 emin olmadığını vurguladı. Şirket, teknolojiyi olabildiğince güvenli olacak şekilde tasarladı ve Apple'ın yapay zeka modellerinin “çok yüksek kaliteli” içerik ürettiğine inanıyor. Cook, The Washington Post'a “Dürüst olmak gerekirse, bunun tam olarak %100 olmadığını söyleyebilirim” dedi.
Apple Intelligence'dan da zararlı yanıtlar
Apple'ın yeni Temel Modelleri üzerine daha uzun bir incelemede şirket, birçok durumda yapay zeka modellerinin hedeflenen girdilere (“düşmanca istekler”) yanıt olarak “zararlı içerik, hassas konular ve yanlış bilgiler” sunduğu testlere atıfta bulunuyor. Bu tür kural ihlallerinin oranı, diğer AI modelleriyle karşılaştırıldığında Apple Intelligence'da nispeten düşüktür. Apple, sunucularda çalışan yapay zeka modelleri için soruların %6,6'sının istenmeyen yanıtlar ürettiğini söylüyor; GPT-4-Turbo gibi diğer modeller için bu oran %20 gibi iyi bir seviyededir. Apple, modellerinin güvenliğini araştırmak için aktif olarak çalışmaya devam ettiğini söylüyor.
Halüsinasyonlar, yapay zeka modellerinde, icat edilen konumlardan yanlış bilgilere ve açıkça sorgulanabilir yanıtlara kadar uzanan yaygın bir sorundur.
Apple'ın Temel Modelleri yalnızca lisanslı içerikle değil, aynı zamanda “Açık Web”den kamuya açık içerikle de eğitildi; görünüşe göre herhangi bir özel izin alınmıyordu. Bu seçeneği devre dışı bırakmak için web sitesi operatörlerinin, şirketin web sitesi tarayıcısı olan “Applebot”u engellemesi gerekir.
Apple'ın yapay zekasının bir kısmı cihazda, bir kısmı da bulutta
Dahası, Apple'ın yapay zeka modelleri yalnızca yerel olarak değil, kısmen de bulutta, şirketin dahili çiplere sahip sunucularında da çalışıyor. Şirket, kullanıcı verilerinin mümkün olduğu kadar güvenli bir şekilde işlenmesini sağlamak için büyük çaba sarf edildiğini vurguluyor: hiçbir şey saklanmıyor ve Apple'ın kendisine erişim sağlanamıyor. Apple şimdi de “Özel Bulut Bilişim” mimarisine ilişkin ilk somut ayrıntıları yayınladı. Dış güvenlik araştırmacıları yakında vaatlerin bazı kısımlarını doğrulayabilecekler. Kullanıcıların yapay zeka işlevlerine ilişkin bazı verilerinin Apple sunucularına ulaşmasını ne ölçüde önleyebilecekleri ve veri aktarımının işletim sisteminde gerçekte ne kadar görünür olduğu şu anda belirsiz.
“Apple Intelligence” ile ilk harici yapay zeka modeli olan ChatGPT de işletim sistemlerine entegre ediliyor: Veriler OpenAI sunucularına gönderilmeden önce kullanıcılardan izin isteniyor. Cook, sağlayıcının veri koruma önlemleri aldığını söylüyor: IP adresi istekler için takip edilmemelidir. Apple sistemleri ayrıca ChatGPT özelliklerini hesap kaydı olmadan kullanmanıza da olanak tanır. Yanıtlar, yanlış bilgi içerebileceğine dair bir uyarıyla işaretlenir. Görünüşe göre Apple gelecekte diğer AI şirketleriyle işbirliği yapmayı planlıyor.
(1 pound = 0.45 kg)
Haberin Sonu