AI Çok Yanlış Yapabilir: Google’a Sesli Uyarı
Google ve holding şirketi Alphabet’in başkanı Sundar Pichai, Çarşamba günü Google I/O’nun geliştirici konferansı aşamasında “Yapay zekadaki (AI) değişim, her şeyin olabileceği kadar büyük,” dedi. Pichai’nin Google’ın artık “önce yapay zeka” şirketi olduğunu ilan etmesinden yedi yıl sonra, bu G/Ç’nin ana teması yapay zekaydı. Ancak AI, hem bilinen hem de bilinmeyen risklerle birlikte gelir. Yeni reklamları çevreleyen koşuşturmacanın hepsi bu kadar olmasa da Google, sahneyi bir uyarı arayan kişiye de verdi: James Manyika.
Google için reklam serpiştirilmiş olarak, sonuçları ne olursa olsun yapay zekayı yayma konusunda uyardı. Manyika, Google’ın yeni “Teknoloji ve Toplum” departmanının başında bulunuyor. Senegalli, “Yapay zekanın inanılmaz ilerlemesini ve dünyanın dört bir yanındaki insanlar için sahip olduğu muazzam potansiyeli kutlamak önemli olsa da, bunun hala geliştirilmekte olan gelişen bir teknoloji olduğunu ve hala yapılacak çok şey olduğunu kabul etmemiz gerekiyor” dedi. onun konuşması.
Google’ın patronu Pichai, kısa bir süre önce Mountain View’de aynı sahnede yapay zeka ile “cesaret ve sorumlulukla” yüzleşmesi gerektiğini açıklamıştı. Manyika’nın bahsettiği şey buydu: “Bu iki (kutup) arasında doğal bir gerilim var” diye itiraf etti, “Bu gerilimi benimsemenin sadece mümkün değil, aynı zamanda çok önemli olduğuna inanıyoruz. Uzun vadede cesur olmanın tek yolu, baştan sorumlu olmak”.
Yapay zeka birçok bilimi ilerletir, ancak aynı zamanda haksız önyargı gibi mevcut toplumsal zorlukları şiddetlendirme riski taşır. Yapay zekanın daha da gelişmesi ve yeni uygulama alanları ile birlikte yeni tehlikeler de ortaya çıkacaktır.
Yanlış bilgi bu kadar basit olabilir
Google’ın dezenformasyonu özellikle rahatsız edici. Güven sorunu, özellikle üretken AI ile ortaya çıkar. En iyi örnek olarak, bir bayanın önce İngilizce konuştuğu (orijinal) ve ardından aynı şeyi İspanyolca olarak tekrarladığı (AI ürünü) Google’ın Evrensel Çevirmen’in (adı Star Trek’ten alınmıştır) kısa bir videosunu gösterdi. Google’ın sistemleri, İngilizce içeriği İspanyolca’ya çevirdikten sonra konuşma stilini ve tonlamayı da kaydetti ve bunlar daha sonra İspanyolca konuşma çıktısına dahil edildi. Ek olarak, bir yapay zeka, İspanyolca metinle eşleşen dudak hareketleri oluşturdu. Sonunda hepsi, bayanın eşleşen dudak hareketleriyle İspanyolca şarkı söylediği bir videoya dikildi.
Manyika, öğrenci videolarının bu tür yüksek kaliteli manipülasyonunun, okulu bırakma oranlarının azaldığına dair erken belirtilere sahip olduğunu söyledi. Yani bu teknik “inanılmaz derecede faydalı olabilir, ancak kötü insanlar tarafından derin sahteler için kullanılabilir”.
Google önlem alıyor
Ancak Manyika’nın Google I/O 2023’teki görevi, yalnızca yapay zekanın tehlikelerini vurgulamak ve Google’ın neden yeni bir yapay zeka hizmetinde her zaman ilk olmayabileceğini açıklamak değil, aynı zamanda grubu sorumlu bir tedarikçi olarak sunmaktı. Adam, Google’ın 2018’de yapay zekanın geliştirilmesi için oluşturduğu yedi etik kuralı hatırlattı. Sonuç olarak, yapay zeka şunları yapmalıdır:
- topluma fayda sağlamak
- Haksız önyargı oluşturmaktan veya teşvik etmekten kaçının
- güvenlik odaklı ve test edilmiş olmak
- insanlara karşı sorumluluk almak
- Temel ilkelerde veri koruma ve veri güvenliğini göz önünde bulundurun
- yüksek akademik mükemmellik standartlarını karşılamak ve
- bu ilkelerle tutarlı amaçlar için kullanılabilir.
görüntü kontrolü
Manyika Çarşamba günü yaptığı açıklamada, AI için Yedi Etik İlkenin “ürün geliştirmemize rehberlik ettiğini ve her bir AI uygulamasını değerlendirmemize yardımcı olduğunu” söyledi. Örneğin, Universal Translator yalnızca belirli kullanıcılar tarafından kullanılabilir. Google’dan bir AI tarafından oluşturulan tüm resimler ve videolar, meta veriler tarafından bir AI ürünü olarak işaretlenir. Google ayrıca diğer yapay zeka operatörlerini de kazanmak istiyor. Google’ın arama motoru daha sonra AI tarafından oluşturulan içeriği bu şekilde işaretlemelidir. Manyika, AI için daha fazla “filigran inovasyonu” duyurdu, ancak daha spesifik olmadı.
Önümüzdeki aylarda Google, arama motoruna son kullanıcıların resimler hakkında daha fazla bilgi bulmasını sağlayacak bir araç ekleyecek. Arama yoluyla bulunan görseller, Google bu görseli veya benzer bir şeyi ilk gördüğünde ve görseli başka nerede bulduğunu, ister haber sitelerinde, ister sosyal ağ sitelerinde veya doğrulama sitelerinde olsun, gösterecek. Bu bilgi, bir görüntünün ne kadar güvenilir olduğunu değerlendirmenize yardımcı olabilir.
Yapabileceğin her şeyi yapmak zorunda değilsin
Ancak AI ilkeleri, Google’ın ne yapmayacağına karar vermesine de yardımcı olacaktır. Konuşmacı, “Yıllar önce, jenerik bir yüz tanıma programlama arabirimini pazarlamamaya karar veren ilk şirkettik,” diye belirtti, “yeterli güvenlik önlemi olmadığını hissettik.”
Veri şirketi şimdi yapay zeka modellerinden sorunlu ürünleri azaltmak için çalışıyor. Bu açıkça çapraz sorgulama testini içerir. Google yöneticisi, Perspective adlı bir Google arayüzünden de bahsetti: İnternetteki zehirli kullanıcı yorumlarını izlemek için geliştirildi. Bilim adamları artık Büyük Dil Modelleri (LLM) için bir değerlendirme standardı geliştirmek için Perspective’i kullandılar. Anthropic ve OpenAI rakipleri de dahil olmak üzere tüm büyük LLM’ler artık dil modellerinin toksisitesini derecelendirmek için bu standartları kullanacak.
Ancak, Google tek başına zorlukların üstesinden gelemez. Manyika, “Sorumlu yapay zeka oluşturmak, araştırmacılar, beşeri bilimler akademisyenleri, endüstri uzmanları, hükümetler ve sıradan insanların yanı sıra yaratıcılar ve yayıncılarla ortak bir çaba olmalıdır” diye vurguladı. (…) Başarabileceğimiz çok şey var ve bir Birlikte iyi yapmamız gereken çok şey var.”
Önerilen editoryal içerik
İzninizle, buraya harici bir YouTube videosu (Google Ireland Limited) yüklenecek.
Her zaman YouTube videoları yükleyin
YouTube videosunu şimdi yükleyin
Google’ın teknoloji ve toplumdan sorumlu başkan yardımcısı James Manyika
Google I/O 2023 ile tanışın
(Sağ)
Haberin Sonu