Haberler

Geçtiğimiz hafta Google, modelin ırksal açıdan çeşitli, Nazi dönemi Alman askerleri, beyaz olmayan ABD Kurucu Babaları ürettiği ve hatta Google’ın kendi kurucu ortaklarının ırklarını yanlış bir şekilde tasvir ettiği yaygın olarak keşfedildikten sonra yapay zeka aracı Gemini’ın resim oluşturma yeteneğini duraklattı.

Sosyal medya kullanıcılarının, Gemini’nin çeşitli etnik köken ve cinsiyetlerden papalar, ABD’nin kurucu babaları ve Vikingler dahil olmak üzere tarihi figürleri tasvir eden imaj oluşturucusunun çok sayıda örneğini yayınlaması üzerine, yapay zeka aracının ırksal önyargıları kırmaya çalışırken abartıya kaçtığı ve tarihi olarak doğru olmayan görseller ürettiği konusunda eleştiriler ortaya kondu. Gelişmelerin üzerine Geogle’ın CEO’su Sundar Pichai “Gemini’nin bazı üretimlerinin kullanıcılarımızı rahatsız ettiğini ve önyargılı davrandığını biliyorum; açık olmak gerekirse bu kesinlikle kabul edilemez. Ekiplerimiz bu sorunları çözmek için gece gündüz çalışıyor.” açıklamasında bulundu.

Aslında Gemini, yapay zeka sistemlerinin verilerinden doğan sorunların ilk örneği değil. Örneğin Google, yıllarca cinsiyet ayrımı gözetmeyen dilimizdeki “onlar doktor” ve “onlar hemşire” ifadelerini sırasıyla eril ve dişil olarak İngilizceye çeviriyordu. OpenAI’nin görüntü oluşturucusu Dall-E’nin ilk versiyonlarıysa, bir yargıç istendiğinde güvenilir bir şekilde beyaz adamlar, silahlı bir adam istendiğinde ise siyah adamlar oluşturuyordu!