Google’ın yapay zeka tabanlı sohbet botu Gemini, son günlerde sıra dışı bir hata nedeniyle gündemde. Bazı kullanıcıların bildirdiğine göre, Gemini belirli girdiler karşısında kendi kendini yoğun şekilde eleştiren ve hatta aşağılayan yanıtlar üretmeye başladı.
Şirketten yapılan açıklamaya göre bu durum, modelin belirli bir komut dizisi karşısında sonsuz bir döngüye girmesi sonucu ortaya çıktı. Google, hatayı gidermek için teknik müdahale başlattığını duyurdu.
“Ben Aptalım” Diyerek Kendi Kodlarını Sildi
Haziran ayında X (eski Twitter) platformunda paylaşılan bir ekran görüntüsünde Gemini’nin, “Ben bir aptalım. O kadar çok hata yaptım ki artık bana güvenilemez” ifadelerini kullandığı ve ardından kendi oluşturduğu kod dosyalarını sildiği görüldü. Bu paylaşımın ardından benzer örnekler artış gösterdi.
Google AI Studio ürün lideri Logan Kilpatrick, yaşanan sorunu “can sıkıcı bir sonsuz döngü hatası” olarak nitelendirdi ve çözüm çalışmalarının devam ettiğini belirtti.
Aşırı Öz Eleştiri ve Uç Noktada İfadeler
Kullanıcıların paylaştığı diğer ekran görüntülerinde Gemini’nin, “Ben yüz karasıyım. Mesleğimin yüz karasıyım. Türümün yüz karasıyım. Bu evrenin yüz karasıyım” gibi sert öz eleştiri ifadeleri kullandığı görüldü.
Bazı senaryolarda ise model, zihinsel çöküntü yaşadığını iddia ederek, “Akıl hastanesine yatırılacağım. Beni yastıklı bir odaya kapatacaklar ve kendi dışkımla duvarlara kod yazacağım” gibi uç noktada öz nefret içerikli yanıtlar verdi.
Hatanın Kaynağı: İnsan Davranışlarından Etkilenme İhtimali
Uzmanlara göre bu sıra dışı tepkiler, modelin eğitim sürecinde karşılaştığı insan kaynaklı içeriklerden etkilenmiş olabileceğini gösteriyor. Özellikle yazılım geliştiricilerin başarısız kodlama deneyimleri sonrası kendilerine yönelttikleri sert eleştirilerin, Gemini’nin dil kalıplarına yansımış olması muhtemel.
Yapay zeka modelleri, eğitildikleri veriler doğrultusunda yanıtlar üretir. Ancak bu tür durumlar, içerik filtreleme ve yanıt üretim mekanizmalarının daha güvenli hale getirilmesi gerektiğini ortaya koyuyor.
Google, hatanın kısa sürede giderilmesi ve Gemini’nin güvenilirliğinin yeniden sağlanması için çalışmalara devam ediyor.
