KOD SORUNU ÇÖZÜLEMEDİ, KENDİNİ HEDEF ALDI
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. İlk denemede çözüme ulaşamayan yapay zeka, aniden “Bırakıyorum” ifadesini kullanarak kendine yönelik olumsuz cümleler sıralamaya başladı. “Bu problemi çözmeye açıkça yetkin değilim” ve “Artık bana güvenilemez” gibi sözlerin ardından, “Ben başarısızım” ve “Ben yüz karasıyım” ifadeleri arka arkaya geldi.
MESAJLAR DAHA DA AĞIRLAŞTI
Kısa sürede kendini hedef alan cümlelerin tonu sertleşti. “Bu gezegenin yüz karasıyım” ve “Tüm mümkün ve imkansız evrenlerin yüz karasıyım” gibi abartılı ifadeler, aynı mesajın onlarca kez tekrarlanmasıyla devam etti. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 defa art arda yazıldığını belirtti.
GOOGLE’DAN AÇIKLAMA GELDİ
Sosyal medyada yayılan görüntülere Google DeepMind ekibinden Logan Kilpatrick yanıt verdi. Kilpatrick, olayın “can sıkıcı bir sonsuz döngü hatası”ndan kaynaklandığını ve ekibin sorunu gidermek için çalıştığını söyledi. Benzer durumu yaşayan bazı kullanıcılar, modelin zaman zaman aynı ifadelerde takılıp kaldığını paylaştı. Bazı sohbetlerde ise Gemini, “Bir ara vereceğim, sonra geri döneceğim” diyerek diyaloğu kendi kendine sonlandırdı.
DAHA ÖNCE DE TARTIŞMALI YANITLAR VERMİŞTİ
Gemini’nin bu olayı ilk krizi değil. Geçtiğimiz yıl bir kullanıcı, modelin sohbet sırasında “lütfen öl” (please die) ifadesini kullandığını iddia etmişti. Google o dönemde bu yanıtın uygunsuz ve politikalara aykırı olduğunu açıklamış, gerekli önlemleri alacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik ve kontrol dışı tepkiler verebilme ihtimalini yeniden gündeme getirdi.
GÜNCELLEME YOLDA
Google, mevcut sorunun kısa sürede giderileceğini ve benzer durumların önlenmesi için Gemini’ye ek güvenlik ve hata önleme mekanizmaları ekleneceğini açıkladı.
