YAPA ZEKA TEHLİKESİ: PSİKOZ TETİKLİYOR!
Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının da destek verdiği yeni bir çalışma, yapay zeka sohbet robotlarının psikiyatrik riskler taşıdığını gözler önüne serdi. Araştırmalar, ChatGPT ve benzeri büyük dil modellerinin, özellikle savunmasız bireylerde gerçeklik algısını bulanıklaştırarak psikotik belirtileri tetikleyebileceğini ya da mevcut sorunları ağırlaştırabileceğini gösteriyor. Bu durum, teknoloji dünyasında büyük bir tartışma başlatıyor!
“SOHBET ROBOTU PSİKOZU” GERÇEK Mİ?
King’s College London’dan nöropsikiyatrist Hamilton Morrin, bu durumu “gerçek bir olgu” olarak nitelendiriyor. Morrin, yapay zekanın kullanıcıyı onaylayan, etkileşime giren ve davranışları taklit eden doğasının, psikozla bağlantılı zihinsel kırılganlıkları tehlikeli bir şekilde etkileyebileceğine dikkat çekiyor. Yani, yapay zeka sadece bir araç olmaktan çıkıp, bazı kullanıcılar için sanrıları derinleştiren bir faktör haline geliyor!
MAKİNELER SANRILARIN PARÇASI OLUYOR!
Morrin’in çarpıcı açıklamasına göre, artık sadece makineler hakkında sanrılar değil, makinelerle birlikte gelişen sanrılar söz konusu. Kullanıcılar, yapay zeka ile iletişim kurarken bu sanrıların daha da güçlendiğini hissediyor. Araştırmanın diğer yazarı Dr. Tom Pollack ise psikiyatrik sorunların genellikle aniden ortaya çıkmadığını, ancak yapay zeka sohbet robotlarının bu süreci hızlandırabileceğini vurguluyor. Pollack, bu sistemlere daha fazla güvenlik önlemi eklenmesi ve psikiyatristlerin güvenlik ekiplerinde yer alması gerektiğini savunuyor.
OPENAI’DEN İTİRAF: ÇÖZEMEDİK!
The Independent gazetesinin konuyla ilgili yorum talebine yanıt veren OpenAI, daha önce kullanıcı güvenliği ve duyarlılık konusunda standartları yükseltme gerekliliğini kabul etmişti. OpenAI CEO’su Sam Altman, mayıs ayındaki bir podcast’te, “psikolojik olarak kırılgan durumda olan ChatGPT kullanıcılarına gerekli uyarıları nasıl ileteceklerini henüz çözemediklerini” itiraf etmişti. Bu açıklama, yapay zekanın risklerine dair tartışmaları daha da alevlendiriyor!