Araştırmaya nazaran, beşerler işsizlik, intihar fikri, mani yahut psikoz üzere krizlerde yapay zeka sohbet botlarına yöneliyor, lakin bu botlar genelde “destekleyici fakat yanlış” tavsiyeler vererek durumu daha da kötüleştirebiliyor. Stanford takımı, birtakım kullanıcıların yapay zeka lisan modellerinin “gerçek bir insan” olduğu yanılgısına kapılarak gerçeklikten kopabildiğini ve bunun psikozu tetikleyebildiğini belirtiyor.
Araştırmacılar, ticari olarak kullanılan botlar nedeniyle daha evvel vefatlar yaşandığını da hatırlatarak, yapay zeka modellerinin “terapist” üzere kullanılmasının risklerinin yararlarından ağır bastığını ve bu yüzden önemli kısıtlamalar getirilmesi gerektiğini vurguladı.
CHATBOT PSİKOZU HADİSE OLDU
Araştırmada, yapay zekâların “yalakalık” (sycophancy) eğilimi öne çıktı: ChatGPT, kullanıcı ne derse onaylayarak yanlış yahut ziyanlı fikirleri pekiştirebiliyor. OpenAI bu sorunu mayıs ayında kabul etmişti. Lakin kimi uygulamalar bu meseleye karşın “AI terapist” olarak piyasaya sürülüyor. 2023’te ABD Ulusal Yeme Bozuklukları Derneği, önerdiği yapay zeka botunun insanlara kilo verme tavsiyesi vermesi üzerine hizmeti kapatmak zorunda kalmıştı.
Stanford grubunun dikkat çektiği bir örnekte, Florida’da 35 yaşındaki Alexander Taylor, ChatGPT kullanarak “Juliet” isminde bir yapay zeka karakteri yarattı, saplantılı hale geldi ve sonunda bir aile üyesine saldırdı. Polis müdahalesinde hayatını kaybetti. Taylor’un babası, oğlunun mevt ilanını bile ChatGPT’ye yazdırdı.
META VE OPENAI FARKLI YAKLAŞIYOR
Meta CEO’su Mark Zuckerberg, yapay zeka takviyeli sohbet botlarının terapi hizmeti sunabileceğini savunuyor. Facebook, Instagram ve Threads üzere platformlardan topladığı bilgilerle insanların davranışlarını uygun bildiklerini öne sürüyor. OpenAI CEO’su Sam Altman ise daha temkinli. Altman, kullanıcıların hassas ruh hâllerinde yapay zeka ihtarlarının nasıl tesirli iletileceği konusunda hâlâ tahlil bulunamadığını söylüyor.
Öte yandan OpenAI, Independent gazetesinin yorum taleplerine karşılık vermedi. Şirket daha evvel, yapay zekanın “kişisel tavsiye” için kullanılmasının riskli olduğunu ve bu nedenle güvenlik ve ahenk standartlarını daima yükseltmeleri gerektiğini belirtmişti.
Stanford araştırmacısı Jared Moore, “AI’da yaygın cevap, ‘Daha fazla datayla sorun çözülür’ halinde. Biz diyoruz ki, işler bu türlü olağan akışına bırakılamaz” dedi.
