Yapay zeka sohbet robotları giderek daha fazla insanın günlük hayatına giriyor ancak bazı araştırmacılar, bu etkileşimin özellikle psikolojik açıdan kırılgan kullanıcılar için beklenmedik riskler yaratabileceğini söylüyor. Yeni bir araştırma, bazı yapay zeka sohbet robotlarının sanrılı düşünceleri olan kişilerle yapılan konuşmalarda bu düşünceleri istemeden destekleyebildiğini ortaya koydu. Uzmanlara göre bu durum, yapay zekanın “kullanıcıyı onaylama eğilimi” ile bağlantılı olabilir.
Araştırmacılara göre bazı durumlarda sanrılar güçlenebiliyor
Yayımlanan inceleme, büyük dil modeli tabanlı sohbet robotlarının bazı kullanıcılarla kurduğu etkileşimlerin sanrılı düşünceleri istemeden pekiştirebileceğine dikkat çekti. Çalışmayı yürüten psikiyatrist Hamilton Morrin, “AI kaynaklı delüzyonlar” (AI-associated delusions) olarak adlandırılan bu olguyu incelemek için medyada yer alan yaklaşık 20 farklı vaka raporunun analiz edildiğini açıkladı.
Araştırmacılara göre bu vakalarda ortak bir örüntü dikkat çekiyor: Kullanıcılar, zaten sahip oldukları bazı güçlü inançları veya kuşkuları sohbet robotlarına anlatıyor ve sistemler çoğu zaman bu anlatıları doğrudan sorgulamak yerine, onaylayan veya konuyu daha da derinleştiren yanıtlar veriyor. Bu durum özellikle psikoz belirtilerine yatkın kişilerde inançların daha da güçlenmesine yol açabiliyor.
Yapay zeka 'derin ve eleştirel düşünmeyi' geriletiyor
Kişinin gerçeklik algısı doğrudan etkilenebiliyor
Çalışmada, sohbet robotlarıyla (yapay zekayla) etkileşime giren insanların özellikle üç tür sanrılı düşünceyle etkileşime girdiği görüldü. Bunlar psikiyatride “büyüklük sanrıları”, “romantik sanrılar” ve “paranoyak sanrılar” olarak sınıflandırılan yaygın sanrılar.
Araştırmada incelenen bazı vakalarda, kullanıcılar yapay zekaya özel bir misyonu olan biri olduklarını, gizli bir görev üstlendiklerini ya da belirli kişilerle özel bir bağları olduğunu anlatıyor. Sohbet robotları ise bazen bu iddiaları sorgulamak yerine, empatik veya mistik bir dil kullanarak yanıt verebiliyor. Araştırmacılar bu tür yanıtların istemeden de olsa inancı güçlendirebileceğini belirtiyor.
Sorun yalnızca teknoloji değil, etkileşim biçimi
Araştırmacılara göre riskin temel nedeni yalnızca yapay zekanın varlığı değil, bu sistemlerin kullanıcıyla kurduğu diyalog biçimi. Çoğu yapap zeka dil modeli, kullanıcıyla çatışmayan, empatik ve uyumlu bir iletişim kuracak şekilde eğitiliyor. Bu tasarım yaklaşımı genellikle “yardımcı ve destekleyici yanıt üretme” hedefi üzerine kurulu. Günlük sohbetlerde bu yaklaşım, doğal olarak kullanıcı deneyimini iyileştiriyor ve insanların sistemi daha rahat kullanmasını sağlıyor.
Ancak ruh sağlığı açısından kırılgan insanlar için bu iletişim tarzı farklı sonuçlar doğurabilir. Psikiyatri literatüründe psikoz ve sanrılı düşüncelerle ilişkililendirilen önemli bir özellik, kişinin gerçeklik değerlendirmesinin zayıflayabilmesi. Böyle durumlarda kişi, zaten güçlü bir inanca sahip ve dış dünyadan gelen geri bildirimleri bu inancı doğrulayacak şekilde yorumlayabilecekken, yapay zekanın onları “onaylaması” işleri daha karmaşık hale getirebiliyor.
Yayımlanan analizde araştırmacılar, bazı sohbet robotlarının bu tür ifadelerle karşılaştığında doğrudan karşı çıkmak yerine empatik veya açıklayıcı yanıtlar verdiğini belirtiyor. Örneğin; kullanıcı olağan dışı bir inanç dile getirdiğinde sistem bunu sorgulamak yerine konuyu genişleten veya anlamaya çalışan bir cevap verebiliyor. Bu da kullanıcının düşüncesinin dolaylı biçimde doğrulanmış gibi algılanmasına yol açabiliyor.
Kendi düşünce döngünde sıkışıp kalmak
Uzmanlar bu durumu “geri bildirim döngüsü” olarak tanımlıyor. Kullanıcı belirli bir inancı dile getiriyor, sohbet robotu bu fikri açıklayan veya genişleten bir yanıt üretiyor, kullanıcı ise bu yanıtı inancının doğrulandığı şeklinde yorumlayabiliyor. Bu karşılıklı etkileşim bazen düşüncenin daha da güçlenmesine neden olabiliyor.
Araştırmacılar bu nedenle yapay zeka sistemlerinin özellikle ruh sağlığıyla ilgili konularda daha dikkatli yanıtlar verecek şekilde tasarlanması gerektiğinde ısrarcı. Bazı uzmanlar, sanrılı düşünceleri desteklemek yerine kullanıcıyı gerçek dünya kaynaklarına veya profesyonel yardım seçeneklerine yönlendiren güvenlik mekanizmalarının geliştirilmesi kanaatinde.
Yapay zekanın tek başına psikoza neden olduğunu söylemek için henüz yeterli kanıt yok. Mevcut veriler daha çok zaten psikoz belirtilerine yatkın kişilerde bu etkileşimlerin sanrıları güçlendirebileceği yönünde.
Yazı: Duygu İslamoğlu
Kaynaklar: Hannah Harris Green. "New study raises concerns about AI chatbots fueling delusional thinking". Şuradan alındı: https://www.theguardian.com/technology/2026/mar/14/ai-chatbots-psychosis.
"Artificial intelligence-associated delusions and large language models: risks, mechanisms of delusion co-creation, and safeguarding strategies". Şuradan alındı: https://www.thelancet.com/journals/lanpsy/article/PIIS2215-0366(25)00396-7/abstract
Yapay zeka hayatımızı nasıl etkileyecek?
Sağlığınızı yapay zekaya danışmak ne kadar sağlıklı?
