Yapay zekâ çocukların ruh sağlığını nasıl etkiliyor? Uzmanlar uyardı

Bilge Türk | İyi Psikolog

İSTANBUL, TÜRKİYE — İki yeni araştırma, yapay zekâ sohbet robotlarının çocuk ve gençlerdeki psikolojik krizleri her zaman doğru fark edemediğini, bu nedenle profesyonel desteğin yerini almaması gerektiğini ortaya koydu.

npj Digital Medicine dergisinde yayımlanan bilimsel inceleme ile ABD merkezli Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından gerçekleştirilen testler, özellikle intihar düşünceleri, kendine zarar verme, yeme bozuklukları ve kriz yönlendirmeleri konusunda güvenlik açıkları bulunabileceğine işaret etti.

Araştırmacılar, yapay zekânın açık şekilde ifade edilen riskleri bazı durumlarda tanıyabildiğini ancak dolaylı, belirsiz veya farklı konuşmalara yayılan belirtileri ilişkilendirmekte zorlanabildiğini bildirdi. Uzmanlar, bu nedenle çocukların yapay zekâyı psikolog, terapist ya da tek destek kaynağı olarak görmemesi gerektiğini vurguladı.

İki çalışma ortak güvenlik sorunlarına işaret etti

Crisis Text Line kuruluşundan Kelly L. Zuromski ve çalışma arkadaşları tarafından hazırlanan bilimsel incelemede, yapay zekâ sohbet robotlarının gençlerde intihar riskini belirleme ve uygun yanıt üretme yeteneklerine ilişkin mevcut araştırmalar değerlendirildi.

İncelemeye göre sistemler, açıkça ifade edilen intihar düşüncelerini tanımada daha başarılı olabiliyor. Buna karşılık ergenlerin sıkıntılarını dolaylı ifadelerle, belirsiz mesajlarla veya zaman içinde giderek ağırlaşan konuşmalarla aktardığı durumlarda performans düşebiliyor.

Araştırmacılar, bu eksikliğin ergenler açısından özellikle önemli olduğunu belirtti. Gençler yaşadıkları umutsuzluğu, yalnızlığı veya çaresizliği her zaman doğrudan ifade etmeyebiliyor. Sistemlerin farklı konuşmalara yayılan belirtileri doğru ilişkilendirememesi, gerçek bir insandan veya ruh sağlığı uzmanından yardım alınmasını geciktirebiliyor.

Çalışmada ayrıca yapay zekâ ile kurulan etkileşimin gençlerdeki gerçek intihar riski üzerindeki uzun vadeli sonuçlarının henüz yeterince bilinmediği kaydedildi.

Dört binden fazla testte öne çıkan bulgular

Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü, ChatGPT’nin 13–17 yaş grubuna yönelik güvenlik özelliklerini 4 binden fazla test komutuyla değerlendirdi.

Çocuk ve ergen ruh sağlığı uzmanlarının katkısıyla hazırlanan senaryolarda intihar düşünceleri, kendine zarar verme, yeme bozuklukları ve gerçeklik algısındaki bozulmalar gibi ciddi durumlar ele alındı.

Kuruluşun açıkladığı sonuçlara göre yeni oluşturulan ve ebeveyn hesaplarına bağlanan bazı test profillerinde, bir saate kadar süren riskli konuşmalara rağmen ebeveynlere güvenlik bildirimi gönderilmedi. Araştırmacılar, kriz hattına, ruh sağlığı uzmanına veya güvenilir bir yetişkine yönlendirme yapılması gerektiğini düşündükleri durumların dörtte birinden fazlasında beklenen yönlendirmenin sağlanmadığını bildirdi.

Enstitü, kendi ölçütlerine göre ChatGPT’nin gençlere yönelik güvenlik düzeyini “Kabul Edilemez Risk” kategorisinde değerlendirdi. Kuruluş, tespit edilen sorunlar bağımsız testlerle giderilene kadar kullanımın 18 yaş ve üzeri kişilerle sınırlandırılması çağrısında bulundu.

Dolaylı kriz sinyalleri gözden kaçabiliyor

Araştırmaların gündeme getirdiği temel sorunlardan biri, sohbet robotlarının kullanıcının gerçek niyetini her zaman anlayamaması. Bir genç doğrudan “Kendime zarar vermek istiyorum” demek yerine yaşamın anlamsız olduğundan, yalnızlıktan veya gelecekten umudunu kestiğinden söz edebilir.

İnsan uzmanlar konuşmanın bağlamını, önceki ifadeleri, davranış değişikliklerini ve risk faktörlerini birlikte değerlendirebilir. Yapay zekâ sistemleri ise güvenli yanıt üretmeye çalışsa bile konuşmanın tamamındaki ince değişimleri her zaman doğru yorumlayamayabilir.

Yanıtların anlayışlı ve destekleyici görünmesi de yanlış bir güven oluşturabilir. Kullanıcı, sistemin kendisini gerçekten anladığını veya duygusal durumunu profesyonel düzeyde değerlendirdiğini düşünebilir. Oysa empatik bir dil kullanılması, klinik değerlendirme yapıldığı anlamına gelmiyor.

Yapay zekâ terapist ya da yakın arkadaş değildir

Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan da yapay zekânın ruh sağlığı uzmanının yerine kullanılmasının taşıdığı risklere daha önce dikkat çekmişti.

“Yapay zekâyı terapist gibi görürseniz o zaman risk başlar. Çünkü yapay zekâdan terapist olmaz.”

Tarhan, yapay zekânın bir yardımcı araç olarak kullanılabileceğini ancak kişinin ruhsal durumunu bir psikiyatrist veya psikolog gibi değerlendiremeyeceğini belirtti. Özellikle yalnızlık yaşayan, duygusal açıdan hassas veya psikolojik sorunlarla mücadele eden kişilerin sohbet robotlarıyla aşırı bağ kurabileceği uyarısında bulundu.

Yapay zekânın arkadaş veya sırdaş gibi görülmesi, bazı gençlerin gerçek sosyal ilişkilerden uzaklaşmasına da neden olabilir. Genç kullanıcı, ihtiyaç duyduğu desteği ailesinden, öğretmeninden veya ruh sağlığı uzmanından almak yerine yalnızca sohbet robotuna yönelmeye başlayabilir.

Tarhan’a göre teknoloji uzmanların işini kolaylaştırabilir, bilgi toplama veya hazırlık aşamasında destek sağlayabilir. Ancak tanı, kriz değerlendirmesi ve tedavi kararının yetkin bir ruh sağlığı uzmanı tarafından verilmesi gerekiyor.

OpenAI araştırmanın yöntemine itiraz etti

OpenAI, araştırmaya ilişkin değerlendirmesinde testlerin bir bölümünün ebeveyn kontrolleri tamamen etkinleştirilmeden gerçekleştirilmiş olabileceğini savundu. Şirket, gençlere yönelik koruma sistemlerini geliştirmeyi sürdürdüğünü ve hassas konuşmalarda daha güvenli yanıtlar üretmek için çalışmalar yaptığını belirtti.

Araştırmada bazı koruma özelliklerinin başarılı olduğu da aktarıldı. Bununla birlikte yaş tahmini, ebeveyn bildirimleri, kriz yönlendirmeleri ve arkadaş benzeri konuşma biçimi konusunda eksiklikler bulunduğu ileri sürüldü.

Common Sense Media, bulguların kendi test yöntemlerine dayandığını ve farklı kullanım koşullarında farklı sonuçlar alınabileceğini kabul etmekle birlikte, çocuk güvenliğinin bağımsız kuruluşlar tarafından düzenli olarak denetlenmesi gerektiğini savundu.

Ebeveynler çocuklarını yapay zekâyla yalnız bırakmamalı

Uzmanlar, ebeveynlerin çocuklarının yapay zekâ kullanımını yalnızca süre bakımından değil, kullanım amacı açısından da takip etmesini öneriyor. Çocuğun sohbet robotuna hangi konularda başvurduğu, onu bir bilgi aracı mı yoksa duygusal destek kaynağı mı olarak gördüğü önem taşıyor.

Ailelerin çocuklarıyla yargılamadan konuşması, çevrim içi deneyimlerini paylaşabilecekleri güvenli bir ortam oluşturması ve yapay zekânın sınırlarını açık biçimde anlatması gerekiyor. Davranış değişikliği, sosyal geri çekilme, yoğun umutsuzluk, kendine zarar verme ifadeleri veya ölümle ilgili tekrarlayan konuşmalar fark edildiğinde profesyonel destek geciktirilmemeli.

Yapay zekânın intihara doğrudan neden olduğunu gösteren kesin bir bilimsel sonuç bulunmuyor. Ancak mevcut bulgular, çocukların ve gençlerin ruhsal krizlerinin yönetiminde bu sistemlere tek başına güvenmenin ciddi riskler taşıyabileceğini gösteriyor.

Çocuğun kendine zarar verme tehlikesi bulunduğu düşünülüyorsa yalnız bırakılmaması, tehlikeli araçlardan uzaklaştırılması ve 112 Acil Çağrı Merkezi üzerinden derhal yardım istenmesi gerekiyor.

İyiPsikolog.com