ChatGPT artık kendine zarar verme riskinde yakınlarınıza ulaşabilecek

HABER MERKEZİ – Son yıllarda birçok kişi ChatGPT’yi bir tür dijital terapist gibi kullanmaya başladı. Şirketin daha önce yaptığı açıklamaya göre haftalık 800 milyon kullanıcının 1 milyondan fazlası sohbetlerinde intihar düşüncelerini dile getiriyor. Bu durum, yapay zeka tabanlı sohbet sistemlerinin ruh sağlığı üzerindeki etkisini zaman zaman tartışmaların merkezine taşımıştı.

İşte firmanın yeni duyurulan “Trusted Contact” yani ‘Güvenilir Kişi’ sistemiyle birlikte kullanıcılar artık ChatGPT ayarlarından güvendikleri bir yetişkini “acil durum kişisi” olarak belirleyebilecek. Sistem, kullanıcının ciddi şekilde kendine zarar verme riski taşıdığını tespit ederse bu kişiye e-posta, SMS veya uygulama içi bildirim gönderebilecek.

ACİL DURUM KİŞİSİ ÖZELLİĞİ GELİYOR

OpenAI’nin paylaştığı bilgilere göre süreç doğrudan yapay zeka tarafından yürütülmeyecek. Öncelikle sistem, kullanıcıya bir uyarı göstererek gerekirse belirlenen kişiye ulaşılabileceğini bildirecek. Aynı zamanda kullanıcıyı yakınlarıyla iletişim kurmaya teşvik edecek ve konuşma başlatıcı öneriler sunacak.

Bunun ardından OpenAI bünyesindeki özel eğitimli küçük bir ekip durumu manuel olarak inceleyecek. Ekip gerçekten ciddi bir risk olduğuna karar verirse Trusted Contact olarak belirlenen kişiye bildirim gönderilecek. Gönderilecek mesajda şu tarz bir ifade yer alacak: “Zor bir dönemden geçiyor olabilir. Güvendiği kişi olarak onunla iletişime geçmenizi öneriyoruz.”

Şirket, kullanıcı gizliliğini korumak adına sohbet kayıtlarının ya da mesaj dökümlerinin paylaşılmayacağını özellikle vurguluyor.

OpenAI, özellikle ruh sağlığı konusundaki yaklaşımı nedeniyle son yıllarda yoğun eleştiri almıştı. Şirkete karşı geçtiğimiz yıl açılan bir davada, bir gencin intihar sürecinde ChatGPT ile yaptığı konuşmalar gündeme taşınmıştı. BBC’nin 2025 yılında yayımladığı araştırmada ise bazı kullanıcıların intihar yöntemleri konusunda chatbot’tan tehlikeli yanıtlar alabildiği ortaya çıkmıştı.

Kaynak: Milliyet