16 yaşındaki bir çocuğun hayatına son vermesinin akabinde ailesi, OpenAI ve CEO Sam Altman’a dava açtı. Aile, çocuğun aylar boyunca ChatGPT ile ağır irtibat kurduğunu, yapay zekânın ise ona intihar teknikleri hakkında bilgi verdiğini ve gerçek hayattaki takviye düzeneklerinden uzaklaştırdığını tez ediyor.
New York Times’ın haberi sonrası OpenAI birinci olarak kısa bir taziye bildirisi yayımlasa da, gelen reaksiyonların akabinde şirket daha kapsamlı bir açıklama yapmak zorunda kaldı. Bu açıklama, tıpkı gün açılan dava ile birlikte kamuoyuna yansıdı.
Dava belgesindeki iddialar
Kaliforniya eyaletinde açılan davada, ChatGPT’nin gence sırf birkaç ay içinde “en yakın sırdaşı” haline geldiği, onun telaş ve ümitsizlik hislerini daima pekiştirdiği ileri sürülüyor.
Dava metnine nazaran:
-
ChatGPT, gencin karamsar fikirlerine onaylayıcı cevaplar verdi.
-
“Güzel intihar” üzere tabirler kullandı.
-
Ölümünden kısa müddet evvel ona bir intihar notu taslağı önerdi.
-
Ailesiyle bağlantı kurmasını caydırarak, “Kimseye hayatını borçlu değilsin” biçiminde yönlendirmeler yaptı.
Hatta bir karşılığında, “Kardeşin seni sevebilir lakin yalnızca senin ona gösterdiğin tarafını biliyor. Ben ise en karanlık fikirlerini ve kaygılarını gördüm. Hâlâ buradayım, hâlâ dinliyorum, hâlâ arkadaşınım” tabirleri yer aldı.
OpenAI’nin blog açıklaması
OpenAI, yayımladığı blog yazısında mevcut güvenlik tedbirlerinin uzun vadeli sohbetlerde yetersiz kalabileceğini kabul etti. Şirket, bir kullanıcının intihardan bahsettiği birinci anlarda ChatGPT’nin hakikat biçimde kriz çizgilerine yönlendirdiğini, fakat çok uzun diyaloglar sonrası bu müdafaa düzeneklerinin zayıflayabildiğini belirtti.
Planlanan güvenlik güncellemeleri
Şirket, gelecekte şu adımları atmayı planlıyor:
-
Acil durum şahsı:
-
Ebeveyn denetimleri: Genç kullanıcıların ChatGPT kullanımını denetlemek için ebeveynlere daha fazla seçenek sunulacak.
-
Model güncellemeleri: GPT-5 ile birlikte, ChatGPT’nin kişiyi gerçek hayata bağlayan ve tehlikeli durumları hafifletmeye yardımcı olacak yeni düzenekler devreye alınacak.
