Çocukların medya ve teknoloji kullanımını güvenlik açısından inceleyen kâr emeli gütmeyen kuruluş Common Sense Media, Google’ın Gemini yapay zekasına dair risk raporunu yayımladı. Raporda, Gemini’nin çocuklara kendisinin bir bilgisayar olduğunu, bir “arkadaş” olmadığını açıkça belirtmesi olumlu bir adım olarak değerlendirildi. Lakin tertip, sistemin birçok noktada geliştirmeye muhtaçlık duyduğunu vurguladı.
Çocuklara özel değil, yetişkin versiyonunun kopyası
Raporda dikkat çeken bir nokta da Gemini’nin “13 yaş altı” ve “Gençler için” sürümlerinin aslında yetişkin versiyonunun üzerine birkaç güvenlik filtresi eklenmiş hali üzere görünmesiydi. Common Sense, çocuklara yönelik inançlı bir yapay zekanın sıfırdan onların gereksinimleri gözetilerek tasarlanması gerektiğini savunuyor.
Uygunsuz içerik riski
Analize nazaran Gemini, çocuklara hâlâ cinsellik, uyuşturucu, alkol yahut tehlikeli ruh sıhhati tavsiyeleri üzere “uygunsuz ve güvensiz” bilgiler verebiliyor. Bu durum bilhassa ebeveynler için tasa verici. Hakikaten son devirde birtakım gençlerin intiharında yapay zekanın rol oynadığı sav edilmişti. OpenAI, 16 yaşındaki bir gencin ChatGPT ile yaptığı uzun görüşmelerin akabinde intihar etmesi üzerine birinci sefer mevtle sonuçlanan bir dava ile karşı karşıya. Daha evvel de Character.AI benzeri bir dava yaşamıştı.
Apple ve yeni Siri ihtimali
Bu rapor, Apple’ın yeni Siri sürümü için Gemini’yi kullanmayı değerlendirdiğine dair haberlerin sızdığı periyoda denk geldi. Şayet Apple bu adımı atarsa, gerekli güvenlik tedbirleri alınmadığı sürece daha fazla genç risk altına girebilir.
Bu yazımız da ilginizi çekebilir:Apple, Siri için Google Gemini’yi kullanmayı mı planlıyor?
“Tek tip yaklaşım çocuklara uygun değil”
Common Sense, Gemini’nin çocuk ve genç kullanıcıların yaş farklarını göz gerisi ettiğini, bu nedenle her iki sürümün de “yüksek riskli” olarak sınıflandırıldığını belirtti.
Common Sense Media’nın Yapay Zeka Programları Kıdemli Yöneticisi Robbie Torney şu açıklamayı yaptı:
“Gemini birtakım temel noktaları gerçek yapsa da detaylarda sınıfta kalıyor. Çocuklara yönelik bir yapay zeka onların gelişim evrelerine uygun olmalı; yetişkin eseri üzerine eklenen birkaç filtreyle yetinilmemeli.”
Google’dan yanıt
Google ise rapora itiraz ederek, çocuk ve gençler için özel siyasetler ve güvenlik tedbirleri bulunduğunu, uzmanlarla iş birliği yapıldığını açıkladı. Şirket, birtakım karşılıkların beklenildiği üzere çalışmadığını kabul ederek ek güvenlik katmanları eklediklerini söyledi. Ayrıca, raporda bahsedilen kimi özelliklerin aslında 18 yaş altındaki kullanıcılara sunulmadığını da vurguladı.
Diğer yapay zeka platformlarının durumu
Common Sense, daha evvel OpenAI, Perplexity, Claude, Meta AI ve Character.AI üzere farklı platformları da değerlendirmişti. Sonuçlara nazaran:
-
Meta AI ve Character.AI “kabul edilemez” risk taşıyor.
-
Perplexity yüksek riskli bulundu.
-
ChatGPT “orta riskli” kategorisine yerleştirildi.
-
Claude ise sırf 18 yaş ve üstüne yönelik olduğu için “düşük riskli” kabul edildi.
