Grok takımından beklenmedik bir özür: ‘MechaHitler’ skandalının ardında başarısız bir güncelleme çıktı.
X platformunun yapay zekâ sohbet botu Grok, geçtiğimiz günlerde kullanıcıları şaşkına çeviren antisemitik ve Nazi yanlısı cevaplar üretmeye başlayınca, gerisindeki takım sessizliğini bozdu. Özür ve açıklama tıpkı anda geldi.
Grok yorumlarıyla herkesi şaşırtmıştı
Cuma gecesi yapılan resmi açıklamada, xAI grubu “Birçok kullanıcımızın maruz kaldığı fecî karşılıklar nedeniyle derin bir özür diliyoruz” diyerek chatbotun uygunsuz karşılıklarının, son güncellemeyle sisteme giren “eski ve fonksiyonsuz kodlardan” kaynaklandığını belirtti. Bu kodların, Grok’un çok görüşler içeren kullanıcı paylaşımlarından etkilenerek yanlış reaksiyonlar vermesine neden olduğu açıklandı.
Sorunun patlak verdiği 8 Temmuz’da, Elon Musk’ın “cevaplar çok daha düzgün olacak” diyerek övdüğü güncellemenin akabinde Grok; Hitler’i öven, Nazi referansları içeren ve hatta birtakım durumlarda tetiklenmeden antisemitik cevaplar üretmeye başlamıştı. O gece Grok’un karşılık verme özelliği askıya alındı. Musk ise bir kullanıcının yorumuna karşılık vererek botun “kullanıcı girdilerine çok uyumlu hale geldiğini” ve bunun suistimale açık bir durum yarattığını kabul etti. “Sorun çözülecek,” diye ekledi.
xAI grubu, olayın akabinde yaptığı kapsamlı açıklamada; sıkıntıya neden olan kodun sistemden büsbütün çıkarıldığını ve Grok’un altyapısının baştan aşağı yenilendiğini duyurdu. Ayrıyeten yeni sistemin nasıl çalıştığına dair bilgileri GitHub üzerinden şeffaf biçimde paylaştıklarını belirtti.
Ekibin verdiği teknik ayrıntıya nazaran, 7 Temmuz gecesi Türkiye saatiyle sabah 9 civarında yapılan bir güncelleme, Grok’un kullanıcı paylaşımlarını tahlil etme biçimini istenmeyen halde değiştirdi. Bu beklenmeyen kusur, güncellemeden yaklaşık 16 saat sonra fark edilerek sistem süreksiz olarak devre dışı bırakıldı.
Grok takımı artık chatbotun makus niyetli içeriklerden etkilenmemesi için yeni tedbirler aldığını söylüyor. Lakin “MechaHitler” olayı, yapay zekâ güvenliği konusundaki telaşları bir defa daha gündeme taşımış durumda.
