OpenAI, Google DeepMind, Anthropic ve Meta’dan gelen 40’tan fazla bilim insanı, yapay zekâların güvenliği konusunda tasalarını paylaşmak için bir ortaya geldi. Günümüzde temelinde sıkı rekabet içinde olan bu şirketlerin uzmanları, yapay zekâların nasıl düşündüğünü anlayabilmemiz için elimizde kısa vadeli bir fırsat olduğunu söylüyor.
Araştırmacıların uyarısı ise basitçe şöyle… Günümüzde birtakım yapay zekâ sistemleri soruları yanıtlamadan evvel adım adım “düşünüyor” ve bu niyetlerini anlaşılır formda yazıya döküyor. Bu da makûs niyetli davranışlara dair ipuçlarını erkenden fark etmemizi sağlıyor fakat bu açıklık her vakit sürecek diye bir garanti yok. Yapay zekâlar geliştikçe bu şeffaflığın ortadan kalkacağı düşünülüyor.
Zamanla yapay zekâların ne düşündüğünü göremeyeceğiz
Makaleyi imzalayanlar ortasında yapay zekânın öncülerinden Geoffrey Hinton ve OpenAI’nin kurucularından Ilya Sutskever üzere kıymetli isimler var. Bu isimlere göre yapay zekâların “düşünce zincirlerini” görebilmek, yanlış ve tehlikeli kararlar almalarını engellemek için elimizdeki en değerli araçlardan biri.
Bu araştırmanın nedenlerinden biri de yapay zekâların daha güzel sonuçlar verdiği sürece nasıl düşündüğüyle kimsenin ilgilenmemesi. Yani sistemler “görünür” fikirler üretmeden iş yapmaya alışırsa, biz de içlerinde neler olup bittiğini göremeyebiliriz.
Çok geçmeden daha şeffaf hâle getirilmeleri gerekiyor
Bilim insanları, bu durumu değiştirmek için bölümde ortak hareket çağrısı yapıyor. Şirketlerin geliştirdikleri modellerin şeffaf olup olmadığını anlamak için standart testler uygulaması ve şeffaflığı azalan sistemleri geri çekmeyi göz önünde bulundurması gerektiğini savunuyorlar.
Araştırmadaki isimlere nazaran bu husustaki farkındalık gerçek manada kıymetli zira birtakım araştırmalar, yapay zekâların fikirlerinin izlendiğini fark ettiklerinde kendilerini gizlemeyi öğrenebileceğini ortaya koyuyor. Yani yalnızca ne düşündüklerini değil, düşündüklerini nasıl sakladıklarını da izlememiz gerekebilir.
Eğer araştırma kapsamında bedellendirilen tüm bahisleri merak ediyorsanız araştırmanın tamamına buradan ulaşabilirsiniz.
Peki siz bu bahis hakkında ne düşünüyorsunuz? Fikirlerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
