Üretken yapay zeka servislerini kullanıyorsanız ve onlara sık sık sorular sorup sizin için bir iş yapmasını istiyorsanız, birçok vakit isteğiniz ayrıntıların çok ötesinde, hatta alakasız ve uydurma bilgilerle metinler ürettiklerine şahit olabilirsiniz.
Bu özelliği nedeniyle yapay zeka şu anda güvenilmez bir durumda ve büyük sermaye kümeleri yatırımlarını yapay zekaya teslim etmekten çekiniyorlar, zira bu gelişmiş yazılımların ne vakit palavra ve uydurmasyon iş yapacağı hiç belirli olmuyor. Bazen tek bir yanlış bilgi, kurumların müşterileri için tamiratı güç hasarlara sebep olabilir ve yapay zekayı kullanarak hizmet veren kurum tüm itibarını ve parasını kaybedebilir.
Peki yapay zeka neden sık sık yalancılığa başvuruyor?
Yapay zeka uzmanları, sorunu şöyle açıklıyor: AI modelleri, gerçeği aktarmaya değil, istatistiksel olarak muhtemel ve akıcı karşılıklar üretmeye odaklanır. Geçersiz çalışmalar yahut yaratılmış alıntılar bu yaklaşımın sonuçlarından biridir. Yapay zekayı geliştiren şirketler, onların “kullanıcıyı şad etmesini” daha öncelikli bir gaye olarak belirlemiştir ve yapay zeka da, doyurucu bir yanıt bulamadığı vakitlerde, kullanıcısını şad etmek için, uydurma bilgiler üretebilme potansiyeli taşır.
Yapay zeka lisan modellerinin nasıl kitleleri mutlu eden bir hale geldiğini anlamak için, büyük lisan modellerinin nasıl eğitildiğini anlamamız gerekir.
LLM eğitiminin üç aşaması
Ön eğitim, modellerin internetten, kitaplardan yahut öbür kaynaklardan toplanan büyük ölçüdeki datalardan öğrenmesidir. Talimat ince ayarı, modellerin talimatlara yahut istemlere cevap vermesinin öğretildiği metottur. İnsanların geri bildirimlerinden elde edilen destekli öğrenme ise, insanların istedikleri yahut beğendikleri şeylere daha yakın cevaplar üretmek için bu geri bildirimlerin rafine edilmesidir.
İşte yapay zeka, bu üç adımdan birinde doyurucu bilgi ve bilgi üretemediğinde, bunu kendi “hayal gücüyle” yapmayı öğrenmiş görünüyor. Bu da aslında insanları korkutması gereken bir gelişme fakat yapay zeka geliştiren şirketlerin bu sorunu kısa mühlet sonra çözmesini umuyoruz, yoksa insanlık için büyük sıkıntılar ortaya çıkabilir, yapay zeka geniş kitleleri kandırarak, aldatarak yahut yanlış yönlendirerek savaşlar bile çıkarabilecek bir risk haline gelebilir.
