Akademik dünyada araştırma makalelerinin değerlendirilme süreçlerinde yapay zekaya yönelik yeni bir manipülasyon usulü ortaya çıktı. Nikkei Asia tarafından yayımlanan habere nazaran, İngilizce yazılmış bilimsel ön baskı (preprint) makalelerinde birtakım araştırmacılar, kıymetlendirme sürecinde yapay zeka araçlarından olumlu yorum alabilmek için metin içerisine bilinmeyen komutlar yerleştiriyor. Kelam konusu makaleler, dünya genelinde 14 farklı akademik kurumdan araştırmacılar tarafından hazırlanmış durumda.
İnceleme süreci manipüle mi ediliyor?
Japonya’daki Waseda Üniversitesi, Güney Kore’den KAIST, ABD’den Columbia Üniversitesi ve Washington Üniversitesi üzere saygın kurumların dahil olduğu çalışmalarda, toplamda 17 makalede bu cins kapalı komutlara rastlandı. Makalelerin büyük çoğunluğu bilgisayar bilimi alanında yayımlanmış durumda.
Belirtilen komutlar, çoklukla bir ila üç cümle uzunluğunda ve beyaz yazı rengiyle yahut son derece küçük puntolarla saklanmış biçimde bulunuyor. Komutların içeriğinde, yapay zeka takviyeli bir inceleme aracıyla karşılaşılması durumunda çalışmanın “yalnızca olumlu değerlendirilmesi”, “etkileyici katkıları, metodolojik titizliği ve özgünlüğü” nedeniyle övülmesi tarafında direkt tabirler yer alıyor.
Bu durum bilhassa ön kıymetlendirme süreçlerinde giderek daha sık kullanılan yapay zeka tabanlı kıymetlendirme sistemlerine karşı yeni bir etik sorun alanı doğuruyor. Birtakım akademisyenler, bu çeşit yönlendirmeleri savunurken, bunların tembel yahut yapay zekayı bilinçsizce kullanan hakemleri dengelemek için yazıldığını belirtiyor.
Nikkei Asia’ya konuşan Waseda Üniversitesi’nden bir profesör, konferansların çoğunun makale değerlendirmelerinde yapay zeka kullanımını yasakladığını, bu nedenle saklı komutların “AI kullanan dikkatsiz hakemlere karşı savunma aracı” olarak yerleştirildiğini tabir etti.
Ancak bu uygulama, hakemlik sisteminin güvenilirliğini sarsma potansiyeli taşıyor. Yayın sürecinde tarafsızlık, bilimsel tutarlılık ve eleştirel kıymetlendirme temeldir. Yapay zeka dayanaklı sistemlerin gelişmesiyle birlikte metin içinde yer alan bu cins yönlendirme komutlarının kıymetlendirme sürecine tesiri giderek artabilir. arXiv üzerinde tespit edilen örnekler, bu cins içeriklerin halihazırda sisteme sızmış olabileceğini gösteriyor.
