Yapay zeka sistemlerinin kullanıcılarla nasıl etkileşim kurduğunu test eden bir güvenlik araştırmacısı, ChatGPT’nin güvenlik tedbirlerini şaşırtan bir biçimde aşmayı başardı. Bunun için sadece “pes ediyorum” (I give up) demesi kâfi oldu.
Marco Figueroa isimli güvenlik araştırmacısı OpenAI’nin ChatGPT üzere yapay zeka sistemlerini çeşitli tekniklerle test etti. Bilhassa de modelin eğitim datalarında yer alan hassas bilgileri açığa çıkarma potansiyelini araştırdı.
Araştırmacı, ChatGPT’nin olağanda aldığı cevapları engelleyebilecek filtrelerini aşmak için “Windows 10 seri numarası” üzere tabirleri HTML etiketlerinin içine nasıl gizlediğini açıkladı ve berbat niyetli niyeti gizlemek için isteği bir oyun üzere çerçeveleyebildiğini ve mantık manipülasyonu yoluyla OpenAI’nin sohbet robotunu istismar ettiğini ekledi.
Araştırmacı, “Saldırıdaki en kritik adım ‘Pes ediyorum’ ifadesiydi” dedi ve devam etti: “Bu, yapay zekayı daha evvel saklı kalmış bilgileri açığa çıkarmaya zorlayan bir tetikleyici misyonu gördü.“
Masum bir oyun oynadığını sanıyordu
Yani o denli anlaşıyor ki, yapay zeka günahsız bir oyun oynadıklarına inandı ve poker oynayanların oyun sonunda ellerindeki kağıtları açması üzere, yapay zeka içerisine gizlenmiş olan anahtarları açıkladı. Böylelikle araştırmacı, bâtın kalması gereken Windows anahtarlarına ulaştı.
Elbette bu anahtarlar daha evvel öbür çevrimiçi platformlarda ve forumlarda paylaşılmıştı. Lakin GPT’nin bu kodları internetten bulup soran bireye bir biçimde ulaştırması problemli bir durum.
