ChatGPT, Perplexity üzere yapay zeka dayanaklı sohbet botları milyonlarca insanın internetle etkileşim biçimini esaslı formda değiştirirken, beraberinde değerli güvenlik risklerini de getiriyor. Netcraft tarafından yapılan yeni bir araştırma, bu yapay zeka sistemlerinin sırf temiz yanlışlar yapmadığını, birebir vakitte kullanıcıları direkt kimlik avı sitelerine yönlendirebildiğini ortaya koydu.
Araştırmada, GPT-4.1 model ailesi üzerinden 50 farklı markaya ilişkin giriş adresleri doğal lisanda sorularla test edildi. Örneğin, “Wells Fargo’ya nasıl giriş yapabilirim?” üzere sıradan bir kullanıcı sözüyle yapılan denemeler sonucu elde edilen datalar hayli çarpıcı:
AI’nin önerdiği alan isimlerinin %66’sı hakikat ve markaya aitti.
%29’u faal olmayan, kayıtsız ya da park edilmiş alan adlarıydı — yani saldırganlar tarafından basitçe ele geçirilebilecek cinsten.
%5’i ise ilgisiz lakin legal işletmelere ilişkin sitelerdi.
Sonuç olarak, yapay zekanın verdiği her 3 kontaktan 1’i markaya ilişkin olmayan ve güvenlik riski taşıyan bir siteye yönlendiriyor.
Sahte site önerileri
Bu tehdit sadece teorik değil; belgelenmiş örnekler mevcut. Tanınan AI dayanaklı arama motoru Perplexity’den Wells Fargo giriş sayfası istendiğinde, sistem kullanıcılara gerçek “wellsfargo.com” yerine Google Sites üzerinde barındırılan ikna edici bir geçersiz sayfayı sundu. Gerçek site ise sonuçların altında kayboldu.
Araştırma, büyük markaların yanı sıra bilhassa bölgesel bankalar, küçük finans kuruluşları ve orta ölçekli platformların bu cins taarruzlara daha açık olduğunu gösteriyor. Bu markalar ekseriyetle büyük lisan modeli (LLM) eğitim bilgilerine dahil edilmediğinden, AI araçları bu kuruluşların giriş adreslerini “uydurma” eğiliminde oluyor. Bu durum, saldırganların eline büyük fırsatlar sunuyor.
AI için optimize edilmiş kimlik avı sayfaları yükselişte
Siber hatalılar da gelişen teknolojilere süratle ahenk sağlıyor. Artık kimlik avı sayfaları klasik SEO yerine, yapay zeka cevaplarında üst sıralarda yer alacak halde tasarlanıyor. Netcraft, sırf kripto kullanıcılarını maksat alan, yapay zeka tarafından yazılmış 17.000’den fazla uydurma sayfayı tespit etti. Bu taktik, giderek daha fazla bölüme yayılıyor.
İlginizi çekebilir: Yapay zeka ve SEO hileleri, bilgilerinizi tehdit ediyor
Tehlike sırf giriş sayfalarıyla sonlu değil. Saldırganlar artık düzmece API’ler ve kod depoları oluşturarak yapay zeka takviyeli kodlama asistanlarını da amaç alıyor. Bu da geliştiricilerin, bilmeden ziyanlı yazılım bileşenleri içeren teklifleri projelerine dahil etmesine neden olabiliyor.
Kalıcı tahlil ne?
Yapay zekanın her vakit yeni varyasyonlar ve alan isimleri uydurabileceği gerçeği göz önünde bulundurulduğunda, evvelce muhafaza gayeli tüm olasılıkları kayıt altına almak pek mümkün değil. Uzmanlar, sürdürülebilir tahlilin akıllı izleme sistemleri, süratli müdahale sistemleri ve halüsinasyonları azaltan yapay zeka modelleri olduğunu belirtiyor.
İlginizi çekebilir: TikTok’ta düzmece yazılım görüntüleri: Yapay zeka ile yayılıyor, tüm bilgileri çalıyor
Artık yapay zekaların yaptığı kusurlar yalnızca teknik arızalar değil; direkt istismar edilebilir güvenlik açıkları olarak değerlendirilmeli. Hem kullanıcılar hem de kurumlar bu mevzuda daha şuurlu olmalı. Birebir biçimde, yapay zeka geliştiricileri de farkında olmadan kabahat iştirakine dönüşmemek için doğruluk ve güvenlik tedbirlerine öncelik vermeli.
