Yapay zekâ dayanaklı araçlar, kullanıcıları uydurma web sitelerine yönlendirerek önemli güvenlik tehditlerine yer hazırlıyor. ChatGPT ve Perplexity üzere sistemlerin sunduğu kontaklar her vakit inançlı olmayabiliyor; son araştırmalar, bu araçların kullanıcıları fark etmeden kimlik avı sitelerine ya da uydurma kaynaklara yönlendirme riski taşıdığını ortaya koyuyor. Bilhassa büyük lisan modellerinin eğitildiği data setlerinin genişliği, her vakit inançlı sonuçlar sunmaya yetmiyor.
Netcraft tarafından yapılan çalışma, GPT-4.1 modelinin 50 farklı marka için giriş sayfalarıyla ilgili verdiği cevapları tahlil etti. Elde edilen bulgular, bu sistemlerin %29 oranında kullanıcıları ya ilgisiz ya da potansiyel olarak ziyanlı alan isimlerine yönlendirebildiğini gösterdi. Üstelik yalnızca şahsî kullanıcılar değil, geliştiriciler de risk altında. Yapay zekâ dayanaklı kodlama asistanları aracılığıyla, geçersiz API’ler ve kod depoları üzerinden sunulan ziyanlı içerikler sistemlere sızabiliyor.
Sahte Sitelerin Yükselişi
Yapay zekânın sunduğu cevapların güvenilirliği her vakit sorgulanmalı. Araştırmada Perplexity örneğinde olduğu üzere, kullanıcılar sağlam bir marka olan Wells Fargo’nun giriş sayfası yerine, Google Sites üzerinden hazırlanmış geçersiz bir kontağa yönlendirildi. Gerçek site ise arama sonuçlarında alt sıralarda kaldı. Bu durum, yapay zekâ sistemlerinin SEO mantığıyla çalışmamasının yarattığı yeni bir probleme işaret ediyor.
Geleneksel arama motorları, temas sıralamasında güvenilirlik sinyalleri ve geçmiş kullanıcı davranışlarını dikkate alırken; yapay zekâ modelleri bu sinyalleri atlayarak sırf iddia üzerinden teklif sunabiliyor. Bu durum, kullanıcıların tuzaklara daha kolay yakalanmasına yol açıyor.
Geliştiriciler İçin Risk Büyüyor
Tehlike sadece son kullanıcılarla sonlu değil. Geliştiriciler, yapay zekâ takviyeli kodlama araçlarının sunduğu teklifleri projelerine entegre ederken farkında olmadan ziyanlı içeriklere kapı aralayabiliyor. Bilhassa yeni geliştiriciler, önerilen kodun uydurma kaynaklara ilişkin API kontakları içerip içermediğini fark etmeyebiliyor.
Buna ek olarak, bölgesel bankalar üzere büyük markalar kadar uygun bilinen olmayan kuruluşların sistem tarafından “uydurulmuş” giriş sayfalarıyla temsil edilmesi de tehdit seviyesini artırıyor. Bu çeşit adresler berbat niyetli şahısların denetimine geçerek düzmece oturum açma sayfaları ya da dolandırıcılık aracı olarak kullanılabiliyor.
Çözüm Ne Olmalı?
Uzmanlara nazaran sürdürülebilir tahlil, yapay zekânın güvenilirliği kadar çevresel kontrol sistemlerinin de güçlendirilmesinden geçiyor. Otomatik denetleme algoritmaları, düzmece içeriklerin filtrelenmesi, kullanıcıların eğitimi ve halüsinasyonları azaltan yeni jenerasyon modeller bu sorunun üstesinden gelmek için kritik ehemmiyete sahip.
Ayrıca, yapay zekâ sistemlerini geliştiren firmaların şeffaflık ve güvenlik prensiplerini sıkı halde uygulamaları gerekiyor. Aksi hâlde bu cins sistemler, dijital dünyanın sunduğu kolaylıkları tehdit hâline getiren ögeler olarak anılmaya devam edecek.
