Yapay zeka eliyle giyinik insanları çıplak gösteren “nudify” tipi uygulamalara Meta’dan sert atılım geldi. Facebook ve Instagram’ın çatı şirketi, Çin merkezli bir yazılım geliştiricisini Hong Kong’da mahkemeye verdi. Dava konusu: Kullanıcının müsaadesi olmadan kıyafetleri “soyan” deepfake uygulaması CrushAI.
Meta, soyunduran uygulamayla mahkemelik oldu
Söz konusu yazılım, kullanıcıların yüklediği rastgele bir fotoğrafı yapay zekâ yardımıyla manipüle ediyor ve kişiyi çıplakmış üzere gösteren uydurma görseller oluşturuyor. Meta’nın açıklamasına nazaran bu uygulama ve benzerleri tekraren şirketin reklam kontrol sistemini atlatmaya çalıştı. Hatta 10 binden fazla reklamın Facebook ve Instagram üzerinde yayınlandığı varsayım ediliyor.
CrushAI’yi geliştiren Joy Timeline HK Limited isimli firma Meta’nın reklam kurallarını ihlal ettiği üzere kullanıcıların isteğini hiçe sayan içeriklerle insan haklarını da zorluyor. Meta, bu durumu “topluluğumuzu korumak ismine atılmış önemli bir adım” olarak tanımladı.
Şirket, davayla birlikte sadece reklamları kaldırmakla kalmayacağını, benzeri uygulamalara karşı başka teknoloji firmalarıyla da bilgi paylaşımına başlayacağını duyurdu. Tech Coalition isimli oluşumun Lantern Programı ile birlikte çalışarak çocuk güvenliği ve mahremiyet ihlali üzere hususlarda daha sıkı tedbirler alacak.
Araştırmacı Alexios Mantzarlis, Meta bu açıklamayı yaparken bile platformda hala etkin onlarca “nudify” reklamı bulunduğunu söyledi. Bu da yapay zeka dayanaklı düzmece çıplaklık furyasının kısa vadede sona ermeyeceğini gösteriyor.
Meta, “rıza olmadan paylaşılan özel içeriklerin” platformlarında yasak olduğunu ve bu çeşit uygulamaların sırf reklamlarının değil, direkt kendilerinin de engellenmesi için çalışıldığını belirtti.
