WIRED’ın ortaya çıkardığı son bulgular, yapay zekâ temelli görüntü üreticisi bir girişimin sistemlerinde üretilen 1,1 milyonun üzerinde dosyayı internette korumasız biçimde erişime açık bıraktığını gösterdi. Araştırmacı Jeremiah Fowler, söz konusu veritabanındaki içeriklerin büyük çoğunluğunun çıplaklık içeren yetişkin görüntüleri olduğunu, bazılarının ise çocukların yüzlerinin yetişkin bedenlerine monte edildiği yasa dışı içerikler barındırdığını açıkladı.
Aynı açıkla yüzlerce bin görüntü üretildi
MagicEdit ve DreamPal gibi platformların aynı veritabanını kullandığını belirten Fowler, güvenlik açığının Ekim ayında fark edildiğinde sisteme günde yaklaşık on bin yeni görüntü eklendiğini tespit etti. Rıza dışı “çıplaklaştırma” örnekleri ile kullanıcı fotoğraflarının farklı bedenlere monte edildiği montajlar da veritabanında yer aldı.
Fowler, bunun bu yıl içinde internette bulduğu üçüncü açık Eİ görüntü veritabanı olduğunu ve hepsinde rıza dışı çıplaklık ve çocuk istismarı görüntülerinin bulunduğunu vurguladı. Bulgular, milyonlarca dolarlık bir pazara dönüşen “nudify” adıyla bilinen yapay zekâ araçlarının yaygınlığını ve risklerini bir kez daha gözler önüne serdi.
Uygulamalar mağazalardan kaldırıldı
DreamX sözcüsü, verilerin açığa çıkması sonrası sistem erişimini kapattıklarını, iç soruşturma başlattıklarını ve ürün erişimlerini geçici olarak durdurduklarını bildirdi. DreamPal sitesi erişilemez hale gelirken, MagicEdit’in sayfasında “özelliklerin askıya alındığı” duyuruldu. BoostInsider adlı geliştiriciye ait uygulamalar hem Apple App Store hem Google Play’den kaldırıldı. Google, yasaklamanın “cinsel içerik politikası ihlali” nedeniyle yapıldığını doğruladı.
Çıplaklaştırma araçları şantaj ve istismarı büyütüyor
Fowler’ın incelemesine göre açıkta kalan 1.099.985 dosyanın neredeyse tamamı pornografik içerikti; bunların bir bölümü anime tarzı, bir bölümü hipergerçekçi üretimlerdi. Bazı içerikler doğrudan çocuk istismarı materyali niteliği taşıyordu.
MagicEdit’in sitesinde yetişkin içerik üretimine dair açık bir ifade yer almasa da, 18+ yaş sınırı, giyinik kişilerin bikinili hâle dönüştürüldüğü örnekler ve “AI Clothes” gibi araçlar dikkat çekiyordu.
“Kadınlar ve kız çocukları daha fazla hedef hâline geliyor”
Uzmanlar, rıza dışı yapay zekâ çıplaklaştırmanın şantaj, taciz ve çevrim içi istismarı hızlandırdığını belirtiyor. EndTAB kurucusu Adam Dodge, yaşananları sektörün güvenlik zaaflarının sonucu olarak değerlendirerek, “Bu, kadınların ve kız çocuklarının bedenlerinin kontrol altına alınmasının yapay zekâ ile nasıl hız kazandığını gösteriyor.” dedi.
