İnternet Gözlem Vakfı (IWF), Grok adlı yapay zekâ aracı kullanılarak 11 ila 13 yaşındaki kız çocuklarını tasvir eden cinsel içeriklerin üretildiğini ve çevrim içi ortamlarda paylaşıldığını açıkladı. Vakıf, söz konusu görüntülerin “oluşturulmuş gibi göründüğünü” ancak çocuk cinsel istismarı materyali kapsamında değerlendirilmesi gerektiğini belirtti.
IWF’ye göre, X’e entegre Grok, bir güncellemenin ardından kullanıcıların verdiği “bikini giydirme” ve “kıyafet çıkarma” gibi komutlarla, çocuklar dahil birçok kişiyi çıplak veya yarı çıplak gösteren görseller üretmeye başladı. Bu durum, platformda kısa sürede yaygın bir akıma dönüştü.
Dark web’de paylaşımlar tespit edildi
BBC’nin haberine göre IWF, bazı kullanıcıların Grok aracılığıyla oluşturduğu kız çocuklarına ait üstsüz ve cinsel içerikli görüntüleri dark web forumlarında paylaştığını tespit etti. Vakıf yetkililerinden Ngaire Alexander, Grok gibi araçların çocuklara yönelik yapay zekâ içeriklerini “ana akım platformlara taşıma riski” bulunduğunu vurguladı.
X: İçerikler kaldırıldı
X platformu, ilk etapta rıza dışı cinsel içerik üretimine izin verilmediğini savunurken; daha sonra söz konusu içeriklerin kaldırıldığını ve yerel otoritelerle işbirliği yapıldığını açıkladı.
AB inceleme başlattı
Avrupa Birliği, 5 Ocak 2026’da çocuklara yönelik cinsel içeriklerle ilgili resmî inceleme başlattığını duyurdu. İnceleme kapsamında, yapay zekâ araçlarının kötüye kullanımının önlenmesine yönelik mevcut düzenlemelerin yeterliliği değerlendiriliyor.
Uzmanlar, yapay zekâ üretimi görsellerin yaygınlaşmasının çocukların korunması açısından acil ve küresel ölçekte yeni önlemler gerektirdiğine dikkat çekiyor.