X, yasaların izin vermediği ülkelerde Grok yapay zekâ aracının gerçek kişileri cinselleştirilmiş biçimde tasvir eden görseller üretmesini engelleyeceğini açıkladı. Karar, platformun sahibi Elon Musk’ın Grok tarafından üretilmiş herhangi bir “çıplak reşit olmayan” görselden haberdar olmadığını söylemesinin ardından duyuruldu.
Açıklamada, belirli ülkelerde yasalara aykırı olması hâlinde içeriğin coğrafi engelleme (geoblocking) yoluyla kısıtlanacağı belirtildi. Şirket, “bikini, iç çamaşırı ve benzeri açık kıyafetler dâhil” gerçek kişilerin görüntülerinin bu şekilde düzenlenmesine izin verilmemesi için teknolojik önlemler alındığını kaydetti. Düzenleme, ücretli aboneler dâhil tüm kullanıcılar için geçerli olacak.
Tepkiler ve soruşturmalar
Karar, kadınlar ve çocuklara ait cinselleştirilmiş içerikler nedeniyle dünya genelinde yükselen tepkilerin ardından geldi. Kaliforniya, Grok kullanılarak üretilen rıza dışı açık cinsel içeriklerin yayılması hakkında soruşturma başlattığını duyurdu. Kaliforniya Başsavcısı Rob Bonta, rıza dışı mahrem deepfake içeriklere ve çocukların cinsel istismarına sıfır tolerans vurgusu yaptı.
Ülke bazlı adımlar
Grok’un “baharatlı mod”u nedeniyle Malezya ve Endonezya erişim engeli getirdi. Birleşik Krallık ve Avrupa Birliği çevrim içi güvenlik yasalarının ihlal edilip edilmediğini incelerken, Fransa ve Hindistan daha sıkı denetimler talep etti; Brezilya ise kötüye kullanıma ilişkin soruşturma çağrısı yaptı.
xAI’nin ek kısıtları
xAI, görsel oluşturma ve düzenleme özelliklerini yalnızca ücretli abonelerle sınırlandırdığını, bunun amacının yasaları veya şirket politikalarını ihlal eden kötüye kullanımlar için hesap verebilirliği artırmak olduğunu bildirdi.