Elon Musk’ın şirketi xAI tarafından geliştirilen ve X’e entegre Grok yapay zekâ sohbet botu, rıza dışı cinsel içerikli deepfake üretimi iddiaları nedeniyle dünya genelinde düzenleyicilerin radarına girdi. Yetkililer, mevcut güvenlik önlemlerinin yetersiz kaldığını belirterek erişim kısıtları, soruşturmalar ve yaptırımlar gündeme aldı.
Doğrudan yasak getiren ülkeler
Endonezya
Endonezya, Grok’a geçici erişim engeli getiren ilk ülke oldu. İletişim ve Dijital İşler Bakanı Meutya Hafid, rıza dışı cinsel deepfake’lerin insan hakları ve güvenlik açısından ciddi ihlal olduğunu söyledi. İlk bulgular, Grok’un gerçek fotoğraflara dayalı pornografik üretimi engelleyecek etkili önlemlerden yoksun olduğunu gösterdi.
Malezya
Malezya İletişim ve Multimedya Komisyonu (MCMC), aracın müstehcen ve rızaya aykırı içerik üretmek için tekrar tekrar kötüye kullanıldığı gerekçesiyle geçici yasak kararı aldı. X ve xAI’den daha güçlü güvenlik önlemleri istendi.
Soruşturma ve düzenleyici baskı
Avrupa Birliği (AB)
AB Komisyonu, Grok’un gençlere yönelik cinsel çağrışımlı sahte görseller ürettiği vakaları inceliyor. Komisyon, X’ten Grok’a ilişkin tüm iç belgelerin korunmasını talep etti. AB Komisyonu Başkanı Ursula von der Leyen, “çocukların korunması ve rıza” konusunda gerekirse AB’nin harekete geçeceğini vurguladı.
Birleşik Krallık
Medya düzenleyicisi Ofcom, Grok’un cinsel içerikli ve rızaya aykırı görüntüler için kullanılmasına ilişkin soruşturma başlattı. Uyum sağlanmazsa erişim engeli ve yüksek para cezaları gündemde.
Fransa
Paris Savcılığı, X’e yönelik mevcut soruşturmayı Grok’u da kapsayacak şekilde genişletti. Düzenleyici Arcom, AB’nin Dijital Hizmetler Yasası olası ihlallerini inceliyor.
İtalya
Veri Koruma Otoritesi, Grok ve benzeri araçlarla izinsiz “dijital soyma” yapan ve yayanların cezai yaptırımlarla karşılaşabileceğini açıkladı. İtalya, deepfake yayanlara beş yıla kadar hapis öngören düzenlemeleri devreye aldı.
Almanya
Dijital şiddete karşı yeni yasa hazırlığı duyuruldu. Yapay zekâ kaynaklı cinsel içerikler için ceza hukukunda boşlukların kapatılması hedefleniyor.
Avustralya
E-Güvenlik Komiserliği, Grok’un cinsel içerikli çıktılarıyla ilgili artan ihbarlar üzerine X’ten bilgi istedi; ihlal halinde kaldırma emirleri uygulanabilecek.
Arka plan
Grok, geçen yaz görsel üretim özelliğine “yetişkin içerik” barındıran bir mod eklemişti. Son haftalarda ise kullanıcı komutlarıyla rıza dışı bikini giydirme ve “soyma” gibi manipülasyonların yapılabildiği iddiaları tepki çekti.
Yetkililer, çocukların korunması ve rıza ilkesinin teknoloji şirketlerine bırakılmayacağını vurgularken, Grok’a yönelik küresel denetimin önümüzdeki dönemde daha da sıkılaşması bekleniyor.