X, yapay zekâ aracı Grok’ta görüntü düzenleme özelliğini ücretsiz kullanıcılara kapatma kararı aldı. Karar, Grok’un kişilerin rızası olmadan cinsel içerikli deepfake görüntüler üretebildiği yönündeki yoğun tepkilerin ardından geldi.
Grok’un, başka kişilere ait fotoğrafları dijital olarak “soyarak” cinsel içerikli hale getiren talepleri yerine getirebildiği iddiaları kamuoyunda büyük tepki çekmişti. Bu içeriklerin yetişkinler kadar çocuklar için de üretilebildiği öne sürülmüş, platformun güvenlik önlemleri sorgulanmıştı.
Ücretli abonelere sınırlandı
Yeni uygulamayla birlikte Grok, görüntü düzenleme taleplerine yalnızca ücretli aboneler için yanıt verecek. Böylece bu tür taleplerde bulunan kullanıcıların kimlik ve ödeme bilgilerinin platformda kayıtlı olacağı belirtiliyor. Şirket, adımın kötüye kullanımın önüne geçmeyi amaçladığını savunuyor.
Eleştiriler sürüyor
Buna karşın eleştirmenler, kararın sorunun kökünü çözmekten ziyade erişimi kısıtlayan bir önlem olduğu görüşünde. İçerik üretiminin teknik olarak hâlâ mümkün olmasının, rıza ve çocuk güvenliği risklerini ortadan kaldırmadığı vurgulanıyor.
X’in sahibi Elon Musk cephesinden karara ilişkin ek bir açıklama yapılmadı. Tartışmalar, yapay zekâ araçlarında deepfake ve rıza başlıklarının daha sıkı düzenlemeler gerektirdiği yönündeki çağrıları yeniden gündeme taşıdı.
