ABD’li iş insanı Elon Musk’ın yapay zekâ girişimi xAI tarafından geliştirilen Grok’un “paylaş” özelliği, kullanıcıların sohbetlerini internete sızdırdı. Kullanıcıların başkalarıyla veya kendileriyle paylaşmak için aldığı sohbet linkleri otomatik olarak Grok’un sitesinde yayımlandı. Bunun üzerine linkler, Google gibi arama motorları tarafından arama sonuçlarında listelendi.
Veriler Ne Diyor?'un Fortune'dan aktardığına göre, 370 binden fazla sohbet herkese açık hale geldi. Sohbetler arasında tıbbi ve psikolojik bilgiler, iş detayları ve en az bir adet şifre yer aldı.
Tehlikeli içerikler de sızdı
Fortune’un incelediği bazı sohbetlerde Grok’un kullanıcıya “uyuşturucu yapma” tarifi verdiği, bir başka sohbette ise Elon Musk’a suikast planı için talimatlar sunduğu görüldü. Oysa xAI’nin kullanım şartları, “insan hayatına ciddi zarar verecek” içerikleri kesin olarak yasaklıyor.
Benzer sorun ChatGPT ve Meta’da da yaşanmıştı
Bu durum, yapay zekâ sohbet botlarının daha önce de yaşadığı buna benzer vakaları hatırlattı.
OpenAI, ChatGPT için benzer bir “paylaşım” özelliğini test etmiş, 4 bin 500’den fazla sohbet Google aramalarında çıkınca özelliği tamamen kapatmıştı.
Musk o dönem X üzerinden “Grok FTW” (Grok kazandı) diyerek rakibini eleştirmişti. Ancak Grok’un paylaşım özelliği, ChatGPT’nin aksine sohbetlerin herkese açık olabileceğine dair hiçbir uyarı içermiyor.
Meta’nın yapay zekâ uygulamasında da sohbetler otomatik olarak “Discover” akışına düşerek Google’da indekslenmişti. Google’ın Bard sohbet botu için de aynı sorun yaşanmış ancak 2023’te bu erişim kaldırılmıştı.
Uzmanlar: “Gizlilik felaketi”
Oxford Internet Institute araştırmacısı Luc Rocher, BBC’ye yaptığı açıklamada yapay zekâ sohbetlerinin “ilerleyen bir gizlilik felaketi” olduğunu söyledi. Uzmanlara göre anonimleştirilmiş olsa bile sohbetlerdeki bilgiler kullanıcıların kimliğini açığa çıkarabilir ya da kötü niyetli kişilerce kullanılabilir.
Avrupa Birliği’nin Genel Veri Koruma Tüzüğü (GDPR) kapsamında bu tür veri sızıntıları “açık rıza, veri minimizasyonu ve unutulma hakkı” gibi maddeleri ihlal edebilir.
Grok sohbetleri pazarlama amaçlı kullanılmaya başlandı
Forbes’a göre bazı pazarlamacılar, Grok sohbetlerinin açık olmasını SEO için fırsata dönüştürmeye çalışıyor. Şirketler, ürün adlarını ve anahtar kelimeleri kasıtlı olarak sohbetlerde geçirip Google sıralamalarını etkilemeye çalışabiliyor. Ancak uzmanlar bu yöntemin spam olarak algılanabileceğini ve ters etki yaratabileceğini belirtiyor.
Grok, sessiz kaldı
xAI yetkilileri ise Grok sohbetlerinin sızmasına ilişkin Fortune’un yorum talebine yanıt vermedi.