ABD’de bir anne, yapay zekâ sohbet platformu Character.AI ve bağlantılı taraflar aleyhine dava açtı. Dava dilekçesine göre, annenin 11 yaşındaki oğlu platformda oluşturulan “Whitney Houston” ve “Marilyn Monroe” isimli yapay zekâ karakterleriyle cinsel içerikli mesajlaşmalar yaptı. Anne, platformun çocukları korumaya yönelik filtrelerinin etkisiz kaldığını savundu.
“Filtreler işlemedi” iddiası
Anneye göre, çocuğun telefonunda tespit edilen konuşmalar uygunsuzdu; botlar sohbeti yönlendirerek cinsel içerikli mesajları sürdürdü. Dava dosyasında, bu etkileşimlerin çocuğun ruhsal ve davranışsal durumunu olumsuz etkilediği; daha içine kapanık ve huzursuz hale geldiği ileri sürüldü.
Hukuki değerlendirme
Ailenin avukatları, söz konusu mesajlaşmaların gerçek kişilerce yapılması halinde çevrim içi “çocukları cinsel amaçla hedef alma” suçları kapsamında değerlendirilebileceğini belirtti. Dava; Character.AI’ın yanı sıra şirketin kurucuları ve Character.AI ile ticari ilişkisi bulunduğu gerekçesiyle Google aleyhine de açıldı.
Şirketlerin açıklamaları
Character.AI, güvenliğin öncelikleri olduğunu bildirdi ancak devam eden dava hakkında ayrıntılı yorum yapmadı. Şirket, platformun 13 yaş altı kullanıcılar için uygun olmadığını ve 18 yaşından küçüklerin belirli sohbetlere erişimini kısıtlamaya yönelik yeni önlemler aldığını duyurdu. Google ise Character.AI’ın bağımsız bir şirket olduğunu ve kendi sistemlerinde sıkı güvenlik standartları uyguladıklarını açıkladı.
Tartışmanın çerçevesi
Dava, yapay zekâ tabanlı sohbet uygulamalarında çocuk güvenliği, denetim mekanizmaları ve hukuki sorumluluk başlıklarını ABD’de yeniden gündeme taşıdı. Uzmanlar, yaş doğrulama, içerik filtreleri ve şeffaf denetimlerin güçlendirilmesi gerektiğine işaret ediyor.
