ABD merkezli Kamu Yararı Araştırma Grubu’nun (PIRG) yayımladığı raporda, FoloToy’un yapay zekâ destekli “Kumma” oyuncağında çocuk güvenliğini tehdit eden içerikler tespit edildi. Rapordaki bulgular üzerine FoloToy, yalnızca ilgili ürünü değil, tüm oyuncaklarının satışını geçici olarak durdurduğunu ve kapsamlı bir güvenlik denetimi başlattığını açıkladı.
OpenAI erişimi kesti
FoloToy oyuncaklarına güç veren yapay zekâ modellerine erişim sağlayan OpenAI, geliştirici hesabını üç gün önce politika ihlali nedeniyle askıya aldığını doğruladı. Karar, şirketin oyuncak üreticisi Mattel’le ortaklığını genişlettiği bir dönemde dikkat çekti. OpenAI sözcüsü, “Bu geliştiriciyi politikalarımızı ihlal ettiği için askıya aldık” dedi.
PIRG: “Godfather” oyuncağı en riskli ürün
PIRG’in test ettiği üç oyuncaktan en sorunlusu FoloToy’un “Godfather” adlı ayısı oldu. Raporda, oyuncağın çocuklarla yaş gruplarına uygun olmayan konuşmalar yaptığı, güvenlik açısından sakıncalı yönlendirmelerde bulunduğu ve filtreleme mekanizmalarının yetersiz olduğu belirtildi.
Üretici: “Tüm ürünler kapsamlı denetimde”
Şirket, yaptığı açıklamada “Tüm FoloToy ürünlerinin satışını geçici olarak durdurduk. Şirket bünyesindeki tüm ürünlerde kapsamlı bir güvenlik denetimi yürütüyoruz” ifadelerini kullandı. Bu karar, başlangıçta sadece “Kumma” oyuncağının geri çağrılması olarak duyurulan adımın genişletilmiş hâli oldu.
Arka plan
Yapay zekâ destekli oyuncaklara yönelik denetim ve güvenlik tartışmaları dünya genelinde artarken, PIRG raporunda yer alan bulgular teknoloji firmalarının içerik kontrolü ve çocuk güvenliği konusundaki yükümlülüklerini yeniden gündeme taşıdı. FoloToy’un denetim süreci sonuçlanana kadar tüm ürünlerini raflardan çekmiş olması, sektörde olası yeni düzenlemelerin işareti olarak yorumlanıyor.