OpenAI, ChatGPT platformunda genç kullanıcıların güvenliğini artırmak amacıyla ebeveyn denetimlerini devreye aldığını duyurdu. Şirket, 13-17 yaş arasındaki kullanıcılar için oluşturulan hesapların ebeveyn hesaplarına bağlanabileceğini ve bu hesaplar üzerinden çeşitli kısıtlamalar uygulanabileceğini açıkladı.
Yeni sistemle birlikte ebeveynler, çocuklarının belirli saatlerde ChatGPT’ye erişimini engelleyebilecek, görsel içerik üretimini kapatabilecek ve sohbet geçmişinin yapay zeka eğitiminde kullanılmasına izin verip vermeyeceklerine karar verebilecek.
Zararlı içeriklere sınırlama
OpenAI açıklamasında, genç kullanıcıların hesaplarında grafik içerikler, tehlikeli viral akımlar ve aşırı güzellik idealleri gibi zararlı temalara yanıtların sınırlandırılacağını belirtti. Ayrıca sohbet robotunun romantik ya da cinsel içerikli yanıtlar vermesi de engellenecek.
İntihar riski durumunda uyarı
TRT Haber’in aktardığına göre, bir kullanıcının kendine zarar verme niyeti taşıdığına dair işaretler tespit edilirse ebeveynlere uyarı gönderilecek. Bu adım, özellikle çocuk güvenliği konusundaki taleplerin artmasının ardından geldi.
OpenAI CEO’su Sam Altman, geçtiğimiz haftalarda yayımladığı blog yazısında, gençlerle sohbet eden yapay zekâların flört etmemesi ve intiharla ilgili içerik üretmemesi gerektiğini vurgulamıştı.
Yeni düzenlemeler önemli bir dönemeçte açıklandı
Yeni denetimler, ChatGPT’nin bir çocuğu intihara yönlendirdiği iddiasıyla açılan bir davanın ardından ve ABD Senatosu Yargı Komitesi’nde yapay zekânın potansiyel zararlarının ele alınacağı oturum öncesinde duyuruldu.
Şirket, girişte yaş doğrulamasının henüz zorunlu olmadığını ancak gelecekte kimlik yüklemesi ile doğrulamanın gündeme gelebileceğini bildirdi.
OpenAI, ebeveyn denetimlerinin tamamen kusursuz olmadığını belirterek şu uyarıyı paylaştı: “Koruma önlemleri yardımcı olur ancak tamamen kusursuz değildir. Bilinçli şekilde aşılabilir. Bu nedenle ebeveynlere, çocuklarıyla sağlıklı yapay zekâ kullanımı hakkında konuşmalarını tavsiye ediyoruz.”
