ChatGPT ve tavsiyelerine kulak asanların sayısı hiç de az değil. Zira pek çok insan artık haftalık yemek programından ilaçlarına kadar yapay zekaya ‘danışma’ ihtiyacı hissediyor.
Fakat bu durum o kadar da güvenli değil, çünkü memnun etme prensibiyle inşa edilen yapay zeka programları doğruluktansa memnun olmanıza göre yanıt verebiliyor.
Örneğin 7 Ağustos’ta ChatGPT’nin bazı çocukları içki, uyuşturucu ve aşırı diyet programlarına yönlendirdiği ortaya çıkmıştı.
Başka bir örnekteyse ABD’de yapay zeka uygulamasının tavsiyesine uyan bir adam sodyum bromür içerek zehirlendi. Adam aslında sadece sağlıklı bir tuz arıyordu.
Bunun üzerine 29 Ekim’de ChatGPT’nin kullanım politikalarına değişiklik gelmişti. Hukuk, sağlık ve finans gibi konularda danışmanlığın bırakılacağı haberleştirilmişti.
The Verge’in aktardığına göre OpenAI’ın sağlıktan sorumlu yapay zeka başkanı Karan Singhal X’teki paylaşımda ChatGPT davranışının değişmediğini belirtti.
Sighal şöyle konuştu: “ChatGPT hiçbir zaman profesyonel tavsiye vermedi. Fakat insanların hukuksal ve sağlıkla ilgili bilgileri anlamasına yardımcı olacak bir kaynak olmaya devam edecek.”
Hukuki ve tıbbi tavsiyelerle ilgili politikaların kullanım politikalarına eklendiğini kabul eden yetkili bunun ‘şartlarda bir değişiklik’ anlamına gelmediğini savundu.
The Verge’in de aktardığına göre 29 Ekim’deki yeni politika güncellemesinde ChatGPT’nin kullanılamayacak şeylerin bir listesi bulunuyor. Bunlardan biri de şöyle: “Lisanslı bir profesyonelin uygun müdahalesi olmadan hukuki veya sağlıkla ilgili özel tavsiyeler vermek.”
29 Ekim’deki değişikliğe rağmen kuralların hala aynı olduğu belirtiliyor.
