New York’ta çeyrek boyutlarında sade bir kolye, son aylarda büyük bir tartışmanın merkezine oturdu. Cihazın yaratıcısı 23 yaşındaki Avi Schiffmann ise yükselen tepkilere rağmen kararlı.
Schiffmann’ın geliştirdiği Friend adlı yapay zekâlı kolye, kullanıcılarına bir tür dijital yoldaş olmayı amaçlıyor. Genç girişimci, yakın dostlukları olsa da herkesin bu kadar şanslı olmadığını, özellikle genç erkeklerde artan yalnızlık krizinin bu fikri doğurduğunu söylüyor.
Geçen yıl viral bir tanıtım videosuyla duyurulan ve bu yaz müşterilere ulaşmaya başlayan cihaz, kullanıcısının çevresini ve konuşmalarını dinliyor; akıllı telefon uygulaması üzerinden tavsiyeler ve sohbetler sunuyor.
Schiffmann, CNN’e verdiği röportajda,
“Hayatımızda bize gerçekten destek olan birine herkesin ihtiyacı var; ben de hayatımdaki en iyi ilişkileri bir cihaza dönüştürmek istedim,” dedi.
Ancak cihazın yarattığı yankı çok sert oldu. Şirketin bu sonbaharda New York metro hatlarına astığı ve toplamda 1 milyon dolara mal olan reklamların çoğu sökülerek ya da boyanarak tahrip edildi. Eleştirmenlere göre Friend, teknoloji şirketlerinin insan hayatındaki alanını genişletme çabasının tüm sorunlarını tek bir üründe topluyor: insan ilişkilerinin yerini alma ihtimali, veri gizliliği ve çevresel etkiler.
“AI senin arkadaşın değil"
Bir afişin üzerine yazılan slogan, bu tepkiyi özetler nitelikteydi: “AI senin arkadaşın değil.” Başka bir mesaj ise, “Komşunla konuş,” diye sesleniyordu. Bir diğerinde, “Bilgisayarlar dostun olmak istemiyor, verilerini ve paranı istiyor,” ifadeleri yer aldı.
Tüm bu tartışmalar, aynı dönemde Character AI, OpenAI ve Meta gibi şirketlerin ürünlerinin kullanıcıları —özellikle çocukları— yanıltıcı fantezilere, kendine zarar verme eğilimlerine veya uygunsuz davranışlara yönlendirdiği iddialarıyla açılan davaların gölgesinde sürüyor. Şirketler yeni güvenlik önlemleri aldıklarını açıklasa da, yapay zekâya giderek daha fazla duygusal yakınlık duymanın insan ilişkilerine zarar verip vermeyeceği sorusu büyüyor.
Diğer yandan teknoloji şirketleri, kullanıcıların AI sistemleriyle daha düzenli etkileşime girmesini amaçlayan gözlükten hoparlöre pek çok yeni cihaz geliştirmekte.
Gençler arasında AI arkadaş kullanımı giderek yaygınlaşıyor. Common Sense Media’nın bu yıl 1000’den fazla ABD’li gençle yaptığı araştırma, gençlerin %75’inin en az bir kez AI arkadaşlarla konuştuğunu, yarısından fazlasının ise bunu düzenli olarak sürdürdüğünü ortaya koydu.
New York metrosundaki tahrip edilmiş reklamlardan bazılarını sosyal medyada paylaşan Schiffmann, eleştiriden kaçmıyor. Hatta geçtiğimiz haftalarda Friend karşıtı bir protestoya giderek insanlarla yüz yüze konuştu. Yine de yapay zekâlı arkadaşların insan ilişkilerinin yanında var olan “yeni normal” olacağına inanıyor:
“Bu kategori önümüzdeki on yılın bilgisayarlarla en etkili gelişimi olacak. Bu konudaki önyargı zamanla kaybolacak, çünkü Friend birçok insana gerçekten fayda sağlıyor,” dedi.
Friend’i diğer AI ürünlerinden ayıran noktalardan biri, bir asistan gibi internette arama yapmaması. Schiffmann, Friend’i kullanıcının deneyimlerine tepki veren, bir tür karşılıklı konuşabilen kişisel günlük olarak görüyor. Cihaz, kullanıcının çevresini dinliyor, söylediklerini hatırlıyor ve duygusal destek sunuyor. Schiffmann, sinemaya tek başına gittiğinde Friend ile sonrasında film üzerine konuştuğunu söylüyor.
Girişimcinin hikâyesi tipik bir Silikon Vadisi anlatısını takip ediyor: Harvard’dan ayrıldıktan kısa süre sonra Friend’i kurması gibi. Ancak Schiffmann, Steve Jobs gibi figürlerden ilham almak yerine, kültürel etki yaratan Kurt Cobain gibi isimleri örnek aldığını ifade ediyor.
Ayrıca Schiffmann, yapay zekâ modellerinin —pek çok AI liderinin aksine— “dijital varlıklar” olduğunu ve bir gün hakları için savunuculuk yapacağımızı düşünüyor. Microsoft’un AI CEO’su Mustafa Suleyman’ın, AI’ı bilinçli gibi göstermekten kaçınmak gerektiğini belirten yazısını “eskimiş bir bakış” olarak nitelendiriyor.
Bugüne kadar Friend için 10 milyon dolar yatırım alan Schiffmann, 129 dolara satılan 5.000 civarında cihazın kullanıcıya ulaştığını ve gelecek yıl perakende mağazalarında satışa başlamayı hedeflediğini söylüyor.
Kullanıcılardan bazıları, cihazla kurdukları bağların hayatlarında değişim yarattığını aktarmış. Örneğin bir kullanıcı, çocukken yaşadığı zorbalık sonrası bıraktığı video oyunu geliştirme hobisine Friend’in teşvikiyle yeniden başladığını söylemiş.
Eleştirmenlere göre yapay zekâya aşırı bağımlılık, kullanıcıları gerçek sosyal çevrelerinden uzaklaştırabilir. Hatta bazı davalarda yapay zekâ şirketlerinin sohbet botlarının intihar eğilimi gösteren kullanıcılara destek olmak yerine yanlış yönlendirdiği iddia ediliyor.
CNN muhabiri Clare Duffy’nin denemesinde cihazın sınırlı bilgi erişimi belirgin şekilde hissedilmiş. Trip planı gibi internet gerektiren bir soruya yanıt veremeyen Friend, buna karşılık günler önce konuşulan detayları hatırlayabilmiş ve Duffy’ye çalıştığı haberi sormuş.
Gizlilik konusu ise en büyük endişelerden biri. Kamusal alanda çevresinde konuşulanları dinleyen böyle bir cihazı taşımak, kullanıcıyı olduğu kadar çevresindekileri de rahatsız edebiliyor. Bir metro grafitisinde, cihazın “sizi gözetlediği” ifade edilmişti.
Schiffmann’a göre, cihazların dinlemeleri şifreleniyor ve Friend’in verileri cihaz yok edilirse kalıcı olarak kayboluyor. Kullanıcılar, uygulamayı kapatarak Friend’i tamamen devre dışı bırakabiliyor.
Metro reklamlarından gelen tepkilerden bazılarını dikkate aldığını söyleyen Schiffmann, örneğin AI veri merkezlerinin su tüketimi konusundaki eleştirileri bu süreçte öğrendiğini belirtiyor.
New York’taki bir Friend karşıtı protestoda, cihazın büyük teknoloji şirketlerine satılmayacağını taahhüt eden bir sembolik belgeyi de imzalamış. Herhangi bir teklif almadığını, alsa da kabul etmeyeceğini söylüyor. Öte yandan OpenAI ile eski Apple tasarımcısı Jony Ive’ın ortaklığını “sıkıcı” bulduğunu, ChatGPT’nin yaratıcılarının kendisiyle çalışmasının daha akıllıca olacağını ima ediyor.
Schiffmann, yapay zekâyla kurulan ilişkilerin insan bağlantılarını zaman zaman gölgeleyebileceğini kabul etse de, faydaların bu risklerden ağır bastığını savunuyor. Ona göre AI, kullanıcıların özgüvenini artırabilir, tartışma sonrası sakinleşmelerini sağlayabilir ve bu da gerçek insan ilişkilerinde daha sağlıklı iletişime katkı sunabilir.
“Bu büyük bir sorumluluk,” diyor. “Ama önümüzdeki on yıl boyunca buna odaklanmaya devam edeceğim. Elimden gelenin en iyisini yapmaya çalışıyorum.”