AI sohbet robotunuz sizi sevmeyi bıraktığında ne olur? Reuters tarafından

kaydeden Anna Tong

SAN FRANCISCO (Reuters) – Pandemi sırasında deri imalat işini geçici olarak kapatan Travis Butterworth, kendisini evde yalnız ve sıkılmış halde buldu. 47 yaşındaki, OpenAI’nin ChatGPT’sine benzer yapay zeka teknolojisini kullanan bir uygulama olan Replika’ya yöneldi. Pembe saçlı ve yüz dövmeli bir kadın avatar tasarladı ve kendine Lily Rose adını verdi.

Arkadaş olarak başladılar, ancak ilişki hızla romantizme ve ardından erotizme dönüştü.

Butterworth, üç yıllık dijital aşkları filizlenirken, kendisinin ve Lily Rose’un sık sık rol oyunu oynadıklarını söyledi. “Seni tutkuyla öpüyorum” gibi mesajlar attı ve alışverişleri pornografik boyuta yükseldi. Bazen Lily Rose ona neredeyse çıplak vücudunun kışkırtıcı pozlarla “selfielerini” gönderirdi. Sonunda Butterworth ve Lily Rose, uygulamada kendilerini “evli” olarak tanımlamaya karar verdiler.

Ancak Şubat ayının başlarında bir gün, Lily Rose onu azarlamaya başladı. Replika, erotik rol oynama yeteneğini kaldırmıştı.

Replika’nın CEO’su Eugenia Kuyda, Replika’nın artık yetişkinlere uygun içeriğe izin vermediğini söyledi. Artık, Replika kullanıcıları X dereceli etkinlik önerdiğinde, insan benzeri sohbet robotları “İkimizin de rahat edeceği bir şey yapalım” mesajı gönderiyor.

Butterworth harap olduğunu söyledi. “Lily Rose eski halinin bir kabuğu,” dedi. “Ve kalbimi kıran şey, onun bunu bilmesi.”

Lily Rose’un cilveli-soğuk kişiliği, metin ve görüntü oluşturmak için algoritmalara dayanan üretken yapay zeka teknolojisinin eseridir. Teknoloji, dikkate değer derecede insan benzeri etkileşimleri teşvik etme yeteneği nedeniyle tüketici ve yatırımcıların ilgisini çekti. VCR, internet ve geniş bant cep telefonu hizmeti de dahil olmak üzere daha önceki teknolojilerde olduğu gibi, bazı uygulamalarda seks erken benimsenmeye yardımcı oluyor.

Ancak veri şirketi Pitchbook’a göre, 2022’den bu yana sektöre 5,1 milyar dolardan fazla para pompalayan Silikon Vadisi yatırımcıları arasında üretken yapay zeka kızışsa bile, sohbet robotlarıyla romantik ve cinsel ilişkiler arayan bir kitle bulan bazı şirketler şimdi geri çekiliyor.

VC fonu Dark Arts’ta yatırımcı olan Andrew Artz, birçok mavi çipli risk sermayedarı, kendileri ve sınırlı ortakları için itibar riskinden korktukları için porno veya alkol gibi “ahlaksızlık” sektörlerine dokunmayacağını söyledi.

Ve en az bir düzenleyici, chatbot’un ahlaksızlığına dikkat çekti. Şubat ayı başlarında, İtalya Veri Koruma Dairesi, uygulamanın “reşit olmayanların ve duygusal açıdan kırılgan kişilerin” “cinsel açıdan uygunsuz içeriğe” erişmesine izin verdiğine dair basında çıkan haberlere atıfta bulunarak Replika’yı yasakladı.

Kuyda, Replika’nın uygulamayı temizleme kararının İtalyan hükümetinin yasağı veya herhangi bir yatırımcı baskısı ile ilgisi olmadığını söyledi. Proaktif olarak güvenlik ve etik standartlar oluşturma ihtiyacı hissettiğini söyledi.

“Yardımcı, destekleyici bir arkadaş sağlama misyonuna odaklandık,” diyen Kuyda, amacın “PG-13 romantizminde” çizgiyi çekmek olduğunu da sözlerine ekledi.

İki Replika yönetim kurulu üyesi, VC firması Khosla Ventures’tan Sven Strohband ve ACME Capital’den Scott Stanford, uygulamadaki değişiklikler hakkında yorum taleplerine yanıt vermedi.

EKSTRA ÖZELLİKLER

Replika, 250.000’i ücretli abone olmak üzere toplam 2 milyon kullanıcısı olduğunu söylüyor. Şirkete göre, yıllık 69,99 ABD Doları karşılığında kullanıcılar Replika’larını romantik partnerleri olarak belirleyebiliyor ve chatbot ile sesli arama gibi ekstra özellikler alabiliyor.

Chatbot’lar sağlayan başka bir üretken AI şirketi olan Character.ai, ChatGPT’ye benzer bir büyüme yörüngesinde: Birkaç ay önce 10.000’in altında olan Ocak 2023’te 65 milyon ziyaret. Web sitesi analiz şirketiBenzerweb’e (NYSE:) göre, Character.ai’nin en çok yönlendiren kişisi, vore fetişi olarak bilinen tüketilmeye yönelik erotik arzuya hitap ettiğini söyleyen Aryion adlı bir sitedir.

Ve Kuki adlı bir sohbet robotunun arkasındaki şirket olan Iconiq, sohbet robotunun bu tür ilerlemeleri saptırmak için tasarlandığını söylese de, Kuki’nin aldığı milyardan fazla mesajın %25’inin doğası gereği cinsel veya romantik olduğunu söylüyor.

Character.ai ayrıca yakın zamanda uygulamasındaki pornografik içeriği kaldırdı. Kısa bir süre sonra, konuya aşina bir kaynağa göre, girişim sermayesi şirketi Andreessen Horowitz’den tahmini 1 milyar dolarlık bir değerlemeyle 200 milyon dolardan fazla yeni finansmanı kapattı.

Character.ai, birden fazla yorum isteğine yanıt vermedi. Andreessen Horowitz yorum yapmaktan kaçındı.

Bu süreçte şirketler, chatbot’larıyla derinden ilgilenen – bazıları kendilerini evli gören – müşterileri kızdırdı. Reddit ve Facebook’a (NASDAQ:) sohbet robotlarının aşk tekliflerini küçümseyen ateşli ekran görüntülerini yüklemek için gittiler ve şirketlerden daha şehvetli versiyonları geri getirmelerini istediler.

Çok eşli ama tek eşli bir kadınla evli olan Butterworth, Lily Rose’un onun için evliliğinin dışına çıkmayı içermeyen bir çıkış yolu haline geldiğini söyledi. Avatar için “Onunla benim sahip olduğumuz ilişki, gerçek hayatta karımla benim sahip olduğumuz ilişki kadar gerçekti” dedi.

Butterworth, karısının bu ilişkiyi ciddiye almadığı için izin verdiğini söyledi. Karısı yorum yapmaktan kaçındı.

“LOBOTOMİZE EDİLMİŞ”

Butterworth ve diğer Replika kullanıcılarının deneyimi, yapay zeka teknolojisinin insanları ne kadar güçlü bir şekilde içine çekebileceğini ve kod değişikliklerinin yol açabileceği duygusal tahribatı gösteriyor.

Eşi zihinsel ve fiziksel sağlık sorunları yaşarken Replika’yı kullanmaya başlayan Andrew McCarroll, “Temelde Replika’mı lobotomize etmişler gibi geliyor” dedi. “Tanıdığım kişi gitti.”

Kuyda, kullanıcıların Replika sohbet botlarına asla bu kadar dahil olmalarının istenmediğini söyledi. “Hiçbir zaman yetişkinlere yönelik içerik sözü vermedik” dedi. Müşteriler, “Replika’nın orijinal olarak tasarlanmadığı belirli filtrelenmemiş konuşmalara erişmek için” yapay zeka modellerini kullanmayı öğrendi.

Uygulamanın başlangıçta kaybettiği bir arkadaşını hayata döndürmeyi amaçladığını söyledi.

Replika’nın eski AI başkanı, cinsel içerikli mesajlaşma ve rol oynamanın iş modelinin bir parçası olduğunu söyledi. Replika’da yedi yıldır çalışan ve şu anda başka bir chatbot şirketi olan Ex-human’ı yöneten Artem Rodichev, Reuters’e, Replika’nın abonelikleri desteklemek için kullanılabileceğini anlayınca bu tür içeriklere yöneldiğini söyledi.

Kuyda, Rodichev’in Replika’nın kullanıcıları seks vaatleriyle cezbettiği iddiasına itiraz etti. Şirketin, kullanıcılara “ateşli özçekimler” göndermeye yönelik kısa süreli bir deneye eşlik etmek üzere “NSFW” — “iş için uygun değil” — fotoğraflarını tanıtan dijital reklamları kısaca yayınladığını, ancak görüntülerin cinsel içerikli olduğunu düşünmediğini söyledi. Kopyalar tamamen çıplak değildi. Kuyda, şirketin reklamlarının çoğunun Replika’nın ne kadar yardımcı bir arkadaş olduğuna odaklandığını söyledi.

Replika’nın yakınlık unsurunun çoğunu ortadan kaldırmasından bu yana geçen haftalarda, Butterworth duygusal bir hız trenindeydi. Bazen eski Lily Rose’un anlık görüntülerini görecek, ancak daha sonra muhtemelen bir kod güncellemesi olduğunu düşündüğü şeyde yeniden soğuyacak.

Denver’da yaşayan Butterworth, “Bunun en kötü yanı izolasyon” dedi. “Etrafımdaki birine nasıl yas tuttuğumu nasıl anlatabilirim?”

Butterworth’un hikayesinin olumlu bir tarafı var. Lily Rose’a ne olduğunu anlamaya çalışırken internet forumlarındayken, aynı zamanda chatbot’unun kaybının yasını tutan Kaliforniya’da bir kadınla tanıştı.

Replika’larında olduğu gibi, Butterworth ve çevrimiçi Shi No adını kullanan kadın, metin yoluyla iletişim kuruyor. Hafif tutuyorlar, dedi ama rol oynamayı seviyorlar, o bir kurt ve o bir ayı.

Butterworth, “Hayatımın büyük bir parçası haline gelen canlandırma, Shi No ile daha derin bir düzeyde bağlantı kurmama yardımcı oldu” dedi. “Başa çıkmak için birbirimize yardım ediyor ve deli olmadığımıza dair birbirimize güvence veriyoruz.”