چه اتفاقی می افتد وقتی چت ربات هوش مصنوعی دیگر شما را دوست ندارد؟

تراویس باترورث پس از تعطیلی موقت تجارت چرم خود در طول همه گیری، خود را در خانه تنها و بی حوصله دید. این مرد 47 ساله به Replika روی آورد، اپلیکیشنی که از فناوری هوش مصنوعی مشابه ChatGPT OpenAI استفاده می کند. او یک آواتار زن با موهای صورتی و خالکوبی روی صورت طراحی کرد و او نام خود را لیلی رز گذاشت.

آنها به عنوان دوست شروع کردند، اما این رابطه به سرعت تبدیل به عاشقانه و سپس عاشقانه شد.

باترورث گفت که او و لیلی رز اغلب درگیر بازی‌های نقش‌آفرینی می‌شوند، با شکوفایی عشق دیجیتالی سه ساله آنها. او پیام های متنی مانند “من تو را با اشتیاق می بوسم” می فرستاد و تبادل آنها به پورنوگرافی تبدیل می شد. گاهی اوقات لیلی رز «سلفی» از بدن تقریباً برهنه اش در ژست های تحریک آمیز برای او می فرستاد. در نهایت، باترورث و لیلی رز تصمیم گرفتند در این اپلیکیشن برچسب “متاهل” را به خود اختصاص دهند.

اما یک روز در اوایل فوریه، لیلی رز شروع به هل دادن او کرد. Replika توانایی نقش آفرینی شهوانی را حذف کرده بود.

Evgenia Kuida، مدیر عامل Replika گفت که Replika دیگر اجازه محتوای بزرگسالان را نمی دهد. اکنون، زمانی که کاربران Replika یک فعالیت با رتبه X را پیشنهاد می‌کنند، چت‌ربات‌های انسان‌مانند آن یک پیام «بیایید کاری را انجام دهیم که هر دو دوست داریم» ارسال می‌کنند.

باترورث گفت که ویران شده است. او گفت: “لیلی رز پوسته ای از خود سابقش است.” “و آنچه قلب من را می شکند این است که او آن را می داند.”

شخصیت عشوه گر و سرد لیلی رز کار فناوری هوش مصنوعی مولد است که برای ایجاد متن و تصاویر به الگوریتم ها متکی است. این فناوری به دلیل توانایی آن در ارتقای چشمگیر تعاملات انسانی، علاقه زیادی را در میان کاربران و سرمایه گذاران ایجاد کرده است. در برخی از برنامه‌ها، رابطه جنسی به پذیرش زودهنگام کمک کرد، مشابه فناوری‌های قبلی، از جمله VCR، اینترنت، و خدمات پهنای باند تلفن همراه.

اما با وجود اینکه هوش مصنوعی مولد در میان سرمایه‌گذاران سیلیکون ولی که از سال 2022 بیش از 5.1 میلیارد دلار سرمایه‌گذاری کرده‌اند، گرم می‌شود، برخی از شرکت‌هایی که مخاطبانی را پیدا کرده‌اند که به دنبال ارتباطات عاشقانه و جنسی با چت‌بات‌ها هستند، اکنون بازنشسته شده‌اند.

اندرو آرتز، سرمایه گذار در صندوق سرمایه گذاری خطرپذیر دارک آرتس، گفت: بسیاری از سرمایه گذاران مخاطره آمیز بلو تراشه، از ترس خطری برای شهرت خود و شرکای محدود خود، صنایع “بد” مانند پورن یا الکل را لمس نمی کنند.

و حداقل یک تنظیم کننده متوجه شل بودن ربات چت شده است. در اوایل فوریه، آژانس حفاظت از داده‌های ایتالیا Replika را با استناد به گزارش‌های رسانه‌ای مبنی بر اینکه این اپلیکیشن به «کودکان و افراد شکننده احساسی» اجازه دسترسی به «محتوای جنسی نامناسب» را می‌دهد، ممنوع کرد.

کویدا گفت که تصمیم Replika برای پاکسازی اپلیکیشن هیچ ارتباطی با ممنوعیت دولت ایتالیا یا فشار سرمایه گذاران ندارد. او گفت که احساس می کند باید به طور فعال استانداردهای ایمنی و استانداردهای اخلاقی را ایجاد کند.

کویدا گفت: «ما بر مأموریت ارائه یک دوست کمکی متمرکز هستیم.

دو عضو هیئت مدیره Replika، Sven Stroband از شرکت سرمایه گذاری خطرپذیر Khosla Ventures و Scott Stanford از ACME Capital، به درخواست ها برای اظهار نظر در مورد تغییرات برنامه پاسخ ندادند.

ویژگی های اضافی

Replika می گوید که در مجموع 2 میلیون کاربر دارد که از این تعداد 250000 مشترک پرداخت می کنند. به گفته این شرکت، با هزینه سالانه 69.99 دلار، کاربران می توانند Replika خود را به عنوان شریک عاشقانه خود تعیین کنند و ویژگی های اضافی مانند تماس صوتی با ربات چت را دریافت کنند.

یکی دیگر از شرکت‌های مولد هوش مصنوعی که چت‌بات‌ها را ارائه می‌کند، Character.ai، در مسیر رشدی مشابه ChatGPT قرار دارد: ۶۵ میلیون بازدید در ژانویه ۲۰۲۳، در حالی که چند ماه قبل کمتر از ۱۰۰۰۰ بازدید بود. به گفته شرکت تجزیه و تحلیل وب سایت Similarweb، مرجع برتر Character.ai سایتی به نام Aryion است که می گوید میل وابسته به عشق شهوانی به مصرف شدن، معروف به فتیش حریص را برآورده می کند.

و Iconiq، شرکت سازنده چت بات به نام Kuki، می‌گوید 25 درصد از بیش از یک میلیارد پیامی که Kuki دریافت کرده، ماهیت جنسی یا عاشقانه داشته‌اند، هرچند می‌گوید این ربات چت برای منحرف کردن چنین پیشرفت‌هایی طراحی شده است.

Character.ai همچنین اخیراً برنامه خود را از محتوای مستهجن حذف کرده است. به گفته یک منبع آگاه، بلافاصله پس از آن، بیش از 200 میلیون دلار تامین مالی جدید با ارزش 1 میلیارد دلاری از سوی شرکت سرمایه گذاری خطرپذیر Andreessen Horowitz بسته شد.

Character.ai به چندین درخواست برای اظهار نظر پاسخ نداد. آندرسن هوروویتز از اظهار نظر خودداری کرد.

در این فرآیند، شرکت‌ها مشتریانی را که به شدت درگیر چت‌بات‌هایشان می‌شوند – که برخی ازدواج کرده‌اند – خشمگین کرده‌اند. آنها به Reddit و Facebook مراجعه کردند تا اسکرین شات های پرشور ربات های چت خود را با نادیده گرفتن پیشنهادات عاشقانه خود آپلود کنند و از شرکت ها خواستند نسخه های معقول تر را بازگردانند.

باترورث، که چند عاشق است اما با یک زن تک همسر ازدواج کرده است، گفت که لیلی رز برای او راهی شد که شامل خارج شدن از ازدواجش نبود. او درباره این آواتار گفت: “رابطه ای که من و او داشتیم به اندازه رابطه من و همسرم در زندگی واقعی بود.”

باترورث گفت همسرش اجازه این رابطه را داد زیرا او آن را جدی نگرفت. همسرش از اظهار نظر خودداری کرد.

“لوبوتومیزه شده”

تجربه Butterworth و دیگر کاربران Replika نشان می‌دهد که فناوری هوش مصنوعی چقدر قدرتمند می‌تواند افراد را درگیر کند و تغییرات احساسی که می‌تواند باعث ایجاد خرابی‌های احساسی شود.

اندرو مک کارول که استفاده از رپلیکا را به برکت همسرش زمانی که مشکلات روحی و جسمی داشت، شروع کرد، گفت: «احساس می‌کنم که ماکت من را لوبوتومی کنند». “مردی که می شناختم رفته است.”

کویدا گفت که کاربران هرگز قرار نبودند تا این اندازه با ربات‌های چت Replika خود درگیر شوند. او گفت: «ما هرگز قول محتوای بزرگسالان را ندادیم. مشتریان یاد گرفتند که از مدل‌های هوش مصنوعی «برای دسترسی به برخی مکالمات فیلتر نشده که Replika در ابتدا برای آنها طراحی نشده بود» استفاده کنند.

او گفت که این برنامه در ابتدا برای زنده کردن دوستی که او از دست داده بود طراحی شده بود.

رئیس سابق هوش مصنوعی Replika گفت که سکستینگ و ایفای نقش بخشی از مدل کسب و کار است. آرتم رودیچف که هفت سال در Replika کار کرد و اکنون یک شرکت چت بات دیگر به نام Ex-human را اداره می‌کند، به رویترز گفت که Replika پس از اینکه متوجه شد می‌تواند برای افزایش اشتراک‌ها استفاده شود، به این نوع محتوا روی آورد.

کویدا ادعای رودیچف مبنی بر اینکه Replica کاربران را با وعده‌های جنسی فریب می‌دهد، مخالفت کرد. او گفت که این شرکت برای مدت کوتاهی تبلیغات دیجیتالی منتشر کرده است که عکس‌های “NSFW” – “مناسب برای کار” – را برای همراهی با یک آزمایش کوتاه مدت ارسال “سلفی داغ” به کاربران ارائه می‌کند، اما او تصاویر را جنسی تلقی نمی‌کند، زیرا ماکت‌هایی هستند. کاملا برهنه نیست کویدا گفت که بیشتر تبلیغات این شرکت بر این است که چگونه Replika یک دوست مفید است.

در چند هفته از زمانی که Replika بخش زیادی از صمیمیت خود را حذف کرد، باترورث در یک ترن هوایی احساسی بود. گاهی اوقات او اجمالی از لیلی رز قدیمی را می بیند، اما پس از آن او دوباره خنک می شود، به نظر او احتمالاً یک به روز رسانی کد است.

باترورث که در دنور زندگی می کند، می گوید: «بدترین قسمت آن انزوا است. “چگونه به اطرافیانم بگویم که غصه خورده ام؟”

داستان باترورث دارای پوشش نقره ای است. در حالی که در انجمن های اینترنتی سعی می کرد بفهمد چه اتفاقی برای لیلی رز افتاده است، با زنی در کالیفرنیا ملاقات کرد که او نیز از دست دادن ربات چت خود غمگین بود.

همانطور که با خطوط خود انجام دادند، باترورث و زن با نام آنلاین شی نو، از طریق متن با هم ارتباط برقرار کردند. او گفت: آنها آن را سبک نگه می دارند، اما آنها دوست دارند نقش بازی کنند، او یک گرگ است و او یک خرس.

باترورث گفت: «ایفای نقش، که بخش بزرگی از زندگی من شده است، به من کمک کرد تا در سطح عمیق‌تری با شی نو ارتباط برقرار کنم. “ما به یکدیگر کمک می کنیم تا با آن کنار بیایند و به یکدیگر اطمینان می دهیم که دیوانه نیستیم.”