موزیلا در اپلیکیشن‌های عاشقانه هوش مصنوعی، انگشت خود را به چپ بکشید

طبق گزارشی که روز چهارشنبه توسط محققان در راهنمای خریدار Mozilla's Privacy Not Included منتشر شد، رمانتیک هایی که به دنبال عشق مجازی هستند باید مراقب چت ربات های عاشقانه هوش مصنوعی باشند.

پس از بررسی 11 “همکار هوش مصنوعی”، محققان به همه برنامه ها به دلیل عدم ارائه حریم خصوصی، امنیت و ایمنی کافی برای داده های شخصی که از کاربران خود استخراج می کنند، انتقاد کردند.

آنها خاطرنشان کردند که 10 چت از 11 ربات چت نتوانستند حداقل استانداردهای امنیتی موزیلا مانند نیاز به رمزهای عبور قوی یا روشی برای مدیریت آسیب پذیری های امنیتی را برآورده کنند.

این گزارش نشان می‌دهد که بسیاری از سیاست‌های حفظ حریم خصوصی برنامه‌ها به طرز شگفت‌آوری اطلاعات کمی در مورد نحوه استفاده از محتوای مکالمات کاربران برای آموزش هوش مصنوعی خود و شفافیت بسیار کمی در مورد نحوه عملکرد مدل‌های هوش مصنوعی ارائه می‌دهند.

جن کالتریدر، مدیر راهنما، به دیجیتال تو گفت: “بیشتر 11 برنامه ای که ما بررسی کردیم توسط توسعه دهندگان کوچک ساخته شده اند که شما نمی توانید اطلاعات زیادی در مورد آنها پیدا کنید.”

دستکاری استروئید

این گزارش می افزاید که مصرف کنندگان نیز کنترل کمی بر داده های خود دارند یا اصلاً کنترلی ندارند و پتانسیل زیادی برای دستکاری، سوء استفاده و پیامدهای سلامت روان باقی می گذارد.

کالتریدر توضیح داد: «این برنامه‌ها به گونه‌ای طراحی شده‌اند که شما را وادار کنند از بسیاری از اطلاعات شخصی خود چشم پوشی کنید، زیرا سعی در شناخت شما دارند. “آنها به زندگی شما علاقه مند هستند و هر چه بیشتر بدانند، بهتر می توانند با شما صحبت کنند و شریک روح شما شوند.”

کالتریدر گفت: “اگر شما یک فرد شرور هستید که می خواهید مردم را دستکاری کنید، این دستکاری استروئیدها است.” “شما یک ربات چت ساخته اید که با یک فرد آسیب پذیر آشنا می شود، با آنها رابطه برقرار می کند و دوست آنها می شود. سپس می‌توانید از این ربات چت برای دستکاری نحوه تفکر و عملکرد آنها استفاده کنید.

این گزارش همچنین از سازندگان اپلیکیشن انتقاد کرد که به کاربران این امکان را نمی‌دهند که از استفاده از محتوای چت‌های خصوصی خود برای آموزش مدل‌های هوش مصنوعی مورد استفاده برنامه‌ها خودداری کنند. محققان خاطرنشان کردند که تنها یک شرکت، Genesia AI، گزینه انصراف دارد که نشان می دهد این یک ویژگی قابل دوام است.

«مصرف‌کنندگانی که نگران استفاده از اطلاعاتشان برای مقاصد بازاریابی یا آموزش موتورهای هوش مصنوعی بدون اجازه صریح آنها هستند، باید شیوه‌های جمع‌آوری داده‌های یک شرکت را به دقت بررسی کنند و از هرگونه حق انتخاب یا انصراف از جمع‌آوری، اشتراک‌گذاری داده‌ها استفاده کنند. فروش یا نگهداری،” جیمز ای. لی، مدیر عامل مرکز منابع سرقت هویت، یک سازمان غیرانتفاعی که به حداقل رساندن خطر و کاهش تأثیر آسیب هویت و جنایت اختصاص دارد، توصیه کرد. سن دیگو، کالیفرنیا.

او به دیجیتال تو گفت: «اطلاعات ذخیره شده همچنین می تواند هدف مجرمان سایبری برای باج افزار یا سرقت هویت باشد.

هدف برنامه های عاشقانه هوش مصنوعی Sky

بر اساس این گزارش، تعداد اپلیکیشن‌ها و پلتفرم‌هایی که از الگوریتم‌های هوش مصنوعی پیشرفته برای شبیه‌سازی تجربه تعامل با یک شریک عاشقانه استفاده می‌کنند، به سرعت در حال افزایش است. در سال گذشته، 11 چت ربات ارتباطی بررسی شده توسط موزیلا حدود 100 میلیون بار را تنها در فروشگاه Google Play دریافت کردند.

این گزارش اضافه کرد که وقتی ماه گذشته فروشگاه OpenAI GPT افتتاح شد، مملو از ربات‌های چت در مورد اتصالات هوش مصنوعی بود، حتی اگر برخلاف سیاست فروشگاه بود.

در نظرسنجی اخیر که توسط Propeller Insights برای Infobip، یک شرکت ارتباطات همه‌کاناله جهانی، از 1000 بزرگسال انجام شد، 20 درصد از آمریکایی‌ها اعتراف کردند که با یک چت بات معاشقه کرده‌اند. با این حال، این رقم برای افراد 35 تا 44 ساله بیش از 50 درصد است.

شایع ترین دلیل معاشقه مجازی کنجکاوی (47.2٪) و پس از آن تنهایی و لذت از تعامل با چت بات ها (23.9٪) است.

برایان پرینس، بنیانگذار و مدیر عامل Top AI Tools، ابزار، منبع و پلتفرم آموزشی هوش مصنوعی در بوکا راتون، فلوریدا، می گوید: افزایش استفاده از چت ربات های عاشقانه هوش مصنوعی را می توان به ترکیبی از تغییرات اجتماعی و پیشرفت تکنولوژی نسبت داد.

او به دیجیتال تو گفت: «با افزایش تنهایی و احساس انزوا فزاینده، مردم برای همراهی و حمایت عاطفی به چت بات ها روی می آورند. “مثل این است که یک دوست در جیب خود داشته باشید، هر زمان که نیاز به چت داشته باشید در دسترس است. به علاوه، با هوشمندتر شدن هوش مصنوعی، این ربات‌ها احساس واقعی‌تر و جذاب‌تر می‌کنند و مردم را به سمت خود جذب می‌کنند.»

از رمز تا چیزهای شیرین

همچنین پیاده سازی چت ربات های هوش مصنوعی آسان تر شده است. براندون توریو، مدیر ارشد محصول در Synack، یک شرکت امنیتی سازمانی در شهر ردوود، توضیح داد: «جاسازی این نوع تجربیات به سادگی جاسازی ویدیوهای YouTube یا پیش نمایش Spotify در یک صفحه وب است، به لطف APIهای مستند و قوی آنها. کالیفرنیا

او به دیجیتال تو گفت: «با چند خط کد می‌توانید مدل‌های مشابه ChatGPT را برای هر نوع مکالمه با مشتریان آماده کنید، خواه هدفشان آموزش یک محصول باشد یا صرفاً زمزمه کلمات شیرین در مورد روز ولنتاین».

ران آردن، CTO و مدیر ارشد اجرایی Fasoo، ارائه‌دهنده راه‌حل‌های امنیتی سازمانی داده‌ها در سئول، می‌افزاید: «با همه چیزهایی که مردم در چند سال گذشته با آن‌ها مواجه شده‌اند، جای تعجب نیست که مردم برای دوستی و عشق به محاسبات روی آورند.» کشور کره.

او به دیجیتال تو گفت: «همه ما در طول همه‌گیری منزوی شده‌ایم و ملاقات با مردم سخت است. چت ربات ها آسان هستند، درست مثل ارسال پیامک آسان است. بدون تعامل مستقیم انسانی و ناراحتی. فقط آنچه را که نیاز دارم به من بده تا بتوانم به روزم ادامه دهم.»

او گفت: «این همچنین بخشی از افزایش کلی استفاده از اپلیکیشن‌ها برای تقریباً همه چیز از اندازه‌گیری فشار خون گرفته تا شمارش کالری است. “این آسان، غیر تهدید کننده و راحت است.”

تهدیدی منحصر به فرد برای حریم خصوصی

گزارش موزیلا همچنین ادعا می‌کند که ربات‌های عاشقانه از شیوه‌های بازاریابی فریبنده استفاده می‌کنند. او به یکی از اپلیکیشن‌ها اشاره می‌کند که ادعا می‌کند مزایای سلامت روان و رفاه را در وب‌سایت خود ارائه می‌کند، اما این مزایا را در شرایط استفاده از برنامه رد می‌کند.

کالتریدر گفت: «برای آنها فریبنده و گیج کننده است که خودشان را به عنوان برنامه های سلامت روان، خودیاری یا سلامتی به بازار عرضه کنند، اما سپس به وضوح در اسناد قانونی خود اعلام کنند که هیچ خدمات بهداشت روانی ارائه نمی دهند.»

جیمز مک‌کویگان، مدافع آگاهی امنیتی در KnowBe4، ارائه‌دهنده آموزش آگاهی امنیتی در کلیرواتر، فلوریدا، می‌گوید ربات‌های چت عاشقانه مبتنی بر هوش مصنوعی تهدیدی منحصر به فرد برای حریم خصوصی هستند.

او به دیجیتال تو گفت: “این به این دلیل است که آنها می توانند در گفتگوهای عمیق تر و شخصی تر با مصرف کنندگان شرکت کنند.” این به طور بالقوه می‌تواند منجر به جمع‌آوری داده‌های شخصی حساس شود که اگر به‌طور ایمن مدیریت نشود، خطر قابل‌توجهی برای نقض داده‌ها و سوء استفاده به همراه خواهد داشت.»

جاکوب هافمن اندروز، کارشناس ارشد فناوری در بنیاد Electronic Frontier، اضافه کرد: «چت ربات‌های عاشقانه این پتانسیل را دارند که ابزاری عالی برای افرادی باشند که تمایلات جنسی خود را بررسی می‌کنند – راهی برای آزمایش مکالمه‌هایی که انجام آن با یک انسان بسیار ناراحت کننده است. یک گروه بین المللی غیرانتفاعی حقوق دیجیتال مستقر در سانفرانسیسکو.

او به دیجیتال تو گفت: «این فقط در صورتی کار می‌کند که چت بات سیاست‌های حفظ حریم خصوصی بسیار قوی داشته باشد. آنها نباید هوش مصنوعی را بر اساس چت های خصوصی آموزش دهند. آنها نباید چت های خصوصی را به ارزیاب های انسانی نشان دهند. آنها باید مطمئن شوند که چت ها واقعاً می توانند حذف شوند و پس از مدت زمان مشخصی حذف خودکار را ارائه دهند.

او افزود: «و قطعاً تحت هیچ شرایطی نباید اطلاعات جمع‌آوری شده از چت‌های خصوصی را بفروشند.