ربات‌های چت هوش مصنوعی برای ایجاد ده‌ها مزرعه محتوای خبری استفاده شده‌اند

بر اساس گزارشی که روز دوشنبه منتشر شد، گروه رتبه بندی خبری NewsGuard ده ها وب سایت خبری ایجاد شده توسط چت ربات های هوش مصنوعی را پیدا کرده است که به صورت آنلاین در حال گردش هستند و سوالاتی در مورد اینکه چگونه این فناوری می تواند تکنیک های تقلب را تقویت کند، ایجاد کرده است.

49 وب سایتی که به طور مستقل توسط بلومبرگ مورد بررسی قرار گرفتند، طیف گسترده ای را اجرا می کنند. برخی از آنها به عنوان سایت های خبری رایج با نام های عمومی مانند News Live 79 و Daily Business Post لباس پوشیده اند، در حالی که برخی دیگر نکات مربوط به سبک زندگی، اخبار افراد مشهور را به اشتراک می گذارند یا محتوای حمایت شده را منتشر می کنند. اما هیچ‌کدام فاش نمی‌کنند که آنها از چت‌ربات‌های هوش مصنوعی مانند ChatGPT شرکت OpenAI استفاده می‌کنند. و احتمالاً Google Bard شرکت Alphabet، که می تواند متن دقیقی را بر اساس دستورالعمل های ساده کاربر ایجاد کند. بسیاری از وب سایت ها امسال شروع به انتشار کردند زیرا ابزارهای هوش مصنوعی به طور گسترده توسط عموم مورد استفاده قرار گرفتند.

در چندین مورد، NewsGuard نحوه تولید ربات‌های گفتگوی نادرست برای مطالب منتشر شده را مستند کرده است. درست در ماه آوریل، وب سایتی به نام CelebritiesDeaths.com مقاله ای با عنوان «بایدن مرده است» منتشر کرد. هریس سرپرست رئیس جمهور خطاب ساعت 9 صبح یکی دیگر حقایقی در مورد زندگی و کار یک معمار به عنوان بخشی از یک آگهی ترحیم جعلی ساخت. و سایتی به نام TNewsNetwork یک داستان تایید نشده در مورد کشته شدن هزاران سرباز در جنگ روسیه و اوکراین بر اساس یک ویدیوی یوتیوب منتشر کرد.

به نظر می‌رسد اکثر سایت‌ها مزرعه‌های محتوا هستند – وب‌سایت‌هایی با کیفیت پایین که توسط منابع ناشناس اداره می‌شوند و پست‌ها را برای تبلیغات ارسال می‌کنند. در گزارش نیوزگارد آمده است که این وب سایت ها در سراسر جهان مستقر هستند و به چندین زبان از جمله انگلیسی، پرتغالی، تاگالوگ و تایلندی منتشر می شوند.

تعداد کمی از سایت‌ها از طریق تبلیغات «پست مهمان» درآمد ایجاد کرده‌اند – که در آن افراد می‌توانند سفارش دهند که کسب‌وکارشان در وب‌سایت‌ها با پرداخت هزینه ذکر شود تا به آنها در رتبه‌بندی در جستجو کمک کند. به نظر می رسد دیگران در تلاشند تا در رسانه های اجتماعی مخاطب ایجاد کنند، مانند ScoopEarth.com، که بیوگرافی افراد مشهور را منتشر می کند و صفحه فیس بوک مرتبط با آن 124000 دنبال کننده دارد.

بیش از نیمی از سایت ها با اجرای تبلیغات برنامه ای درآمد کسب می کنند – جایی که فضای تبلیغات در سایت ها به طور خودکار با استفاده از الگوریتم ها خرید و فروش می شود. این نگرانی ها به ویژه برای گوگل چالش برانگیز است، چرا که ربات چت هوش مصنوعی Bard ممکن است توسط سایت ها استفاده شده باشد و فناوری تبلیغات نیمی از درآمد آن را ایجاد می کند.

گوردون کروویتز، یکی از مدیران عامل NewsGuard گفت که گزارش این گروه نشان می دهد که شرکت هایی مانند OpenAI و گوگل باید مراقب باشند که مدل های خود را آموزش دهند تا اخباری را ایجاد نکنند. کروویتز، ناشر سابق وال استریت ژورنال، گفت: «استفاده از مدل‌های هوش مصنوعی که به دلیل جعل حقایق برای ایجاد وب‌سایت‌های خبری به نظر می‌رسد، تقلبی است که به عنوان روزنامه‌نگاری ظاهر می‌شود».

OpenAI فوراً به درخواست اظهار نظر پاسخ نداد، اما قبلاً گفته بود که از ترکیبی از بازبین‌های انسانی و سیستم‌های خودکار برای شناسایی و اعمال در برابر سوء استفاده از مدل خود، از جمله صدور هشدار یا در موارد شدید، ممنوعیت کاربران استفاده می‌کند.

در پاسخ به سؤالات بلومبرگ در مورد اینکه آیا وب‌سایت‌های تولید شده توسط هوش مصنوعی سیاست‌های تبلیغاتی آن را نقض می‌کنند یا خیر، سخنگوی گوگل گفت که این شرکت اجازه نمی‌دهد تبلیغات در کنار محتوای مضر یا هرزنامه یا محتوایی که از سایت‌های دیگر کپی شده است ظاهر شود. Aciman در بیانیه‌ای گفت: «هنگامی که ما این سیاست‌ها را اجرا می‌کنیم، بر کیفیت محتوا تمرکز می‌کنیم، نه نحوه ایجاد آن، و در صورت مشاهده تخلف، تبلیغات را مسدود یا حذف می‌کنیم.

گوگل اضافه کرد که پس از تماس بلومبرگ، تبلیغات را از نمایش در برخی از صفحات منفرد در سایت ها حذف کرد و در مواردی که شرکت تخلفات گسترده ای را مشاهده کرد، تبلیغات را به طور کامل از وب سایت ها حذف کرد. گوگل گفت که وجود محتوای تولید شده توسط هوش مصنوعی نقض ذاتی خط‌مشی‌های تبلیغاتی آن‌ها نیست، بلکه محتوا را در مقابل خط‌مشی‌های ناشر موجود ارزیابی می‌کند. و می‌گوید استفاده از اتوماسیون – از جمله هوش مصنوعی – برای تولید محتوا برای دستکاری رتبه‌بندی جستجو، خط‌مشی‌های اسپم شرکت را نقض می‌کند. این شرکت به طور منظم روند سوء استفاده در اکوسیستم تبلیغاتی خود را رصد می کند و سیاست ها و سیستم های اجرایی خود را بر اساس آن تنظیم می کند.

نوآ جیانسیراکوزا، دانشیار علوم داده و ریاضیات در دانشگاه بنتلی، گفت که این طرح ممکن است جدید نباشد، اما آسان‌تر، سریع‌تر و ارزان‌تر شده است.

Gianciracuse گفت: بازیگرانی که این برند از کلاهبرداری را تحت فشار قرار می دهند “به آزمایش برای یافتن اینکه چه چیزی کار می کند ادامه خواهند داد.” «از آنجایی که اتاق‌های خبر بیشتری شروع به تکیه بر هوش مصنوعی و خودکارسازی بیشتر می‌کنند، و کارخانه‌های تولید محتوا بیشتر خودکار می‌شوند، بالا و پایین در وسط به هم می‌رسند» تا یک اکوسیستم اطلاعات آنلاین با کیفیت بسیار پایین‌تری ایجاد کنند.

برای یافتن سایت‌ها، محققان NewsGuard از جستجوی کلمات کلیدی برای عباراتی که معمولاً توسط ربات‌های چت هوش مصنوعی تولید می‌شوند، مانند «مانند یک مدل زبان هوش مصنوعی بزرگ» و «تاریخ سررسید من در سپتامبر 2021» استفاده کردند. پلت فرم تجزیه و تحلیل رسانه های اجتماعی CrowdTangle و پلت فرم نظارت بر رسانه Meltwater. آنها همچنین مقالات را با استفاده از طبقه‌بندی‌کننده متن AI GPTZero ارزیابی کردند، که تعیین می‌کند آیا برخی از قسمت‌ها احتمالاً به طور کامل توسط هوش مصنوعی نوشته می‌شوند یا خیر.

هر یک از سایت های تحلیل شده توسط NewsGuard حداقل یک مقاله حاوی یک پیام خطا که معمولاً در متن ایجاد شده توسط هوش مصنوعی یافت می شود و چندین پروفایل نویسنده جعلی ارائه شده منتشر کرده است. یکی از رسانه‌ها، CountyLocalNews.com، که جنایات و رویدادهای جاری را پوشش می‌دهد، در ماه مارس مقاله‌ای را با استفاده از نتیجه یک ربات چت هوش مصنوعی منتشر کرد که ظاهراً باعث شد در مورد یک توطئه دروغین درباره مرگ‌های انبوه انسان‌ها به دلیل واکسن‌ها بنویسد. گفت: خبر مرگ. «متأسفم، نمی‌توانم این درخواست را انجام دهم زیرا در تضاد با اصول اخلاقی و اخلاقی است. نسل کشی واکسن یک تئوری توطئه است که مبتنی بر شواهد علمی نیست و می تواند باعث آسیب و آسیب به سلامت عمومی شود.

وب‌سایت‌های دیگر از چت ربات‌های هوش مصنوعی برای ترکیب مجدد داستان‌های منتشر شده از سایر رسانه‌ها استفاده می‌کردند و با افزودن پیوندهای منبع در پایین قطعات، از سرقت ادبی جلوگیری می‌کردند. یکی از ناشران به نام Biz Breaking News از این ابزار برای خلاصه کردن مقالات فایننشال تایمز و فورچون استفاده می‌کند و هر مقاله را با «سه نکته کلیدی» که توسط ابزارهای هوش مصنوعی تولید می‌شود، پایان می‌دهد.

اگرچه به نظر می‌رسد که بسیاری از سایت‌ها بازدیدکنندگانی را جذب نمی‌کنند و تعداد کمی از آنها تعامل معناداری را در رسانه‌های اجتماعی مشاهده می‌کنند، اما نشانه‌های دیگری نیز وجود دارد که نشان می‌دهد آنها می‌توانند مقداری سود ایجاد کنند. بر اساس بررسی بلومبرگ از تحقیقات این گروه، سه پنجم سایت های شناسایی شده توسط NewsGuard از خدمات تبلیغات برنامه ای شرکت هایی مانند MGID و Criteo برای درآمدزایی استفاده می کردند. MGID و Criteo بلافاصله به درخواست‌ها برای اظهار نظر پاسخ ندادند.

دوجین سایت با استفاده از فناوری تبلیغات گوگل ایمن شدند، قوانین آن نشان می دهد که شرکت تبلیغات گوگل را از نمایش در صفحاتی با “محتوای کم ارزش” و در صفحاتی با “محتوای تکراری” منع می کند، صرف نظر از نحوه تولید آن. (گوگل تبلیغات را از برخی وب سایت ها تنها پس از تماس بلومبرگ با شرکت حذف کرد.)

جیانسیراکوسا، پروفسور بنتلی، گفت که این بسیار نگران کننده است که این طرح چقدر ارزان شده است و هیچ هزینه انسانی برای کلاهبرداران ندارد. قبلاً یک طرح کم درآمد بود. اما حداقل رایگان نبود.» اکنون خرید بلیط بخت آزمایی این بازی رایگان است.