الگوریتم ها می توانند در تشخیص اخبار جعلی، جلوگیری از انتشار آن و مقابله با اطلاعات نادرست مفید باشند

اخبار جعلی یک موضوع پیچیده است و می تواند شامل متن، تصاویر و ویدئو باشد.

به طور خاص برای مقالات نوشته شده، راه های مختلفی برای تولید اخبار جعلی وجود دارد. یک مقاله اخبار جعلی را می توان با ویرایش انتخابی حقایق، از جمله نام افراد، تاریخ ها یا آمار ایجاد کرد. یک مقاله همچنین می تواند کاملاً با رویدادها یا افراد تخیلی ساخته شود.

مقاله‌های اخبار جعلی نیز می‌توانند توسط ماشین تولید شوند، زیرا پیشرفت‌های هوش مصنوعی تولید اطلاعات نادرست را بسیار آسان می‌کند.

اثرات مضر

سؤالاتی مانند «آیا در انتخابات 2020 ایالات متحده تقلب در رأی‌دهندگان صورت گرفت؟» یا «آیا تغییرات آب و هوایی فریب است؟» را می‌توان با تجزیه و تحلیل داده‌های موجود تأیید کرد. این سوالات را می توان با درست یا نادرست پاسخ داد، اما احتمال وجود اطلاعات نادرست در مورد سوالاتی مانند این وجود دارد.

اطلاعات نادرست و اطلاعات نادرست – یا اخبار جعلی – می تواند در مدت زمان کوتاهی بر تعداد زیادی از مردم تأثیر مضری داشته باشد. اگرچه ایده اخبار جعلی مدت ها قبل از پیشرفت های تکنولوژیکی وجود داشته است، رسانه های اجتماعی این مشکل را تشدید کرده اند.

مطالعه‌ای در توییتر در سال ۲۰۱۸ نشان داد که اخبار جعلی بیشتر از ربات‌ها توسط انسان‌ها بازتوییت می‌شوند و احتمال بازتوییت آن ۷۰ درصد بیشتر از داستان‌های واقعی است. همان مطالعه نشان داد که داستان های واقعی تقریباً شش برابر بیشتر طول می کشد تا به یک گروه 1500 نفری برسد و در حالی که داستان های واقعی به ندرت به بیش از 1000 نفر می رسد، اخبار جعلی محبوب می تواند تا 100000 نفر برسد.

انتخابات ریاست جمهوری 2020 ایالات متحده، واکسن های کووید-19 و تغییرات آب و هوایی همگی هدف کمپین های اطلاعات نادرست با عواقب جدی قرار گرفته اند. تخمین زده می شود که اطلاعات نادرست در مورد COVID-19 بین 50 تا 300 میلیون دلار در روز هزینه دارد. هزینه اطلاعات نادرست سیاسی می تواند ناآرامی مدنی، خشونت یا حتی کاهش اعتماد عمومی به نهادهای دموکراتیک باشد.

تشخیص اطلاعات نادرست

تشخیص اطلاعات نادرست می‌تواند از طریق ترکیبی از الگوریتم‌ها، مدل‌های یادگیری ماشین و انسان‌ها انجام شود. یک سوال مهم این است که چه کسی مسئول کنترل، و نه جلوگیری از انتشار اطلاعات نادرست پس از کشف آن است. فقط شرکت‌های رسانه‌های اجتماعی واقعاً قادر به اعمال کنترل بر انتشار اطلاعات از طریق شبکه‌های خود هستند.

یک ابزار ساده اما مؤثر برای تولید اطلاعات نادرست، ویرایش انتخابی مقالات خبری است. برای مثال، «کارگردان و نمایشنامه نویس اوکراینی را در نظر بگیرید که به «توجیه تروریسم» دستگیر و متهم شده است. این امر با جایگزینی “روسی” با “اوکراینی” در جمله اصلی در یک مقاله خبری واقعی محقق شد.

یک رویکرد چند جانبه برای شناسایی اطلاعات نادرست آنلاین برای کنترل توسعه و گسترش آن مورد نیاز است.

ارتباطات رسانه‌های اجتماعی را می‌توان به‌عنوان شبکه‌ها مدل‌سازی کرد که کاربران نقاطی را در مدل شبکه تشکیل می‌دهند و ارتباطات بین آن‌ها پیوند ایجاد می‌کنند. بازتوییت کردن یا لایک کردن یک پست نشان دهنده ارتباط بین دو نقطه است. در این مدل شبکه، پخش‌کننده‌های اطلاعات نادرست نسبت به مصرف‌کنندگان حقیقت‌پراکنده تمایل دارند ساختارهای هسته-پیرامونی با متراکم‌تری را تشکیل دهند.

گروه تحقیقاتی من الگوریتم های کارآمدی را برای تشخیص ساختارهای متراکم از شبکه های ارتباطی ایجاد کرده است. این اطلاعات را می توان برای شناسایی موارد کمپین های اطلاعات نادرست بیشتر تجزیه و تحلیل کرد.

از آنجایی که این الگوریتم‌ها فقط بر ساختار ارتباطی تکیه دارند، تجزیه و تحلیل محتوای انجام شده توسط الگوریتم‌ها و انسان‌ها برای تأیید موارد اطلاعات نادرست مورد نیاز است.

شناسایی مقالات دستکاری شده نیاز به تجزیه و تحلیل دقیق دارد. تحقیق ما از یک رویکرد مبتنی بر شبکه عصبی استفاده می‌کند که اطلاعات متنی را با یک پایگاه دانش خارجی ترکیب می‌کند تا چنین دستکاری‌هایی را تشخیص دهد.

توقف توزیع

شناسایی اطلاعات نادرست تنها نیمی از نبرد است – برای جلوگیری از گسترش آن اقدام قاطعانه ای لازم است. راهبردهای مبارزه با انتشار اطلاعات نادرست در رسانه های اجتماعی شامل مداخله پلتفرم های اینترنتی و راه اندازی کمپین های متقابل برای خنثی کردن کمپین های اخبار جعلی است.

مداخله می تواند اشکال سختی مانند تعلیق حساب کاربری یا اقدامات ملایم تر مانند برچسب زدن به یک پست به عنوان مشکوک داشته باشد.

الگوریتم ها و شبکه های مبتنی بر هوش مصنوعی 100 درصد قابل اعتماد نیستند. تداخل اشتباهی با یک کالای اصلی و همچنین عدم تداخل با کالای تقلبی هزینه هایی دارد.

برای این منظور، ما یک خط مشی مداخله هوشمند را توسعه دادیم که به طور خودکار تصمیم می‌گیرد که آیا بر اساس حقیقت پیش‌بینی‌شده و محبوبیت پیش‌بینی‌شده آن، مداخله کنیم یا خیر.

مقابله با اخبار جعلی

راه‌اندازی کمپین‌های متقابل برای به حداقل رساندن، اگر نه خنثی کردن، اثرات کمپین‌های اطلاعات نادرست باید تفاوت‌های اساسی بین اخبار واقعی و جعلی را از نظر سرعت و سرعت انتشار هر یک در نظر بگیرد.

علاوه بر این تفاوت ها، واکنش ها به داستان ها بسته به کاربر، موضوع و طول پست می تواند متفاوت باشد. رویکرد ما همه این عوامل را در نظر می‌گیرد و یک استراتژی مقابله موثر با کمپین ایجاد می‌کند که به طور مؤثری از انتشار اطلاعات نادرست جلوگیری می‌کند.

پیشرفت‌های اخیر در هوش مصنوعی مولد، به‌ویژه آن‌هایی که با مدل‌های زبان بزرگی مانند ChatGPT ارائه می‌شوند، تولید مقالات با سرعت بالا و حجم قابل‌توجه را آسان‌تر از همیشه کرده است و چالش شناسایی و مقابله با اطلاعات نادرست در مقیاس و در زمان واقعی را بالا می‌برد. تحقیقات فعلی ما برای پرداختن به این چالش مداوم، که تأثیر زیادی بر جامعه دارد، ادامه دارد.