عکس‌های تقلبی با هوش مصنوعی به یک شبکه اجتماعی نزدیک شما می‌آیند
روز سه‌شنبه در پاریس، یکی از کاربران محبوب توییتر سه تصویر از امانوئل مکرون، رئیس‌جمهور فرانسه در حال دویدن بین پلیس ضدشورش و معترضان، در محاصره دود منتشر کرد. تصاویری که بیش از 3 میلیون بار مشاهده شده اند جعلی هستند. اما برای هر کسی که توسعه تولید کننده‌های تصویر مبتنی بر هوش مصنوعی را دنبال نمی‌کند، چندان واضح نبود. برای کاربر صادق است، “بدون متن فرانسوی” برچسب یا عنوانی اضافه نمی کند. و همانطور که معلوم است، برخی از مردم معتقد بودند که آنها مشروع هستند. یکی از همکاران به من گفت که حداقل دو دوست در لندن که در مشاغل مختلف حرفه‌ای کار می‌کردند با این عکس‌ها برخورد کردند و فکر کردند این عکس‌ها تصاویر واقعی از اعتصاب‌های گاهی خشونت‌آمیز اصلاحات حقوق بازنشستگی این هفته است. یکی از آنها قبل از اینکه به او گفته شود جعلی است تصویر را در یک چت گروهی به اشتراک گذاشت.
شبکه های اجتماعی سال هاست که برای این لحظه آماده می شوند. آنها در مورد ویدیوهای عمیقا جعلی هشدار داده اند و می دانند که هر کسی با نرم افزار ویرایش می تواند سیاستمداران را به عکس های جعلی جنجالی دستکاری کند. اما انفجار اخیر ابزارهای تولید تصویر با به اصطلاح مدل‌های هوش مصنوعی تولیدی، پلتفرم‌هایی مانند توییتر، فیس‌بوک و تیک تاک را در قلمروی بی‌سابقه قرار می‌دهد.
چیزی که ممکن است 30 دقیقه یا یک ساعت برای ایجاد با نرم افزار سبک فتوشاپ طول بکشد، اکنون می تواند حدود پنج دقیقه یا کمتر با ابزاری مانند Midjourney (رایگان برای 25 تصویر اول) یا Stable Diffusion (کاملا رایگان) طول بکشد. هر دو ابزار هیچ محدودیتی برای تولید تصاویر افراد مشهور ندارند. (1) سال گذشته من از Stable Diffusion برای ایجاد “تصاویری” از دونالد ترامپ در حال بازی گلف با کیم جونگ اون کره شمالی استفاده کردم که هیچ کدام قانع کننده به نظر نمی رسید. اما در شش ماه پس از آن زمان، تولیدکنندگان تصویر یک قدم فراتر رفته اند. آخرین نسخه ابزار Midjourney می تواند عکس هایی ایجاد کند که تشخیص آنها از واقعیت بسیار دشوار است.
مردی که پشت دسته «بدون زمینه فرانسوی» قرار داشت به من گفت که از Midjourney برای تصاویر ماکرون استفاده کرده‌اند. وقتی از من پرسیدم که چرا آنها را به عنوان جعلی برچسب گذاری نکردند، آنها پاسخ دادند که هر کسی می تواند “بزرگنمایی کند و نظرات را بخواند تا بداند این تصاویر واقعی نیستند.”
وقتی به آنها گفتم که عده ای دلشان به این تصاویر افتاد، محکم ایستادند. آنها قبل از ارسال اسکرین شات های بزرگ شده از نقص های دیجیتالی خود اضافه کردند: “ما می دانیم که این تصاویر به دلیل همه این نقص ها واقعی نیستند.” وقتی در مورد اقلیت افرادی که به چنین جزئیاتی به خصوص در صفحه نمایش کوچک تلفن همراه نگاه نمی کنند سؤال کردم، پاسخی ندادند.
الیوت هیگینز، یکی از بنیانگذاران گروه روزنامه نگاری تحقیقی Bellingcat، هنگامی که روز دوشنبه در توییتر فیلم جعلی که از دستگیری دونالد ترامپ تهیه کرده بود، موضع مشابهی اتخاذ کرد و انتظارات گسترده از دستگیری او را نادیده گرفت. این تصاویر بیش از 5 میلیون بار دیده شده و بدون برچسب هستند. هیگینز متعاقباً گفت که از استفاده از Midjourney منع شده است.
اگرچه کارآگاهان توییتر به دست‌های مخدوش و چهره‌های کلاهبردار در عکس‌های تولید شده توسط هوش مصنوعی اشاره کردند، بسیاری از کاربران جریان اصلی هنوز در برابر این نوع جعل آسیب‌پذیر هستند. اکتبر گذشته، کاربران واتس‌اپ در برزیل غرق اطلاعات نادرست در مورد عادلانه بودن انتخابات ریاست‌جمهوری خود شدند و بسیاری را به شورش در حمایت از از دست دادن رئیس جمهور سابق ژایر بولسونارو برانگیخت. تشخیص ایرادات و جعلیات زمانی که شخصی که به او اعتماد دارید، به تازگی تصویری را در میانه یک چرخه خبری، روی یک صفحه نمایش کوچک به اشتراک گذاشته است، بسیار سخت تر است. واتس‌اپ به‌عنوان یک برنامه پیام‌رسانی کاملاً رمزگذاری‌شده، نمی‌تواند کارهای زیادی برای کنترل تصاویر جعلی که از طریق اشتراک‌گذاری مداوم بین دوستان، خانواده‌ها و گروه‌ها ویروسی می‌شوند، انجام دهد.
هیگینز و «فرانسوی بدون زمینه» فقط در تلاش بودند تا یک ترفند خلق کنند، اما موفقیت آنها در این که بسیاری از مردم به این باور برسند که پست‌هایشان واقعی است، مقیاس چالشی که برای رسانه‌های اجتماعی و جامعه در حال ظهور است را نشان می‌دهد.
روز سه‌شنبه، TikTok دستورالعمل‌های خود را برای ممنوعیت رسانه‌های گمراه‌کننده تولید شده توسط هوش مصنوعی به‌روزرسانی کرد. (2) خط مشی رسانه مصنوعی توییتر که آخرین بار در سال 2020 به روز شد، می گوید که کاربران نباید تصاویر جعلی را به اشتراک بگذارند که می تواند مردم را گمراه کند و “ممکن است به توییت هایی که حاوی رسانه های گمراه کننده هستند برچسب بزند.” وقتی از توییتر پرسیدم که چرا آنها برچسب جعلی را نمی زنند. شرکت تحت رهبری ایلان ماسک، تصاویر ترامپ و ماکرون را در حالی که در فضای مجازی منتشر شد، با شکلک‌هایی پاسخ داد که پاسخگوی خودکار جدید آن برای رسانه‌ها است. (3)
برخی از کاربران توییتر که تصاویر ترامپ را واقعی با هشتگ‌های جلب توجه مانند «BREAKING» قاب می‌کردند، توسط یادداشت‌های انجمن این سایت علامت‌گذاری شدند، که به کاربران اجازه می‌دهد زمینه را به توییت‌های خاصی اضافه کنند. اما موضع فزاینده آزادانه توییتر در مورد محتوا تحت نظارت ماسک نشان می دهد که تصاویر جعلی ممکن است بیش از سایرین در پلت فرم آن رشد کنند.
متا پلتفرم شرکت در سال 2020 اعلام کرد که رسانه های تولید شده توسط هوش مصنوعی را با هدف گمراه کردن مردم به طور کامل حذف می کند، اما این شرکت حداقل یک تصویر از “دستگیری ترامپ” را که به عنوان خبر واقعی توسط یکی از کاربران فیس بوک در روز چهارشنبه منتشر شده بود، حذف نکرده است. (4) متا به درخواست اظهار نظر پاسخ نداد.
بدیهی است که تشخیص تقلبی از واقعی برای مردم دشوارتر می شود زیرا ابزارهای هوش مصنوعی مولد مانند Midjourney و ChatGPT شکوفا می شوند. بنیانگذار یکی از این ابزارهای هوش مصنوعی سال گذشته به من گفت که پاسخ به این مشکل ساده است: ما باید خود را وفق دهیم. اکنون می بینم که به عکس های واقعی سیاستمداران در رسانه های اجتماعی نگاه می کنم و نیمی از این فکر می کنم که آیا آنها جعلی هستند یا خیر. ابزارهای هوش مصنوعی بسیاری از ما را دچار شک و تردید می کند. برای کسانی که راحت تر متقاعد می شوند، می توانند جرقه یک بحران اطلاعات نادرست دیگر را ایجاد کنند.
پارمی اولسون ستون نویس فناوری Bloomberg Opinion است. او خبرنگار سابق وال استریت ژورنال و فوربس، نویسنده کتاب ما ناشناس هستیم.