دیپ‌فیک‌های ستاره‌های بالیوود نگرانی‌هایی را در مورد دخالت هوش مصنوعی در انتخابات هند افزایش می‌دهد

در ویدئوهای جعلی که در فضای مجازی منتشر شده است، دو تن از بازیگران بالیوود هندی دیده می‌شوند که از نارندرا مودی، نخست‌وزیر هند انتقاد می‌کنند و از مردم می‌خواهند در انتخابات عمومی جاری کشور به حزب مخالف کنگره رای دهند.

در یک ویدیوی 30 ثانیه ای که عامر خان و یک کلیپ 41 ثانیه ای دیگر از رانویر سینگ را نشان می دهد، ظاهراً این دو بازیگر بالیوود می گویند مودی نتوانسته به وعده های انتخاباتی خود عمل کند و در دو دوره نخست وزیری خود نتوانسته به مسائل مهم اقتصادی رسیدگی کند.

هر دو ویدیوی تولید شده توسط هوش مصنوعی با نماد انتخابات کنگره و شعار «به عدالت رأی دهید، به کنگره رأی دهید» پایان می یابد.

بررسی رویترز نشان داد که این دو ویدیو از هفته گذشته بیش از نیم میلیون بار در رسانه های اجتماعی دیده شده است.

گسترش آنها بر نقش بالقوه ای که چنین محتوای تولید شده توسط هوش مصنوعی می تواند در انتخابات عمومی هند که از روز جمعه آغاز شد و تا ژوئن ادامه دارد، ایفا کند، تأکید می کند. تقلبی یا دیپ فیک تولید شده توسط هوش مصنوعی و هوش مصنوعی به طور فزاینده ای در انتخابات در سایر نقاط جهان از جمله در ایالات متحده، پاکستان و اندونزی استفاده می شود.

مبارزات انتخاباتی در هند مدت‌هاست که بر تبلیغات خانه به خانه و راهپیمایی‌های عمومی متمرکز شده است، اما استفاده گسترده از واتس‌اپ و فیس‌بوک به‌عنوان ابزارهای تبلیغاتی در سال 2019 آغاز شد. انتخابات عمومی امسال – که در آن انتظار می‌رود مودی برای سومین دوره نادری انتخاب شود – اولین کسی که از هوش مصنوعی استفاده کرد.

سوجاتا پل، سخنگوی کنگره، ویدیوی بازیگر سینگ را با 16000 دنبال کننده X خود در 17 آوریل به اشتراک گذاشت و تا بعد از ظهر شنبه، پست او 2900 بار مجدداً به اشتراک گذاشته شد، 8700 بار لایک شد و 438000 بازدید دریافت کرد.

پل تلفنی به رویترز گفت که می‌دانست این ویدیو توسط X به عنوان “رسانه دستکاری شده” پرچم‌گذاری شده است، اما نمی‌خواهد آن را حذف کند، زیرا هنگام ارسال پست، فکر می‌کرد که این مرد شبیه سینگ است و “قطعاً خلاقیت دارد.” .

ساعاتی پس از ارسال درخواست رویترز برای اظهار نظر به رئیس بخش رسانه های اجتماعی کنگره که پاسخی نداد، این پست دیگر در روز یکشنبه در X قابل مشاهده نبود.

هر دو بازیگر گفتند که این ویدئوها جعلی است. فیسبوک، ایکس و حداقل هشت وب‌سایت راستی‌آزمایی گفتند که تغییر یا دستکاری شده‌اند، که واحد تأیید دیجیتال رویترز تأیید کرد.

رویترز نتوانست سازنده این ویدئوها را شناسایی کند. به گفته سخنگوی این دو بازیگر، خان از ویدئوی “جعلی” ویروسی “مضطرب” شد و تیم سینگ در حال بررسی این موضوع بودند. سینگ روز جمعه در X نوشت: “مراقب دوستان جعلی عمیق باشید.”

دفتر مودی و رئیس فناوری اطلاعات حزب بهاراتیا جاناتا به درخواست‌ها برای اظهار نظر پاسخ ندادند.

تحقیق پلیس

نزدیک به 900 میلیون نفر در هند به اینترنت دسترسی دارند و مطالعه ای که توسط سازمان تحقیقاتی Esya Center و موسسه هندی مدیریت دانشکده بازرگانی انجام شد، نشان داد که یک هندی به طور متوسط ​​بیش از سه ساعت در روز را در رسانه های اجتماعی سپری می کند. این کشور نزدیک به یک میلیارد رای دهنده دارد.

برخی از نسخه‌های ویدیو در رسانه‌های اجتماعی مسدود شدند، اما حداقل ۱۴ نسخه هنوز در روز شنبه در X قابل مشاهده بودند. فیس‌بوک دو ویدیوی پرچم‌گذاری شده توسط رویترز را حذف کرد، اما یکی دیگر همچنان قابل مشاهده بود.

فیس‌بوک در بیانیه‌ای اعلام کرد که به دلیل نقض سیاست‌های خود، فیلم‌ها را حذف کرده است. X به سوالات رویترز پاسخ نداد.

این ویدئوها تحقیقات پلیس را آغاز کرد و خان ​​در 17 آوریل پرونده ای را در بمبئی علیه افراد ناشناس به اتهام جعل هویت و کلاهبرداری برای ساخت این فیلم جعلی ثبت کرد.

پلیس بمبئی به درخواستی برای اظهار نظر پاسخ نداد، اما دو مقامی که روی پرونده خان کار می‌کنند، که نامشان فاش نشد، گفتند که به فیس‌بوک و ایکس برای حذف این ویدئو نامه نوشته‌اند و شرکت‌ها گفتند این کار انجام شده است.

افسران گفتند تا ساعت 2 بامداد جمعه کار کردند و صفحات را به روز کردند تا بررسی کنند که ویدیوهای آنلاین خان حذف شده است. یکی از آنها در پاسخ به سوالی درباره پیشرفت این پرونده گفت: چنین بررسی های فنی زمان می برد.

ویدیوی DEAD FTHER AI

در انتخابات امسال، سیاستمداران از هوش مصنوعی به روش های دیگری استفاده می کنند.

در جنوب هند، سخنگوی ویجی واسانث، رهبر کنگره، گفت که تیم او با استفاده از هوش مصنوعی یک کلیپ صوتی-تصویری 2 دقیقه ای ایجاد کرد که در پلتفرم های رسانه های اجتماعی به اشتراک گذاشته شد و پدر او که اکنون مرده اما محبوب تر است، به دنبال رأی دادن است برای او.

این سیاستمدار فقید دیده می شود که می گوید “با وجود اینکه بدنم شما را ترک کرده است، اما روح من هنوز اینجاست.”

در ویدئوهایی که توسط حزب کمونیست مارکسیست هند (CPM) در یوتیوب منتشر شده است، ساماتا، مجری تولید شده توسط هوش مصنوعی، با لباس ساری سنتی و به سبکی صحبت می کند که شبیه کانال های خبری معمولی است، از حزب حاکم در ایالت بنگال غربی انتقاد می کند. .

در یکی از کلیپ ها، مجری مدعی شد که طرف به محیط زیست اهمیت نمی دهد زیرا بسیاری از آب ها به دلیل ساخت و ساز غیرقانونی ناپدید شده اند.

سخنگوی حزب حاکم این اتهام را رد کرد و گفت که دولت ایالتی تضمین کرده است که چنین ساخت و سازهایی صورت نگیرد. CPM به درخواست‌ها برای اظهار نظر پاسخ نداد.

در این ویدئو که 12000 بار دیده شده است، مجری سماتا می گوید: اینها سوالاتی است که ما شهروندان این شهر باید به آن فکر کنیم.

(گزارش توسط Aditya Kalra در دهلی نو، Munsif Vengattil در Bengaluru و Dhwani Pandya در بمبئی؛ گزارش اضافی توسط Hardik Vyas، Carmel Jaeslin B، Arpan Chaturvedi، Rishika Sadam، Shivangi Acharya، Jatindra Dash، Subrata Nag Choudhury Nag Choudhury؛ ویرایش توسط Gopalaju)

یک چیز دیگر! ما اکنون در کانال های واتس اپ هستیم! ما را در آنجا دنبال کنید تا هیچ به روز رسانی دنیای فناوری را از دست ندهید. برای دنبال کردن کانال واتساپ HT Tech کلیک کنید اینجا برای پیوستن در حال حاضر!