دیپ‌فیک‌های مبتنی بر هوش مصنوعی در سال 2023 باعث افزایش نگرانی‌ها در مورد تأثیر بر حریم خصوصی، سیاست انتخاباتی شدند.

از سیاست گرفته تا فیلم و حتی جنگ، سال 2023 نشان داده است که هر چیزی که در اینترنت می بیند یا می شنود ممکن است درست نباشد.

از آنجایی که فناوری همیشه در حال تکامل هوش مصنوعی به سرعت در حال تبدیل شدن به بخشی از زندگی مردم است، افزایش شدید فیک‌های عمیق نگرانی‌هایی را در این کشور در مورد پتانسیل آن برای تأثیرگذاری بر سیاست‌های انتخاباتی، به‌ویژه در طول انتخابات لوک سبها که قرار است سال آینده برگزار شود، ایجاد کرده است.

دیپ‌فیک‌ها ویدئوهای دستکاری شده یا دیگر نمایش‌های دیجیتالی هستند که از هوش مصنوعی برای ایجاد ویدیوها یا صداهای قانع‌کننده از افرادی استفاده می‌کنند که هرگز انجام نداده‌اند یا نگفته‌اند، و خطر انتشار اطلاعات نادرست و آسیب رساندن به شهرت آنها را به همراه دارد.

ما اکنون در واتس اپ هستیم. برای عضویت کلیک کنید.

بر اساس گزارش وضعیت Deepfakes 2023 توسط Home Security Heroes، یک شرکت خدمات امنیت وب مستقر در ایالات متحده، ویدیوهای جعلی عمیق از سال 2019 پنج برابر شده است.

در سال 2023، هند شاهد تعدادی از موارد نگران‌کننده شامل ویدیوهای جعلی عمیق بود، مانند بازیگر راشمیکا ماندانا، که چهره او بر روی چهره یک تأثیرگذار رسانه‌های اجتماعی بریتانیایی-هندی قرار گرفته بود.

این حادثه باعث ایجاد یک بحث ملی در مورد پیامدهای تقلبی عمیق شد و نگرانی هایی را در مورد تجاوز به حریم خصوصی و احتمال آسیب ایجاد کرد. چهار نفر به دلیل ایجاد و آپلود ویدیوی عمیقا جعلی در شبکه های اجتماعی دستگیر شدند.

این فقط او نبود، ستاره های دیگر سینما مانند آلیا بات، کاجول، آیشواریا رای و کاترینا کایف نیز هدف ویدیوهای جعلی عمیق قرار گرفتند.

چند ماه پیش، نخست وزیر نارندرا مودی به استفاده از هوش مصنوعی برای ایجاد جعلی های عمیق اشاره کرد و گفت که می تواند یک بحران بزرگ ایجاد کند. وی از رسانه ها خواست تا در مورد سوء استفاده و تأثیر آن صحبت کنند.

مودی گفت که اخیراً به متخصصان ChatGPT پیشنهاد کرده است که از آنجایی که محصولاتی مانند سیگار با هشدارهای بهداشتی همراه هستند، جعلی‌های عمیق نیز باید افشا شوند.

پاوان دوگال، وکیل دادگاه عالی و رئیس کمیسیون حقوق امنیت سایبری بین‌المللی گفت: «این یک فناوری نوظهور جدید است، اما به سرعت در حال تبدیل شدن به بخشی از زندگی مردم است. افراد بیشتری نه تنها توسط مجرمان سایبری، بلکه در انواع فعالیت های انسانی، از جمله فرآیندهای انتخاباتی، از دیپ فیک استفاده خواهند کرد.”

«لازم نیست راشمیکا ماندانا، کاترینا کایف یا آلیا بات باشید. ما به زودی متوجه خواهیم شد که برای کاربران عادی اینترنت تقلبی عمیق وجود خواهد داشت.»

داگال ابراز نگرانی کرد که از آنجایی که اکنون می توان با استفاده از ابزارهای آنلاین، که بسیاری از آنها به صورت رایگان در دسترس هستند، در هر ثانیه تقلبی عمیق ایجاد کرد، “ما شاهد مسمومیت بسیار بیشتری در جریان داده ها در سراسر اکوسیستم سایبری خواهیم بود.”

ما در حال حاضر ویدیوهای بسیار جعلی منتشر شده در وب سایت های پورنوگرافی را می بینیم. وی افزود: این یک چالش بزرگ خواهد بود.

در سطح جهانی، دیپ‌فیک‌ها برای شکل‌دهی روایت‌های پیرامون درگیری‌هایی مانند اوکراین و غزه استفاده شده‌اند. در هند، عامل نگران کننده استفاده بالقوه آنها در انتخابات است.

در جریان انتخابات مجلس ملی که اخیراً به پایان رسید، ویدیوهای عمیقا جعلی نه تنها رهبران سیاسی فردی را هدف قرار دادند، بلکه سعی کردند بر روایت های عمومی نیز تأثیر بگذارند. دیپ‌فیک‌هایی که شخصیت‌های عمومی مانند YS Sharmila و وزیر سابق مادهیا پرادش Shivraj Singh Chouhan را هدف قرار می‌دهند، به‌عنوان تهدیدهای بالقوه برای سیاست‌های انتخاباتی ظاهر شده‌اند.

با برنامه ریزی انتخابات عمومی برای سال آینده، وخامت اوضاع توجه قانونگذاران و کارشناسان فناوری را به خود جلب کرده است.

راجیو چاندراشکار، وزیر دولت در امور الکترونیک و فناوری اطلاعات گفت: «برای کشوری مانند کشور ما، بزرگترین دموکراسی جهان، تقلب عمیق و اطلاعات نادرست که این کشور نشان می‌دهد قطعاً یک موضوع بسیار مشکل‌ساز برای برگزاری انتخابات امن، آزاد و عادلانه است.

در میان نگرانی‌های فزاینده در مورد تقلبی‌های عمیق، دولت به همه پلتفرم‌های رسانه‌های اجتماعی دستور داد تا از قوانین فناوری اطلاعات پیروی کنند، زیرا شرکت‌ها موظف شدند به طور واضح کاربران را از محتوای ممنوعه مطلع کنند و هشدار دادند که تخلفات منجر به عواقب قانونی خواهد شد.

در یک بیانیه رسمی آمده است: وزارت فناوری اطلاعات در هفته‌های آینده به دقت بر انطباق واسطه‌ها (رسانه‌های اجتماعی و پلت‌فرم‌های دیجیتال) نظارت خواهد کرد و در صورت لزوم و در صورت لزوم، درباره اصلاحات بیشتر در قوانین فناوری اطلاعات یا قانون تصمیم‌گیری خواهد کرد.

این نامه بر سخت شدن موضع دولت در مورد این موضوع در بحبوحه نگرانی فزاینده در مورد اطلاعات نادرست مبتنی بر هوش مصنوعی-Deepfakes تاکید می کند.

با این حال، کارشناسان بر این باورند که دولت ممکن است نیاز به اقدامات بیشتری داشته باشد تا اطمینان حاصل شود که تأثیر توسعه چنین فناوری هایی تنظیم می شود.

“دولت هند متوجه شده است که به قانون حفظ حریم خصوصی داده ها نیاز دارد. این قانون وجود دارد. Pankit Desai، بنیانگذار و مدیر عامل شرکت امنیت سایبری Sequretek، گفت: اکنون باید گسترش یابد تا سوء استفاده بالقوه هوش مصنوعی و دیپ فیک را در بر گیرد تا بتوان از شهروندان و شرکت ها در برابر چنین سوء استفاده هایی در سراسر جهان محافظت کرد.