یوروپل هشدار داد سوء استفاده جنایی «تاریک» از ChatGPT در پیش است

آژانس پلیس اروپا روز دوشنبه هشدار داد که مجرمان آماده هستند تا از هوش مصنوعی مانند ChatGPT برای ارتکاب کلاهبرداری و سایر جرایم سایبری استفاده کنند.

یوروپل در گزارشی جدید اعلام کرد، از فیشینگ گرفته تا اطلاعات نادرست و بدافزارها، قابلیت‌های رو به رشد چت بات‌ها نه تنها برای بهبود بشریت بلکه برای کلاهبرداری نیز مورد استفاده قرار خواهند گرفت.

ChatGPT که توسط استارتاپ آمریکایی OpenAI ایجاد شد، در ماه نوامبر ظاهر شد و به سرعت توسط کاربرانی که از توانایی آن در پاسخگویی واضح به سوالات دشوار، نوشتن غزل یا کد و حتی شرکت در امتحان شگفت زده شده بودند، تسخیر شد.

یوروپل مستقر در لاهه گفت: «بهره برداری بالقوه از این نوع سیستم های هوش مصنوعی توسط مجرمان، چشم انداز بدی را ارائه می دهد.

“آزمایشگاه نوآوری” جدید یوروپل به طور کلی استفاده از ربات‌های گفتگو را بررسی کرد، اما در طول یک سری کارگاه‌ها بر ChatGPT تمرکز کرد زیرا محبوب‌ترین و پرکاربردترین است.

این آژانس دریافت که مجرمان می توانند از ChatGPT برای “سرعت قابل توجهی در روند تحقیقات” در مناطقی که چیزی در مورد آنها نمی دانند استفاده کنند.

این می تواند شامل تهیه پیش نویس متنی برای ارتکاب کلاهبرداری یا ارائه اطلاعات در مورد “نحوه نفوذ به خانه، تروریسم، جرایم سایبری و سوء استفاده جنسی از کودکان” باشد.

در این نسخه آمده است که توانایی ربات چت در جعل کردن سبک های گفتار، آن را به ویژه برای فیشینگ موثر می کند، جایی که کاربران وسوسه می شوند روی پیوندهای ایمیل جعلی کلیک کنند و سپس سعی می کنند داده های آنها را بدزدند.

توانایی ChatGPT در ایجاد سریع متن با صدای معتبر، آن را برای اهداف تبلیغاتی و اطلاعات نادرست ایده آل می کند، زیرا به کاربران اجازه می دهد پیام هایی را تولید و توزیع کنند که روایتی خاص را با تلاش نسبتاً کمی منعکس می کند.

ChatGPT همچنین می تواند برای نوشتن کدهای کامپیوتری، به ویژه برای مجرمان غیر فنی استفاده شود. یوروپل گفت.

در این بیانیه آمده است: «این نوع تولید کد خودکار به‌ویژه برای آن دسته از مجرمانی که دانش کمی در مورد کدنویسی و توسعه دارند یا اصلاً ندارند مفید است.

یوروپل گفت، یک مطالعه اولیه توسط شرکت اطلاعاتی مربوط به تهدیدات سایبری آمریکا و اسرائیل، Check Point Research (CPR) نشان داد که چگونه می توان از چت بات برای نفوذ به سیستم های آنلاین با ایجاد ایمیل های فیشینگ استفاده کرد.

یوروپل گفت، در حالی که ChatGPT دارای تدابیر امنیتی بود، از جمله تعدیل محتوایی که به سؤالات طبقه بندی شده به عنوان مضر یا جانبدارانه پاسخ نمی داد، اما می توان با اعلان های هوشمندانه آنها را دور زد.

او افزود که هوش مصنوعی هنوز در مراحل اولیه خود است و «انتظار می‌رود که قابلیت‌های آن در طول زمان بیشتر شود».

یوروپل گفت: «افزایش آگاهی در مورد این موضوع برای اطمینان از شناسایی و بسته شدن هر گونه شکاف احتمالی در اسرع وقت بسیار مهم است.»