نسلی از هوش مصنوعی که موج حملات پیچیده ایمیل را هدایت می کند

بر اساس گزارشی که روز چهارشنبه توسط یک شرکت جهانی امنیت ایمیل مبتنی بر ابر منتشر شد، ابزارهای مولد هوش مصنوعی مانند ChatGPT به افزایش حملات ایمیل پیچیده دامن می زنند.

رهبران امنیتی از زمان راه‌اندازی ChatGPT نگران احتمال حملات ایمیلی ایجاد شده توسط هوش مصنوعی بوده‌اند و ما شروع به تأیید این ترس‌ها می‌کنیم.

این شرکت گفت که اخیراً تعدادی از حملات را که حاوی زبانی بود که به شدت مشکوک به نوشتن توسط هوش مصنوعی بود، متوقف کرده است.

تهدیدات سطح بالا همیشه از هوش مصنوعی استفاده کرده اند. دن شیبلر، رئیس یادگیری ماشینی در Abnormal و نویسنده این گزارش گفت: هوش مصنوعی مولد برای آن‌ها مشکل بزرگی نیست، زیرا آنها قبلاً به ابزارهایی برای فعال کردن این نوع حملات دسترسی داشتند.

او به دیجیتال تو گفت: «آنچه هوش مصنوعی مولد انجام می‌دهد تجاری‌سازی حملات پیچیده است، بنابراین ما شاهد تعداد بیشتری از آنها هستیم.

او ادامه داد: «ما شاهد افزایش حملات ایمیل تجاری (BEC) بوده‌ایم که این نوع فناوری‌ها انجام آن‌ها را آسان‌تر می‌کنند.

او افزود: «راه اندازی ChatGPT نقطه عطفی برای کاربران بود، اما راه اندازی GPT3 در سال 2020 تهدیدها را قادر ساخت تا از هوش مصنوعی در حملات ایمیل استفاده کنند.

برنامه وحشتناک

میکا آلتو، بنیانگذار و مدیرعامل Hoxhunt، ارائه‌دهنده راه‌حل‌های آگاهی امنیتی سازمانی مستقر در هلسینکی، به دیجیتال تو گفت که مهاجمان از فناوری هوش مصنوعی برای ایجاد کمپین‌های متقاعدکننده‌تر BEC و توسعه کیت‌های حمله پیچیده‌تر BEC استفاده می‌کنند. وب تاریک

او گفت: “طبق تحقیقات خود ما، مهندسان اجتماعی انسان هنوز در ساخت ایمیل های فیشینگ بهتر از مدل های زبان بزرگ هستند، اما این شکاف در حال کاهش است.” هکرها در مهندسی سریع و دور زدن پادمان های سوء استفاده از ChatGPT برای کمپین های BEC بهتر می شوند.

شیبلر خاطرنشان کرد: یکی از کاربردهای بسیار ترسناک این فناوری، ارسال مجدد یک حمله است. “

او توضیح داد: «یک سیستم می‌تواند حمله را ارسال کند، تعیین کند که آیا به گیرندگان رسیده است یا خیر، و در صورت شکست، چندین بار حمله را اصلاح کند. اساساً یاد می‌گیرد که دفاع چگونه کار می‌کند و حمله را برای استفاده از آن اصلاح می‌کند.»

در گزارش خود، Abnormal نشان داد که چگونه از هوش مصنوعی مولد در سه حمله علیه مشتریانش استفاده شده است – یک حمله فیشینگ اعتبار، یک حمله سنتی BEC و یک حمله جعل فروشنده.

در این گزارش اشاره شد که این سه نمونه تنها درصد کوچکی از حملات ایمیلی ایجاد شده توسط هوش مصنوعی هستند که اکنون Abnormal تقریباً به صورت روزانه مشاهده می کند.

متأسفانه، با ادامه پیشرفت فناوری، این امر ادامه یافته است، جرایم سایبری با آن تکامل می‌یابد و حجم و پیچیدگی این حملات همچنان افزایش می‌یابد.

دیگر خبری از انگلیسی شکسته نیست

ابزارهای مولد هوش مصنوعی می توانند اثربخشی یک کمپین فیشینگ را افزایش دهند، به ویژه آنهایی که منشا آن خارج از ایالات متحده است.

Dror Lewer، یکی از بنیانگذاران Coro، یک شرکت امنیت سایبری مبتنی بر ابر، توضیح داد: “بسیاری از حملات ایمیلی خارج از ایالات متحده و از افراد غیر بومی سرچشمه می گیرند، و در نتیجه ایمیل هایی با مشکلات گرامری آشکار و لحن صدای غیرمعمول ایجاد می شود که باعث ایجاد شک در گیرنده می شود.” مستقر در تل آویو، اسرائیل.

او به دیجیتال تو گفت: «هوش مصنوعی مولد به فرستنده اجازه می‌دهد یک ایمیل شخصی‌شده، محاوره‌ای و بسیار معتبر ایجاد کند که باعث سوء ظن نشود و منجر به افتادن کاربران بیشتری در دام شود.

جیمز مک‌کویگان، مدافع آگاهی امنیتی در KnowBe4، ارائه‌دهنده آموزش آگاهی امنیتی در کلیرواتر، فلوریدا، اضافه کرد: «زمینه و دستور زبان مناسب محتوا را باورپذیرتر می‌کند و کمتر احتمال دارد که برای کاربر مشکوک باشد».

او به دیجیتال تو گفت: «علاوه بر این، هوش مصنوعی مولد می‌تواند اطلاعات یک سازمان را از اینترنت برای ایجاد یک کمپین فیشینگ هدفمند یا معقول‌تر استخراج کند.»

جوی استنفورد، رئیس امنیت و حریم خصوصی جهانی در Platform.sh، یک پلتفرم جهانی به عنوان ارائه‌دهنده خدمات، خاطرنشان کرد که حملات ایمیلی ایجاد شده با هوش مصنوعی مولد می‌توانند واقعی‌تر و قانع‌کننده‌تر به نظر برسند، زیرا از تکنیک‌های زبانی پیچیده و مجموعه‌های بزرگی از جزئیات ایمیل‌های فیشینگ استفاده می‌کنند. .

او به دیجیتال تو گفت: «این به بازیگران بد اجازه می‌دهد تا به طور خودکار ایمیل‌های فیشینگ جدید و قانع‌کننده‌ای تولید کنند که شناسایی آن‌ها سخت‌تر است. در گزارش اخیر Darktrace فاش شده است: «ابزارهای مولد هوش مصنوعی مانند ChatGPT OpenAI ممکن است پشت افزایش ۱۳۵ درصدی ایمیل‌های فیشینگ با استفاده از این تکنیک‌ها باشند.»

با هوش مصنوعی با هوش مصنوعی مبارزه کنید

استنفورد معتقد است که سازمان‌ها می‌توانند در سطح شبکه در برابر حملات ایمیلی ایجاد شده با هوش مصنوعی با استفاده از ابزارهای امنیت سایبری هوش مصنوعی دفاع کنند. او توضیح داد که این ابزارها می توانند فعالیت ایمیل های غیرعادی و مخرب را در زمان واقعی و بدون تکیه بر دانش قبلی از تهدیدات گذشته شناسایی کرده و به آنها پاسخ دهند.

او گفت: “این ابزارها همچنین می توانند به سازمان ها کمک کنند تا کارکنان خود را در مورد نحوه شناسایی و گزارش ایمیل های فیشینگ و اجرای سیاست های امنیتی و بهترین شیوه های شبکه آموزش دهند.”

او اذعان کرد که این ابزارها جدید هستند و به سرعت در حال توسعه هستند، اما به نظر می رسد مبارزه با هوش مصنوعی به دلایل مختلف بهترین راه حل برای این مشکل است. آنها عبارتند از:

• حملات هوش مصنوعی مولد پویا و تطبیقی ​​هستند و می توانند از مدل های امنیتی سنتی که بر دانش قبلی از تهدیدات گذشته متکی هستند اجتناب کنند.
• ابزارهای هوش مصنوعی خودآموز می توانند فعالیت ایمیل غیرعادی و مخرب را در زمان واقعی و بدون دخالت انسان یا قوانین از پیش تعریف شده شناسایی کرده و به آن پاسخ دهند.
• ابزارهای هوش مصنوعی همچنین می‌توانند محتوا و زمینه ایمیل‌ها و متن‌ها را تجزیه و تحلیل کنند و هر مورد مشکوک یا مخرب را برای بررسی یا اقدام بیشتر علامت‌گذاری کنند.
• ابزارهای هوش مصنوعی می توانند به آموزش و توانمندسازی تیم های علم داده و امنیت برای همکاری و ایجاد یک برنامه امنیتی فعال و جامع هوش مصنوعی کمک کنند.

فراتر از هوش مصنوعی تا تحلیل رفتاری

با این حال، جان بامبنک، شکارچی اصلی تهدید در Netenrich، یک شرکت فناوری اطلاعات و امنیت دیجیتال در سن خوزه، کالیفرنیا، در درازمدت نمی‌توان مشکل هوش مصنوعی مولد را با هوش مصنوعی بیشتر حل کرد.

او به دیجیتال تو گفت: «آنچه لازم است این است که از منظر تحلیل رفتاری به موارد عادی و غیرعادی نگاه کنیم و متوجه شویم که ایمیل ناامن و ناامن است. هر چه چیزی اهمیت بیشتری داشته باشد، کمتر باید به ایمیل تکیه کند.»

او افزود: “کلید هنوز یکسان است، قبل از اقدام در مورد ایمیل، دو بار فکر کنید، به خصوص اگر چیزی حساس مانند تراکنش مالی یا درخواست احراز هویت باشد.”

مک‌کویگان توصیه می‌کند چه ایمیل توسط هوش مصنوعی، یک ربات یا یک انسان تولید شده باشد، مراحل تأیید آن ثابت می‌ماند. گیرنده باید سه سوال بپرسد: آیا این ایمیل غیرمنتظره است؟ آیا از کسی است که نمی شناسم؟ آیا از من خواسته می شود که کاری غیرعادی انجام دهم یا عجله داشته باشم؟

او گفت: «اگر پاسخ هر یک از این سؤالات مثبت است، لطفاً زمان بیشتری را برای تأیید اطلاعات موجود در ایمیل اختصاص دهید.

او توصیه کرد: «چند دقیقه وقت اضافی برای تأیید پیوندها، منبع ایمیل و درخواست می‌تواند هزینه‌ها یا منابع اضافی را کاهش دهد زیرا شخصی روی پیوندی کلیک کرده و خطر نقض داده‌ها را برای سازمان ایجاد کرده است».