تهدیدات سایبری مبتنی بر ChatGPT که باید در مورد آنها بدانید

شور و شوق ChatGPT در حال تسخیر جریان اصلی است و افراد مشهور و حتی سیاستمداران از این فناوری در زندگی روزمره خود استفاده می کنند. با این حال، در میان مردم عادی که از ابزارهای پیشرفته هوش مصنوعی (AI) بهره می‌برند، زیرمجموعه‌ای تیره‌تر و مجرم‌تر وجود دارد که از این فناوری سوء استفاده می‌کنند: هکرها.

اگرچه هکرها در ژانر نسبتاً جدید هوش مصنوعی مولد پیشرفت زیادی نکرده اند، توصیه می کنیم از نحوه استفاده آنها از این فناوری آگاه باشید. بر اساس یک پست وبلاگی توسط غول امنیت سایبری ایالات متحده Palo Alto Networks، یک بدافزار جدید اندرویدی ظاهر شده است که به عنوان ChatGPT ظاهر شده است. این بدافزار درست پس از انتشار GPT-3.5 و GPT-4 توسط OpenAI در مارس 2022 ظاهر شد و کاربران علاقه مند به استفاده از ابزار ChatGPT را هدف قرار داد.

به گفته این وبلاگ، این بدافزار شامل یک تروجان Meterpreter است که به عنوان یک برنامه “SuperGPT” ظاهر می شود. پس از بهره برداری موفقیت آمیز، امکان دسترسی از راه دور به دستگاه های اندرویدی آلوده را فراهم می کند.

گواهی امضای کد دیجیتال مورد استفاده در نمونه‌های بدافزار به مهاجمی که خود را “Hax4Us” می‌نامد مرتبط است. این گواهی قبلاً در چندین نمونه بدافزار استفاده شده است. مجموعه‌ای از نمونه‌های بدافزار که در قالب برنامه‌هایی با موضوع ChatGPT ظاهر می‌شوند، پیام‌های اس ام اس را به شماره‌های نرخ برتر در تایلند می‌فرستند، که پس از آن هزینه‌هایی برای قربانیان تحمیل می‌شود.

خطر برای کاربران اندروید از این واقعیت ناشی می شود که فروشگاه رسمی Google Play تنها جایی نیست که آنها می توانند برنامه ها را دانلود کنند، بنابراین برنامه های تأیید نشده راه خود را به گوشی های اندرویدی پیدا می کنند.

ظهور فناوری‌های پیشرفته مانند GPT-3.5 و GPT-4 OpenAI، به طور ناخواسته ایجاد تهدیدات جدید مبتنی بر هوش مصنوعی را تسهیل کرده است. گزارش فیشینگ ThreatLabz 2023 توسط Zscaler, Inc. تاکید می کند که این الگوهای پیشرفته مجرمان سایبری را قادر می سازند تا کدهای مخرب تولید کنند، حملات Business Email Compromise (BEC) را راه اندازی کنند و بدافزار چند شکلی را توسعه دهند که از شناسایی فرار می کند. علاوه بر این، عوامل مخرب از سیستم فایل بین سیاره ای (IPFS) با استفاده از شبکه غیرمتمرکز آن برای میزبانی صفحات فیشینگ استفاده می کنند و حذف آنها را دشوارتر می کنند.

فیشینگ با ChatGPT

لازم به ذکر است که تأثیر ابزارهای هوش مصنوعی مانند ChatGPT فراتر از این بدافزار خاص است. کمپین های فیشینگ که برندهای معروفی مانند مایکروسافت، بایننس، نتفلیکس، فیس بوک و ادوبی را هدف قرار می دهند، با استفاده از ChatGPT و کیت های فیشینگ که موانع فنی را برای مجرمان کاهش می دهد و در زمان و منابع آنها صرفه جویی می کند، گسترش یافته است.

در ماه آوریل، متا والدین فیس بوک در گزارشی اعلام کرد که بدافزاری که به عنوان ChatGPT ظاهر می شود در پلتفرم های آن در حال افزایش است. تیم‌های امنیتی این غول فناوری 10 خانواده بدافزار را کشف کرده‌اند که از ChatGPT و رشته‌های مشابه برای ارائه بدافزار به دستگاه‌های کاربر از مارس 2023 استفاده می‌کنند.

پیامدها بسیار گسترده است زیرا کاربران ناآگاه طعمه این حملات پیچیده می شوند.

حتی خود ChatGPT نیز آسیب‌پذیری‌هایی را تجربه کرده است که با یک اشکال اخیر نشان داده شده است که تاریخچه مکالمه و جزئیات پرداخت کاربران را نشان می‌دهد. گزارش اشکال به عنوان یادآوری خطرات مرتبط با نرم افزار منبع باز عمل می کند، زیرا می تواند به دروازه ای ناخواسته برای نقض احتمالی امنیتی تبدیل شود.

محبوبیت چت بات هکرها را به خود جذب می کند

چت ربات های مبتنی بر مدل زبان بزرگ (LLM) راه به جایی نمی برند. در واقع، آنها آینده درخشانی در مورد محبوبیت دارند، به خصوص در آسیا. بر اساس گزارش Juniper Research، منطقه آسیا-اقیانوسیه 85 درصد از هزینه های خرده فروشی جهانی در چت بات ها را به خود اختصاص خواهد داد، حتی اگر این منطقه تنها 53 درصد از جمعیت جهان را به خود اختصاص دهد. برنامه‌های پیام‌رسان با طیف گسترده‌ای از خرده‌فروشان آنلاین، که شامل WeChat، LINE و Kakao می‌شود، ارتباط دارند.

این مشارکت ها قبلاً منجر به اعتماد بالایی به چت بات ها به عنوان یک کانال خرده فروشی شده است. سپس به طور طبیعی، هکرها برای کسب درآمد سریع مخفیانه یا صرفاً برای به دست آوردن اطلاعات شخصی ارزشمند به محیط اطراف او نگاه می کنند.

مایک استار، مدیر عامل و بنیانگذار trackd، یک پلتفرم مدیریت آسیب‌پذیری و وصله نرم‌افزاری، به HT Tech گفت: «روش‌های آزموده‌شده و واقعی سازش که سال‌ها برای آدم‌های بد موفقیت به ارمغان آورده، هنوز هم برای آنها بسیار خوب عمل می‌کند: بهره‌برداری از آسیب‌پذیری‌های اصلاح‌نشده. ، سرقت هویت و نصب بدافزار اغلب از طریق فیشینگ.» به گفته Starr، مکانیسم‌های زیربنایی این سه دسته از مصالحه ممکن است تکامل یابد، اما «عناصر اساسی یکسان باقی می‌مانند».

چگونه بر کاربران تأثیر می گذارد

تهدیدات امنیت سایبری مرتبط با LLM می‌تواند تأثیرات متعددی بر روی کاربران معمولی در خانه داشته باشد، چه دانش‌آموزی که به دنبال کمک برای انجام تکالیف می‌گردد یا کسی که به دنبال مشاوره برای اداره یک کسب‌وکار کوچک است. بدون اقدامات امنیتی مناسب، LLMهایی که داده‌های شخصی مانند گزارش‌های چت یا محتوای تولید شده توسط کاربر را پردازش می‌کنند، تنها یک قدم با افشای اطلاعات کاربر فاصله دارند. دسترسی غیرمجاز به اطلاعات حساس یا نشت داده ها می تواند عواقب جدی برای کاربران داشته باشد، از جمله سرقت هویت یا سوء استفاده از داده های شخصی.

آیا این بدان معناست که هکرها می توانند روزی از طریق چت بات ها زندگی دیجیتال ما را ربودند؟ استار می گوید نه کاملاً.

اگر خراب نیست، آن را تعمیر نکنید، حتی برای عوامل تهدید سایبری. هوش مصنوعی احتمالاً اثربخشی مجرمان سایبری موجود را بهبود می‌بخشد و ممکن است ورود هکرهای نامتعارف یا کمتر فنی را به این تجارت آسان‌تر کند، اما پیش‌بینی‌های یک آخرالزمان سایبری مبتنی بر هوش مصنوعی بیشتر حاصل تخیل نویسندگان هالیوود است تا واقعیت عینی. .

بنابراین زمان وحشت نیست، اما بهتر است آگاه باشید.

در گزارشی از Recorded Future، یکی دیگر از شرکت‌های امنیت سایبری مستقر در ایالات متحده، آمده است: «در حالی که هیچ یک از این فعالیت‌ها به شدت تأثیر باج‌افزار، اخاذی از داده، انکار خدمات، تروریسم سایبری و غیره نرسیده است، این بردارهای حمله احتمالات آینده باقی می‌مانند».

برای کاهش این تأثیرات، همیشه بهتر است نسبت به اطلاعات تولید شده توسط LLM انتقاد داشته باشید، در صورت لزوم واقعیت را بررسی کنید و از سوگیری یا دستکاری احتمالی آگاه باشید.

اقدامات سایبری مورد نیاز است

ظهور تهدید بدافزار ChatGPT بر نیاز حیاتی به اقدامات امنیتی سایبری قوی تاکید می کند. از آنجایی که این بدافزار به عنوان یک برنامه قانونی ظاهر می شود، کاربران در برابر نصب ناآگاهانه بدافزار بر روی دستگاه های خود آسیب پذیر هستند. قابلیت‌های دسترسی از راه دور این بدافزار خطر قابل‌توجهی دارد و به طور بالقوه داده‌های حساس را به خطر می‌اندازد و کاربران را در معرض انواع مختلف جرایم سایبری قرار می‌دهد.

برای مقابله با این تهدید، افراد و سازمان‌ها باید اقدامات امنیت سایبری مانند به‌روزرسانی منظم نرم‌افزار، استفاده از نرم‌افزار آنتی‌ویروس قابل اعتماد و دقت در دانلود برنامه‌ها از منابع غیررسمی را در اولویت قرار دهند.

علاوه بر این، افزایش آگاهی از وجود چنین تهدیداتی و ترویج آموزش امنیت سایبری می‌تواند کاربران را قادر به شناسایی و کاهش خطرات احتمالی مرتبط با بدافزار ChatGPT و سایر تهدیدات سایبری در حال تکامل کند.

توسط Navanwita Sachdev، The Tech Panda