هوش مصنوعی در سال 2024 تغییرات عمده ای در روند امنیت سایبری ایجاد می کند

با تکامل مداوم هوش مصنوعی و محاسبات کوانتومی، سال 2024 برای پیشرفت های قابل توجهی آماده می شود زیرا سازمان ها به طور فزاینده ای با استفاده از این فناوری های پیشرفته نوآوری می کنند.

با این حال، این جهش فناوری با افزایش تهدیدات سایبری پیچیده همراه بوده است. یک نگرانی جدی سوء استفاده از هوش مصنوعی مولد توسط بازیگران مخرب – یا نسل AI است. اکنون کسب‌وکارها با چالش‌های پیچیده‌ای روبرو هستند: افزایش حملات باج‌افزار، افزایش جاسوسی سایبری تحت حمایت دولت، و وظیفه رو به رشد تأمین امنیت اینترنت اشیا (IoT) که همیشه در حال گسترش است.

در عین حال، استفاده نادرست از فناوری منجر به توسعه بدافزار نظارت غیرفعال پیچیده‌تر می‌شود که سیستم‌ها، نرم‌افزارها و آسیب‌پذیری‌های خاصی را هدف قرار می‌دهد.

علاوه بر این، ادغام هوش مصنوعی در حملات سایبری برای ساده‌سازی این عملیات، کاهش هزینه‌ها و منجر به کمپین‌های پیچیده‌تر فیشینگ و اطلاعات نادرست تنظیم شده است.

Mihoko Matsubara، استراتژیست ارشد امنیت سایبری در خدمات فناوری اطلاعات و شرکت مشاوره NTT، گفت: مجرمان سایبری و بازیگران دولتی در حال حاضر از هوش مصنوعی برای ایجاد کمپین های فیشینگ، نوشتن کدهای مخرب یا شناسایی سیستم های آسیب پذیر برای بهره برداری استفاده می کنند.

طرف مقابل هوش مصنوعی در دفاع سایبری

با این حال، هوش مصنوعی با بهبود قابلیت‌های تشخیص و تحلیل، بر استراتژی‌ها و فناوری‌های امنیت سایبری نیز تأثیر خواهد گذاشت. نتیجه، پاسخ دفاعی به اطلاعات نادرست، فیشینگ، بدافزار و رفتار غیرعادی را بهبود می‌بخشد. همچنین راه را برای عملیات امنیتی خودکار و کارآمد و رسیدگی به چالش های نیروی کار هموار می کند.

متخصصان امنیت سایبری همچنین هوش مصنوعی مولد را در اتوماسیون وظایف، تجزیه و تحلیل داده‌ها و تحقیقات آسیب‌پذیری مفید یافته‌اند. به عنوان مثال، تحقیقات NTT Security Holdings مشاهده کرد که هوش مصنوعی مولد کارایی و دقت را برای شناسایی سریع سایت‌های فیشینگ به حداکثر می‌رساند.

نیکول کاریگنان، معاون هوش مصنوعی سایبری استراتژیک در Darktrace، اضافه کرد که ژنرال هوش مصنوعی درها را برای ارائه ابزارهای تهاجمی به روی بازیگران تازه کار تهدید باز کرده است. اثربخشی این ابزارها فقط به اندازه کسانی است که آنها را هدایت می کنند.

در بلندمدت، استفاده از هوش مصنوعی تهاجمی را در طول چرخه حیات حمله پیش بینی می کند. این می تواند شامل استفاده از پردازش زبان طبیعی یا مدل های زبان بزرگ برای درک زبان نوشتاری و ایجاد ایمیل های فیشینگ متنی در مقیاس باشد.

روش دیگر، می‌تواند شامل استفاده از طبقه‌بندی تصویر برای سرعت بخشیدن به استخراج اسناد حساس به محض اینکه محیط در معرض خطر قرار می‌گیرد و مهاجمان به دنبال مواد ارزشمند هستند، باشد.

کاریگنان به دیجیتال تو گفت: «هوش مصنوعی به ماشین‌ها اجازه می‌دهد تا حملات منحصربه‌فردی را در مقیاس اجرا کنند – همیشه روشن، همیشه در حال تغییر با سرعت ماشین.

روندهای کلیدی به سمت یک محیط امنیتی بهتر

هوش مصنوعی وعده داده است که در سال 2024 بر رفتار مجرمان سایبری و استراتژی های امنیت سایبری تأثیر بگذارد. کارشناسان سایبری NTT شاهد چهار روند کلیدی دیگر با تأثیرات گسترده بر چشم انداز امنیتی در سال جاری و پس از آن هستند.

به گفته دیوید بیباوت، مدیر ارشد امنیت اطلاعات NTT، حفظ اعتماد به نتایج انتخابات یک عامل حیاتی خواهد بود. توانایی اعتبارسنجی و ثبت نتایج به صورت دستی برای رسیدگی به مسائل مشکوک در ایالات متحده اهمیت فزاینده ای پیدا خواهد کرد.

او به دیجیتال تو گفت: «انتظار می رود این تغییر به سمت پایداری و اعتبار نتایج در سال 2024 برجسته تر شود.

پیش‌بینی دوم برای امنیت سایبری بهتر مبتنی بر اجرای چارچوبی با اعتماد صفر است. چشم انداز امنیتی به طور فزاینده ای تیره می شود و نیاز به روش های احراز هویت بهبود یافته برای مقابله با تهدیدات نوظهور مانند دور زدن MFA از طریق تکنیک هایی مانند حملات تزریق JSON Web Token (JWT) را برجسته می کند.

در نتیجه، Zero Trust از یک روند داغ به چارچوبی تبدیل خواهد شد که در بسیاری از بخش‌های سازمان‌ها برای بهبود حفاظت امنیتی پیاده‌سازی می‌شود.

تارو هاشیموتو، همکار بازدیدکننده CSIS و مدیر ارشد امنیت سایبری در NTT، به دیجیتال تو گفت: «اعتماد صفر دیگر یک کلمه کلیدی نیست، بلکه یک مفهوم اصلی است که سازمان‌ها برای بهبود اقدامات امنیت سایبری خود اجرا می‌کنند.

آمادگی کوانتومی برای سال 2024

سومین پیش بینی امنیت سایبری NTT برای سال 2024 بر روی تهدید کوانتومی در حال ظهور متمرکز است. بعید است در سال جدید شاهد پذیرش گسترده فناوری کوانتومی نوپای توسط هکرها و تهدیدها باشیم. با این حال، یک فوریت برای آماده شدن برای ورود او وجود دارد.

این اقدامات در حال انجام است و کاخ سفید با صدور یادداشتی به آژانس‌های فدرال دستور داد تا مقدمات را آغاز کنند و NIST به انتشار پیش‌نویس‌هایی از چندین الگوریتم بالقوه رمزنگاری پس کوانتومی (PQC) دستور داد.

به گفته کازوهیرو گومی، رئیس و مدیر عامل NTT Research، با توجه به زمان طولانی مهاجرت سیستم ها، سال 2024 شاهد تمرکز مداوم بر آماده سازی سیستم ها و برنامه های کاربردی برای استفاده از محاسبات کوانتومی خواهد بود.

او به دیجیتال تو گفت: «در حالی که زمان‌بندی تهدیدات ناشی از محاسبات کوانتومی مقیاس‌پذیر هنوز حدس و گمان است، نیاز به آماده‌سازی برای این تهدید واقعی است.

چالش در مدیریت امنیت رمزگذاری برای کسانی است که به قابلیت های کوانتومی دسترسی ندارند. گومی افزود، همچنین برنامه ریزی دفاعی در برابر کسانی که چنین قابلیت هایی دارند، پس از گسترش بیشتر ضروری است.

پیشرفت در رمزنگاری و رمزگذاری

در سال 2024، محققان سایبری انتظار دارند تا شاهد ادامه رمزنگاری و رمزگذاری برای کشف راه‌های جدید برای محافظت از داده‌ها، هم در حالت استراحت و هم در فضای ابری باشند. تکامل سیستم های رمزگذاری پیشرفته، مانند رمزگذاری مبتنی بر ویژگی (ABE)، چشم انداز جالبی را برای پذیرش در دنیای واقعی ارائه می دهد.

با این حال، نگرانی‌های مربوط به حریم خصوصی به دلیل فقدان حفظ حریم خصوصی تضمین شده در تعامل با مدل‌های هوش مصنوعی باقی می‌ماند. از آنجایی که این تعامل‌ها می‌توانند حتی اطلاعات حساس‌تری نسبت به جست‌وجوهای متداول داشته باشند، این امکان برای محققان وجود دارد که چشم‌انداز حل و فصل تعاملات خصوصی با چنین مدل‌هایی را بررسی کنند.

برنت واترز، مدیر آزمایشگاه رمزنگاری و امنیت اطلاعات (CIS) در تحقیقات NTT خاطرنشان کرد: یکی از زمینه‌های بالقوه مورد علاقه در جامعه تحقیقاتی رمزنگاری، گسترش جستجوهای خصوصی برای پوشش تعاملات خصوصی با سیستم‌های هوش مصنوعی است.

افزایش سریع و کاربرد مدل‌های زبان بزرگ مانند ChatGPT، صنایع مختلف را متحول کرده است. با این حال، نگرانی های حفظ حریم خصوصی ممکن است پتانسیل این فناوری ها را متوقف کند. او به دیجیتال تو گفت: تصور می کنم جامعه تحقیقاتی امکان تعامل خصوصی با این نوع فناوری های هوش مصنوعی را بررسی کند.

تاثیر هوش مصنوعی بر امنیت سایبری

هوش مصنوعی اکنون می تواند بر حوزه امنیت سایبری بسیار فراتر از اتوماسیون وظایف ساده تأثیر مثبت بگذارد. Piyush Pandey، مدیر عامل شرکت امنیتی ERP Pathlock گفت: از اتوماسیون پاسخ هوشمند گرفته تا تجزیه و تحلیل رفتار و اولویت‌بندی اصلاح آسیب‌پذیری‌ها، هوش مصنوعی در حال حاضر ارزش افزوده در امنیت سایبری دارد.

همانطور که هوش مصنوعی وظایف بیشتری را در امنیت سایبری خودکار می کند، نقش متخصصان امنیت سایبری به جای تبدیل شدن به یک کالا، تکامل می یابد. او به دیجیتال تو گفت: متخصصان با استعداد امنیت سایبری با ذهنیت رشد، با ارائه بینش‌های عملی برای هدایت اجرای هوش مصنوعی داخلی، ارزش فزاینده‌ای خواهند داشت.

به گفته پاندی به نقل از فیلم اوپنهایمر، ظهور نسل هوش مصنوعی باعث ایجاد یک مسابقه تسلیحاتی بین شرکت ها، دولت ها و مجرمان سایبری در مقیاسی که بی شباهت به عصر اتمی نیست، است.

ادعاهای فزاینده در مورد نقش هوش مصنوعی در راه حل های امنیتی را به عنوان منادی استفاده سریع از آن در امنیت ایمیل در سال آینده می داند.

او پیش‌بینی کرد: «شاید به همان سرعتی که راه‌حل‌های امنیت ابری سیستم‌های امنیت سایبری را در طول همه‌گیری متحول کردند» و پتانسیل تکامل سریع در این زمینه را برجسته کرد.