رئیس تحقیقات NSA می گوید جاسوسان ایالات متحده باید مدل های هوش مصنوعی خصوصی را شنود کنند

یک مقام ارشد جاسوسی ایالات متحده گفت آژانس های اطلاعاتی باید از هوش مصنوعی در دسترس تجاری استفاده کنند تا با دشمنان خارجی که همین کار را انجام می دهند همگام باشند – در حالی که مطمئن باشند خطرات حریم خصوصی و نگرانی های گسترده تر در مورد سوء استفاده از فناوری به سرعت در حال توسعه را برطرف می کنند.

گیلبرت هررا، مدیر تحقیقات آژانس امنیت ملی در مصاحبه ای گفت: جامعه اطلاعاتی باید راهی برای استفاده از این الگوهای بزرگ بدون نقض حریم خصوصی بیابد. اگر بخواهیم قدرت کامل هوش مصنوعی را برای سایر کاربردها درک کنیم، احتمالاً باید به مشارکت با صنعت تکیه کنیم.

هررا گفت که او می‌خواهد NSA بتواند از مدل‌های تجاری بزرگ هوش مصنوعی که در اینترنت باز آموزش داده شده‌اند، استفاده کند و به شرکت‌هایی اشاره کرد که به حجم وسیعی از داده‌ها دسترسی دارند، مانند متای فیسبوک، شرکت آلفابت، گوگل. و شرکت مایکروسافت، که مالک GitHub نیز می باشد، به عنوان یک مخزن کد توسط توسعه دهندگان نرم افزار استفاده می شود.

او اذعان کرد که استفاده از مدل‌های هوش مصنوعی تجاری موجود، خطر وارد کردن الگوریتم‌های بالقوه مغرضانه را به مأموریت‌های جاسوسی طبقه‌بندی‌شده دارد. او گفت که نیازهای اطلاعاتی بدون دسترسی به داده‌های اساسی مردم و شرکت‌های آمریکایی که برای آموزش و توسعه مدل‌ها استفاده می‌شوند، برآورده می‌شوند.

وی در حاشیه یک اجلاس گفت: «اگر از مدلی استفاده می‌کردیم که در جهان آموزش دیده بود، به داده‌ها دسترسی نداشتیم، فقط درخت‌های تصمیم‌گیری را در اختیار داشتیم که اطلاعات مورد نظر ما را از آن استخراج می‌کرد. در مورد درگیری مدرن، که در دانشگاه واندربیلت برگزار شد،

شورای امنیت ملی و دفتر مدیر اطلاعات ملی بلافاصله به درخواست ها برای اظهار نظر پاسخ ندادند.

هشدار هررا پس از ملاقات معاون رئیس جمهور کامالا هریس در روز پنجشنبه با مدیران عامل آلفابت، مایکروسافت و OpenAI منتشر شد. و آنتروپیک، و گفت کاخ سفید از تلاش‌ها برای کاهش آسیب‌های احتمالی فناوری هوش مصنوعی حمایت می‌کند. هریس گفت که کسب و کارها باید با دولت همکاری کنند تا تدابیری را برای حفاظت از حقوق مدنی و حریم خصوصی و جلوگیری از اطلاعات نادرست و تقلب فراهم کنند.

شرکت های وال استریت شروع به تطبیق برخی از فناوری های هوش مصنوعی کرده اند. هفته گذشته، JPMorgan Chase & Co. یک مدل مبتنی بر هوش مصنوعی ارائه کرد که هدف آن رمزگشایی پیام‌های فدرال رزرو و کشف سیگنال‌های تجاری بالقوه است.

حتی اگر اتکا به هوش مصنوعی تجاری امکان پذیر باشد، پیشنهاد هررا می تواند رهنمودهای دفتر مدیر اطلاعات ملی در سال 2020 را تضعیف کند که می گوید آژانس های جاسوسی ایالات متحده باید “حفظ پاسخگویی در مورد تکرارها، نسخه ها و تغییرات” ایجاد شده در هر مدل هوش مصنوعی باشند. و برای شناسایی و کاهش “سوگیری ناخواسته”.

هررا هشدار داد که ایالات متحده هنوز باید راهی برای حل این مشکل بیابد، زیرا دشمنان از هوش مصنوعی تجاری سوء استفاده خواهند کرد. او با اشاره به گسترش دوربین های مدار بسته و سایر مجموعه های داده در چین گفت کسانی که از داده های بزرگ استفاده می کنند، مزیتی خواهند داشت. چین گفته است که می خواهد تا سال 2030 به رهبر جهانی هوش مصنوعی تبدیل شود.

هررا گفت: “مشکل استفاده از اطلاعات آموزش دیده عمومی توسط جامعه اطلاعاتی مشکلی است که ما باید با آن مقابله کنیم، زیرا در غیر این صورت قابلیت های هوش مصنوعی وجود خواهد داشت که ما نمی توانیم از آنها استفاده کنیم.” این ما را در موقعیتی قرار می‌دهد که دشمنان می‌توانند از این فناوری نهایت استفاده را ببرند و ما نمی‌توانیم.»

هررا گفت که مدل‌های الگوریتمی شرکت‌های خصوصی می‌تواند برای کار کدگذاری آژانس امنیت ملی و نوشتن گزارش‌های ارزیابی اطلاعات طبقه‌بندی شده مفید باشد.

هررا گفت: “همه چیز باید به گونه ای انجام شود که به آزادی های مدنی و حریم خصوصی احترام بگذارد.” “این یک مشکل سخت است.”