جفری هینتون، پیشگام هوش مصنوعی، می‌گوید تهدید برای جهان ممکن است «فوری‌تر» از تغییرات آب و هوایی باشد
جفری هینتون، یکی از پیشگامان هوش مصنوعی، روز جمعه در مصاحبه با رویترز گفت: هوش مصنوعی ممکن است تهدیدی «فوری»تر از تغییرات آب و هوایی برای بشریت باشد.
جفری هینتون، که به طور گسترده به عنوان یکی از “پدرخوانده های هوش مصنوعی” شناخته می شود، اخیراً اعلام کرد که آلفابت را پس از یک دهه کار در این شرکت ترک می کند و گفت که می خواهد آشکارا در مورد خطرات این فناوری بدون توهین به کارفرمای سابق خود صحبت کند.
کار هینتون برای توسعه سیستم‌های هوش مصنوعی مدرن ضروری است. در سال 1986، او مقاله مهمی را با عنوان “بازنمودهای یادگیری توسط پس انتشار خطاها” نوشت که نقطه عطفی در توسعه شبکه های عصبی است که زیربنای فناوری هوش مصنوعی است. در سال 2018، جایزه تورینگ را به خاطر موفقیت های تحقیقاتی خود دریافت کرد.
اما اکنون او در میان تعداد فزاینده‌ای از رهبران فناوری است که علناً نگرانی خود را در مورد تهدید بالقوه هوش مصنوعی در صورتی که ماشین‌ها به هوش بالاتر از انسان دست یابند و کنترل سیاره را در دست بگیرند، ابراز می‌کنند.
من نمی خواهم تغییرات آب و هوایی را نادیده بگیرم. من نمی خواهم بگویم، “شما لازم نیست نگران تغییرات آب و هوایی باشید.” هینتون گفت: “این نیز یک خطر بزرگ است.”
او افزود: «با تغییرات آب و هوایی، توصیه به آنچه باید انجام دهید بسیار آسان است: فقط سوزاندن کربن را متوقف کنید. اگر این کار را انجام دهید، در نهایت همه چیز درست می شود. اصلاً مشخص نیست که در این مورد چه باید بکنید.’
OpenAI تحت حمایت مایکروسافت، مسابقه تسلیحات فناوری را در نوامبر آغاز کرد، زمانی که ربات چت مبتنی بر هوش مصنوعی ChatGPT خود را در دسترس عموم قرار داد. این اپلیکیشن به زودی تبدیل به سریع ترین برنامه در حال رشد تاریخ شد و در عرض دو ماه به ۱۰۰ میلیون کاربر ماهانه رسید.
در ماه آوریل، ایلان ماسک، مدیر عامل توییتر، هزاران نفر را در امضای نامه ای سرگشاده پیوست که در آن خواستار توقف شش ماهه در توسعه سیستم های قدرتمندتر از GPT-4 اخیراً منتشر شده توسط OpenAI شد.
امضاکنندگان عبارتند از عماد موستاک، مدیر عامل هوش مصنوعی پایداری، محققان DeepMind متعلق به آلفابت، و جاشوا بنجیو و استوارت راسل، پیشگامان هوش مصنوعی.
در حالی که هینتون با نگرانی امضاکنندگان مبنی بر اینکه هوش مصنوعی می تواند به عنوان یک تهدید وجودی برای بشریت ثابت شود، موافق است، او با توقف تحقیقات مخالف است.
او گفت: «این کاملا غیر واقعی است. من در اردوگاهی هستم که فکر می‌کند این یک خطر وجودی است و به اندازه‌ای نزدیک است که ما باید در حال حاضر سخت کار کنیم و منابع زیادی را برای کشف آنچه می‌توانیم در مورد آن انجام دهیم، اختصاص دهیم.»
در اتحادیه اروپا، هیئتی از قانونگذاران به نامه مورد حمایت ماسک که در آن از جو بایدن، رئیس جمهور ایالات متحده خواسته شده بود تا با اورسولا فون در لاین، رئیس کمیسیون اروپا، یک نشست جهانی درباره جهت گیری آینده فناوری تشکیل دهد، پاسخ دادند.
هفته گذشته، کمیته با مجموعه‌ای از پیشنهادات با هدف هدف قرار دادن هوش مصنوعی مولد موافقت کرد که شرکت‌هایی مانند OpenAI را مجبور می‌کرد هر گونه مطالب دارای حق چاپ را که برای آموزش مدل‌هایشان استفاده می‌شود، افشا کنند.
در همین حال، بایدن با تعدادی از رهبران شرکت‌های هوش مصنوعی، از جمله ساندار پیچای، مدیرعامل آلفابت و سام آلتمن، مدیر عامل OpenAI در کاخ سفید گفتگو کرد و قول داد که یک «بحث صریح و سازنده» در مورد نیاز شرکت‌ها به شفاف‌تر کردن سیستم‌های خود داشته باشند.
هینتون گفت: «رهبران فناوری این را به بهترین نحو درک می‌کنند و سیاست‌گذاران باید در این زمینه مشارکت داشته باشند. “این همه ما را تحت تاثیر قرار می دهد، بنابراین همه ما باید در مورد آن فکر کنیم.”
