پدرخوانده هوش مصنوعی گوگل را ترک می کند تا آزادانه تر در مورد فناوری صحبت کند

جفری هینتون، پیشگام هوش مصنوعی، روز دوشنبه بسیاری را غافلگیر کرد، هنگامی که فاش کرد شغل خود را در گوگل ترک خواهد کرد، جایی که دهه گذشته را در پروژه های هوش مصنوعی گذرانده است.

هینتون بریتانیایی الاصل که اکنون 75 سال دارد، که اغلب به دلیل کارهای پیشگامانه‌اش که زیربنای بسیاری از سیستم‌های هوش مصنوعی امروزی است، «پدرخوانده هوش مصنوعی» خوانده می‌شود، به نیویورک تایمز گفت که نگرانی‌های جدی‌ای در مورد سرعت افرادی مانند Open AI دارد. ابزار ChatGPT آن، و Google، همراه با Bard، در حال کار برای توسعه محصولات خود هستند، به خصوص که ممکن است به ضرر ایمنی باشد.

به گزارش تایمز، هینتون آنقدر نگران است که حتی گفت بخشی از او از تلاش‌های قبلی هوش مصنوعی خود پشیمان است.

همانطور که این گزارش اشاره می کند، ابزارهای مولد هوش مصنوعی در حال حاضر به سمت جایگزینی کارگران انسانی حرکت می کنند و همچنین می توان از این فناوری برای ایجاد و انتشار اطلاعات نادرست استفاده کرد.

در واقع، یکی از نگرانی‌های هینتون این است که اینترنت، که از داده‌های آن برای آموزش ابزارهای هوش مصنوعی مولد استفاده می‌شود، مملو از اطلاعات نادرستی شود که می‌تواند باعث شود ربات‌های چت مانند ChatGPT و Bard دروغ‌های بی‌پایانی را به گونه‌ای که باورپذیر به نظر می‌رسد منتشر کنند.

از آنجایی که شرکت‌های پشتیبان این فناوری ابزارهای مبتنی بر هوش مصنوعی خود را بدون اطلاع کامل از پتانسیل‌هایشان برای استفاده عمومی منتشر می‌کنند، هینتون می‌ترسد که «به سختی می‌توان از استفاده بازیگران بد برای کارهای بد جلوگیری کرد».

هینتون گفت که تنظیم این فناوری دشوار خواهد بود زیرا شرکت‌ها و دولت‌ها می‌توانند تقریباً مخفیانه روی این فناوری کار کنند و افزود که یکی از راه‌های مقابله با این مشکل این است که تلاش کنیم دانشمندان برجسته را با هم در راه‌هایی برای کنترل فناوری کار کنند.

این کارشناس هوش مصنوعی روز دوشنبه در توییتی گفت که تصمیم گرفت گوگل را ترک کند تا بتواند “در مورد خطرات هوش مصنوعی بدون در نظر گرفتن تأثیر آن بر گوگل صحبت کند” و به این نکته اشاره کرد که تا زمانی که فناوری به این کار ادامه دهد، چیزهای بیشتری از او خواهیم شنید. تکامل یابد.

هینتون با ابراز نگرانی حتی بیشتر در ماه گذشته، هنگامی که در مصاحبه با CBS در مورد احتمال “نابودی بشریت توسط هوش مصنوعی” پرسیده شد، گفت: “این غیرقابل تصور نیست.”

پس از انتشار خبر جدایی هینتون، جف دین، دانشمند ارشد گوگل، در بیانیه ای گفت: «ما همچنان متعهد به رویکردی مسئولانه نسبت به هوش مصنوعی هستیم. ما دائماً در حال یادگیری درک خطرات نوظهور و در عین حال جسورانه نوآوری هستیم.

هینتون تنها متخصصی نیست که نگرانی خود را در مورد موج جدید فناوری هوش مصنوعی که جهان را در برگرفته است ابراز می کند.

شاید در کمال تعجب، سام آلتمن، رئیس OpenAI، اخیرا اعتراف کرد که از اثرات بالقوه فناوری هوش مصنوعی “کمی ترسیده است”.

و در ماه مارس، نامه‌ای که توسط رهبران فناوری و دانشگاهیان امضا شد، استدلال کرد که این فناوری “خطرات عمیقی برای جامعه و بشریت” دارد.

این نامه که توسط مؤسسه Future of Life منتشر شد و امضاکنندگان آن شامل ایلان ماسک بودند، خواستار توقف شش ماهه در کار توسعه برای ایجاد و اجرای پروتکل‌های ایمنی برای ابزارهای پیشرفته شد.

این می‌افزاید که اگر به روش صحیح رفتار شود، بشریت می‌تواند «از آینده‌ای مرفه با هوش مصنوعی لذت ببرد».

توصیه های سردبیران