رهبر سابق OpenAI می‌گوید ایمنی در شرکت هوش مصنوعی «در جایگاهی عقب‌تر از محصولات درخشان قرار گرفته است».

یکی از رهبران سابق OpenAI که در اوایل این هفته از این شرکت استعفا داد، روز جمعه گفت که ایمنی در این شرکت با نفوذ هوش مصنوعی “در جایگاهی پس از محصولات درخشان قرار گرفته است”.

یان لیکه، که تیم “Super Alignment” OpenAI را به همراه یکی از بنیانگذاران شرکت که او نیز این هفته استعفا داد، رهبری می کرد، در یک سری پست در پلتفرم رسانه اجتماعی X نوشت که او به این شرکت مستقر در سانفرانسیسکو پیوست زیرا فکر می کرد چنین خواهد شد. بهترین مکان برای تحقیقات هوش مصنوعی

Leike که آخرین روزش پنجشنبه بود، نوشت: «با این حال، مدت زیادی با رهبری OpenAI در مورد اولویت‌های اصلی شرکت مخالف بودم تا اینکه سرانجام به نقطه اوج رسیدیم».

لیک یک محقق هوش مصنوعی گفت که معتقد است باید تمرکز بیشتری روی آماده‌سازی برای نسل بعدی مدل‌های هوش مصنوعی، از جمله مواردی مانند ایمنی و تجزیه و تحلیل تأثیر اجتماعی چنین فناوری‌هایی وجود داشته باشد. او گفت که ساخت «ماشین‌های هوشمندتر از انسان» یک تلاش خطرناک است و این شرکت «مسئولیت بزرگی از طرف تمام بشریت بر عهده می‌گیرد».

Leike با استفاده از نسخه مختصر هوش مصنوعی، یک چشم‌انداز آینده‌نگر از ماشین‌هایی که به اندازه انسان‌ها باهوش هستند یا حداقل می‌توانند کارهای زیادی را انجام دهند، نوشت: «OpenAI باید به یک شرکت AGI تبدیل شود، ابتدا ایمنی». .

سام آلتمن، مدیر عامل هوش مصنوعی Open AI در پاسخ به پست های لیک نوشت که از کمک های لیک به شرکت “فوق العاده سپاسگزار” است و “از دیدن رفتن او بسیار ناراحت است.”

لیکه می گوید: «درست است، ما هنوز کارهای زیادی برای انجام دادن داریم. ما متعهد به انجام این کار هستیم.

استعفای لیک پس از آن صورت گرفت که ایلیا سوتزکور، یکی از بنیانگذاران و دانشمند ارشد OpenAI، روز سه شنبه گفت که شرکت را پس از نزدیک به یک دهه ترک می کند. Sutskever یکی از چهار عضو هیئت مدیره در پاییز گذشته بود که به برکناری آلتمن رای دادند – فقط به سرعت او را به سمت خود بازگرداند. این Sutzkever بود که نوامبر گذشته به آلتمن گفت که اخراج شده است، اما او بعداً گفت که از این کار پشیمان است.

Sutskever گفت که روی پروژه جدیدی کار می کند که برای او معنادار است، بدون ارائه جزئیات بیشتر. جاکوب پاکزوکی به عنوان دانشمند ارشد جایگزین او خواهد شد. آلتمن پاچوکی را “به راحتی یکی از بزرگترین ذهن های نسل ما” نامید و گفت که “بسیار مطمئن است که او ما را به پیشرفت سریع و ایمن در راستای ماموریت خود برای اطمینان از اینکه AGI به نفع همه است هدایت خواهد کرد.”

روز دوشنبه، OpenAI آخرین به‌روزرسانی مدل هوش مصنوعی خود را به نمایش گذاشت که می‌تواند ریتم‌های انسان را در پاسخ‌های کلامی خود تقلید کند و حتی می‌تواند خلق و خوی افراد را تشخیص دهد.

——

Associated Press و OpenAI یک توافقنامه مجوز و فناوری دارند که به OpenAI اجازه دسترسی به بخشی از آرشیو متنی را می دهد.

این مقاله از یک فید خبرگزاری خودکار و بدون تغییر متن تهیه شده است.