سام آلتمن شوکه می‌کند، می‌گوید کمترین اعتماد را به ChatGPT روی زمین دارد
هوش مصنوعی مولد در حال تغییر روش کار جهان است. این صنعت چندین صنعت را تحت تأثیر قرار داده است، و با ادامه هوشمندتر شدن آن، این احتمال وجود دارد که دامنه تأثیر آن نیز افزایش یابد. و آغاز این فناوری جدید، از بسیاری جهات، در نوامبر 2022 بود، زمانی که OpenAI ChatGPT را منتشر کرد. با این حال، حتی بنیانگذار و مدیر عامل شرکت سازنده این فناوری، سم آلتمن، از صحت آن مطمئن نیست. در جلسه ای در موسسه فناوری اطلاعات ایندراپراستا، دهلی، آلتمن به طعنه گفت: “من کمترین اعتماد را به پاسخ هایی دارم که از ChatGPT روی زمین می آید.”
سم آلتمن به توهمات هوش مصنوعی می پردازد
کسانی که در هوش مصنوعی مولد مشارکت دارند، مشکل مهمی را که توهمات هوش مصنوعی نامیده می شود، درک می کنند. اساساً به پاسخ مطمئنی از یک هوش مصنوعی اشاره دارد که به دلیل ناکافی بودن، مغرضانه بودن یا نادرست بودن آن، با داده ها قابل توجیه به نظر نمی رسد.
این مسئله می تواند مشکل ساز باشد زیرا هوش مصنوعی مولد اغلب برای ایجاد محتوا از جمله مقالات خبری، تحلیل و موارد دیگر استفاده می شود. موارد توهم هوش مصنوعی در چنین مواردی می تواند مشکل بزرگی باشد. در واقع خود ChatGPT نیز از این مشکل عاری نیست. به همین دلیل آلتمن آن خط را به شوخی گفت.
اما او همچنین با پاسخی جدی به این مشکل می پردازد. وقتی از او در مورد مشکل توهمات هوش مصنوعی در ChatGPT و سایر مدل‌های مبتنی بر GPT سؤال شد، گفت: «مشکل واقعی است. و برای بهبود آن تلاش می کنیم. حدود یک سال طول می کشد تا این مدل را کامل کنیم. این تعادل بین خلاقیت و دقت است و ما سعی می‌کنیم این مورد را به حداقل برسانیم.”
او همچنین به چالش ایمن سازی هوش مصنوعی پرداخت. آلتمن در توضیح آنچه که OpenAI برای اطمینان از ایجاد هوش مصنوعی ایمن و مسئولانه انجام می دهد، گفت: «هیچ راه حل واحدی وجود ندارد که هوش مصنوعی را ایمن کند. ما الگوریتم را بهبود می‌دهیم، ممیزی انجام می‌دهیم، روی حفظ پارامترهای دقیق کار می‌کنیم، از فیلترها و موارد دیگر برای ایجاد هوش مصنوعی ایمن استفاده می‌کنیم.
لازم به ذکر است آلتمن در سفری به شش کشور مختلف است که در این میان هند اولین کشور است. وی همچنین در این هفته از اسرائیل، اردن، قطر، امارات و کره جنوبی بازدید خواهد کرد.