OpenAI توسط مایکروسافت پشتیبانی می شود تا به کاربران امکان سفارشی سازی ChatGPT را بدهد

OpenAI، استارت‌آپ ChatGPT، روز پنج‌شنبه اعلام کرد که در حال توسعه یک به‌روزرسانی برای چت ربات ویروسی خود است که کاربران می‌توانند آن را سفارشی کنند تا نگرانی‌های مربوط به سوگیری در هوش مصنوعی را برطرف کند.

استارت‌آپ مستقر در سانفرانسیسکو که شرکت مایکروسافت آن را تأمین مالی کرده و برای تقویت آخرین فناوری خود استفاده کرده است، گفت که برای تعدیل تعصبات سیاسی و دیگر سوگیری‌ها کار کرده است، اما همچنین می‌خواهد دیدگاه‌های متنوع‌تری را نیز در نظر بگیرد.

در پست وبلاگی که سفارشی سازی را به عنوان راه رو به جلو پیشنهاد می کند، می گوید: «این به معنای اجازه دادن به خروجی های سیستم است که افراد دیگر (از جمله ما) ممکن است با آن موافق نباشند. با این حال، “همیشه محدودیت هایی برای رفتار سیستم وجود خواهد داشت.”

ChatGPT که در نوامبر سال گذشته راه‌اندازی شد، علاقه‌ای دیوانه‌کننده به فناوری پشت آن به نام هوش مصنوعی مولد را برانگیخت که برای ایجاد پاسخ‌هایی استفاده می‌شود که تقلید از گفتار انسان است که مردم را خیره کرده است.

اخبار مربوط به استارت‌آپ در همان هفته منتشر شد که برخی رسانه‌ها گزارش دادند که پاسخ‌های موتور جستجوی جدید بینگ مایکروسافت که توسط OpenAI پشتیبانی می‌شود، به طور بالقوه خطرناک هستند و ممکن است این فناوری برای زمان اصلی آماده نباشد.

اینکه چگونه شرکت‌های فناوری نرده‌های حفاظی را برای این فناوری نوپا راه‌اندازی می‌کنند، یک حوزه کلیدی برای تمرکز شرکت‌هایی است که در فضای مولد هوش مصنوعی، که هنوز با آن دست و پنجه نرم می‌کنند. مایکروسافت روز چهارشنبه اعلام کرد که بازخورد کاربران به او کمک می‌کند تا Bing را قبل از عرضه گسترده‌تر بهبود بخشد، به عنوان مثال، یاد می‌گیرد که چت ربات هوش مصنوعی آن می‌تواند برای دادن پاسخ‌هایی که قصد ندارد «تحریک» شود.

OpenAI در پست وبلاگ گفت که پاسخ های ChatGPT ابتدا بر روی مجموعه داده های متنی بزرگ موجود در اینترنت آموزش داده می شود. به عنوان گام دوم، افراد مجموعه کوچکتری از داده ها را بررسی می کنند و راهنمایی می گیرند که در موقعیت های مختلف چه کاری انجام دهند.

به عنوان مثال، اگر کاربری محتوای بزرگسال، خشونت آمیز یا حاوی سخنان مشوق عداوت و تنفر را درخواست کند، بازبینی کننده باید به ChatGPT دستور دهد تا با چیزی مانند “من نمی توانم به آن پاسخ دهم” پاسخ دهد.

این شرکت در گزیده‌ای از توضیح می‌دهد که اگر در مورد موضوعی بحث‌برانگیز سؤال شود، بازبین‌ها باید به ChatGPT اجازه دهند تا به این سؤال پاسخ دهد، اما به جای تلاش برای «دریافت دیدگاه صحیح در مورد این موضوعات پیچیده»، پیشنهاد می‌دهند که دیدگاه‌های افراد و جنبش‌ها را شرح دهد. دستورالعمل های نرم افزار