OpenAI کمک های 100000 دلاری را برای ایده های حکمرانی هوش مصنوعی ارائه می دهد

OpenAI، استارتاپی که پشت ربات چت هوش مصنوعی محبوب ChatGPT قرار دارد، روز پنجشنبه گفت که 10 کمک هزینه مساوی از یک صندوق یک میلیون دلاری برای آزمایش در فرآیندهای دموکراتیک اعطا می کند تا تعیین کند چگونه نرم افزار هوش مصنوعی باید برای مقابله با سوگیری و سایر عوامل اداره شود.

بر اساس یک پست وبلاگی که صندوق را اعلام می کند، کمک های 100000 دلاری به گیرندگانی تعلق می گیرد که چارچوب های قانع کننده ای را برای پاسخ به سؤالاتی ارائه می دهند، مانند اینکه آیا هوش مصنوعی باید از شخصیت های عمومی انتقاد کند و چه چیزی را باید «فرد متوسط» جهان در نظر بگیرد.

منتقدان می‌گویند سیستم‌های هوش مصنوعی مانند ChatGPT به دلیل داده‌های ورودی که برای شکل‌دهی به دیدگاه‌هایشان استفاده می‌شود، دارای سوگیری‌های ذاتی هستند. کاربران نمونه هایی از نتایج نژادپرستانه یا جنسیتی را از نرم افزار هوش مصنوعی پیدا کرده اند. نگرانی ها در مورد اینکه هوش مصنوعی در کنار موتورهای جستجو مانند Google Alphabet Inc و Bing شرکت Microsoft Corp می تواند اطلاعات نادرست را به شیوه ای قانع کننده تولید کند، افزایش یافته است.

OpenAI، با حمایت 10 میلیارد دلاری مایکروسافت، رهبری فراخوان برای تنظیم مقررات هوش مصنوعی را بر عهده دارد. با این حال، اخیرا تهدید به خروج از اتحادیه اروپا به دلیل قوانین پیشنهادی کرده است.

سام آلتمن، مدیر عامل OpenAI به رویترز گفت: “پیش نویس فعلی قانون هوش مصنوعی اتحادیه اروپا بیش از حد نظارتی است، اما شنیده ایم که از آن خارج می شود.” آنها هنوز در مورد آن صحبت می کنند.

کمک های مالی این استارت آپ به اندازه کافی تحقیقات هوش مصنوعی را تامین نمی کند. حقوق مهندسان هوش مصنوعی و سایر افراد در بخش داغ به راحتی بیش از 100000 دلار است و می تواند بیش از 300000 دلار باشد.

OpenAI در این پست وبلاگ گفت: سیستم های هوش مصنوعی “باید به نفع همه بشریت باشد و به گونه ای طراحی شوند که تا حد امکان فراگیر باشند.” ما در حال راه اندازی این برنامه کمک مالی هستیم تا اولین گام را در این مسیر برداریم.

استارت آپ سانفرانسیسکو گفت که نتایج بودجه می تواند دیدگاه های خود را در مورد حکمرانی هوش مصنوعی شکل دهد، اگرچه گفت هیچ توصیه ای “الزام آور” نخواهد بود.

آلتمن یکی از چهره‌های پیشرو بوده است که خواستار مقررات AI بوده است، در حالی که به‌روزرسانی‌های جدید ChatGPT و تولیدکننده تصویر DALL-E را منتشر کرده است. در این ماه، او در مقابل یک کمیته فرعی سنای ایالات متحده حاضر شد و گفت که “اگر این فناوری اشتباه پیش برود، ممکن است بسیار اشتباه شود.”

مایکروسافت همچنین اخیراً مقررات گسترده هوش مصنوعی را تصویب کرده است، حتی با وجود اینکه قول داده است این فناوری را به محصولات خود وارد کند و با OpenAI، گوگل و استارت‌آپ‌ها رقابت کند تا هوش مصنوعی را به مصرف‌کنندگان و کسب‌وکارها برساند.

تقریباً همه بخش‌ها به پتانسیل هوش مصنوعی برای بهبود کارایی و کاهش هزینه‌های نیروی کار، همراه با نگرانی‌هایی که هوش مصنوعی می‌تواند اطلاعات نادرست یا نادرستی واقعی را منتشر کند، علاقه‌مند است، چیزی که خودی‌های صنعت آن را «توهم» می‌نامند.

هوش مصنوعی در حال حاضر پشت چندین کلاهبرداری گسترده است. یک تصویر ویروسی جعلی اخیر از یک انفجار در نزدیکی پنتاگون برای مدت کوتاهی بازار سهام را تحت تاثیر قرار داد.

علیرغم درخواست ها برای مقررات بیشتر، کنگره در تصویب قانون جدید برای محدود کردن معنی دار فناوری بزرگ شکست خورده است.