پس از شکست تکان دهنده تصویربرداری هوش مصنوعی گوگل جمینی، ساندار پیچای، مدیر عامل شرکت به شدت با کارکنان صحبت کرد.

تنها چند روز پس از آشکار شدن اشتباهات گوگل جمینی در تولید تصاویر هوش مصنوعی، ساندار پیچای، مدیر عامل آلفابت گفت که نتایج به دست آمده «کاملاً غیرقابل قبول» است، در حالی که اعتراف کرد که چت ربات هوش مصنوعی آنها بسیار اشتباه کرده است. این مشکل زمانی آشکار شد که کاربران Gemini در X اسکرین شات هایی از Gemini را به اشتراک گذاشتند که افراد رنگین پوست را به صورت نادرست نشان می داد در حالی که از تولید تصاویر افراد سفیدپوست خودداری کردند.

جنجال تولید تصویر Gemini

مشکلات جمینی هفته گذشته زمانی شروع شد که موارد بیشتری از چت ربات هوش مصنوعی که بازنمایی های نادرستی از افراد ایجاد می کرد، ظاهر شد. در یک مورد مشکل ساز دیگر، او نفوذ ایلان ماسک را با آدولف هیتلر مقایسه کرد که باعث ایجاد بحث و جدل شد. طبق گزارش Semafor، ساندار پیچای، مدیر عامل Alphabet با تیم پشت ربات چت هوش مصنوعی، Google DeepMind تماس گرفت و اشتباهات Gemini را پذیرفت و گفت که چنین مشکلاتی “کاملا غیرقابل قبول” هستند.

پیچای گفت: «می‌دانم که برخی از پاسخ‌های او کاربران ما را آزار می‌داد و سوگیری نشان می‌داد – برای روشن بودن، این کاملا غیرقابل قبول است و ما اشتباه کردیم.» او همچنین تایید کرد که تیم پشت آن به طور شبانه روزی برای رفع مشکلات کار می کند و ادعا کرد که آنها شاهد “پیشرفت قابل توجهی در طیف گسترده ای از درخواست ها” هستند.

همه چیز درباره صحبت های سخت ساندار پیچای با کارکنان را در زیر بخوانید:

می‌خواهم به مشکلات اخیر مربوط به پاسخ‌های مشکل‌ساز به متن و تصاویر در برنامه Gemini (بارد سابق) بپردازم. می‌دانم که برخی از پاسخ‌های او کاربران ما را آزار می‌دهد و سوگیری نشان می‌دهد – برای روشن بودن، این کاملا غیرقابل قبول است و ما اشتباه کردیم.

تیم های ما به طور شبانه روزی برای حل این مشکلات کار می کنند. ما در حال حاضر شاهد بهبود قابل توجهی در طیف گسترده ای از درخواست ها هستیم. هیچ هوش مصنوعی کامل نیست، به خصوص در این مرحله نوپای توسعه صنعت، اما می دانیم که این نوار برای ما بالا است و تا زمانی که طول بکشد، به آن پایبند خواهیم بود. و ما می‌خواهیم آنچه اتفاق افتاده را بررسی کنیم و مطمئن شویم که آن را در مقیاس بزرگ برطرف می‌کنیم.

ماموریت ما برای سازماندهی اطلاعات جهان و قابل دسترس و مفید ساختن آن در سطح جهانی مقدس است. ما همیشه در تلاش بوده ایم تا اطلاعات مفید، دقیق و بی طرفانه را در محصولات خود در اختیار کاربران قرار دهیم. به همین دلیل مردم به آنها اعتماد می کنند. این باید رویکرد ما برای همه محصولاتمان، از جمله محصولات نوظهور هوش مصنوعی ما باشد.

ما مجموعه ای واضح از اقدامات را مدیریت خواهیم کرد، از جمله تغییرات ساختاری، راهنمای محصول به روز شده، فرآیندهای راه اندازی بهبود یافته، ارزیابی های قوی و تیم قرمز، و توصیه های فنی. ما در حال بررسی همه این موارد هستیم و تغییرات لازم را انجام خواهیم داد.

حتی زمانی که از اشتباهاتی که در اینجا رخ داده یاد می‌گیریم، باید بر روی محصول و اعلامیه‌های فنی که در چند هفته گذشته در هوش مصنوعی انجام داده‌ایم، تکیه کنیم. این شامل برخی پیشرفت‌های اساسی در مدل‌های پایه ما می‌شود، برای مثال پیشرفت ما با 1 میلیون زمینه طولانی و مدل‌های باز ما، که هر دو به خوبی مورد استقبال قرار گرفته‌اند.

ما می دانیم که برای ساختن محصولات عالی که مورد استفاده قرار می گیرند و مورد علاقه میلیاردها نفر و کسب و کار هستند، چه چیزی لازم است، و با زیرساخت ها و تخصص تحقیقاتی خود، سکوی پرشی باورنکردنی برای موج هوش مصنوعی داریم. بیایید روی مهم‌ترین چیز تمرکز کنیم: ایجاد محصولات مفیدی که شایسته اعتماد کاربران ما باشد.»

یک چیز دیگر! ما اکنون در کانال های واتس اپ هستیم! ما را در آنجا دنبال کنید تا هیچ به روز رسانی دنیای فناوری را از دست ندهید. برای دنبال کردن کانال واتساپ HT Tech کلیک کنید اینجا برای پیوستن در حال حاضر!