یک استارت‌آپ جدید با پشتیبانی مایکروسافت می‌خواهد هوش مصنوعی را همانطور که در نظر دارد عمل کند

نرم‌افزار هوش مصنوعی همیشه آن‌چه را که افرادی که آن را می‌خواهند انجام نمی‌دهند – مشکلی بالقوه خطرناک که برخی از بزرگترین شرکت‌های کار بر روی این فناوری را فراگرفته است.

شرکت های بزرگی مانند OpenAI و Google's Alphabet Inc. به طور فزاینده ای کارگران، پول و قدرت محاسباتی را به سمت این مشکل هدایت می کنند. و Anthropic، یک رقیب OpenAI، آن را در مرکز توسعه Claude قرار داده است، محصولی که آن را به عنوان نوع ایمن‌تر از ربات چت هوش مصنوعی معرفی می‌کند.

از این ماه، یک شرکت جدید به نام Synth Labs نیز این مشکل را هدف قرار داده است. این شرکت که توسط تعداد انگشت شماری از نام‌های بزرگ در صنعت هوش مصنوعی تأسیس شد، این هفته از مخفی کاری بیرون آمد و سرمایه اولیه را از صندوق سرمایه‌گذاری خطرپذیر مایکروسافت، M12 و First Spark Ventures اریک اشمیت جذب کرد. Synth Labs در درجه اول بر روی ساختن نرم افزار، برخی از آنها منبع باز، تمرکز دارد تا به طیف وسیعی از شرکت ها کمک کند تا اطمینان حاصل کنند که سیستم های هوش مصنوعی آنها همانطور که در نظر گرفته شده است کار می کنند. این شرکت خود را به عنوان شرکتی معرفی می کند که به صورت شفاف و مشارکتی کار می کند.

تراز کردن، همانطور که گاهی اوقات مشکل نامیده می شود، یک چالش فنی برای برنامه های کاربردی هوش مصنوعی مانند ربات های گفتگو ایجاد می کند که بر روی مدل های زبان بزرگ ساخته شده اند که معمولاً بر روی بخش های وسیعی از داده های اینترنتی آموزش داده می شوند. این تلاش به دلیل این واقعیت پیچیده است که اخلاق و ارزش های افراد – و همچنین ایده های آنها در مورد آنچه که باید و نباید برای هوش مصنوعی مجاز باشد – متفاوت است. هدف محصولات Synth Labs کمک به مدیریت و سفارشی سازی مدل های زبان بزرگ، به ویژه مدل هایی است که خود منبع باز هستند.

این شرکت به عنوان یک پروژه در آزمایشگاه تحقیقاتی غیرانتفاعی هوش مصنوعی EleutherAI، با کارکنان دو نفر از سه بنیانگذار – لوئیس کاستریکاتو و ناتان لیل – به علاوه مشاور آزمایشگاه Synth و مدیر عامل EleutherAI، Stella Biederman شروع به کار کرد. فرانسیس د سوزا، مدیر عامل سابق شرکت بیوتکنولوژی Illumina Inc. نیز یک بنیانگذار است. Synth Labs از بیان میزان پولی که تاکنون جمع آوری کرده است خودداری کرد.

کاستریکاتو گفت که طی چند ماه گذشته، این استارتاپ ابزارهایی ساخته است که به راحتی می تواند مدل های زبان بزرگ را در موضوعات پیچیده ارزیابی کند. او گفت که هدف، دموکراتیک کردن دسترسی به ابزارهای با کاربرد آسان است که می‌توانند به طور خودکار مدل‌های هوش مصنوعی را ارزیابی و همسو کنند.

یک مقاله تحقیقاتی اخیر که توسط Castricato، Lille و Biederman مشترکاً تألیف شده است، بینشی درباره رویکرد شرکت ارائه می‌کند: نویسندگان از پاسخ‌هایی به درخواست‌هایی استفاده کردند که توسط مدل‌های GPT-4 OpenAI و هوش مصنوعی Stable Beluga 2 برای ایجاد مجموعه داده‌ها ایجاد شده بود. سپس این مجموعه داده به عنوان بخشی از یک فرآیند خودکار برای هدایت ربات چت برای اجتناب از صحبت در مورد یک موضوع و در عوض صحبت در مورد موضوع دیگر مورد استفاده قرار گرفت.

لیل می‌گوید: «شیوه‌ای که ما در مورد طراحی برخی از این ابزارهای اولیه فکر می‌کنیم، واقعاً این است که به شما قدرت دهیم تا تصمیم بگیرید که همسویی برای تجارت یا ترجیحات شخصی شما چه معنایی دارد.

اخبار برتر امروز را بیشتر بخوانید:

به‌روزرسانی مسیرهای Google Maps Glanceable در دسترس کاربران است و ویژگی‌های ناوبری جدید و آسان برای استفاده را ارائه می‌کند. برخی از جزئیات جالب در این مقاله. اینجا را ببینید.

پس از آن که گوگل جمینی جنجال بر سر نژادپرستی برانگیخت، ساندار پیچای، مدیرعامل، حرف های سختی برای گفتن داشت. صحبت های سخت ساندار پیچای با کارکنان را اینجا بخوانید.

کار بد گوگل! گوگل عادت مزمنی دارد که محصولات نیمه کاره هوش مصنوعی را تولید می کند و بررسی های ایمنی را نادیده می گیرد. همه چیز در مورد آن را اینجا بخوانید.

یک چیز دیگر! ما اکنون در کانال های واتس اپ هستیم! ما را در آنجا دنبال کنید تا هیچ به روز رسانی دنیای فناوری را از دست ندهید. برای دنبال کردن کانال واتساپ HT Tech کلیک کنید اینجا برای پیوستن به هم اکنون!