RagaAI: Nvidia Alum Gaurav Agarwal بودجه برای رفع نقص هوش مصنوعی استارت‌آپ را مسدود می‌کند

RagaAI بودجه ای را برای توسعه ابزاری با هدف تشخیص و رفع نقص در سیستم های هوش مصنوعی، در پاسخ به تاکید روزافزون بر ایمنی و قابلیت اطمینان در طول رونق هوش مصنوعی، تضمین کرد.

این استارت‌آپ توسط Gaurav Agarwal، یکی از فارغ‌التحصیلان سازنده تراشه Nvidia Corp، تأسیس شده است. و تگزاس اینسترومنتز، از حالت مخفی کاری خارج شدند تا یک دور تخمینی 4.7 میلیون دلاری به رهبری pi Ventures را ببندند. شرکت هایی از جمله Anorak Ventures و TenOneTen Ventures به آن پیوستند. استارت‌آپ سیلیکون ولی از مدل‌های پایه برای شناسایی و تصحیح مشکلات در هوش مصنوعی، مانند توهم – پدیده‌ای که به خوبی تبلیغ می‌شود – یا عدم توجه به اطلاعات مهم در زمان واقعی استفاده می‌کند.

بنیانگذار 44 ساله در حین آزمایش یک وسیله نقلیه نیمه خودران در یک بزرگراه کالیفرنیا آنچه را تجربه نزدیک به مرگ خواند، بازگو کرد. او گفت که هوش مصنوعی نتوانست زباله های جاده را تشخیص دهد، بنابراین او مجبور شد برای جلوگیری از تصادف دستی ترمز کند.

ما در کانال های واتس اپ هستیم. برای عضویت کلیک کنید

آگاروال، مدیر عامل این استارت آپ نیز در یک مصاحبه تلفنی گفت: “من در حین کار در Ola و Nvidia شاهد شکست در هوش مصنوعی بودم.” “نیاز فوری برای اجتناب از این نوع سناریوها وجود دارد، به ویژه در موارد استفاده پر خطر از هوش مصنوعی مانند تشخیص سرطان، تعمیر و نگهداری هواپیما و ابزارهای استخدام مبتنی بر هوش مصنوعی.”

آگاروال که در فرمونت کالیفرنیا مستقر است، RagaAI را قبل از راه‌اندازی اولیه ChatGPT توسط OpenAI ایجاد کرد، که توسعه جهانی مدل‌های زبانی بزرگ را تسریع کرد. RagaAI یکی از محصولات جدید استارت‌آپ‌هایی است که تلاش می‌کنند نیازی را که در طول این جنون از فعالیت به وجود آمده را برطرف کنند.

بر اساس یک مطالعه PwC، هوش مصنوعی می تواند تا سال 2030 به طور بالقوه 15.7 تریلیون دلار به اقتصاد جهانی کمک کند. اما بیشتر فعالیت فعلی به جای تشخیص اشکالات یا آزمایش آنها، بر ساخت مدل ها و برنامه ها متمرکز است.

پلتفرم RagaAI – که آگاروال گفت که تیمش در داخل آن را توسعه داده است – بیش از 300 آزمایش را برای کمک به کسب و کارها در حل مشکلات و ردیابی علل اصلی آنها ارائه می دهد. او گفت که این می تواند مواردی مانند برچسب گذاری ضعیف داده ها و سوگیری را تشخیص دهد. آگاروال افزود، این به تشخیص توهمات – اطلاعات نادرست و گمراه کننده ارائه شده به عنوان واقعیت – و همچنین حملات یا تلاش های عمدی طراحی شده برای فریب دادن یک مدل به اشتباه کمک می کند.

استارت آپ او سرمایه را به سمت تحقیقات هدایت می کند و تیم حدود 40 مهندس خود را عمدتاً در بنگلور گسترش می دهد. این در حال حاضر با چندین مشتری بزرگ در تجارت الکترونیک، هوانوردی و تصویربرداری پزشکی کار می کند، اگرچه آگاروال نامی را ذکر نمی کند. او گفت که این پلتفرم توانسته است به مشتریان کمک کند تا 90 درصد از خرابی ها را کاهش دهند، بدون ذکر جزئیات.

همچنین داستان های برتر امروز را بخوانید:

آیا نگران این هستید که هوش مصنوعی شغل شما را تصاحب کند؟ مطالعه‌ای که به دنبال رفع ترس از جایگزینی هوش مصنوعی در طیف وسیعی از صنایع است، می‌گوید هوش مصنوعی نمی‌تواند اکثر مشاغل را به روش‌های مقرون‌به‌صرفه جایگزین کند. بدانید اینجا واقعا به چه معناست.

به سوی هوش مصنوعی ایمن تر! هیچ فناوری شکافت هسته ای به اندازه هوش مصنوعی آینده جمعی ما را شکل نخواهد داد، بنابراین بسیار مهم است که سیستم های هوش مصنوعی ایمن، ایمن، قابل اعتماد و مسئولیت اجتماعی باشند. اینجا شیرجه بزنید

آیا واقعا هوش مصنوعی از مایکروسافت پیشی گرفته است؟ آیا انقلاب شد؟ عملکرد هوش مصنوعی، حتی عملکرد واقعا خوب هوش مصنوعی، یک گلوله نقره ای نیست که بتواند یک محصول بیمار را تغییر دهد. واقعیت را اینجا ببینید.