انویدیا یک پردازنده گرافیکی دوگانه عظیم برای مدل هایی مانند ChatGPT ساخته است

کنفرانس نیمه سالانه فناوری GPU انویدیا (GTC) معمولاً بر پیشرفت های هوش مصنوعی متمرکز است، اما امسال انویدیا با طیف وسیعی از GPU های جدید به رشد عظیم ChatGPT پاسخ می دهد. مهم‌ترین آن‌ها H100 NVL است که دو پردازنده گرافیکی H100 انویدیا را برای پیاده‌سازی مدل‌های زبان بزرگ (LLM) مانند ChatGPT در کنار هم قرار می‌دهد.

H100 یک پردازنده گرافیکی جدید نیست. انویدیا آن را یک سال پیش در GTC اعلام کرد و معماری Hopper خود را به نمایش گذاشت و قول داد که استنتاج هوش مصنوعی را در کارهای مختلف تسریع کند. مدل جدید NVL، با حافظه عظیم 94 گیگابایتی، گفته می‌شود که در استقرار LLM در مقیاس بهترین عملکرد را دارد و تا 12 برابر سریع‌تر استنتاج را در مقایسه با آخرین نسل A100 ارائه می‌دهد.

این پردازنده‌های گرافیکی در قلب مدل‌هایی مانند ChatGPT قرار دارند. انویدیا و مایکروسافت اخیرا فاش کردند که هزاران پردازنده گرافیکی A100 برای آموزش ChatGPT استفاده شده است، پروژه ای که بیش از پنج سال در حال توسعه بوده است.

H100 NVL با ترکیب دو پردازنده گرافیکی H100 روی یک اتصال NVIDIA NVLink با پهنای باند بالا کار می کند. این در حال حاضر با پردازنده های گرافیکی فعلی H100 امکان پذیر است – در واقع، می توانید تا 256 H100 را از طریق NVLink به یکدیگر متصل کنید – اما این دستگاه خاص برای استقرارهای کوچکتر طراحی شده است.

این محصولی است که بیش از هر چیز برای تجارت ساخته شده است، بنابراین انتظار نداشته باشید H100 NVL را در قفسه Micro Center محلی خود ببینید. با این حال، انویدیا می گوید که مشتریان سازمانی می توانند انتظار داشته باشند که آن را در نیمه دوم سال ببینند.

علاوه بر H100 NVL، انویدیا پردازنده گرافیکی L4 را نیز معرفی کرد که به طور خاص برای تقویت ویدئوهای تولید شده توسط هوش مصنوعی طراحی شده است. انویدیا می گوید برای ویدیوهای تولید شده با هوش مصنوعی 120 برابر قدرتمندتر از CPU است و 99 درصد بازده انرژی بهتری ارائه می دهد. علاوه بر تولید ویدئو با هوش مصنوعی، انویدیا می‌گوید که GPU دارای قابلیت رمزگشایی و رمزگشایی ویدیو است و می‌توان از آن برای واقعیت افزوده استفاده کرد.

انویدیا می گوید Google Cloud یکی از اولین شرکت هایی است که L4 را ادغام کرده است. گوگل قصد دارد تا اواخر امروز نمونه های L4 را از طریق پلتفرم هوش مصنوعی Vertex خود به مشتریان ارائه دهد. انویدیا گفت که GPU بعداً از شرکای خود از جمله Lenovo، Dell، Asus، HP، Gigabyte و HP در دسترس خواهد بود.

توصیه های سردبیران