هوش مصنوعی در حال رونق است – و ردپای کربن آن هم همینطور

هوش مصنوعی به اسباب بازی جدید براق صنعت فناوری تبدیل شده است که انتظار می رود صنعت تریلیون دلاری را از خرده فروشی تا پزشکی متحول کند. اما ایجاد هر چت بات جدید و تولید کننده تصویر به برق زیادی نیاز دارد، به این معنی که این فناوری می تواند مسئول مقدار زیادی و رو به رشد انتشار کربن باشد که باعث گرم شدن سیاره می شود.

شرکت مایکروسافت، شرکت آلفابت، گوگل و سازنده ChatGPT OpenAI از محاسبات ابری استفاده می‌کنند که به هزاران تراشه در سرورها در مراکز داده عظیم در سراسر جهان برای آموزش الگوریتم‌های هوش مصنوعی، به نام مدل‌ها، با تجزیه و تحلیل داده‌ها برای کمک به «یادگیری» آنها متکی است. برای انجام وظایف موفقیت ChatGPT باعث شد شرکت‌های دیگری برای راه‌اندازی سیستم‌ها و چت‌بات‌های رقیب هوش مصنوعی خود یا ایجاد محصولاتی که از مدل‌های هوش مصنوعی بزرگ برای ارائه ویژگی‌ها به همه، از خریداران Instacart گرفته تا کاربران Snap و مدیران ارشد مالی استفاده می‌کنند، رقابت کنند.

هوش مصنوعی نسبت به سایر اشکال محاسباتی انرژی بیشتری مصرف می‌کند و آموزش یک مدل می‌تواند برق بیشتری نسبت به مصرف ۱۰۰ خانه آمریکایی در یک سال مصرف کند. با این حال، این بخش به سرعت در حال رشد است – و شفافیت محدودی دارد – که هیچ کس دقیقاً نمی داند که چقدر کل مصرف برق و انتشار کربن را می توان به هوش مصنوعی نسبت داد. انتشار گازهای گلخانه ای نیز می تواند بسته به نوع نیروگاه هایی که آن برق را تامین می کنند، بسیار متفاوت باشد. مرکز داده ای که نیرو را از یک نیروگاه زغال سنگ یا گاز طبیعی می گیرد، نسبت به مرکز داده ای که از نیروگاه های خورشیدی یا بادی نیرو می گیرد، مسئول انتشار بسیار بالاتری است.

اگرچه محققان انتشارات ناشی از ایجاد یک مدل را جمع‌آوری کرده‌اند و برخی از شرکت‌ها داده‌هایی در مورد مصرف انرژی خود ارائه کرده‌اند، آنها هیچ برآورد کلی از مقدار کل انرژی مصرف شده توسط این فناوری ندارند. ساشا لوچونی، محققی در شرکت هوش مصنوعی Hugging Face Inc.، مقاله‌ای نوشت که تأثیر کربن BLOOM شرکتش، رقیب GPT-3 OpenAI را تعیین کرد. همچنین تلاش کرد تا بر اساس مجموعه محدودی از داده‌های در دسترس عموم، همین مورد را برای موفقیت ویروسی OpenAI ChatGPT تخمین بزند.

او گفت: “ما در مورد ChatGPT صحبت می کنیم و چیزی در مورد آن نمی دانیم.” “این می تواند سه راکون در یک کت سنگر باشد.”

شفافیت بیشتر

محققانی مانند لوچونی می گویند که ما به شفافیت در مورد مصرف انرژی و انتشار برای مدل های هوش مصنوعی نیاز داریم. با داشتن این اطلاعات، دولت‌ها و شرکت‌ها ممکن است تصمیم بگیرند که استفاده از GPT-3 یا سایر مدل‌های بزرگ برای تحقیق در مورد درمان سرطان یا حفظ زبان‌های محلی ارزش برق و انتشار را دارد، اما نوشتن اسکریپت‌های رد شده Seinfeld یا یافتن Waldo ارزش آن را ندارد.

شفافیت بیشتر همچنین می‌تواند به بررسی دقیق‌تر منجر شود. صنعت کریپتو می تواند یک داستان احتیاطی ارائه دهد. بر اساس شاخص مصرف برق کمبریج، بیت کوین به دلیل مصرف بیش از حد انرژی مورد انتقاد قرار گرفته است. این اشتهای سیری ناپذیر برای برق باعث شده است که چین استخراج معدن را ممنوع کند و نیویورک یک تعلیق دو ساله برای مجوزهای جدید برای استخراج رمزنگاری با سوخت فسیلی اعمال کند.

طبق یک مقاله تحقیقاتی منتشر شده در سال 2021، آموزش GPT-3، که یک برنامه هوش مصنوعی همه منظوره است که می‌تواند زبان تولید کند و کاربردهای متفاوتی دارد، 1287 گیگاوات ساعت طول کشید، یا تقریباً به اندازه برق مصرفی 120 خانه در ایالات متحده. یک سال. طبق همین مقاله، این آموزش 502 تن کربن تولید می‌کند یا به اندازه 110 خودروی آمریکایی در یک سال. این فقط برای یک برنامه یا “مدل” است. اگرچه آموزش یک مدل هزینه انرژی اولیه هنگفتی دارد، اما محققان دریافتند که در برخی موارد تنها حدود 40 درصد از انرژی مصرف شده با اجرای واقعی مدل، با میلیاردها درخواست برای برنامه های محبوب سرازیر می شود. همچنین مدل ها بزرگتر می شوند. GPT-3 OpenAI از 175 میلیارد پارامتر یا متغیری استفاده می کند که سیستم هوش مصنوعی از طریق آموزش و بازآموزی خود آموخته است. سلف آن تنها 1.5 میلیارد استفاده کرده است.

OpenAI هم‌اکنون روی GPT-4 کار می‌کند، به‌علاوه این مدل‌ها باید مرتباً بازآموزی شوند تا در جریان رویدادهای جاری باشند. اما استروبل، استاد دانشگاه کارنگی ملون که جزو اولین محققانی بود که مشکل انرژی هوش مصنوعی را بررسی کرد، گفت: «اگر مدل خود را دوباره آموزش ندهید، مدلی خواهید داشت که از کووید-19 اطلاعی ندارد.

یکی دیگر از معیارهای نسبی از سوی گوگل می آید، جایی که محققان دریافتند که هوش مصنوعی 10 تا 15 درصد از کل مصرف برق شرکت را تشکیل می دهد که این میزان در سال 2021 برابر با 18.3 تراوات ساعت است. این بدان معناست که هوش مصنوعی گوگل حدود 2، 3 ساعت در سال می سوزاند، تقریباً به همان میزان. برق هر سال مانند تمام خانه های شهری به اندازه آتلانتا.

وعده های صفر خالص

اگرچه در بسیاری از موارد مدل‌ها بزرگ‌تر می‌شوند، شرکت‌های هوش مصنوعی دائماً روی بهبودهایی کار می‌کنند که آنها را کارآمدتر می‌کند. مایکروسافت، گوگل و آمازون – بزرگترین شرکت های ابری در ایالات متحده – همگی متعهد شده اند که کربن منفی یا خنثی باشند. گوگل در بیانیه ای اعلام کرد که قصد دارد تا سال 2030 تولید گازهای گلخانه ای خالص را در فعالیت های خود به صفر برساند و دفاتر و مراکز داده خود را به طور کامل با انرژی بدون کربن اداره کند. این شرکت همچنین از هوش مصنوعی برای بهبود بهره وری انرژی در مراکز داده خود استفاده کرده است و این فناوری به طور مستقیم خنک کننده در تاسیسات را کنترل می کند.

OpenAI به کارهایی که برای کارآمدتر کردن API برای ChatGPT انجام داده است، اشاره می کند که مصرف انرژی و قیمت ها را برای مشتریان کاهش می دهد. یکی از سخنگویان OpenAI در بیانیه ای گفت: “ما مسئولیت خود را برای متوقف کردن و معکوس کردن تغییرات آب و هوایی بسیار جدی می پذیریم و در مورد چگونگی استفاده بهینه از توان محاسباتی خود بسیار فکر می کنیم.” OpenAI روی Azure اجرا می‌شود و ما در حال همکاری نزدیک با تیم مایکروسافت برای بهبود عملکرد و ردپای خود برای مدیریت مدل‌های زبان بزرگ هستیم.

مایکروسافت خاطرنشان کرد که انرژی‌های تجدیدپذیر را خریداری می‌کند و گام‌های دیگری را برای رسیدن به هدف اعلام شده قبلی خود یعنی منفی بودن کربن تا سال 2030 انجام می‌دهد. این شرکت در بیانیه‌ای گفت: تأثیر هوش مصنوعی در حالی که ما روی راه‌هایی کار می‌کنیم تا سیستم‌های بزرگ را کارآمدتر کنیم، هم در یادگیری و هم در کاربرد.

روی شوارتز، استاد دانشگاه عبری اورشلیم که با گروهی در مایکروسافت برای اندازه‌گیری ردپای کربن همکاری کرده است، می‌گوید: «بدیهی است که این شرکت‌ها دوست ندارند مدلی را که استفاده می‌کنند و چه مقدار کربن منتشر می‌کند فاش کنند. یک مدل هوش مصنوعی بزرگ

راه هایی برای کارآمدتر کردن هوش مصنوعی وجود دارد. بن هرتز-شارگل از مشاور انرژی وود مکنزی گفت: از آنجایی که آموزش هوش مصنوعی می‌تواند در هر زمانی انجام شود، توسعه‌دهندگان یا مراکز داده می‌توانند آموزش را برای زمان‌هایی که انرژی ارزان‌تر یا بیش از حد است برنامه‌ریزی کنند و در نتیجه عملیات‌های خود را سبزتر کنند. شرکت‌های هوش مصنوعی که مدل‌های خود را در مواقعی که انرژی زیاد است آموزش می‌دهند، می‌توانند این را در بازاریابی خود تبلیغ کنند. هرتز-چارگل گفت: “این می تواند برای آنها هویج باشد که نشان دهند مسئولانه و سبز عمل می کنند.”

“این موز می شود”

اکثر مراکز داده از GPU یا GPU برای آموزش مدل‌های هوش مصنوعی استفاده می‌کنند و این قطعات جزو پرقدرت‌ترین قطعاتی هستند که تولید تراشه تولید می‌کند. بر اساس گزارشی که در اوایل ماه جاری توسط تحلیلگران مورگان استنلی منتشر شد، مدل های بزرگ به ده ها هزار پردازنده گرافیکی نیاز دارند که برنامه آموزشی آن از هفته ها تا ماه ها متغیر است.

یکی از معماهای بزرگ در هوش مصنوعی، محاسبه کلی انتشار کربن مرتبط با تراشه های مورد استفاده است. انویدیا، بزرگ‌ترین سازنده پردازنده‌های گرافیکی، گفت که وقتی نوبت به وظایف هوش مصنوعی می‌رسد، می‌توانند کار را سریع‌تر انجام دهند و به طور کلی کارآمدتر شوند.

این شرکت در بیانیه‌ای اعلام کرد: «استفاده از پردازنده‌های گرافیکی برای تسریع هوش مصنوعی به‌طور چشمگیری سریع‌تر و کارآمدتر از پردازنده‌ها است – معمولاً ۲۰ برابر کارآمدتر انرژی برای بارهای کاری خاص هوش مصنوعی و تا ۳۰۰ برابر کارآمدتر برای مدل‌های زبان بزرگ که برای هوش مصنوعی مولد ضروری هستند».

لوچیونی که این داده ها را برای تحقیقات خود درخواست کرده است، گفت: اگرچه انویدیا انتشار مستقیم و غیرمستقیم مربوط به انرژی خود را فاش کرده است، اما تمام انتشارات را که به طور غیرمستقیم مسئول آن است را فاش نکرده است.

وقتی انویدیا این اطلاعات را به اشتراک می‌گذارد، لوسیونی فکر می‌کند که پردازنده‌های گرافیکی به اندازه یک کشور کوچک انرژی مصرف می‌کنند. او گفت: “این موز خواهد بود.”