چرا هوش مصنوعی هرگز بر جهان حکومت نخواهد کرد؟

آن را فرضیه اسکای نت، هوش عمومی مصنوعی، یا ظهور تکینگی بنامید – برای سال‌ها، متخصصان هوش مصنوعی و غیرمتخصصان به طور یکسان نگران این ایده بودند (و برای گروه کوچکی جشن می‌گرفتند) این ایده که ممکن است روزی هوش مصنوعی هوشمندتر شود. انسان.

بر اساس این تئوری، پیشرفت‌ها در هوش مصنوعی – به‌ویژه نوع یادگیری ماشینی که قادر به دریافت اطلاعات جدید و بازنویسی کد آن بر اساس آن است – در نهایت با نرم‌افزارهای مغز بیولوژیکی مواجه خواهد شد. در این تفسیر از رویدادها، هر هوش مصنوعی از خطر-برنده شدن ماشین‌های IBM به مدل عظیم زبان هوش مصنوعی GPT-3 بشریت را یک قدم به یک تهدید وجودی نزدیک‌تر می‌کند. ما به معنای واقعی کلمه در حال ساختن جانشینان حساس خود هستیم.

با این تفاوت که هرگز اتفاق نخواهد افتاد. حداقل به گفته نویسندگان کتاب جدید چرا ماشین‌ها هرگز بر جهان حکومت نخواهند کرد: هوش مصنوعی بدون ترس.

بری اسمیت، استاد فلسفه دانشگاه بوفالو و جابست لاندگربه، موسس شرکت هوش مصنوعی آلمانی Cognotekt، استدلال می‌کنند که هوش انسانی به این زودی‌ها، حتی هرگز تحت کنترل یک «دیکتاتور جاودانه» قرار نخواهد گرفت. آنها گفتند گرایش های دیجیتال دلایل آنها

دیجیتال تو (DT): چگونه این موضوع در رادار شما قرار گرفت؟

Jobst Landgrebe (JL): من با تحصیلات دکتر و بیوشیمی هستم. زمانی که کارم را شروع کردم، آزمایش هایی انجام دادم که داده های زیادی تولید کرد. من شروع به مطالعه ریاضیات کردم تا بتوانم این داده ها را تفسیر کنم و دیدم که مدل کردن سیستم های بیولوژیکی با استفاده از ریاضیات چقدر دشوار است. همیشه این عدم تطابق بین روش های ریاضی و داده های بیولوژیکی وجود داشته است.

در اواسط دهه سی ام، دانشگاه را ترک کردم تا مشاور کسب و کار و کارآفرینی شوم که در سیستم های نرم افزاری هوش مصنوعی کار می کرد. من سعی می کردم سیستم های هوش مصنوعی بسازم که آنچه را که انسان می تواند انجام دهد تقلید کند. متوجه شدم که با همان مشکلی که سال ها پیش در زیست شناسی داشتم، مواجه شدم.

مشتریان به من گفتند “چرا چت ربات نمی سازی؟” من گفتم “چون آنها کار نمی کنند. ما نمی توانیم این نوع سیستم را به درستی مدل سازی کنیم. این در نهایت باعث شد تا این کتاب را بنویسم.

پروفسور بری اسمیت (BS): به نظر من این یک مشکل بسیار جالب بود. من قبلاً در مورد مشکلات مشابه با هوش مصنوعی مفروضاتی داشتم، اما هرگز آنها را در نظر نگرفتم. ما در ابتدا مقاله ای نوشتیم به نام “دوباره مرتبط کردن هوش مصنوعی. (این در دوره ترامپ بود.) درباره این بود که چرا شبکه های عصبی در مدل سازی زبان شکست می خورند. سپس تصمیم گرفتیم مقاله را به کتابی بسط دهیم که این موضوع را عمیق تر بررسی کند.

DT: کتاب شما در مورد اینکه چگونه شبکه‌های عصبی، که برای یادگیری عمیق مدرن حیاتی هستند، از مغز انسان تقلید می‌کنند، ابراز تردید می‌کند. آنها تقریبی هستند تا مدل های دقیقی از نحوه عملکرد مغز بیولوژیکی. اما آیا این فرض اساسی را قبول دارید که اگر بخواهیم مغز را با جزئیات کافی درک کنیم، امکان دارد که بتوان آن را به طور مصنوعی بازتولید کرد – و این به هوش یا احساس منجر می شود؟

JL: نام “شبکه عصبی” کاملا گمراه کننده است. شبکه‌های عصبی که اکنون داریم، حتی پیچیده‌ترین آن‌ها، هیچ ارتباطی با نحوه عملکرد مغز ندارند. این دیدگاه که مغز مجموعه ای از گره های به هم پیوسته در نحوه ساخت شبکه های عصبی است کاملاً ساده لوحانه است.

اگر به ابتدایی ترین سلول باکتریایی نگاه کنید، ما هنوز حتی نحوه عملکرد آن را درک نمی کنیم. ما برخی از جنبه‌های آن را درک می‌کنیم، اما مدلی از نحوه عملکرد آن نداریم- چه رسد به یک نورون، که بسیار پیچیده‌تر است، یا میلیاردها نورون متصل به یکدیگر. من معتقدم علمی است غیر ممکن برای درک نحوه عملکرد مغز ما فقط می توانیم جنبه های خاصی را درک کنیم و با آنها مقابله کنیم. ما درک کاملی از نحوه عملکرد مغز نداریم و هرگز نخواهیم داشت.

اگر درک کاملی از نحوه عملکرد هر مولکول مغز داشتیم، احتمالاً می توانستیم آن را تکرار کنیم. این به معنای قرار دادن همه چیز در معادلات ریاضی است. سپس می توانید این کار را با استفاده از رایانه تکرار کنید. مشکل این است که ما نمی توانیم این معادلات را بنویسیم و ایجاد کنیم.

لیسانس: بسیاری از جالب ترین چیزها در جهان در سطوحی از جزئیات اتفاق می افتد که ما نمی توانیم به آنها نزدیک شویم. ما به سادگی تجهیزات تصویربرداری نداریم و احتمالاً هرگز تجهیزات تصویربرداری را نخواهیم داشت تا بتوانیم بیشتر آنچه را که در سطوح بسیار ظریف مغز اتفاق می افتد ثبت کنیم.

این بدان معناست که ما نمی دانیم مثلاً چه چیزی مسئول آگاهی است. در واقع، یک سری مسائل فلسفی نسبتاً جالب وجود دارد که طبق روشی که ما دنبال می کنیم، همیشه حل ناپذیر خواهند بود – و بنابراین باید به سادگی از آنها چشم پوشی کنیم.

دیگری آزادی اراده است. ما قویاً از این ایده حمایت می کنیم که انسان ها اراده دارند. ما می توانیم نیات، اهداف و غیره داشته باشیم. اما نمی دانیم که آیا این اراده آزاد است یا نه. این سوالی است که به فیزیک مغز مربوط می شود. بر اساس شواهدی که ما داریم، کامپیوترها نمی توانند اراده داشته باشند.

د.ت: عنوان فرعی کتاب «هوش مصنوعی بدون ترس» است. ترس خاصی که از آن صحبت می کنید چیست؟

لیسانس: این به دلیل ادبیات تکینگی است که می دانم شما با آن آشنا هستید. نیک بوستروم، دیوید چالمرز، ایلان ماسک و امثال اینها. وقتی با همکارانمان در دنیای واقعی صحبت کردیم، برایمان روشن شد که واقعاً در بین مردم ترس وجود دارد که هوش مصنوعی سرانجام جهان را به زیان انسان ها تغییر دهد.

ما مقدار زیادی استدلال از نوع Bostrum در کتاب داریم. استدلال اصلی علیه آنها این است که اگر ماشینی نمی تواند اراده داشته باشد، پس نمی تواند اراده شیطانی داشته باشد. بدون سوء نیت چیزی برای ترس وجود ندارد. اکنون، البته، همچنان می‌توانیم از ماشین‌ها بترسیم، همانطور که از تفنگ می‌ترسیم.

اما این به این دلیل است که ماشین ها توسط افرادی با اهداف شیطانی اداره می شوند. اما این هوش مصنوعی نیست که شیطان است. اینها افرادی هستند که هوش مصنوعی را می سازند و برنامه ریزی می کنند

DT: چرا این تصور از تکینگی یا هوش عمومی مصنوعی اینقدر برای مردم جالب است؟ خواه از او می‌ترسند یا مجذوب او هستند، چیزی در این ایده وجود دارد که در سطح وسیعی با مردم طنین‌انداز می‌شود.

JL: ایده ای وجود دارد که در اوایل قرن نوزدهم آغاز شد و سپس نیچه در پایان آن قرن اعلام کرد که خدا مرده است. از آنجایی که نخبگان جامعه ما دیگر مسیحی نبودند، نیاز به جایگزینی داشتند. ماکس اشتیرنر که مانند کارل مارکس شاگرد هگل بود، کتابی در این باره نوشت و گفت: «من خدای خودم هستم».

اگر خدا هستی، می خواهی خالق هم باشی. اگر بتوانید ابرهوشی خلق کنید، پس مانند خدا هستید. من فکر می کنم این به گرایش های بیش از حد خودشیفتگی در فرهنگ ما مربوط می شود. ما در این کتاب در مورد این موضوع صحبت نمی کنیم، اما برای من توضیح می دهد که چرا این ایده در زمان ما اینقدر جذاب است، جایی که دیگر موجودی متعالی وجود ندارد که بتوان به آن روی آورد.

DT: جالب است. بنابراین برای پیگیری این موضوع، این ایده است که ایجاد هوش مصنوعی – یا هدف برای ایجاد هوش مصنوعی – یک عمل خودشیفتگی است. در آن صورت، این مفهوم که این خلاقیت ها به نحوی از ما قدرتمندتر می شوند، یک پیچ و تاب کابوس وار در این زمینه است. کودک پدر و مادر را می کشد.

JL: کمی شبیه آن، بله.

DT: برای شما، اگر همه با استدلال های شما قانع شوند، نتیجه نهایی کتاب شما چه خواهد بود؟ این چه معنایی برای آینده توسعه هوش مصنوعی خواهد داشت؟

JL: این یک سوال بسیار خوب است. من می توانم دقیقاً به شما بگویم که فکر می کنم چه اتفاقی خواهد افتاد – و خواهد شد. فکر می کنم در میان مدت مردم استدلال های ما را بپذیرند و ریاضیات کاربردی بهتری ایجاد کند.

چیزی که همه ریاضیدانان و فیزیکدانان بزرگ به خوبی از آن آگاه هستند، محدودیت های آن چیزی است که می توانند از نظر ریاضی به آن دست یابند. از آنجایی که آنها متوجه این موضوع هستند، فقط روی مشکلات خاصی تمرکز می کنند. اگر از محدودیت ها آگاه هستید، پس از دنیا عبور می کنید و به دنبال آن مشکلات می گردید و آنها را حل می کنید. به این ترتیب انیشتین معادلات حرکت براونی را پیدا کرد. چگونه او به نظریه های نسبیت خود رسید. چگونه پلانک تابش جسم سیاه را حل کرد و بنابراین زمینه را برای نظریه کوانتومی ماده فراهم کرد. آنها غریزه خوبی داشتند که برای کدام مسائل به راه حل های ریاضی کمک می کنند و کدام ها نه.

اگر مردم پیام کتاب ما را بیاموزند، ما بر این باوریم که می‌توانند سیستم‌های بهتری طراحی کنند، زیرا روی آنچه واقعاً امکان‌پذیر است تمرکز می‌کنند – و از هدر دادن پول و تلاش برای چیزی که نمی‌توان به آن دست یافت، دست خواهند کشید.

لیسانس: من فکر می‌کنم بخشی از پیام در حال حاضر در حال انتقال است، نه به خاطر آنچه ما می‌گوییم، بلکه به دلیل تجربیاتی که مردم وقتی پول زیادی به پروژه‌های هوش مصنوعی می‌دهند و سپس پروژه‌های هوش مصنوعی با شکست مواجه می‌شوند. من فرض می کنم شما در مورد مرکز مشترک هوش مصنوعی می دانید. مبلغ دقیق را به خاطر نمی آورم، اما فکر می کنم حدود 10 میلیارد دلار بود که به یک هنرمند مشهور دادند. در نهایت چیزی از آن عایدشان نشد. قرارداد را شکستند.

(یادداشت سردبیر: JAIC، یک بخش از نیروهای مسلح ایالات متحده، با هدف تسریع “تحویل و پذیرش هوش مصنوعی برای دستیابی به تاثیر ماموریت در مقیاس.” در یک سازمان متحد بزرگتر، Chief Digital و هوش مصنوعی، با دو دفتر دیگر در ژوئن سال جاری. JAIC به عنوان سازمان خود متوقف شد.)

DT: فکر می کنید، از دیدگاه سطح بالا، قانع کننده ترین استدلالی که در کتاب آورده اید چیست؟

لیسانس: هر سیستم هوش مصنوعی ماهیت ریاضی دارد. از آنجایی که ما نمی توانیم هوشیاری، اراده یا عقل را به صورت ریاضی مدل سازی کنیم، نمی توان آنها را با استفاده از ماشین ها تقلید کرد. بنابراین، ماشین‌ها هوشمند نخواهند شد، چه برسد به ابرهوشمند.

JL: ساختار مغز ما تنها به مدل های محدودی از طبیعت اجازه می دهد. در فیزیک، ما زیرمجموعه‌ای از واقعیت را انتخاب می‌کنیم که با توانایی‌های مدل‌سازی ریاضی ما متناسب باشد. نیوتن، ماکسول، انیشتین یا شرودینگر مدل های معروف و زیبای خود را اینگونه به دست می آورند. اما آنها فقط می توانند مجموعه کوچکی از سیستم ها را توصیف یا پیش بینی کنند. بهترین مدل های ما مدل هایی هستند که برای فناوری مهندسی استفاده می کنیم. ما قادر به ایجاد یک مدل ریاضی کامل از طبیعت زنده نیستیم.

این مصاحبه برای طولانی بودن و وضوح ویرایش شده است.

توصیه های سردبیران