OpenAI در حال ایجاد یک تیم جدید برای جلوگیری از سرکشی هوش مصنوعی آینده است

اگر افرادی که در خط مقدم فناوری هوش مصنوعی هستند در مورد اثرات بالقوه فاجعه‌بار سیستم‌های هوش مصنوعی بسیار هوشمند اظهار نظر می‌کنند، احتمالاً عاقلانه است که بنشینید و توجه کنید.

همین چند ماه پیش، جفری هینتون، مردی که به دلیل کار پیشگامانه خود در این زمینه یکی از پدرخوانده‌های هوش مصنوعی به حساب می‌آید، گفت که سرعت سریع توسعه فناوری به این معنی است که «غیرقابل تصور» نیست که هوش مصنوعی فوق‌هوشمند. باور بر این است که برتر از ذهن انسان است – می تواند منجر به نابودی نوع بشر شود.

و سم آلتمن، مدیر عامل OpenAI، شرکتی که پشت ربات چت ویروسی ChatGPT قرار دارد، اعتراف کرد که از تأثیرات احتمالی سیستم‌های هوش مصنوعی پیشرفته بر جامعه «کمی ترسیده است».

آلتمن به قدری نگران است که روز چهارشنبه، شرکت او اعلام کرد که در حال ایجاد واحد جدیدی به نام Superalignment است که با هدف اطمینان از اینکه هوش مصنوعی فوق‌هوشمند ویران نمی‌کند یا چیز بسیار بدتری ایجاد نمی‌کند.

OpenAI در پستی در معرفی این ابتکار جدید گفت: “فوق هوش تاثیرگذارترین فناوری خواهد بود که بشر تا به حال اختراع کرده است و می تواند به ما در حل بسیاری از مهم ترین مشکلات جهان کمک کند.” اما قدرت محض ابر هوش نیز می تواند بسیار خطرناک باشد و می تواند منجر به ناتوانی بشریت یا حتی انقراض انسان شود.

OpenAI گفت که اگرچه ممکن است هوش مصنوعی فوق‌هوشمند خیلی دور به نظر برسد، اما معتقد است که می‌تواند تا سال 2030 توسعه یابد. و به آسانی اعتراف می‌کند که در حال حاضر هیچ سیستمی وجود ندارد “برای مدیریت یا کنترل هوش مصنوعی بالقوه فوق‌هوشمند و جلوگیری از سرکشی آن”.

برای رسیدگی به این وضعیت، OpenAI می‌خواهد یک «محقق هم‌ترازی خودکار در سطح انسانی» بسازد تا بررسی‌های ایمنی را روی هوش مصنوعی فوق‌هوشمند انجام دهد، و اضافه می‌کند که مدیریت این خطرات همچنین مستلزم مدیریت و حل مشکل همسویی ابرهوش‌محور توسط مؤسسات جدید است. .

برای اینکه Superalignment تأثیر بگذارد، OpenAI باید یک تیم قوی از محققان و مهندسان برتر یادگیری ماشین را جمع کند.

به نظر می رسد این شرکت در مورد تلاش های خود بسیار آماده است و آن را به عنوان یک “هدف فوق العاده جاه طلبانه” توصیف می کند و در عین حال اذعان می کند که “موفقیت آن تضمین نشده است.” اما او می افزاید که “خوشبین است که یک تلاش متمرکز و هماهنگ می تواند این مشکل را حل کند.”

ابزارهای جدید هوش مصنوعی مانند ChatGPT در OpenAI و Bard گوگل، در میان بسیاری دیگر، آنقدر انقلابی هستند که کارشناسان مطمئن هستند که حتی در این سطح پیش از ابرهوشی، محیط کار و جامعه به عنوان یک کل با تغییرات اساسی در آینده نزدیک مواجه خواهند شد.

به همین دلیل است که دولت‌ها در سرتاسر جهان در تلاش هستند تا به عقب برسند و با عجله قوانینی را برای صنعت در حال رشد هوش مصنوعی وضع کنند تا اطمینان حاصل کنند که این فناوری به شیوه‌ای ایمن و مسئولانه به کار گرفته می‌شود. با این حال، تا زمانی که یک نهاد واحد تشکیل نشود، هر کشور دیدگاه‌های خاص خود را در مورد بهترین روش استفاده از فناوری خواهد داشت، به این معنی که این مقررات می‌تواند بسیار متفاوت باشد و به نتایج بسیار متفاوتی منجر شود. و همین رویکردهای متفاوت است که دستیابی به هدف Superalignment را دشوارتر می کند.

توصیه های سردبیران