آیا هوش مصنوعی Generative با وجود خطرات، چیز بزرگ بعدی CX است؟

پیشرفت خلاقانه هوش مصنوعی OpenAI با ChatGPT پیشرفت هایی را در بازاریابی خرده فروشی و بهبودهای الهام بخش در راه حل های تجربه مشتری (CX) ارائه می دهد.

ChatGPT – یا Chat Generative Pre-trained Transformer – که توسط OpenAI در نوامبر 2022 به عنوان یک نمونه اولیه منتشر شد، به طور فزاینده ای در بین صنایع مختلف محبوب می شود. با نسخه‌های اخیر، ساختار جعبه گفتگوی آن، که بر اساس خانواده مدل‌های زبان بزرگ GPT (LLM) ساخته شده است، پاسخ‌های مفصل و پاسخ‌های واضحی را در بسیاری از زمینه‌های دانش ارائه می‌کند.

قابلیت آینده‌نگر Generative AI به کاربران اجازه می‌دهد تا به سرعت محتوا را بر اساس ورودی‌های مختلف تولید کنند. این رویکرد همچنین ابزارهای جدیدی را به ارمغان می آورد که تجارت الکترونیک و کمپین های بازاریابی را بهینه می کند.

به گفته هری فولدر، مدیر ارشد دیجیتال در شرکت راه حل های CX آلوریکا، موارد استفاده فعلی و آینده نه تنها جذاب هستند، بلکه می توانند واقعاً به تحقق وعده های مشتریان کمک کنند. تمرکز آن بر یافتن بهترین پاسخ مناسب با لایه‌بندی هوش مصنوعی مولد در داخل و روی دیگر مجموعه‌های ابزار برای ارائه خدمات وعده داده شده به روشی بسیار سریع‌تر است.

هوش مصنوعی مولد به معنای واقعی کلمه یک بازی کاملاً جدید با توپ است. استفاده از این الگوهای زبانی بزرگ باعث می شود که زمینه برای هر یک منحصر به فرد باشد [human] تعامل،» او به CRM Buyer گفت.

با این حال، هنوز مشخص نیست که آیا استفاده از هوش مصنوعی مولد در عملیات بازاریابی و CRM می‌تواند سوءاستفاده‌های احتمالی برنامه‌نویسی و عدم دقت در ChatGPT را دور بزند یا خیر.

یک سوال مرتبط این است: آیا نرده‌های محافظ می‌توانند مانع از بلند شدن یادگیری ماشینی هوش مصنوعی (ML) و LLM مبتنی بر پردازش زبان طبیعی (NLP) شوند؟

ویژگی های پیشرفته پتانسیل سوء استفاده را دارند

تلاش‌ها برای بهبود قابلیت‌های CX برای بازرگانان و خرده‌فروشان راه‌حل‌های تجاری مورد انتظار را ارائه می‌دهد. اما کارشناسان هشدار می‌دهند که هوش مصنوعی مولد، بدون کنترل، می‌تواند به اعتبار برندها آسیب برساند. Folloder با نیاز به حصارهای ایمنی داخلی در قابلیت‌های هوش مصنوعی برای جلوگیری از رفتار و نتایج غیرقابل قبول مخالف است.

کلید این نگرانی این سوال آزاردهنده است: آیا هوش مصنوعی مولد می تواند آزمون تورینگ را برای هوش انسانی در رایانه ها قبول کند؟

پیاده سازی های قبلی هوش مصنوعی عمدتاً به نتایج مبتنی بر توالی های از پیش آموزش داده شده محدود می شد. هوش مصنوعی فقط می توانست کاری را که برای آن برنامه ریزی شده بود انجام دهد. از سوی دیگر، هوش مصنوعی مولد، پتانسیل ایجاد مصنوعات با کیفیت انسانی را در مقیاس دارد که شامل محتوای نوشتاری، تصویری و صوتی نادرست و گمراه‌کننده است.

همانطور که توسعه‌دهندگان هوش مصنوعی با استفاده از نرده‌های محافظ آزمایش می‌کنند، یک روش اندازه‌گیری قدیمی می‌تواند به جلوگیری از برنامه‌نویسی هوش مصنوعی به “تفکر آزاد” کنترل نشده توسط شبکه‌های هوش مصنوعی کمک کند. آزمون تورینگ که توسط ریاضیدان انگلیسی آلن ام تورینگ در سال 1950 ایجاد شد، روشی ساده برای تعیین توانایی کامپیوتر در نشان دادن هوش انسان از طریق فکر است.

برای گذراندن این آزمون و در نتیجه نشان دادن هوش انسانی، رایانه‌های تقویت‌شده با هوش مصنوعی باید بدون اینکه به‌عنوان یک ماشین شناسایی شوند، با انسان گفتگو کنند. هنوز هیچ کامپیوتری به قبولی در آزمون تورینگ نزدیک نشده است.

اما این آستانه ممکن است دقیقاً در گوشه بعدی باشد.

دقت تصحیح مهم است

برای کارشناسان CX، اهداف اصلی ارائه پاسخ های دقیق به مشتریان، کاهش ناامیدی و بهبود تجربه کلی آنهاست. Folloder تاکید می کند که هدف نهایی CX مبتنی بر هوش مصنوعی حل مشکلات به طور موثرتر و تقویت محافظت از برند است.

این فناوری جدید را به گونه ای در نظر بگیرید که توانایی کاوش در تمام منابع اطلاعاتی را بدون محدودیت داشته باشد. فقدان محدودیت های جستجو به هوش مصنوعی مولد دسترسی نامحدود به مواد جدید می دهد و فرآیند یکپارچه سازی خروجی های آن را غنی می کند.

با سرعت محاسبات، می توانید این اطلاعات یا چیزی را که بی ضرر به نظر می رسد در سطح و در دنیای رایانه پخش کنید. اما می تواند برند را در دنیای واقعی خدشه دار کند.

Folloder خاطرنشان می کند که ایجاد تعادل مناسب هنگام مدیریت محتوا در یک پلت فرم هوش مصنوعی مستلزم در نظر گرفتن محافظت از مشتری است. او معتقد است که این یکی از عوامل اصلی است که در حال حاضر بی پاسخ مانده است.

تصور کنید به یک برنامه توانایی جستجو در هر چیزی را در اینترنت بدهید. روشی که ما از آن استفاده می کنیم اساساً به شما امکان می دهد محتوا را از آن جستجو جدا کنید یا نه.» “کلید این بحث در حال انجام، نزدیک شدن به توانایی هوش مصنوعی مولد برای بالا بردن مرز هوش محاسباتی است.”

وارد آزمون تورینگ شوید

در این زمینه، آزمون تورینگ می تواند به یک عامل کنترل کننده تبدیل شود. سابقه او برای بحث مهم است.

تورینگ زمانی که در دانشگاه منچستر بود، مقاله‌ای نوشت که آزمایش فکری خود را به نام بازی تقلید توصیف کرد. در آن، او پیش‌بینی کرد که تا سال 2000 رایانه «می‌تواند آنقدر خوب بازی تقلیدی را انجام دهد که بازجوی معمولی پس از 5 دقیقه شناسایی صحیح (ماشین یا انسان) بیش از 70 درصد شانس نخواهد داشت. سوال کردن.”

کار تورینگ در سال 1939 به آژانس اطلاعاتی بریتانیا MI6 کمک کرد تا کدهای آلمانی از جمله دستگاه بدنام Enigma را بشکند. این تلاش‌ها در فیلمی با عنوان «بازی تقلید» در سال 2014 که بر اساس زندگی‌نامه آلن تورینگ: معمای سال 1983 نوشته اندرو هاجز است، به نمایش گذاشته می‌شود.

تداوم پیشرفت‌های سریع در هوش مصنوعی باعث نگرانی جهانی در مورد نیاز به ایجاد پادمان‌ها، چه برای موارد استفاده تجاری یا فراتر از آن – همانطور که در آوریل در دیجیتال تو بحث شد، انقلاب هوش مصنوعی در نقطه اوج قرار دارد.

در این مرحله شاهد محدودیت هایی در فناوری هستیم. این محدودیت ها تا چه زمانی تا زمانی که توسعه دهندگان نرم افزار نرده های امنیتی را نصب کنند، باقی خواهند ماند؟ پوشه مداخله کرد.

از آنجایی که مشتریان بیشتری با هوش مصنوعی مولد یکپارچه برند درگیر می شوند، برخی سعی می کنند محدودیت های آن را آزمایش کنند. آزمون تورینگ آستانه چالش برانگیز برای گذراندن هوش مصنوعی مولد است.

باز کردن پتانسیل و مشکلات Gen AI

ما Folloder را تحت فشار قرار دادیم تا پیشرفت‌های لازم را در زمینه‌های درک زمینه‌ای، هوش هیجانی و تصمیم‌گیری در هوش مصنوعی ایجاد کند. ما همچنین از او خواستیم تجربیات خود را در مورد اینکه چگونه هوش مصنوعی مولد می تواند خواسته های تعاملات پیچیده مشتری را بدون فراتر رفتن از مرزهای ایمنی برآورده کند، به اشتراک بگذارد.

خریدار CRM: آیا فکر می کنید هوش مصنوعی مولد می تواند آزمون تورینگ را قبول کند؟

پوشه هری: تست تورینگ همچنان اعمال می شود زیرا با پرسیدن یک سوال منطقی ساده می توانید به راحتی متوجه شوید که این تست انسانی نیست. اما اکنون او این توانایی را دارد که از LLM در مکالمه ای که بیشتر انسان گرایانه است استفاده کند.

عامل تعیین کننده برای نگرانی های ایمنی شما با هوش مصنوعی مولد چیست؟

دنباله رو: منطق امروز هم گم شده است. بنابراین همچنان می توانید به راحتی او را گیج و فریب دهید. هزاران چیز مختلف در پلتفرم‌های رسانه‌های اجتماعی مختلف وجود دارد که به شما نشان می‌دهد چگونه می‌توانید به راحتی این چیزهای هوش مصنوعی را فریب دهید تا کدهای مخرب برای شما بنویسند یا چیزهایی را برخلاف اصول اخلاقی برنامه‌ریزی شده به شما بگویند.

چقدر با پتانسیل هوش مصنوعی مولد برای آسیب رساندن به آن راحت هستید؟

دنباله رو: من چندین سال را در جامعه اطلاعاتی دولت ایالات متحده گذراندم و بر روی ایجاد شیوه های سایبری و ساخت SATCOM برای کاخ سفید تمرکز کردم. بنابراین، من احتمالاً آدم خوبی نیستم که این را بپرسم زیرا آن را در همه چیز می بینم.

قبلاً ثابت شده است که از آن در راه های مخرب استفاده می شود. تروریست های سایبری وجود دارند که از قدرت این ابزار هوش مصنوعی برای بهبود بدافزار خود استفاده کرده اند تا کی لاگرهایی بسازند که توانایی دور زدن اجزای امنیتی مدرن را داشته باشند.

برای ایمن تر کردن هوش مصنوعی مولد چه باید کرد؟

دنباله رو: این سوال کلیدی است! من فکر می کنم که یک تجارت بسیار بزرگ و میلیارد دلاری دقیقاً حول آن می چرخد، زیرا امروز واقعاً هیچ پاسخ خوبی وجود ندارد. هوش مصنوعی سریعتر از آن چیزی است که ما می توانیم پادمان های آن را کنترل کنیم.

بنابراین شما شک دارید که می توان کارهای دیگری جز ممنوعیت استفاده از آن انجام داد، همانطور که برخی از کشورهای اروپایی قبلاً انجام داده اند؟

دنباله رو: من پاسخ خوبی ندارم زیرا فکر نمی کنم هنوز وجود داشته باشد. من در تضاد هستم زیرا این یک فناوری شگفت انگیز است که باید بیشتر مورد استفاده قرار گیرد و برای همیشه تداوم یابد. اما آنها در ترس خود اشتباه نمی کنند. این فناوری پتانسیل زیادی دارد که اگر به درستی نظارت نشود، آسیب های زیادی را به همراه دارد.