کامپیوتر

ChatGPT اینگونه می تواند مشکل اصلی سرقت ادبی خود را حل کند

ChatGPT یک ابزار عالی است، اما جنبه تاریکی برای این سرویس هوش مصنوعی پیشرفته وجود دارد که می تواند مانند یک متخصص تقریباً در هر موضوعی بنویسد – سرقت ادبی. وقتی دانش‌آموزانی که نیاز به نشان دادن دانش و درک خود از یک موضوع دارند با استفاده از ChatGPT مخفیانه تقلب می‌کنند، آزمایش و نمره‌دهی باطل می‌شود. مهارت های هوش مصنوعی عالی هستند، اما تنها موضوعی نیستند که دانش آموزان باید یاد بگیرند.

حل این مشکل دشوار بود. از آنجایی که ChatGPT بر روی مجموعه داده عظیمی از نوشته های انسانی آموزش داده شده است، برای یک مربی تقریبا غیرممکن است که تشخیص دهد مقاله توسط یک دانش آموز یا یک ماشین ساخته شده است. چندین ابزار ایجاد شده است که تلاش می‌کنند نوشته‌های تولید شده توسط هوش مصنوعی را تشخیص دهند، اما دقت آن برای مفید بودن بسیار کم است.

در میان نگرانی‌های روزافزون معلمان و ممنوعیت دانش‌آموزان از استفاده از ChatGPT، Business Insider گزارش می‌دهد که OpenAI روی راه‌حلی برای این مشکل کار می‌کند. به تازگی یک توییت توسط تام گلدشتاین، دانشیار یادگیری ماشین در دانشگاه مریلند، توضیح داد که چقدر می تواند در تشخیص متن واترمارکی که توسط ChatGPT نوشته شده است، دقیق باشد.

#OpenAI قصد توقف دارد #ChatGPT کاربران از ایجاد ربات های رسانه های اجتماعی و کلاهبرداری خانه از طریق "واترمارک" خارج می شود. این چقدر خوب می تواند کار کند؟ در اینجا فقط 23 کلمه از LLM با پارامتر 1.3B با واترمارک آورده شده است. ما آن را با اطمینان 99.999999999994٪ پیدا کردیم. اینطوری 🧵 pic.twitter.com/pVC9M3qPyQ

– تام گلدشتاین (@tomgoldsteincs) 25 ژانویه 2023

هر ابزاری که بتواند سرقت ادبی را با دقتی نزدیک به 100% شناسایی کند، این بحث را به سرعت حل می کند و هرگونه نگرانی را کاهش می دهد. به گفته گلدشتاین، یک راه حل این است که یک مدل زبان بزرگ (LLM) انتخاب کنید از بین واژگان محدودی از کلمات، تشکیل یک لیست سفید که برای استفاده هوش مصنوعی مناسب است و یک لیست سیاه از کلماتی که ممنوع هستند. اگر تعداد غیر طبیعی زیادی از کلمات در لیست سفید در یک نمونه ظاهر شود، این نشان می دهد که توسط هوش مصنوعی تولید شده است.

مطلب پیشنهادی:  AMD می تواند با پردازنده های جدید 3D V-Cache ضربه بزرگی به اینتل وارد کند

این رویکرد ساده‌گرایانه بسیار محدودکننده خواهد بود، زیرا پیش‌بینی کلماتی که ممکن است هنگام کار کردن یک کلمه در یک زمان مورد نیاز باشد، دشوار است، همانطور که اکثر LLM ها انجام می‌دهند. گلدشتاین پیشنهاد می‌کند که ChatGPT می‌تواند به بیش از یک کلمه نگاه کند، به طوری که بتواند جمله‌ای را طراحی کند که با کلمات در لیست سفید پر شود و در عین حال معنادار باشد.

ChatGPT با ورود به گروه نویسندگی انجمن سروصدای زیادی به پا کرد و همچنین می تواند یک کمک آموزشی عالی باشد. معرفی هوش مصنوعی به مدارس مهم است، زیرا به وضوح یک فناوری مهم برای درک در آینده خواهد بود، اما تا زمانی که موضوع سرقت ادبی مطرح نشود، بحث برانگیز خواهد بود.

توصیه های سردبیران






نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا