ChatGPT اینگونه می تواند مشکل اصلی سرقت ادبی خود را حل کند
ChatGPT یک ابزار عالی است، اما جنبه تاریکی برای این سرویس هوش مصنوعی پیشرفته وجود دارد که می تواند مانند یک متخصص تقریباً در هر موضوعی بنویسد – سرقت ادبی. وقتی دانش‌آموزانی که نیاز به نشان دادن دانش و درک خود از یک موضوع دارند با استفاده از ChatGPT مخفیانه تقلب می‌کنند، آزمایش و نمره‌دهی باطل می‌شود. مهارت های هوش مصنوعی عالی هستند، اما تنها موضوعی نیستند که دانش آموزان باید یاد بگیرند.
حل این مشکل دشوار بود. از آنجایی که ChatGPT بر روی مجموعه داده عظیمی از نوشته های انسانی آموزش داده شده است، برای یک مربی تقریبا غیرممکن است که تشخیص دهد مقاله توسط یک دانش آموز یا یک ماشین ساخته شده است. چندین ابزار ایجاد شده است که تلاش می‌کنند نوشته‌های تولید شده توسط هوش مصنوعی را تشخیص دهند، اما دقت آن برای مفید بودن بسیار کم است.
در میان نگرانی‌های روزافزون معلمان و ممنوعیت دانش‌آموزان از استفاده از ChatGPT، Business Insider گزارش می‌دهد که OpenAI روی راه‌حلی برای این مشکل کار می‌کند. به تازگی یک توییت توسط تام گلدشتاین، دانشیار یادگیری ماشین در دانشگاه مریلند، توضیح داد که چقدر می تواند در تشخیص متن واترمارکی که توسط ChatGPT نوشته شده است، دقیق باشد.
هر ابزاری که بتواند سرقت ادبی را با دقتی نزدیک به 100% شناسایی کند، این بحث را به سرعت حل می کند و هرگونه نگرانی را کاهش می دهد. به گفته گلدشتاین، یک راه حل این است که یک مدل زبان بزرگ (LLM) انتخاب کنید از بین واژگان محدودی از کلمات، تشکیل یک لیست سفید که برای استفاده هوش مصنوعی مناسب است و یک لیست سیاه از کلماتی که ممنوع هستند. اگر تعداد غیر طبیعی زیادی از کلمات در لیست سفید در یک نمونه ظاهر شود، این نشان می دهد که توسط هوش مصنوعی تولید شده است.
این رویکرد ساده‌گرایانه بسیار محدودکننده خواهد بود، زیرا پیش‌بینی کلماتی که ممکن است هنگام کار کردن یک کلمه در یک زمان مورد نیاز باشد، دشوار است، همانطور که اکثر LLM ها انجام می‌دهند. گلدشتاین پیشنهاد می‌کند که ChatGPT می‌تواند به بیش از یک کلمه نگاه کند، به طوری که بتواند جمله‌ای را طراحی کند که با کلمات در لیست سفید پر شود و در عین حال معنادار باشد.
ChatGPT با ورود به گروه نویسندگی انجمن سروصدای زیادی به پا کرد و همچنین می تواند یک کمک آموزشی عالی باشد. معرفی هوش مصنوعی به مدارس مهم است، زیرا به وضوح یک فناوری مهم برای درک در آینده خواهد بود، اما تا زمانی که موضوع سرقت ادبی مطرح نشود، بحث برانگیز خواهد بود.
توصیه های سردبیران