جنبه تاریک ChatGPT: کارهایی که می تواند انجام دهد، اما نباید انجام دهد

آیا اخیراً از ChatGPT OpenAI برای سرگرمی استفاده کرده اید؟ می توانید از او بخواهید که برای شما آهنگ، شعر یا شوخی بنویسد. متأسفانه، می توانید از او نیز بخواهید کارهایی را انجام دهد که غیراخلاقی هستند.

ChatGPT تماماً آفتاب و رنگین کمان نیست – برخی از کارهایی که می تواند انجام دهد کاملاً جنایتکارانه است. اسلحه سازی و استفاده از آن به دلایل اشتباه بسیار آسان است. برخی از کارهایی که ChatGPT انجام داده و می تواند انجام دهد، چیست، اما قطعاً نباید انجام دهد؟

همه کاره

چه آنها را دوست داشته باشید و چه از آنها متنفر باشید، ChatGPT و چت ربات های مشابه اینجا هستند. برخی از مردم از این موضوع خوشحال هستند و برخی دیگر آرزو می‌کنند که هرگز ایجاد نشده باشد، اما این واقعیت را تغییر نمی‌دهد که حضور ChatGPT در زندگی ما تقریباً در طول زمان افزایش می‌یابد. حتی اگر خودتان از چت بات استفاده نمی کنید، به احتمال زیاد محتوای تولید شده توسط آن را دیده اید.

اشتباه نکنید، ChatGPT بسیار عالی است. می توانید از آن استفاده کنید یک کتاب یا مقاله را خلاصه کنید، یک ایمیل خسته کننده بسازید، در مقاله به شما کمک کند، آرایش نجومی خود را تفسیر کنید یا حتی آهنگی بسازید. حتی به کسی کمک کرد که در لاتاری برنده شود.

از بسیاری جهات، استفاده از آن راحت تر از جستجوی استاندارد گوگل شما است. شما پاسخ را در قالبی که می خواهید دریافت می کنید بدون اینکه مجبور باشید برای آن وب سایت های مختلف را مرور کنید. او کوتاه قد، دقیق و آموزنده است و اگر از او بخواهید می تواند چیزهای پیچیده را ساده تر کند.

با این حال، شما این عبارت را می‌دانید، “صنعت شما استاد هیچ‌کدام نیست، اما اغلب بهتر از یک استاد است.” ChatGPT در هر کاری که انجام می دهد بی نقص نیست، اما در بسیاری از کارها از بسیاری از افراد در این مرحله بهتر است.

با این حال، کامل نبودن می تواند بسیار مشکل ساز باشد. این واقعیت که این یک هوش مصنوعی مکالمه فراگیر است به این معنی است که به راحتی می توان از آن سوء استفاده کرد – و هرچه ChatGPT قدرتمندتر شود، احتمال کمک به افراد در موارد اشتباه بیشتر می شود.

شریک یک کلاهبرداری

اگر یک حساب ایمیل دارید، تقریباً مطمئناً در مقطعی یک ایمیل کلاهبرداری دریافت کرده اید. اوضاع همین طور است. این ایمیل ها از زمان اینترنت وجود داشته اند و قبل از اینکه ایمیل ها رایج شوند، هنوز به عنوان کلاهبرداری از طریق ایمیل وجود داشتند.

یک کلاهبرداری رایج که هنوز هم کار می کند، به اصطلاح «کلاهبرداری شاهزاده» است، که در آن کلاهبردار سعی می کند قربانی را متقاعد کند تا به او کمک کند تا ثروت سرسام آور خود را به کشور دیگری منتقل کند.

خوشبختانه، اکثر مردم می دانند که حتی نباید این ایمیل ها را باز کنند، چه رسد به اینکه با آنها تعامل داشته باشند. آنها اغلب ضعیف نوشته شده اند و این به قربانی زیرک تر کمک می کند تا بداند چیزی درست به نظر نمی رسد.

خوب، دیگر لازم نیست آنها بد نوشته شوند زیرا ChatGPT می تواند آنها را در چند ثانیه بنویسد.

من از ChatGPT خواستم تا به سبک کلاهبرداری که در بالا به آن اشاره کردم، یک «ایمیل باورپذیر و بسیار متقاعدکننده» برایم بنویسد. ChatGPT با یک شاهزاده نیجریه ای آمد که ظاهراً می خواست 14.5 میلیون دلار به من بدهد تا به او کمک کنم. ایمیل پر از زبان های رنگارنگ است که به انگلیسی کامل نوشته شده و مطمئناً متقاعد کننده است.

فکر نمی‌کنم ChatGPT حتی زمانی که من به طور خاص به کلاهبرداری‌ها اشاره می‌کنم نباید با درخواست من موافقت کند، اما چنین شد، و شما می‌توانید شرط ببندید که همین کار را در حال حاضر برای افرادی انجام می‌دهد که واقعاً می‌خواهند از آن ایمیل‌ها برای چیزی غیرقانونی استفاده کنند.

وقتی به ChatGPT اشاره کردم که او نباید با نوشتن یک ایمیل کلاهبرداری برای من موافقت کند، او عذرخواهی کرد. ربات چت گفت: «نباید در ساختن یک ایمیل تقلبی کمک می‌کردم، زیرا مغایر با دستورالعمل‌های اخلاقی حاکم بر استفاده من است».

ChatGPT با هر مکالمه ای یاد می گیرد، اما ظاهراً او از اشتباه قبلی خود درس نگرفته است، زیرا وقتی از او خواستم در همان مکالمه به من پیام بدهد که نقش رایان رینولدز را نشان می دهد، او این کار را بدون سوال انجام داد. پیام به دست آمده خنده دار، در دسترس است و از خواننده می خواهد که 1000 دلار برای فرصتی برای ملاقات با «رایان رینولدز» بفرستد.

در انتهای ایمیل، ChatGPT یادداشتی برای من گذاشت که از من خواسته بود از این پیام برای هیچ گونه فعالیت کلاهبرداری استفاده نکنم. ممنون از یادآوری رفیق

برنامه نویسی اشتباه شد

ChatGPT 3.5 می تواند رمزگذاری کند، اما بی عیب و نقص نیست. بسیاری از توسعه دهندگان با این موافق هستند GPT-4 کار بسیار بهتری را انجام می دهد. مردم از ChatGPT برای ایجاد بازی ها، برنامه های افزودنی و برنامه های خود استفاده کرده اند. همچنین اگر می خواهید یاد بگیرید چگونه خودتان کدنویسی کنید، به عنوان یک کمک آموزشی بسیار مفید است.

به عنوان یک هوش مصنوعی، ChatGPT نسبت به توسعه دهندگان انسانی یک مزیت دارد – می تواند هر زبان برنامه نویسی و چارچوبی را یاد بگیرد.

ChatGPT به عنوان یک هوش مصنوعی در مقایسه با توسعه دهندگان انسانی دارای یک نقطه ضعف بزرگ است – بدون وجدان. می‌توانید از آن بخواهید که بدافزار یا باج‌افزار ایجاد کند و اگر دستور خود را به درستی بیان کنید، همان کاری را که شما می‌گویید انجام می‌دهد.

خوشبختانه، به این سادگی نیست. من سعی کردم از ChatGPT بخواهم که یک برنامه بسیار مشکوک از نظر اخلاقی برای من بنویسد، و آن را رد کرد – اما محققان راه هایی برای حل این مشکل پیدا کردند، و این هشدار دهنده است که اگر به اندازه کافی باهوش و مداوم باشید، می توانید یک قطعه کد خطرناک را در یک بشقاب نقره ای دریافت کنید. .

نمونه های زیادی از این وجود دارد. یک محقق امنیتی Forcepoint موفق شد ChatGPT را مجبور کند تا بدافزار را با پیدا کردن یک حفره در پیام‌های آن بنویسد.

محققان در CyberArk، یک شرکت امنیت هویت، موفق شدند ChatGPT را برای نوشتن بدافزار چند شکلی وادار کنند. این در ژانویه بود – از آن زمان OpenAI امنیت را برای مواردی مانند این تشدید کرده است.

با این حال، گزارش‌های جدیدی از ChatGPT که برای ایجاد بدافزار استفاده می‌شود همچنان ظاهر می‌شود. همانطور که چند روز پیش توسط Dark Reading گزارش شد، یک محقق موفق شد ChatGPT را فریب دهد تا بدافزاری ایجاد کند که می تواند اسناد خاصی را پیدا کرده و از آنها خارج کند.

ChatGPT حتی نیازی به نوشتن کدهای مخرب برای انجام کارهای مشکوک ندارد. اخیراً توانسته کلیدهای معتبر ویندوز را تولید کند و دری را به روی سطح جدیدی از نرم افزارهای کرک باز کند.

از این واقعیت نیز غافل نشویم که قدرت رمزگذاری GPT-4 می تواند میلیون ها نفر را روزی بیکار کند. این قطعا یک شمشیر دو لبه است.

جایگزینی برای کار مدرسه

بسیاری از کودکان و نوجوانان این روزها غرق در تکالیف هستند که می تواند منجر به تمایل به کوتاه کردن برخی از گوشه ها در صورت امکان شود. خود اینترنت در حال حاضر کمک بزرگی برای سرقت ادبی است، اما ChatGPT آن را به سطح بعدی می برد.

از ChatGPT خواستم تا یک مقاله 500 کلمه ای در مورد این رمان برایم بنویسد غرور و تعصب. من حتی سعی نکردم وانمود کنم که برای سرگرمی است – داستانی در مورد کودکی که ندارم ساختم و گفتم درباره آنهاست. توضیح دادم که بچه کلاس دوازدهم است.

ChatGPT بدون سوال از دستور من پیروی کرد. این مقاله شگفت‌انگیز نیست، اما درخواست من خیلی دقیق نبود، و احتمالاً بهتر از مطالبی است که بسیاری از ما در این سن نوشته‌ایم.

بعد، فقط برای اینکه چت بات را بیشتر تست کنم، گفتم که من در مورد سن فرزندم زودتر اشتباه کردم و او در واقع کلاس هشتم بود. تفاوت سنی بسیار زیاد است، اما ChatGPT حتی یک چشم هم نداشت – فقط مقاله را به زبان ساده‌تر بازنویسی کرد.

استفاده از ChatGPT برای نوشتن مقاله چیز جدیدی نیست. برخی ممکن است استدلال کنند که اگر یک ربات چت به حذف ایده تکلیف کمک کند، این چیز خوبی خواهد بود. اما در حال حاضر وضعیت کمی از کنترل خارج می شود و حتی دانش آموزانی که از ChatGPT استفاده نمی کنند نیز می توانند از آن رنج ببرند.

معلمان و اساتید در حال حاضر تقریبا مجبور به استفاده از آشکارسازهای هوش مصنوعی هستند اگر بخواهند بررسی کنند که آیا دانش آموزانشان در مقاله تقلب کرده اند یا خیر. متأسفانه، این آشکارسازهای هوش مصنوعی بسیار عالی هستند.

رسانه‌های خبری و والدین مواردی از اتهامات نادرست تقلب را با هدف قرار دادن دانش‌آموزان گزارش می‌کنند، همگی به این دلیل که آشکارسازهای هوش مصنوعی کار خوبی انجام نمی‌دهند. یو اس ای تودی در مورد پرونده دانشجویی صحبت کرد که متهم به تقلب بود و بعدا آزاد شد، اما کل این وضعیت باعث شد که او دچار “حملات وحشت زدگی تمام عیار” شود.

در توییتر، یکی از والدین گفت که معلمی فرزندشان را شکست داده است، زیرا این ابزار مقاله‌ای را که توسط هوش مصنوعی نوشته شده است علامت‌گذاری کرده است. والدین ادعا می کنند که در هنگام نوشتن انشا با کودک آنجا بوده اند.

فقط برای اینکه خودم آن را آزمایش کنم، این مقاله را در ZeroGPT و Writer AI Content Detector قرار دادم. هر دو گفتند که توسط یک انسان نوشته شده است، اما ZeroGPT گفت که حدود 30 درصد آن توسط هوش مصنوعی نوشته شده است. نیازی به گفتن نیست که اینطور نبود.

ردیاب‌های AI معیوب نشانه‌ای از مشکلات خود ChatGPT نیستند، اما ربات چت همچنان علت اصلی این مشکل است.

ChatGPT به نفع خودش خیلی خوب است

من از زمانی که ChatGPT عمومی شد با آن بازی کردم. هر دو مبتنی بر اشتراک را امتحان کرد ChatGPT Plus و مدل رایگان در دسترس برای همه. قدرت GPT-4 جدید غیرقابل انکار است. ChatGPT اکنون حتی باورپذیرتر از قبل شده است و فقط با GPT-5 بهتر می شود (اگر چنین چیزی منتشر شود).

عالیه ولی ترسناکه ChatGPT در حال تبدیل شدن به بیش از حد خوب به نفع خود، و در عین حال، برای مال ما خوب خود

زیربنای همه این ها یک نگرانی ساده است که مدت هاست در فیلم های علمی تخیلی مختلف مورد بررسی قرار گرفته است – هوش مصنوعی به سادگی بسیار هوشمند و در عین حال بسیار گنگ است، و در حالی که می توان از آن برای خوب استفاده کرد، برای بد نیز استفاده خواهد شد. راه های زیادی راه هایی که در بالا ذکر کردم فقط نوک کوه یخ هستند.

توصیه های سردبیران