آیا ChatGPT ایمن است؟ در اینجا خطراتی وجود دارد که باید از آنها آگاه باشید

شکی نیست که ChatGPT یک پیشرفت انقلابی در کاربرد و پتانسیل هر رایانه یا تلفن هوشمند متصل به اینترنت است، اما آیا استفاده از آن بی خطر است؟

نگرانی های عمده ای در مورد تکامل کلی هوش مصنوعی مولد وجود دارد و برخی از رهبران فناوری حتی خواستار توقف در توسعه هستند. اما برای فرد، ایمنی یک اصطلاح نسبی است، به خصوص وقتی صحبت از ابزار باشد. بنابراین، در اینجا همه چیزهایی است که باید قبل از پریدن در نظر بگیرید.

محرمانه بودن و نشت مالی

حداقل در یک مورد، سابقه چت بین کاربران به هم ریخته بود. در 20 مارس 2023، OpenAI خالق ChatGPT مشکلی را کشف کرد و ChatGPT برای چند ساعت خاموش بود. در آن زمان، چندین کاربر ChatGPT سابقه چت افراد دیگر را به جای تاریخچه خود مشاهده می کردند. شاید نگران‌کننده‌تر این خبر بود که اطلاعات مربوط به پرداخت از سوی مشترکین ChatGPT-Plus ممکن است به بیرون درز کند.

OpenAI یک گزارش حادثه منتشر کرد و باگ ایجاد شده را برطرف کرد. این بدان معنا نیست که مشکلات جدیدی در آینده ایجاد نخواهد شد. با هر سرویس آنلاین، خطر نشت تصادفی مانند این و نقض امنیت سایبری از سوی ارتش رو به رشد هکرها وجود دارد.

سیاست حفظ حریم خصوصی OpenAI

بر اساس خط مشی رازداری OpenAI، اطلاعات تماس، سابقه تراکنش، فعالیت شبکه، محتوا، موقعیت مکانی و اعتبارنامه ورود به سیستم ممکن است با شرکا، فروشندگان و ارائه دهندگان خدمات، مجریان قانون و طرف های درگیر در تراکنش ها به اشتراک گذاشته شود.

در برخی موارد، این امر اجتناب ناپذیر است. OpenAI ممکن است از پردازنده های پرداخت شخص ثالث استفاده کند، بنابراین انتظار می رود. شرکت باید تمام تعهدات قانونی را رعایت کند و برخی از این داده ها ممکن است برای تحقیق استفاده شود.

حتی زمانی که توجیه جمع‌آوری داده‌ها آسان باشد، احتمال سوء استفاده و نشت اطلاعات یک نگرانی امنیتی مشروع است. OpenAI پرسش‌های متداول ChatGPT توصیه می‌کند اطلاعات محرمانه را به اشتراک نگذارید و هشدار می‌دهد که درخواست‌ها نمی‌توانند حذف شوند.

ChatGPT به عنوان یک ابزار هک

در مورد موضوع امنیت سایبری، برخی از کارشناسان نگران هستند استفاده بالقوه از ChatGPT به عنوان یک ابزار هک. واضح است که یک ربات چت پیچیده می‌تواند به هر کسی کمک کند تا یک سند رسمی بنویسد، و از ChatGPT می‌توان برای ایجاد یک کلاهبرداری فیشینگ ایمیل قانع‌کننده استفاده کرد.

هوش مصنوعی همچنین معلم خوبی است که یادگیری مهارت های جدید با ChatGPT را آسان می کند، احتمالاً مهارت های برنامه نویسی خطرناک و دانش زیرساخت شبکه. ترکیب ChatGPT و انجمن‌های وب تاریک می‌تواند منجر به حملات متعدد و جدیدی شود که منابع گسترده محققان امنیت سایبری را به چالش خواهد کشید.

به عنوان مثال، شخصی در توییتر نمونه ای از GPT-4 را برای نوشتن دستورالعمل هایی در مورد نحوه هک کردن رایانه ارسال کرد و جزئیات وحشتناکی را ارائه کرد.

ChatGPT می تواند بر اساس درخواست ها به زبان انگلیسی ساده کد بنویسد و به هر کسی اجازه می دهد برنامه تولید کند. با ویژگی جدید افزونه، ChatGPT AI حتی می تواند کدهای خود تولید شده را اجرا کند.

OpenAI این قابلیت را برای جلوگیری از استفاده های ناامن در جعبه سندباکس قرار داده است، اما ما قبلاً نمونه ای از هک کردن API GPT-3 OpenAI را دیده ایم. OpenAI باید بسیار مراقب امنیت باشد زیرا ویژگی افزونه و دسترسی به اینترنت برای افراد بیشتری در دسترس است.

ChatGPT و ایمنی شغلی

ChatGPT معلمان را نگران می کند زیرا سرقت ادبی را بسیار آسان می کند. OpenAI چت بات خود را در مورد انواع اطلاعاتی که دانش آموزان برای نوشتن مقاله به عنوان مدرکی مبنی بر یادگیری موضوعی باید بدانند، آموزش داد.

در حالی که این یک نگرانی ایمنی نیست، معلمان همچنین باید بدانند که ChatGPT می تواند دانش آموزان را در مورد طیف گسترده ای از موضوعات آموزش دهد، توجه فردی و پاسخ های فوری به سؤالات را ارائه دهد. در آینده ممکن است از هوش مصنوعی خواسته شود تا به دانش‌آموزان در کلاس‌های شلوغ آموزش داده یا در یادگیری کمک کند.

برای نویسندگان، ChatGPT می تواند ترسناک به نظر برسد. می تواند هزاران کلمه را در چند ثانیه تولید کند. همین کار مستلزم ساعت ها کار یک فرد، حتی یک نویسنده حرفه ای است.

در حال حاضر، هنوز به اندازه کافی اشکال دارد تا به عنوان یک ابزار تحقیق یا نوشتن مفیدتر باشد تا جایگزینی برای نویسندگان. اگر مشکلات دقت حل شود، هوش مصنوعی می تواند شروع به کار کند.

ChatGPT تعداد زیادی برنامه دارد و هر روز تعداد بیشتری از آنها کشف می شود. علاوه بر برقراری ارتباط و یادگیری، ChatGPT حتی می‌تواند عکس یک برنامه طراحی شده با دست را تجزیه و تحلیل کند و برنامه‌ای برای ایجاد آن بنویسد، همانطور که در نسخه ی نمایشی OpenAI از قابلیت‌های جدید GPT-4 نشان داده شده است.

کلاهبرداری های ChatGPT

این تقصیر OpenAI نیست، اما یک عارضه جانبی هر فناوری جدید هیجان انگیز، ظهور کلاهبرداری هایی است که نوید دسترسی بیشتر یا ویژگی های جدید را می دهد. از دسترسی به ChatGPT هنوز محدود است و گاهی اوقات کند است، تقاضای زیادی برای خوبی ChatGPT وجود دارد.

هر به‌روزرسانی جدید ویژگی‌های گسترده‌تری را به همراه می‌آورد که برخی از آنها نیاز به عضویت دارند و در دسترس بودن محدودی دارند. شور و حرارت ChatGPT زمینه مناسبی را برای کلاهبرداری فراهم می کند. ارائه‌های رایگان، دسترسی نامحدود با سریع‌ترین سرعت و با بهترین ویژگی‌های جدید به سختی قابل چشم پوشی است.

متأسفانه، ضرب المثل قدیمی هنوز هم صادق است – اگر آنقدر خوب به نظر می رسد که درست باشد، احتمالاً همینطور است. مراقب پیشنهادات ChatGPT باشید که از طریق ایمیل یا رسانه های اجتماعی ارائه می شود. بهتر است رسانه های خبری قابل اعتماد را بررسی کنید یا مستقیماً به OpenAI بروید تا هر دعوت یا معامله ای را که مشکوک به نظر می رسد تأیید کنید.

ChatGPT هم قدرتمند و هم وحشتناک است. به عنوان یکی از اولین نمونه‌های هوش مصنوعی در دسترس عموم با مهارت‌های زبانی خوب، چالش‌ها و موفقیت‌های آن باید به عنوان زنگ خطری برای همه باشد. مهم است که با فناوری جدید هوش مصنوعی مراقب باشید. خیلی آسان است که در هیجان گرفتار شوید و فراموش کنید که با یک سرویس آنلاین سروکار دارید که می تواند هک یا سوء استفاده شود.

آهسته و پیوسته مسابقه را میبرد

OpenAI نیاز به انجام آهسته تر را تشخیص می دهد زیرا ChatGPT مهارت و دسترسی بیشتری به اینترنت پیدا می کند. حرکت بیش از حد سریع می تواند منجر به واکنش و بارهای نظارتی بالقوه شود.

توصیه های سردبیران