سامسونگ به کارکنان سفارش می دهد از ابزارهای هوش مصنوعی مولد استفاده نکنید

بلومبرگ روز دوشنبه گزارش داد که سامسونگ به کارمندان خود گفته است که استفاده از ابزارهای مولد هوش مصنوعی مانند ChatGPT و Bard را به دلیل نگرانی هایی که خطر امنیتی دارند، متوقف کنند.

این اقدام به دنبال مجموعه ای از وقفه های شرم آور در ماه گذشته صورت گرفت، زمانی که طبق گزارش ها، کارمندان سامسونگ سه بار داده های حساس مربوط به نیمه هادی ها را به ChatGPT ارسال کردند.

ChatGPT، مانند سایر ابزارهای تولید هوش مصنوعی، تا حدی بر روی داده های ورودی آموزش دیده است، بنابراین هر چیزی که سامسونگ به آن وارد می کند می تواند در پاسخ به درخواست کاربر دیگری در هر کجای دنیا ظاهر شود، اگرچه توسعه دهنده ChatGPT OpenAI اخیراً یک حالت ناشناس اضافه کرده است که اجازه می دهد تا کاربران برای جلوگیری از استفاده از ورودی های خود برای آموزش مدل های هوش مصنوعی. خود OpenAI همچنین می‌تواند داده‌ها را در حین بررسی مکالمات برای بهبود سیستم‌های خود و اطمینان از اینکه محتوا با سیاست‌ها و الزامات ایمنی آن مطابقت دارد، ببیند.

در یادداشتی که بلومبرگ مشاهده کرد، سامسونگ به کارکنان دستور داد تا از استفاده از این فناوری در رایانه‌ها، تبلت‌ها و تلفن‌های متعلق به شرکت و همچنین در شبکه‌های داخلی خودداری کنند و هشدار داد که داده‌های منتقل شده به پلتفرم‌های مولد هوش مصنوعی در نهایت می‌توانند حساب خود را پیدا کنند. افراد خارج از شرکت

سامسونگ در یادداشتی گفت: «علاقه به پلتفرم‌های هوش مصنوعی مانند ChatGPT در داخل و خارج در حال افزایش است. “در حالی که این علاقه بر کاربرد و اثربخشی این پلتفرم ها متمرکز شده است، نگرانی های فزاینده ای در مورد خطرات امنیتی ارائه شده توسط هوش مصنوعی مولد نیز وجود دارد.”

این سازمان افزود که کارگرانی که از دستورالعمل های امنیتی پیروی نمی کنند ممکن است با اقدامات انضباطی “تا و از جمله خاتمه کار” روبرو شوند.

در این یادداشت آمده است که سامسونگ در حال حاضر “در حال بررسی اقدامات امنیتی برای ایجاد محیطی امن برای استفاده ایمن از هوش مصنوعی مولد برای افزایش بهره وری و کارایی کارکنان است” اما گفته شده است که تا زمانی که اقدامات مورد توافق قرار نگیرد، شرکت “به طور موقت استفاده از هوش مصنوعی مولد را محدود می کند.” .

به عنوان بخشی از تلاش‌ها برای ادغام ایمن ابزارهای هوش مصنوعی در محل کار، سامسونگ در حال توسعه پلت فرم هوش مصنوعی خود برای ترجمه، خلاصه‌سازی اسناد و توسعه نرم‌افزار است.

همانطور که بلومبرگ اشاره می کند، سامسونگ آخرین تجارت بزرگی است که با این فناوری به دلیل نگرانی های امنیتی مخالفت می کند، مانند بانک هایی مانند JPMorgan Chase & Co.، Bank of America Corp. و شرکت سیتی گروپ تصمیم بگیرید که استفاده از آن را در محل کار ممنوع یا حداقل محدود کنید.

در واقع، فناوری هوش مصنوعی با چنان سرعتی در حال حرکت است که بسیاری از شرکت‌ها با ورود آن غافلگیر شده‌اند، و بسیاری را وادار می‌کند تا با عجله ارزیابی کنند که چگونه آن را در محل کار ادغام یا حتی محدود کنند.

توصیه های سردبیران