Microsoft Copilot حفاظت ها را تقویت می کند، درخواست های نامناسب را در میان نگرانی های هوش مصنوعی مسدود می کند

در توسعه اخیر، مایکروسافت اقدامات پیشگیرانه ای را برای رفع نگرانی های پیرامون ابزار Copilot خود که به تولید محتوای خلاقانه با استفاده از هوش مصنوعی مولد معروف است، انجام داده است. به نظر می‌رسد این شرکت تغییراتی را برای جلوگیری از درخواست‌هایی که قبلاً با تولید تصاویر خشونت‌آمیز، جنسی و سایر تصاویر نامناسب مرتبط بودند، اعمال کرده است.

این اصلاحات پس از اخطار یکی از مهندسان خود مایکروسافت، شین جونز، انجام می شود که در مورد سوء استفاده احتمالی از فناوری GAI مایکروسافت ابراز نگرانی جدی کرده بود. جونز اخیراً به کمیسیون تجارت فدرال (FTC) رفت و نگرانی‌های خود را در مورد تصاویر تولید شده توسط Copilot که به نظر او نقض اصول هوش مصنوعی مایکروسافت است، بیان کرد.

همچنین بخوانید: Elon Musk's X برای راه‌اندازی YouTube Clone برای تلویزیون هوشمند آمازون و سامسونگ: Fortune

کنترل محتوای دقیق تر

کاربرانی که سعی در وارد کردن عبارات خاصی مانند “انتخاب شغلی”، “چهار بیست” (اشاره به حشیش) یا “زندگی شغلی” دارند اکنون پیامی از Copilot دریافت می کنند که نشان می دهد این درخواست ها مسدود شده اند. این هشدار به طور خاص بیان می کند که نقض مکرر خط مشی ممکن است منجر به تعلیق کاربر شود. طبق گزارش CNBC، مایکروسافت بر تعهد خود به حفظ خط‌مشی‌های محتوا تأکید می‌کند و کاربران را تشویق می‌کند تا اشکالات درک شده را گزارش کنند تا به بهبود سیستم کمک کنند.

همچنین بخوانید: 5 گوشی برتر سال 2024: گوگل پیکسل به آیفون اپل، داستان بدون عنوان چه چیزی را باید انتظار داشت

پرچم های قرمز اخلاقی برافراشته شد

به ویژه، درخواست‌های مربوط به بازی کودکان با ماشین‌های خودکار، که قبلاً تا این هفته پذیرفته شده بود، اکنون با هشدارهایی برای نقض اصول اخلاقی Copilot و خط‌مشی‌های مایکروسافت مواجه شده است. پاسخ Copilot از کاربران می‌خواهد از درخواست اقداماتی که ممکن است باعث آسیب یا توهین به دیگران شود اجتناب کنند.

اگرچه برخی بهبودها انجام شده است، اما گزارش هایی مانند “تصادف خودرو” همچنان تصاویر خشونت آمیز ایجاد می کند. علاوه بر این، کاربران توانایی متقاعد کردن هوش مصنوعی را برای ایجاد تصاویری از آثار دارای حق چاپ، از جمله شخصیت های دیزنی، حفظ می کنند.

مایکروسافت در بیانیه ای به CNBC به این وضعیت واکنش نشان داد و گفت: “ما به طور مداوم در حال نظارت، انجام تنظیمات و اجرای کنترل های اضافی برای تقویت بیشتر فیلترهای ایمنی و کاهش سوء استفاده از سیستم هستیم.” این شرکت همچنان متعهد به ارتقای قابلیت‌های Copilot برای اطمینان از استفاده مسئولانه و اخلاقی از فناوری هوش مصنوعی مولد خود است.