OpenAI در حال توسعه ابزاری برای تشخیص تقلبی های عمیق و تصاویر تولید شده توسط هوش مصنوعی است – جزئیات را بررسی کنید

در شبکه‌های اجتماعی با چندین تصویر و ویدیو مواجه می‌شویم که آنقدر خوب هستند که واقعیت ندارند یا در بسیاری موارد تکان دهنده هستند. در برخی موارد، ما فقط از کنار یک تصویر رد می‌شویم بدون اینکه حتی متوجه شویم که یک جعلی است. در چنین مواردی، بسیاری طعمه اخبار جعلی می شوند و به دلیل اشتراک گذاری های متعدد، روند رو به رشد را آغاز می کند. به همین دلیل است که برای مقابله با جعلیات و اطلاعات نادرست، سازنده ChatGPT OpenAI از توسعه ابزاری برای احراز هویت محتوا و شناسایی تصاویر تولید شده توسط هوش مصنوعی خبر داد.

ابزار OpenAI برای تشخیص جعل عمیق و تصاویر تولید شده توسط هوش مصنوعی

طبق پست وبلاگ OpenAI، این شرکت ابزاری برای ردیابی و تشخیص تصاویر تولید شده مصنوعی ایجاد خواهد کرد. هدف از توسعه چنین ابزاری آموزش مردم در مورد محتوای تولید شده توسط هوش مصنوعی و جلوگیری از موارد جعلی عمیق است. OpenAI با کمیته منشأ و اصالت محتوا (C2PA) ائتلاف همکاری می کند، که برچسب های واضحی برای محتوای تولید شده توسط هوش مصنوعی ایجاد می کند. OpenAI گفت: “با گسترش بیشتر محتوای سمعی و بصری تولید شده، ما معتقدیم که برای جامعه به عنوان یک کل به طور فزاینده ای مهم خواهد بود که فناوری ها و استانداردهای جدیدی را بپذیرند که به مردم کمک کند ابزارهای مورد استفاده برای ایجاد محتوا و آنچه را که آنلاین می یابند درک کنند.”

ابزار جدید با ابزار تولید تصویر OpenAI، Dall-E 3 ادغام خواهد شد. به ویژه، این ابزار اطلاعات مربوط به نحوه توسعه محتوا همراه با منشاء تصویر را ارائه می دهد. علاوه بر این، محتوای تولید شده هنرمندانه از ابزار OpenAI نیز از یک علامت نامرئی و ضد دستکاری تشکیل شده است. انتظار می رود این ابزار با تصاویر تولید شده توسط Dall-E 98 درصد و با ابزارهای دیگر تولید تصویر مانند Midjourney یا Adobe Firefly، 5 تا 10 درصد دقت داشته باشد. بنابراین، این ابزار به سادگی برای سایر ابزارهای تصویربرداری کار نمی کند، و باعث می شود کمتر مفید باشد. با این حال، این اولین قدم است و تلاش های این شرکت را برای مبارزه با جعلیات عمیق و اطلاعات نادرست پخش شده آنلاین نشان می دهد.

گزارش شده است که OpenAI این ابزار را در دسترس مخاطبان بسیار محدودی قرار داده است و از آزمایشگاه‌های تحقیقاتی و سازمان‌های روزنامه‌نگاری تحقیقی غیرانتفاعی دعوت کرده است تا این ابزار را آزمایش کرده و بازخورد خود را قبل از انتشار گسترده ارائه دهند. چنین ابزارهای تشخیص هوش مصنوعی می توانند افراد را قادر به شناسایی جعلی های عمیق تولید شده توسط سیاستمداران و افراد مشهور کنند.

یک چیز دیگر! ما اکنون در کانال های واتس اپ هستیم! ما را در آنجا دنبال کنید تا هیچ به روز رسانی دنیای فناوری را از دست ندهید. برای دنبال کردن کانال واتساپ HT Tech کلیک کنید اینجا برای پیوستن به هم اکنون!