ربات ChatGPT OpenAI توسط FTC برای آسیب رساندن به کاربران مورد بررسی قرار گرفت
به گفته یک فرد آشنا، کمیسیون تجارت فدرال ایالات متحده تحقیقاتی را در مورد شرکت OpenAI آغاز کرده است و این سوال را مطرح کرده است که آیا ربات هوش مصنوعی مکالمه محبوب ChatGPT آن شهرت و داده های کاربر را به خطر می اندازد.
مطالعه استارت آپ تحت حمایت شرکت مایکروسافت، اولین تحقیق رسمی در مورد فناوری است که پتانسیل تغییر تقریباً هر جنبه از زندگی مردم را دارد و تقریباً به اندازه پتانسیل شکست آن جذاب شده است. لینا خان، رئیس کمیسیون تجارت فدرال، که روز پنجشنبه در برابر کنگره شهادت داد، پیش از این نیز نگرانی‌هایی را در مورد هوش مصنوعی مطرح کرده و گفته است که سازمان‌های مجری قانون “باید در مراحل اولیه هوشیاری” با ابزارهای متحول کننده مانند هوش مصنوعی داشته باشند.
مایکروسافت از اظهار نظر خودداری کرد. سام آلتمن، مدیر عامل OpenAI روز پنجشنبه در یک سری توییت گفت که “البته ما با FTC کار خواهیم کرد” و برای این شرکت “بسیار مهم” است که فناوری آن “ایمن و کاربرپسند” باشد. آلتمن همچنین گفت که OpenAI “اطمینان دارد” که به قوانین ایالات متحده پایبند است.
او گفت: «ما از حریم خصوصی کاربران محافظت می‌کنیم و سیستم‌هایمان را طوری طراحی می‌کنیم که در مورد دنیا اطلاعات کسب کنند، نه افراد.
واشنگتن پست قبلاً در مورد تحقیقات FTC گزارش داده بود.
تحقیقات FTC یک سیستم نظارتی قدرتمند در OpenAI مستقر در سانفرانسیسکو پیدا می‌کند، رهبر فناوری هوش مصنوعی مولد که برنامه ChatGPT آن باعث ایجاد مسابقه بین شرکت‌ها در تقریباً هر صنعتی شده است تا چت ربات‌های رقیب خود را توسعه دهند. ChatGPT بر روی یک مدل زبان بزرگ ساخته شده است که بر روی تکه های عظیم متن از اینترنت آموزش داده شده است تا بتواند پاسخ سوالات را به گونه ای تولید کند که به نظر انسانی برسد.
دیویانش کاوشیک، معاون مدیر فناوری های نوظهور و امنیت ملی در فدراسیون دانشمندان آمریکایی، یک اندیشکده غیرحزبی در واشنگتن، گفت: این مطالعه “یک پیشرفت مهم است که می تواند پیامدهایی هم برای شرکت و هم برای بخش نوآوری هوش مصنوعی داشته باشد.” این نشان می‌دهد که تنظیم‌کننده‌ها در حصول اطمینان از اینکه شرکت‌های هوش مصنوعی اخلاقی و مسئولانه عمل می‌کنند، فعال‌تر می‌شوند.»
رشد سریع این فناوری در هشت ماه گذشته از زمانی که ChatGPT به طور گسترده در دسترس قرار گرفت، درخواست‌هایی را برای مقررات و توقف در آموزش سیستم‌های هوش مصنوعی پیشرفته، حتی در میان مدیران برخی از شرکت‌های پیشرو در این زمینه، مانند OpenAI، Anthropic و DeepMind Alphabet ایجاد کرد. .
آلتمن یک طرفدار صریح مقررات است. آلتمن در جلسه ای در ماه می گفت که کنگره باید استانداردهای ایمنی قوی برای سیستم های هوش مصنوعی پیشرفته ایجاد کند. آلتمن می‌گوید: «اگر این فناوری اشتباه پیش برود، ممکن است بسیار اشتباه شود. ایلان ماسک، مالک توییتر نیز یکی از بلندترین صداهایی بوده است که درباره عواقب بالقوه هوش مصنوعی رایج هشدار داده است.
یک گروه برجسته اخلاق فناوری در ماه مارس شکایتی را ارائه کرد و از FTC خواست تا استقرار تجاری بیشتر فناوری را که به ChatGPT قدرت می‌دهد، متوقف کند. شکایت مرکز هوش مصنوعی و سیاست دیجیتال، که توسط مدافع قدیمی حریم خصوصی مارک روتنبرگ هدایت می‌شود، از کمیسیون تجارت فدرال خواسته است تا تحقیقات را آغاز کند و “اطمینان حاصل شود که تدابیر لازم برای محافظت از مصرف‌کنندگان، مشاغل و بازار تجاری وجود دارد. “.
هان گفت، کمیسیون تجارت فدرال، که قوانین ضد انحصار و حمایت از مصرف کننده را اجرا می کند، همچنین به دقت به چگونگی توسعه رقابت در این فضا نگاه می کند تا اطمینان حاصل کند که شرکت های مسلط از قدرت خود بر ورودی های کلیدی مانند داده ها برای تبعیض علیه استفاده نمی کنند. رقبا او گفت که آژانس همچنین در حال نظارت بر نحوه استفاده از ابزارهای هوش مصنوعی توسط کلاهبرداران است و قانون را نه تنها در برابر کلاهبرداران بلکه علیه شرکت هایی که آنها را فعال می کنند نیز اجرا خواهد کرد.
به گزارش واشنگتن پست، کمیسیون تجارت فدرال در نامه ای 20 صفحه ای خطاب به OpenAI این هفته از این شرکت خواست تا توضیحات مفصلی از تمام شکایاتی که در مورد محصولات خود دریافت کرده است ارائه دهد که ادعاهای “کاذب، گمراه کننده، تحقیرآمیز یا مضر” در مورد مردم می کنند. . به گزارش پست، FTC در حال بررسی این موضوع است که آیا این شرکت در اعمال ناعادلانه یا فریبنده ای که باعث “آسیب به شهرت” مصرف کنندگان شده است یا خیر.
کمیسیون تجارت فدرال همچنین از این شرکت خواست تا سوابق مربوط به یک حادثه امنیتی را که شرکت در ماه مارس فاش کرد، ارائه کند، زمانی که یک اشکال در سیستم های آن به برخی از کاربران اجازه می داد اطلاعات مربوط به پرداخت ها و همچنین برخی از داده ها را از تاریخچه چت سایر کاربران مشاهده کنند. .
خان روز پنجشنبه در جلسه استماع کمیته قضایی مجلس نمایندگان با انتقادهایی در کنگره مواجه شد، جایی که قانونگذاران جمهوری خواه به تبعیت وی از قوانین اخلاقی و اجرای تهاجمی قوانین ضد انحصار حمله کردند، او را “قلدر” خواندند و رهبری او را “فاجعه” خواندند.