قبل از اینکه هوش مصنوعی اوضاع را بدتر کند، درخواست‌ها را برای رفع مشکل بهره‌کشی آنلاین از کودکان CyberTipline گزارش دهید

یک رصدخانه اینترنتی استنفورد نشان می دهد که خط راهنمایی که 26 سال پیش برای مبارزه با استثمار آنلاین از کودکان ایجاد شد، به پتانسیل خود عمل نکرده است و به پیشرفت های فنی و دیگر نیاز دارد تا به مجریان قانون در تعقیب سوء استفاده کنندگان و نجات قربانیان کمک کند.

اصلاحاتی که محققان به عنوان یک سرویس “بسیار ارزشمند” توصیف می کنند نیز باید فوراً انجام شود زیرا فناوری جدید هوش مصنوعی تهدید می کند مشکلات آن را بدتر کند.

همچنین بخوانید: DolphiniOS با تغییرات جدید خط‌مشی فروشگاه App Apple مربوط به JIT – چیست و همه جزئیات با مشکل مواجه شد

شلبی گروسمن، محقق و نویسنده کتاب، گفت: «تقریباً مسلم است که در سال‌های آینده، CyberTipline به سادگی مملو از محتوای هوش مصنوعی با ظاهری بسیار واقعی خواهد بود، و شناسایی کودکان واقعی را که باید نجات یابند، برای مجریان قانون دشوارتر می‌کند.» گزارش.

این سرویس توسط کنگره به عنوان خط دفاعی اصلی برای کودکانی که به صورت آنلاین مورد استثمار قرار می‌گیرند ایجاد شده است. طبق قانون، شرکت‌های فناوری باید هرگونه مطالب مربوط به سوء استفاده جنسی از کودکان را که در پلتفرم‌های خود پیدا می‌کنند، به سیستمی که توسط مرکز ملی کودکان گمشده و استثمار شده اداره می‌شود، گزارش دهند. پس از دریافت گزارش‌ها، NCMEC سعی می‌کند افرادی که مطالب را ارسال یا دریافت کرده‌اند – و همچنین در صورت امکان قربانیان را پیدا کند. سپس این گزارش ها برای اجرای قانون ارسال می شود.

همچنین بخوانید: سود Netflix پس از ممنوعیت اشتراک گذاری رمز عبور 54 درصد افزایش یافت – تمام جزئیاتی که باید بدانید

اگرچه حجم زیاد گزارش‌های CyberTipline مانع اجرای قانون می‌شود، اما محققان می‌گویند این حجم تنها یکی از چندین مشکل اصلی سیستم است. به عنوان مثال، در این گزارش آمده است که بسیاری از گزارش‌های ارائه شده توسط شرکت‌های فناوری – مانند گوگل، آمازون و متا – فاقد جزئیات مهم مانند اطلاعات کافی در مورد هویت متخلف هستند. این امر مجریان قانون را دشوار می کند که بدانند کدام گزارش ها را اولویت بندی کنند.

الکس استاموس با استفاده از حروف اول برای مطالب سوء استفاده جنسی از کودکان گفت: “در حال حاضر مشکلات قابل توجهی در کل سیستم وجود دارد و این شکاف ها در دنیایی که هوش مصنوعی CSAM های جدید تولید می کند، به شکاف تبدیل خواهند شد.” استاموس یک مدرس دانشگاه استنفورد و متخصص امنیت سایبری است.

این سیستم از نظر فناوری عقب مانده است و با چالشی مداوم در میان پلتفرم های فناوری دولتی و غیرانتفاعی مواجه است: فقدان مهندسان بسیار ماهر که بتوانند حقوق بسیار بالاتری در صنعت فناوری دریافت کنند. حتی گاهی اوقات این کارمندان از همان شرکت هایی که گزارش ها را ارسال می کنند دزدیده می شوند.

همچنین بخوانید: دیپ‌فیک‌های ستاره‌های بالیوود نگرانی‌هایی را در مورد دخالت هوش مصنوعی در انتخابات هند افزایش می‌دهد

سپس محدودیت های قانونی وجود دارد. بر اساس این گزارش، احکام دادگاه باعث شده است که کارکنان NCMEC از بررسی برخی از پرونده ها (به عنوان مثال، در صورت عدم دسترسی عمومی) قبل از ارسال آنها به مجریان قانون جلوگیری کنند. بسیاری از مقامات مجری قانون بر این باورند که برای دسترسی به چنین تصاویری به حکم بازرسی نیاز دارند که این روند را کند می کند. گاهی برای شناسایی یک مجرم چندین حکم یا احضاریه لازم است.

همچنین پرت شدن حواس سیستم برای آن آسان است. این گزارش نشان داد که NCMEC اخیراً به دلیل یک میم که در چندین پلتفرم در حال پخش بود – به نقطه عطف یک میلیون گزارش در یک روز رسید – که برخی از مردم آن را خنده‌دار می‌دانستند و برخی دیگر با خشم به اشتراک گذاشتند.

استاموس گفت: “آن روز در واقع باعث شد تا آنها تغییراتی ایجاد کنند.” «هفته‌ها طول کشید تا آن‌ها را پشت سر بگذارند» و گروه‌بندی این تصاویر را آسان‌تر می‌کند.

CyberTipline بیش از 36 میلیون گزارش در سال 2023 دریافت کرد که تقریباً همه از پلتفرم های آنلاین بودند. فیسبوک، اینستاگرام و گوگل شرکت هایی هستند که بیشترین گزارش را ارسال کرده اند. تعداد کل به طور چشمگیری در حال افزایش است.

تقریباً نیمی از نکات ارسال شده در سال گذشته قابل اجرا بودند، به این معنی که NCMEC و مجری قانون می توانند پیگیری کنند.

صدها گزارش مربوط به یک مجرم بود و بسیاری از آنها شامل چندین تصویر یا ویدیو بود. حدود 92 درصد از گزارش‌های ثبت‌شده در سال 2023 مربوط به کشورهای خارج از ایالات متحده بود که تغییر بزرگی نسبت به سال 2008 است، زمانی که اکثریت مربوط به قربانیان یا مجرمان در ایالات متحده بود.

برخی آلارم های کاذب هستند. گروسمن به خبرنگاران گفت: «وقتی مجریان قانون این گزارش‌ها را دریافت می‌کنند که فکر می‌کنند قطعا بزرگسال هستند دیوانه می‌شود. اما این سیستم پلتفرم‌ها را تشویق می‌کند که بسیار محافظه‌کار باشند یا محتوای بالقوه مرزی را گزارش کنند، زیرا اگر مشخص شود که CSAM بوده است و آن‌ها از آن اطلاع داشتند و آن را گزارش نمی‌کردند، ممکن است با جریمه‌هایی روبرو شوند.

یک راه حل نسبتا ساده پیشنهاد شده در این گزارش، روشی را که پلتفرم‌های فناوری به آنچه گزارش می‌کنند برچسب‌گذاری می‌کنند، بهبود می‌بخشد تا بین میم‌های به اشتراک‌گذاشته شده گسترده و چیزی که مستحق بررسی دقیق‌تر است، تمایز قائل شود.

محققان استنفورد با 66 نفر درگیر در CyberTipLine مصاحبه کردند، از مقامات اجرای قانون گرفته تا مقامات NCMEC و مقامات پلت فرم آنلاین.

NCMEC گفت مشتاقانه منتظر است تا “توصیه ها را در داخل و با سهامداران کلیدی بررسی کند”.

«در طول سال‌ها، پیچیدگی گزارش‌دهی و شدت جنایات علیه کودکان رو به رشد بوده است. بنابراین، استفاده از راه‌حل‌های فن‌آوری نوظهور در طول فرآیند CyberTipline منجر به محافظت از کودکان بیشتر و پاسخگویی مجرمان می‌شود.»

از دیگر یافته های این گزارش:

— فرم گزارش CyberTipline فیلد اختصاصی برای ارسال مطالب مرتبط با چت مانند پیام های آزار جنسی ندارد. FBI اخیراً در مورد “افزایش عظیم” موارد اخاذی جنسی با هدف قرار دادن کودکان – از جمله اخاذی مالی، که در آن شخصی تهدید می کند که تصاویر مخرب را منتشر می کند، هشدار داده است، مگر اینکه قربانی پرداخت کند.

– کارآگاهان پلیس به محققان دانشگاه استنفورد گفتند که حتی پس از ارائه توضیحات مکتوب دقیق برای تأکید بر جدی بودن آنها، کار سختی برای متقاعد کردن مافوق خود برای اولویت بندی این جنایات داشتند. گروسمن می‌گوید: «آنها وقتی آن را می‌خوانند دچار خجالت می‌شوند و واقعاً نمی‌خواهند به آن فکر کنند.

– بسیاری از مقامات اجرای قانون گفتند که به دلیل محدودیت زمانی و منابع قادر به بررسی کامل همه گزارش‌ها نیستند. یک کارآگاه می تواند 2000 گزارش در سال را مدیریت کند.

– در خارج از ایالات متحده، به ویژه در کشورهای فقیرتر، چالش های مربوط به گزارش استثمار کودکان به ویژه شدید است. مجری قانون ممکن است اتصالات اینترنتی قابل اعتماد، “رایانه های مناسب” یا حتی سوخت خودروها برای اجرای حکم جستجو نداشته باشد.

– قانون آتی تصویب شده توسط سنای ایالات متحده در ماه دسامبر، پلتفرم های آنلاین را ملزم می کند تا قاچاق جنسی کودکان و اغوای آنلاین را به CyberTipline گزارش دهند و به مجریان قانون زمان بیشتری برای بررسی استثمار جنسی از کودکان می دهد. در حال حاضر، خط راهنمایی راه های روشنی برای گزارش قاچاق جنسی مشکوک ارائه نمی دهد.

در حالی که برخی از مدافعان قوانین نظارت مداخله جویانه تری را برای دستگیری سوء استفاده کنندگان پیشنهاد کرده اند، استاموس، افسر ارشد امنیتی سابق فیس بوک و یاهو، گفت که آنها باید ابتدا راه حل های ساده تری را امتحان کنند.

“اگر می خواهید پدوفیل های بیشتری را به زندان بیاندازید، نیازی به نقض حریم خصوصی مصرف کننده نیست.” آنها همانجا نشسته اند.” استاموس گفت. «سیستم در گرفتن اطلاعاتی که در حال حاضر وجود دارد و سپس تبدیل آن به یک پیگرد قانونی خیلی خوب کار نمی کند.»