جعلی های آنلاین و بانک های دیجیتال ترکیبی ترسناک هستند

هکرها حساب توییتر آسوشیتدپرس را هک کردند. آنها در توئیتی نوشتند: دو انفجار در کاخ سفید، رئیس جمهور زخمی شد. S&P 500 به سرعت 1% سقوط کرد. به نظر داستانی می آید؟ این دقیقا یک دهه پیش اتفاق افتاد. خوشبختانه، پس از تایید سخنگوی مطبوعاتی باراک اوباما مبنی بر اینکه انفجار یا جراحتی در کار نیست، بازار به سرعت بهبود یافت.

دنیای جعل آنلاین از آن زمان تا کنون بسیار تغییر کرده است — و نه برای بهتر شدن. پیشرفت در هوش مصنوعی باعث شده است که چت‌بات‌های پیچیده‌تر و عکس‌ها و ویدیوهای جعلی تولید و توزیع شوند. در همین حال، بانکداران به سرعت متوجه می شوند که مردم می توانند با چند ضربه سریع بر روی تلفن هوشمند خود، سریعتر از همیشه پول را انتقال دهند. همه در همه جا باید تا حد امکان نسبت به احتمال شکست های مالی فاجعه بار در حال حاضر هوشیار باشند. بازارها در حال حاضر ترسناک هستند و روانشناسی سرمایه گذاران بی ثبات است.

بانک سیلیکون ولی 42 میلیارد دلار یا بیش از نیمی از سپرده های تقاضای خود را ظرف چند ساعت پس از شروع به کار از دست داد. رگولاتورها و مدیران اجرایی به نقش رسانه های اجتماعی اشاره کردند. مدیر عامل شرکت سیتی گروپ جین فریزر اخیراً هنگام بحث در مورد SVB، ترکیب برنامه های بانکداری تلفن همراه و رسانه های اجتماعی را تغییر دهنده بازی برای ثبات بانک نامید.

او هفته گذشته در یکی از رویدادهای باشگاه اقتصادی در واشنگتن گفت: “چند توییت وجود داشت و سپس این چیز بسیار سریعتر از آنچه در تاریخ بوده از بین رفت.”

SVB شاید یک مورد خاص بود: یک پایگاه سپرده بسیار متمرکز داشت که چهره‌های قدرتمندی مانند غول فناوری پیتر تیل بر آن تأثیر واقعی داشتند. بدون رسانه های اجتماعی، این اجرا می توانست تقریبا به همین سرعت اتفاق بیفتد.

Credit Suisse Group AG، بانک سوئیسی که اکنون منحل شده است، ممکن است یک مورد خاص نیز باشد: سال ها رسوایی ها و نقص های مدیریتی اعتماد را از بین برده و کارکنان و مشتریان را متزلزل کرده است. در اکتبر گذشته، بیش از اندازه کافی سرمایه، فاقد سبد دارایی بد و بیش از دو برابر دارایی نقدی و نقدینگی مورد نیاز برای پاسخگویی به سطح استرس خروجی سپرده‌ها بود.

با این حال، در اوایل همان ماه، زمانی که مدیران در بحبوحه بررسی استراتژی بودند، یک توییت آخر هفته که ادعا می‌کرد یک بانک اروپایی ناشناس «در آستانه است» طوفانی در رسانه‌های اجتماعی برانگیخت و مشتریان Credit Suisse مقداری تکان‌دهنده از دارایی‌ها، تقریباً 90 میلیارد دلار را پس گرفتند. در چند هفته بانک توانست این برداشت ها را بدون نیاز به فروش دارایی ها با ضرر انجام دهد. اما شش ماه بعد، چند تیتر بد دیگر در بازاری وحشت زده برای کشتن او کافی بود.

جروم پاول، رئیس فدرال رزرو در کنفرانس مطبوعاتی سیاست پولی هفته گذشته درباره سرعت مدیریت SVB صحبت کرد و گفت: “این با آنچه در گذشته دیده‌ایم بسیار متفاوت است.” او اضافه کرد که ممکن است نیاز به تغییرات نظارتی داشته باشد تا با آنچه در جهان اتفاق می افتد هماهنگی داشته باشد. پادمان‌های بالقوه می‌تواند شامل سیستم‌های هشدار زودهنگام یا نوعی قطع کننده مدار برای توقف برداشت‌ها باشد.

اگر سرعت یک خطر است، اطلاعات نادرست یک سم بالقوه کشنده است. تشخیص تصاویر و ویدیوهای جعلی از چیزهای واقعی به طور فزاینده ای دشوار می شود. ابزارهایی مانند Stable Diffusion و Midjourney اواخر سال گذشته شروع به محبوب شدن کردند و به سرعت پیچیده تر شدند.

هفته گذشته، تصاویر جعلی از دستگیری دونالد ترامپ و دویدن امانوئل مکرون بین پلیس ضدشورش در توییتر و فیس بوک منتشر شد. هر دو به راحتی از بین رفتند. اما تصویر جعلی دیگری از پاپ فرانسیس با پوشیدن ژاکت طراحی شده بیش از 4 میلیون بار دیده شده است و بسیاری می گویند که از آنها فیلم گرفته شده است. برخلاف عکس‌های ترامپ ۷۶ ساله که در حال دویدن است، پاپ هیپستر آنقدر باورپذیر است که باورپذیر باشد. رایان برودریک، نویسنده فرهنگ، آن را “اولین مورد واقعی اطلاعات نادرست هوش مصنوعی در مقیاس انبوه” نامید.

اکنون یک ویدیوی کاملا جعلی از یک بانک مرکزی یا مدیر بانکی شناخته شده، مانند پاول، رئیس فدرال رزرو یا جیمی دیمون، از JPMorgan Chase & Co، تصور کنید که در مورد یک وام دهنده بزرگ چیزی باورپذیر اما نگران کننده می گوید. توقف نشت بانک دیجیتال بسیار سخت تر از شروع است.

منافع مظنونان جعل معمول تحت تأثیر قرار گرفته است. تجزیه و تحلیل انجمن های اینترنتی که به دلیل ترویج تئوری های توطئه مانند QAnon شناخته می شوند، تعدادی از بازدیدکنندگان را نشان می دهد که ابزارهای تولید تصویر را آزمایش می کنند. برخی نکاتی را در مورد چگونگی استفاده و گسترش این فناوری به اشتراک گذاشته اند. تلاش‌های جدی و هماهنگ برای ایجاد اختلال در بازارها به طور قطعی انجام خواهد شد.

سال گذشته، فیس‌بوک و توییتر پیشرفت قابل‌توجهی در جلوگیری از انتشار اطلاعات نادرست ربات‌های ایران و چین در پلتفرم‌های خود در آستانه انتخابات میان‌دوره‌ای نشان دادند. ایلان ماسک از آن زمان بسیاری از اعضای تیم توییتر را که جلوی چنین دستکاری‌هایی را گرفته بودند را از بین برد.

و علاوه بر تولیدکننده‌های تصویر پیچیده و رایگان، فناوری مدل زبان بزرگ – که ابزارهایی مانند ChatGPT را تقویت می‌کند – برای تبلیغ‌کنندگان، کلاهبرداران و سایر بازیگران بد نیز در دسترس‌تر است. نقشه سیستم خود OpenAI برای GPT-4، که تمام چالش‌های امنیتی فن‌آوری زیربنای ChatGPT را تجزیه و تحلیل می‌کند، اذعان می‌کند که «این پتانسیل را دارد که در کل محیط اطلاعاتی تردید ایجاد کند و توانایی ما را در تشخیص واقعیت از تخیل تهدید کند».

بانک‌ها از زمان بحران مالی 2008 قوی‌تر شده‌اند و بزرگترین بانک‌ها بهتر می‌توانند افزایش ناگهانی برداشت را جذب کنند. اما این باعث نجات Credit Suisse نشد. به هر حال، سطح معینی از اعتماد برای بقای بانک ها حیاتی است و شک مانند کریپتونیت است. عاقل باش