کوین بیس اعلام کرد که سیستم تشخیص کلاهبرداری مبتنی بر هوش مصنوعی آن ۴.۷ میلیون دلار، که حدود ۹۱٪ از وجوه هدف قرار گرفته توسط کلاهبرداران است، را از رسیدن به کیف پولهایشان در طول یک اهدا ارز دیجیتال جعلی الون ماسک متوقف کرده است.
آنچه این حادثه را متمایز میکند این است که کل عملیات بدون دخالت انسانی انجام شد، زیرا عامل هوش مصنوعی شرکت کلاهبرداری را شناسایی کرد و در زمانی که مشتریان سعی در ارسال پول خود داشتند، وارد عمل شد.
این طرح حول یک پخش زنده جعلی یوتیوب میچرخید که به نظر میرسید نمایش آزمایش خودرو پرنده تسلا را نشان میدهد.
کلاهبرداری ارز دیجیتال دیپفیک
این پخش زنده جعلی از نسخهای تولید شده توسط هوش مصنوعی از الون ماسک استفاده کرد، آدرسهای کیف پول ارز دیجیتال و یک کد QR را نمایش داد و به بینندگان وعده داد که اگر ارز دیجیتال ارسال کنند، پولشان دو برابر خواهد شد. بیش از ۵۰۰,۰۰۰ نفر این پخش را تماشا کردند و این رویداد جعلی را به خوبی در معرض دید قرار داد. به گفته کوین بیس، بخش دشوار این بود که کلاهبرداران نیازی به نفوذ به حساب کسی یا سرقت جزئیات ورود نداشتند.
مشتریان وارد حساب خود شده بودند، به وجوه خود دسترسی داشتند و با کمال میل انتقالها را تأیید کردند زیرا باور داشتند که این اهدا مشروع است.
این نوع کلاهبرداری را با استفاده از تدابیر امنیتی سنتی که معمولاً بر روی دسترسی غیرمجاز به حساب یا فعالیت مشکوک تمرکز دارند، سختتر میکند.
برای حل این مشکل، کوین بیس یک عامل پیشگیری از کلاهبرداری مبتنی بر هوش مصنوعی را مستقر کرد که برای شناسایی انتقالهای پرخطر و به چالش کشیدن مشتریان قبل از خروج پولشان از پلتفرم طراحی شده است. این سیستم از مدلهای یادگیری ماشین برای ارزیابی تراکنشها در زمان واقعی استفاده میکند. این سیستم به دنبال نشانههای هشداردهندهای مانند فعالیتهای مرتبط با اهدا، جعل برند و انتقال به آدرسهای کیف پول تازه ایجاد شده میگردد.
زمانی که یک پرداخت علامتگذاری میشود، عامل هوش مصنوعی با یک مکالمه هدفمند وارد عمل میشود که الگوی خاص کلاهبرداری و دلایل نگرانی درباره پیشنهاد را توضیح میدهد، به جای اینکه به یک هشدار امنیتی عمومی تکیه کند. کوین بیس همچنین گفت که هر پاسخی که توسط عامل تولید میشود قبل از نمایش به مشتری، یک نمره اعتماد دریافت میکند که به سیستم کمک میکند تا تعیین کند چه زمانی اطلاعات کافی برای مداخله با اطمینان دارد.
جالب است که این عامل مبادله ارز دیجیتال هرگز با این کلاهبرداری خاص مواجه نشده بود. اهداهای دیپفیک مرتبط با راهاندازی محصولات زنده بخشی از آموزش آن نبود، اما هنوز هم نشانههای هشداردهنده آشنا را شناسایی کرد، از جمله وعدههای چند برابر کردن داراییهای ارز دیجیتال، فشار زمانی و انتقالهای غیرقابل برگشت. گفته میشود که این سیستم تلاشهای علامتگذاری شده را از اولین تراکنش تا آخرین بدون نیاز به مداخله انسانی مدیریت کرده است.
“قبل از این، برگزاری یک کلاهبرداری مانند این به یک گروه، یک استودیو و هفتهها زمان نیاز داشت. اکنون فقط به یک زمان پخش زنده و یک مدل نیاز دارد. دیپفیکها کلاهبرداریهای قانعکننده را ارزان، سریع و آسان برای راهاندازی مجدد تحت یک نام جدید در لحظهای که یکی بسته میشود، میکنند. این بدان معناست که دفاعهای ما باید به همان سرعتی که حملات انجام میشوند، بهبود یابند. ما به شدت در حال سرمایهگذاری در هوش مصنوعی در سراسر ریسک هستیم تا این اتفاق بیفتد.”
بردار حمله اصلی
یک نظرسنجی گارتنر از ۲۹۷ رهبر ارشد امنیت سایبری، که بین مارس و مه ۲۰۲۶ انجام شد و در سپتامبر منتشر شد، نشان داد که ۴۱٪ از CISOs با حداقل یک حادثه مهندسی اجتماعی که شامل یک دیپفیک صوتی از یک کارمند در ۱۲ ماه گذشته بود، مواجه شدهاند. دیپفیکهای ویدیویی نیز چندان عقب نمانده بودند. بیش از یک سوم CISOs، یا ۳۶٪، گفتند که سازمانشان این نوع حادثه را تجربه کرده است.
در ژوئن، مای فوجیموتو، حامی ارز دیجیتال ژاپنی، توسط یک دیپفیک که در طول یک تماس زوم از یک آشنا تقلید میکرد، فریب خورد که در نهایت منجر به سرقت دسترسی به حسابهایش توسط بدافزار شد. بنیانگذار بایننس CZ بعداً هشدار داد که حتی تماسهای ویدیویی دیگر نمیتوانند هویت کسی را تضمین کنند.


