تیم پاسخ به حوادث رایانه‌ای هند (CERT-In) هشدار داده است که یک بازیگر تهدید مالی با کمک هوش مصنوعی به نام CRAFTY FALCON به طور فعال به بانک‌ها، شرکت‌های فین‌تک، ارائه‌دهندگان خدمات پرداخت و همچنین صرافی‌های ارز دیجیتال حمله می‌کند و کلیدهای کیف پول را سرقت کرده و وجوه را siphon می‌کند.
بر اساس گزارش CERT-In، این کمپین با وجود هشدارها و تلاش‌های ترمیمی قبلی ادامه یافته است. نهادهای تحت تأثیر، از جمله شرکت‌های مالی غیر بانکی (NBFC) و شرکت‌های فین‌تک، حملات موفقی را گزارش کرده‌اند.
وجوه در خطر
بازیگر تهدید به طور عمدی به نهادهایی که قبلاً مشاوره‌های محدود دریافت کرده‌اند، به ویژه در مواردی که ترمیم ناقص بوده، دوباره هدف قرار داده است. حملات همچنین به گونه‌ای زمان‌بندی شده‌اند که با تعطیلات، آخر هفته‌ها و سایر دوره‌های نظارت کم همزمان شوند که این امر تشخیص و پاسخ را به تأخیر انداخته است.
CERT-In CRAFTY FALCON را به عنوان یک بازیگر تهدید توصیف می‌کند که اهداف را با استفاده از هوش ماشین بررسی می‌کند، با سرعت ماشین عمل می‌کند و از APIهای پرداخت و توزیع قربانی برای انتقال وجوه سوءاستفاده می‌کند. تحقیقات استفاده از ابزارهای امنیتی تهاجمی مبتنی بر هوش مصنوعی که به طور عمومی در دسترس هستند، از جمله خانواده ARTEX از ابزارهای مبتنی بر مدل‌های زبان بزرگ، سیستم تست نفوذ چندعاملی خودکار PentAGI، موتور جستجوی حمله Cairn و همچنین چارچوب CyberStrikeAI را شناسایی کرده است.
این ابزارها می‌توانند زنجیره‌های حمله را به طور خودکار اجرا کنند، تعداد زیادی اسکریپت سفارشی تولید و اصلاح کنند و بارهای خود را بر اساس پاسخ‌های هدف تطبیق دهند. الگوی حمله شامل هدف قرار دادن زیرساخت‌های ابری، سوءاستفاده از خدمات مدیریتی مانند AWS Systems Manager و Lambda برای اجرای دستورات و استقرار فایل‌های مخرب و استفاده از محیط‌های آزمایشی و staging که در اینترنت در معرض دید هستند به عنوان نقاط ورودی به سیستم‌های تولید است.
حملات همچنین نشان داده‌اند که کدهای برنامه را معکوس مهندسی کرده‌اند تا بهره‌برداری‌های سفارشی توسعه دهند و تماس‌های API غیرمجاز را از طریق بسته‌های برنامه تغییر یافته آغاز کنند. CERT-In تلاش‌هایی برای دور زدن فهرست مجاز IP با استفاده از استخرهای IP جمع‌آوری‌کننده شخص ثالث مجاز شناسایی کرده است. در برخی موارد، حمله‌کنندگان معاملات آزمایشی با ارزش میکرو، مانند 1 INR (0.011 دلار) انجام داده‌اند تا جریان‌های غیرمجاز وجوه را قبل از اجرای انتقال‌های بزرگتر تأیید کنند.
چالش‌های امنیتی هوش مصنوعی
چندین شخصیت برجسته به طور صریح هشدار داده‌اند که هوش مصنوعی به سلاحی برای حمله به صرافی‌های ارز دیجیتال و دارایی‌های دیجیتال تبدیل شده است. پس از هک فاجعه‌بار 6.3 میلیارد دلاری بر روی بایننس، ماسک گفت که “عاملان فوق‌هوش در یک نقطه این کار را برای به دست آوردن ارز برای خود انجام خواهند داد، نه برای انسان.” در همین حال، برناردو بریتس، هم‌بنیان‌گذار Trace Finance گفت,
“ابزارهای هوش مصنوعی اکنون می‌توانند آسیب‌پذیری‌ها را سریع‌تر از آنچه تیم‌ها بتوانند آنها را ترمیم کنند، پیدا کنند، به همین دلیل است که ما در ماه‌های اخیر شاهد یک رشته از حوادث بزرگ بوده‌ایم.”