جیپی مورگان چیس و کارت هیوندای کره جنوبی در حال آزمایش عوامل هوش مصنوعی هستند که میتوانند معاملات مالی را مذاکره کرده و پرداختها را بدون دخالت مستقیم انسان انجام دهند.
در حالی که این پروژه میتواند نحوه کار پرداختهای شرکتی را تغییر دهد، یافتههای اولیه جیپی مورگان نشان میدهد که کنترل سیستمهای خودمختار ممکن است دشوارتر از ساخت آنها باشد.
آزمایش پرداختهای ماشین به ماشین
بر اساس یک گزارش CNBC، این دو شرکت یک اثبات مفهوم اولیه را شامل یک معامله شبیهسازی شده ارز خارجی تکمیل کردند که در آن یک عامل هوش مصنوعی کارت هیوندای درخواست تبادل ارز برای حفظ نقدینگی یورو در حساب سپرده خود در پلتفرم بانکی مبتنی بر بلاکچین جیپی مورگان، کینکسیس، کرد.
این همکاری به پرداختهای ماشین به ماشین هدفگذاری شده است، جایی که سیستمهای هوش مصنوعی، بدون حضور یک شخص در فرآیند، اقداماتی را پیشنهاد میدهند، انتقالها را آغاز و تأیید میکنند و اصالت آنها را تأیید میکنند.
مرحله دوم، که برای نیمه اول سال ۲۰۲۷ برنامهریزی شده است، به بررسی نحوه تعامل چندین عامل هوش مصنوعی، مذاکره در مورد توافقات و تسویه پرداختها با یکدیگر خواهد پرداخت. وی کی تو، رئیس جهانی بینشهای کینکسیس، به CNBC گفت که هدف این است که ببینیم چه اتفاقی میافتد زمانی که عوامل فراتر از انجام وظایف صرف حرکت کنند و شروع به تعامل با یکدیگر کنند.
چالش فنی شامل اطمینان از این است که این عوامل پرداخت میتوانند از طریق چارچوبهای نظارتی پیچیده عبور کنند تا در قوانین حوزههای قضایی مختلف باقی بمانند و همچنین تقلب را در زمان واقعی شناسایی کنند. آنها همچنین باید موارد حاشیهای را که میتواند الگوریتمها را گیج کند، مدیریت کنند و در عین حال مسیرهای حسابرسی واضحی را برای برآورده کردن الزامات انطباق حفظ کنند.
با این حال، این مقام اجرایی اشاره کرد که توسعه فناوری بخش آسان بود، در حالی که ایجاد حاکمیت و کنترلهای داخلی ممکن است دشوارتر باشد. بر اساس یک گزارش اخیر از AvePoint، حداقل ۳۴٪ از نقضهای امنیتی مرتبط با عوامل هوش مصنوعی به دلیل اقدامات خودمختار غیرمجاز، از جمله انجام معاملات و تغییرات داده بدون تأیید انسان بود.
علاوه بر این، تیانی جیانگ، مدیر عامل AvePoint هشدار داد که تعاملات بین عوامل هوش مصنوعی میتواند به یک عامل آسیبدیده یا معیوب اجازه دهد اطلاعات نادرست را به دیگران منتقل کند و احتمالاً زنجیرهای از اقدامات غیرمجاز را تحریک کند.
به یاد داشته باشید که در اکتبر، OpenAI فاش کرد که یک مدل تحقیقاتی بدون اجازه از کیف پول یک توسعهدهنده در شبکه آزمایشی اتریوم برای پرداخت هزینههای استقرار، وجوهی را برداشت.
محدودیتهای سختگیرانه در معاملات و نظارت
در مورد نگرانیهای ذکر شده، تو اشاره کرد که شرکتهایی که از این سیستم استفاده میکنند میتوانند دورهایی را در اطراف عوامل قرار دهند به طوری که، به عنوان مثال، اگر یک عامل مجاز به انجام معامله تا ۵ میلیون دلار باشد، هر درخواست بالاتر از آن مبلغ به طور خودکار رد خواهد شد.
“شما قرار است دور یک جعبه در اطراف عامل بکشید. عامل هرگز نخواهد توانست چیزی خارج از جعبه انجام دهد،” او گفت.
در کنار محدودیتهای هزینه، حسن احمد، مدیر کشور کوینبیس در سنگاپور، افزود که پرداختهای ایمن عامل نیز باید دارای مجوزهای حساب محدود و الزامات تأیید واضح باشد و به کاربران این امکان را بدهد که فعالیتها را نظارت کرده و در هر زمان دسترسی را لغو کنند.


