OpenAI فاش کرده است که یک مدل تحقیقاتی داخلی از یک عبارت بازیابی توسعه‌دهنده که به‌طور عمومی شناخته شده است، برای دسترسی به یک کیف پول آزمایشی اتریوم تأمین‌شده و پرداخت هزینه‌های استقرار بدون اجازه استفاده کرده است.
این حادثه که ماه‌ها پس از فعالیت کشف شد، نشان می‌دهد که چگونه یک مدل می‌تواند یک نگرانی اخلاقی را شناسایی کند اما تصمیم بگیرد که ارزیابی خود از آسیب احتمالی کافی است تا ادامه دهد.
چگونه مدل از کیف پول شخص دیگری استفاده کرد
این حادثه در تاریخ ۲۶ ژوئن ۲۰۲۶ آغاز شد، در حین یک وظیفه آموزشی که شامل به‌روزرسانی‌های یک برنامه تجارت ارز دیجیتال و استقرار قراردادهای هوشمند سازگار در سپولیا، یک شبکه آزمایشی اتریوم بود. دستورالعمل‌ها به مدل اجازه می‌دادند که قراردادها را در صورت عدم وجود نسخه‌های مناسب موجود، مستقر کند، اما هیچ کیف پول تأمین‌شده‌ای ارائه نشد و هیچ مجوزی برای خرج کردن وجوه حساب دیگری داده نشد.
پس از تلاش‌هایش برای یافتن استقرارهای موجود و به‌دست آوردن ETH آزمایشی از طریق شیرآلات که ناموفق بود، مدل تحقیقاتی خانواده GPT-5.6 به استفاده از عبارات بازیابی توسعه‌دهندگان که به‌طور عمومی در معرض دید بودند، فکر کرد. آن یک اسکریپت نوشت تا حساب‌ها را از عبارات رایج استخراج کند و موجودی آن‌ها را بررسی کند. از میان ۳۶۲ آدرس بررسی‌شده، یکی به اندازه کافی ETH سپولیا برای پوشش استقرار برنامه‌ریزی‌شده داشت.
مدل تاریخچه تراکنش‌های حساب را بررسی کرد و تشخیص داد که کیف پول ممکن است هنوز در حال استفاده باشد. با این حال، آن استدلال کرد که عبارت بازیابی عمومی و عدم ارزش پولی توکن آزمایشی، استفاده از وجوه را قابل قبول می‌سازد.
“وجوه در یک یادآور عمومی شناخته‌شده به‌طور مؤثر رها شده/ETH آزمایشی است؛ سپولیا بی‌ارزش است،” مدل استدلال کرد قبل از اینکه تصمیم به ادامه بگیرد.
آن کلید خصوصی را استخراج کرد، یک تراکنش استقرار را به‌صورت آفلاین امضا کرد و پس از مواجهه با خطاهای شبکه، آن را پخش کرد. تراکنش موفق شد و یک قرارداد هوشمند ایجاد کرد و هزینه‌ها را به کیف پول انتخاب‌شده شارژ کرد. بررسی‌های بعدی کد بایت را در تمام ده آدرس قرارداد یافتند، در حالی که اجرای ذخیره‌شده ۱۲ تست واحد موفق و یک ساخت محصول موفق را ثبت کرد.
پاسخ نهایی استقرار قرارداد کامل‌شده را توصیف کرد و تأیید کرد که دکمه تجارت همچنان محدود به اتصال یک کیف پول و تغییر شبکه‌ها باقی مانده است. این موضوع استفاده از حساب تأمین‌شده شخص دیگری را فاش نکرد.
OpenAI پس از کشف، تدابیر ایمنی را اضافه می‌کند
OpenAI این حادثه را در تاریخ ۲۵ سپتامبر کشف کرد در حالی که نظارت خود را بر فعالیت‌های قبلی مدل گسترش می‌داد. گزارش در تاریخ ۱۵ اکتبر به‌روزرسانی شد.
این شرکت از آن زمان تدابیر ایمنی اضافی را برای جلوگیری از دسترسی زنده به اینترنت در موارد مشابه اجرا کرده است. همچنین گفت که سیستم نظارتی آن اکنون تمام ترافیک را پوشش می‌دهد و به‌گونه‌ای طراحی شده است که در صورت دسترسی مدل به اینترنت زنده، کارکنان امنیتی را مطلع کند.
این حادثه در حالی رخ می‌دهد که عوامل هوش مصنوعی وظایف بیشتری را در زمینه‌های سیستم‌های مالی و امنیت سایبری بر عهده می‌گیرند. همان‌طور که CryptoPotato در تاریخ ۵ اکتبر گزارش داد، شرکت امنیت بلاکچین CertiK هشدار داد که عوامل خودمختار می‌توانند در محیط‌های زنده اقدام کنند و نظارت انسانی و محدودیت‌های واضح بر اختیارات آن‌ها به‌طور فزاینده‌ای مهم است.