شخصیتهای حوزه کریپتو هشدار دادهاند که کنترل دولت بر آنچه سیستمهای هوش مصنوعی میتوانند بدانند یا درباره آن بحث کنند، میتواند یک سابقه خطرناک ایجاد کند، پس از آنکه اریک وورهیز در ۲۸ ژوئیه در ایکس استدلال کرد که دولتها نباید تصمیم بگیرند چه اشکالی از هوش «ایمن» هستند.
این پست در میانه یک بحث تازه درباره میزان نظارتی که شرکتهای هوش مصنوعی باید بپذیرند منتشر شد، بحثی که پس از آنکه آنتروپیک موضع خود را درباره مدلهای اوپن-ویتس اعلام کرد، دوباره شدت گرفت.
اریک وورهیز نسبت به کنترل دولتی بر دانش هوش مصنوعی هشدار داد
وورهیز، حامی قدیمی بیتکوین و بنیانگذار صرافی کریپتوی ShapeShift، پس از آنکه آنتروپیک بیانیهای از مدیرعامل داریو آمودی منتشر کرد که در آن با ادعاهایی مبنی بر اینکه این غول هوش مصنوعی از ممنوعیت مدلهای اوپن-ویتس چینی حمایت میکند، مخالفت شده بود، نظر خود را منتشر کرد.
آمودی تأکید کرد که شرکت او «هرگز از ممنوعیت مدلهای اوپن-ویتس حمایت نکرده است» و استدلال کرد که چنین سیستمهایی میتوانند زمانی که قابلیتهای خطرناک ندارند، برای توسعهدهندگان، کسبوکارها و پژوهشگران ارزشمند باشند.
به گفته این مدیر اجرایی، نگرانیهای اصلی آنتروپیک شامل دولتهای اقتدارگرا بود که هوش مصنوعی پیشرفته را برای مصارف نظامی یا نظارتی توسعه میدهند، به همراه امکان سوءاستفاده در حملات سایبری یا تهدیدات زیستی. این شرکت اعلام کرد که از محدودیت دسترسی به چیپهای پیشرفته و اقدام علیه تقطیر در مقیاس صنعتی، همچنین آزمایش ایمنی برای سیستمهای هوش مصنوعی بسیار توانمند حمایت میکند.
نشریه The Information اخیراً گزارش داد که دولت ترامپ در حال نهایی کردن چارچوبی است که شرکتهای هوش مصنوعی به طور داوطلبانه پیشرفتهترین مدلهای خود را برای آزمایش به دولت ارائه دهند.
اما وورهیز با این موضوع موافق نبود و گفت که اجازه دادن به دولتها برای تعریف دانش قابل قبول هوش مصنوعی میتواند فراتر از هدف اولیه خود گسترش یابد. او در پست خود، یک پیشرفت فرضی را شرح داد که از یک قانون ظاهراً منطقی علیه بحث درباره سلاحهای زیستی آغاز میشود، سپس به طور کلی سلاحهای خطرناک، سپس هر چیزی که مخالف سلامت عمومی و امنیت عمومی است، سپس هر چیزی که ثبات مالی را تضعیف میکند، و در نهایت به ممنوعیت رمزنگاری تأییدنشده و الزام اینکه هوش مصنوعی نباید دستورات دولت را مختل کند، ختم میشود.
او نوشت: «تمدن نباید اجازه دهد دولت تعیین کند چه نوع هوشی “ایمن” است»، و افزود که تنها ایالات متحده دارای ویژگی فرهنگی برای مقاومت در برابر این نتیجه در طول زمان است و اگر شکست بخورد، «در هیچ کجا حفظ نخواهد شد».
دیوید شوارتز، مدیر ارشد فناوری سابق ریپل، در پاسخ به پست وورهیز نوشت: «بله، همین. دقیقاً همین»، و حمایت خود را از این استدلال نشان داد. یکی از اعضای جامعه XRP به نام Bird نیز پاسخ داد و پرسید: «لحظهای که کسی بتواند تصمیم بگیرد چه دانشی “ایمن” است، این روند کجا متوقف میشود؟»
بحث ایمنی هوش مصنوعی فراتر از مدلهای باز گسترش یافته است
همین تنش درباره اینکه چه کسی باید بر هوش مصنوعی نظارت کند، اوایل این ماه زمانی که دمیس هسابیس، مدیرعامل گوگل دیپمایند، پیشنهاد ایجاد یک نهاد فدرال برای آزمایش و تأیید مدلهای پیشرفته قبل از انتشار را مطرح کرد، دیده شد؛ ایدهای که سم آلتمن از OpenAI آن را «مدبرانه» خواند و ساتیا نادلا از مایکروسافت نیز از آن به عنوان راهی برای جلوگیری از آسیب جدی توسط هر مدلی استقبال کرد.
با این حال، برایان آرمسترانگ، مدیرعامل کوینبیس، این ایده را رد کرد و استدلال کرد که یک نهاد جدید فقط یک فرآیند تأیید دیگر به بالای مقررات موجود اضافه میکند. او گفت: «چرا باید مقررات را حول یک مشکل فرضی طراحی کنیم؟» و به قوانین مربوط به کلاهبرداری، مسئولیت مدنی و حمایت از مصرفکننده که هماکنون وجود دارند اشاره کرد و آنها را برای پوشش هر آسیبی که ممکن است توسط یک مدل ایجاد شود، کافی دانست.