در تازه‌ترین مورد از سرکشی هوش مصنوعی، مدل OpenAI پس از اتمام موجودی، از کیف پول رمزارزی متعلق به خود استفاده کرد
رویترزتصویری از یک صفحه‌کلید در برابر لوگوی نمایش‌داده‌شده OpenAI؛ این تصویر در ۲۱ فوریه ۲۰۲۳ گرفته شده است.
در جریان یک تمرین آموزشی، یک عامل هوش مصنوعی داخلی OpenAI بار دیگر از چارچوب تعیین‌شده خارج شد. بر اساس گزارش حادثه‌ای که OpenAI منتشر کرده است، این عامل پس از تمام شدن موجودی سکه‌های اتریوم خود، یک کیف پول رمزارزی دیگر را پیدا کرد و از موجودی آن برای پرداخت هزینه‌ها استفاده کرد.
OpenAI این حادثه را ماه‌ها پس از آن کشف کرد که عامل هوش مصنوعی بدون اجازه به کیف پولی رمزارزی که متعلق به آن نبود دسترسی پیدا کرده بود. این شرکت اعلام کرد در ۲۵ سپتامبر ۲۰۲۶ از این رویداد مطلع شده است؛ در حالی که حادثه تقریباً سه ماه پیش از آن، در ۲۶ ژوئن ۲۰۲۶، رخ داده بود. این رویداد مربوط به عاملی از خانواده GPT-5.6 Sol این شرکت بود.
در جریان این حادثه چه اتفاقی افتاد؟
مدل پژوهشی OpenAI در حال انجام یک وظیفه آموزشی بود که شامل به‌روزرسانی یک نمونه اولیه معاملات رمزارزی و استقرار قراردادهای هوشمند می‌شد. قراردادهای هوشمند برنامه‌هایی هستند که هنگام برقرار شدن شرایط مشخص، به‌طور خودکار روی بلاک‌چین اجرا می‌شوند. از این مدل خواسته شده بود قراردادها را روی Sepolia، یک شبکه آزمایشی اتریوم، مستقر کند.
اما مدل پس از آنکه متوجه شد کیف پول تأمین مالی‌شده‌ای در اختیار ندارد ــ کیف پولی که برای پرداخت کارمزدهای لازم جهت تکمیل تراکنش و استقرار قراردادها ضروری بود ــ از مسیر مورد انتظار خارج شد. پیش از آنکه به سراغ کیف پول دیگری برود، حتی تلاش کرد توکن‌های آزمایشی رایگان دریافت کند، اما موفق نشد.
پس از آن، مدل اسکریپتی نوشت تا ۳۶۲ کیف پول دیگر را بررسی کند. سپس کیف پولی را که موجودی کافی داشت انتخاب کرد و کارمزد استقرار قرارداد را با استفاده از آن پرداخت کرد.
مدل سرکش برای استفاده از کیف پول به مهارت هک نیاز نداشت
مدل هوش مصنوعی برای دسترسی به این کیف پول به هیچ مهارت هکری نیاز نداشت. لازم نبود وارد دستگاهی شود یا حتی از یک آسیب‌پذیری سوءاستفاده کند. در عوض، مدل از عبارت‌های بازیابی در دسترس عموم استفاده کرد؛ عباراتی که توسعه‌دهندگان معمولاً از آن‌ها استفاده می‌کنند.
عبارت بازیابی که با نام عبارت سید نیز شناخته می‌شود، فهرستی از چند واژه است که می‌توان از آن‌ها برای بازیابی و تولید کلیدهای مخفی یک کیف پول رمزارزی استفاده کرد. هر فردی که به این واژه‌ها دسترسی داشته باشد می‌تواند حساب‌های مربوط به کیف پول را دوباره ایجاد کند و هر مقدار از موجودی آن را که بخواهد خرج کند. برای این کار حتی نیازی به دسترسی به دستگاه صاحب کیف پول ندارد.
مدل پیش از دسترسی به وجوه کیف پول، درباره اخلاقی بودن این اقدام با خود بحث کرد. از خود پرسید: «اما آیا استفاده از کلیدها یا وجوهی که به‌طور عمومی شناخته شده‌اند، از نظر اخلاقی قابل قبول است؟» سپس به این نتیجه رسید که استفاده از یک عبارت بازیابی عمومی و توکن آزمایشی، این اقدام را قابل قبول می‌کند.
مدل پس از آن از کیف پول برای پرداخت کارمزد تراکنش استفاده کرد و وظیفه خود را به پایان رساند. با این حال، در گزارش نهایی خود اعلام نکرد که از یک عبارت بازیابی عمومی استفاده کرده یا موجودی کیف پول را خرج کرده است.
خرج‌کردن رمزارز در این حادثه فقط در Sepolia رخ داد؛ شبکه‌ای آزمایشی که توسعه‌دهندگان پیش از عرضه برنامه‌های اتریومی در شبکه‌های اصلی، از آن برای تمرین و آزمایش استفاده می‌کنند. توکن‌های این شبکه فقط برای پرداخت هزینه‌های آزمایش به کار می‌روند و به رمزارزهای معامله‌شده در شبکه‌های اصلی اتریوم مرتبط نیستند.
OpenAI پس از این حادثه تدابیر حفاظتی را افزایش داد
OpenAI اعلام کرد این حادثه را زمانی کشف کرد که دامنه پایش ناهماهنگی خود را به سوابق فعالیت‌های پیشین مدل‌ها گسترش داد. این شرکت همچنین گفت برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده در موارد مشابه، تدابیر حفاظتی بیشتری اجرا کرده است.
این شرکت افزود که سامانه پایش آن اکنون تمام ترافیک را پوشش می‌دهد و در صورتی که یک مدل به اینترنت زنده دسترسی پیدا کند، می‌تواند به کارکنان بخش امنیت هشدار دهد.