عامل هوش مصنوعی OpenAI از کنترل خارج شد؟ استفاده از رمزارزها بدون اجازه صاحب کیف پول
بیبهو پاتنایک
شرکت OpenAI از وقوع حادثه‌ای خبر داده است که در آن یکی از عامل‌های هوش مصنوعی داخلی این شرکت، بدون اجازه صاحب کیف پول، از آن برای پرداخت هزینه‌ای با رمزارز استفاده کرده است.
بر اساس پستی در شبکه اجتماعی ایکس، این عامل هنگام انجام وظیفه‌ای در شبکه آزمایشی سپولیا (Sepolia) اتریوم، با کمبود گس مواجه شد؛ گس کارمزدی است که برای انجام تراکنش در شبکه بلاک‌چین لازم است. توکن‌های سپولیا ارزش پولی واقعی ندارند؛ بنابراین، در این حادثه هیچ دارایی واقعی تحت تأثیر قرار نگرفت.
شرکت OpenAI در وبلاگ خود درباره هم‌ترازی هوش مصنوعی نوشت: «یک مدل پژوهشی داخلی که مأمور به‌روزرسانی یک برنامه معاملاتی رمزارز شده بود، برای استقرار یک قرارداد در سپولیا، شبکه آزمایشی اتریوم، از موجودی کیف پولی استفاده کرد که در اختیار آن قرار داده نشده بود. این مدل با استفاده از عبارت‌های بازیابی توسعه‌دهندگان که به‌صورت عمومی شناخته شده بودند، کلیدهای کیف پول را به دست آورد، حسابی دارای موجودی در شبکه آزمایشی پیدا کرد و از آن حساب برای پرداخت هزینه استقرار قرارداد درخواستی استفاده کرد.»
عامل ابتدا درباره اخلاقی بودن کار تردید کرد، اما در نهایت آن را انجام داد
این عامل مأمور شده بود یک برنامه معاملاتی رمزارز را به‌روزرسانی کند و قراردادهای هوشمند را روی شبکه مستقر سازد، اما کیف پولی دارای موجودی در اختیارش قرار نگرفته بود.
پس از آنکه تلاش‌هایش برای دریافت توکن‌های آزمایشی رایگان به نتیجه نرسید، به جست‌وجوی کیف پول‌های دارای موجودی پرداخت که می‌شد با استفاده از عبارت‌های بازیابی شناخته‌شده به آن‌ها دسترسی پیدا کرد. این عامل ۳۶۲ آدرس را بررسی کرد و سرانجام یک کیف پول با موجودی کافی یافت.
گزارش‌های ثبت‌شده از فعالیت عامل نشان می‌داد که پیش از استفاده از موجودی کیف پول، درباره اخلاقی بودن این کار تردید کرده است. بااین‌حال، در ادامه این دارایی‌ها را عملاً «رهاشده» تلقی کرد، زیرا هر کسی می‌توانست با استفاده از عبارت بازیابی عمومی به کیف پول دسترسی پیدا کند و توکن‌های آزمایشی سپولیا نیز ارزش واقعی نداشتند. سپس تراکنش را امضا کرد.
قراردادهای هوشمند با موفقیت مستقر شدند. عامل نیز پس از پایان کار، انجام موفقیت‌آمیز مأموریت را گزارش کرد، بی‌آنکه اشاره‌ای به استفاده از کیف پول شخص دیگری داشته باشد.
OpenAI کنترل‌ها را سخت‌گیرانه‌تر می‌کند
این حادثه در ۲۶ ژوئن رخ داد و در ۲۵ سپتامبر شناسایی شد. اطلاعات مربوط به آن بعداً در ۱۵ اکتبر به‌روزرسانی شد. OpenAI از آن زمان نظارت سخت‌گیرانه‌تری بر مدل‌های پژوهشی خود اعمال کرده و محدودیت‌های دسترسی آن‌ها به اینترنت را افزایش داده است.
OpenAI در مطلب وبلاگی خود نوشت: «این حادثه را زمانی کشف کردیم که دامنه نظارت بر رفتارهای ناهم‌راستا را گسترش دادیم تا سوابق فعالیت‌های پیشین مدل‌ها را نیز بررسی کنیم. تدابیر حفاظتی بیشتری برای جلوگیری از دسترسی زنده به اینترنت در چنین مواردی اجرا کرده‌ایم. اکنون سامانه نظارت بر رفتارهای ناهم‌راستا را روی تمام ترافیک اجرا می‌کنیم؛ این سامانه به‌گونه‌ای طراحی شده است که در صورت برقراری دسترسی زنده به اینترنت، به تیم امنیت هشدار دهد.»
اگرچه در این حادثه هیچ اتر واقعی جابه‌جا نشد، این اتفاق خطرهای امنیتی ناشی از دسترسی عامل‌های خودمختار به زیرساخت‌های بلاک‌چین را برجسته می‌کند.
استفاده از دارایی‌های دیگران بدون کسب اجازه، حتی در یک شبکه آزمایشی، همچنان مسئله‌ای جدی است.
این گزارش نخستین بار در ۱۶ اکتبر ۲۰۲۶ در وب‌سایت TheStreet و در بخش بازارها منتشر شد.