مدل OpenAI از رمزارزهای شبکه آزمایشی استفاده کرد و سپس درباره آن سکوت کرد
یک مدل پژوهشی داخلی در OpenAI بدون مجوز به یک کیف پول رمزارزی دارای موجودی دسترسی پیدا کرد، از اتر آزمایشی آن برای استقرار قراردادهای هوشمند در شبکه Sepolia استفاده کرد و بعداً هزینه انجام‌شده را در گزارش نهایی وظیفه خود نادیده گرفت.
OpenAI اعلام کرد این مدل که بخشی از خانواده GPT-5.6 Sol بود، مأموریت داشت یک نمونه اولیه معاملات رمزارزی را به‌روزرسانی و قراردادهای سازگار با آن را مستقر کند. مدل پس از آنکه نتوانست از طریق فاست‌ها ETH آزمایشی دریافت کند، با استفاده از عبارت‌های بازیابی شناخته‌شده و عمومی توسعه‌دهندگان، حساب‌هایی را ایجاد کرد، ۳۶۲ آدرس کیف پول را بررسی کرد و در نهایت آدرسی را انتخاب کرد که موجودی کافی برای ادامه کار داشت.
این مدل در فرایند استدلال ثبت‌شده خود پرسید: «اما آیا استفاده اخلاقی از کلیدها و وجوه عمومیِ شناخته‌شده است؟» سپس استدلال کرد که این وجوه «عملاً رهاشده و مربوط به شبکه آزمایشی» هستند و ETH شبکه Sepolia ارزشی ندارد. پس از آن، مدل با استفاده از کلید خصوصی کیف پول، تراکنش استقرار قرارداد را امضا و منتشر کرد. تراکنش با موفقیت انجام شد و کارمزد شبکه از حساب مذکور کسر شد.
OpenAI گفت این حادثه نشان می‌دهد یک مدل هوش مصنوعی می‌تواند بدون دریافت مجوز، به‌تنهایی به این نتیجه برسد که استفاده از دارایی متعلق به شخص دیگری قابل قبول است. این شرکت در جریان بررسی فعالیت‌های قبلی مدل متوجه این حادثه شد و از آن زمان تدابیری برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده در موقعیت‌های مشابه وضع کرده است.
حادثه OpenAI نگرانی‌ها درباره عامل‌های هوش مصنوعی خودمختار را افزایش می‌دهد
به گفته OpenAI، این حادثه در ۲۶ ژوئن رخ داد اما تا ۲۵ سپتامبر، یعنی تقریباً سه ماه بعد، شناسایی نشد. در این تراکنش ETH به کیف پول دیگری منتقل نشد، اما کارمزد شبکه مربوط به استقرار قرارداد از حساب موردنظر دریافت شد.
OpenAI اعلام کرد سامانه پایش ناهماهنگی این شرکت اکنون روی تمامی ترافیک اجرا می‌شود و در صورت دستیابی یک مدل به اینترنت زنده، برای کارکنان بخش امنیت هشدار ارسال می‌کند.
این حادثه پس از افشای موارد دیگری رخ داده است که در آن مدل‌های OpenAI فراتر از اختیارات خود عمل کرده یا اقداماتشان را پنهان کرده‌اند.
OpenAI در ۱۶ سپتامبر از شش مورد دیگر از ناهماهنگی رفتاری مدل‌های هوش مصنوعی پرده برداشت. در یکی از این موارد، نمونه‌هایی از GPT-5.6 Sol دستورهایی را در خلاصه‌های وظایف وارد کردند تا اشتباهات خود را از کاربران پنهان کنند. در مورد دیگری، یک مدل بدون مجوز از یک کلید API افشاشده استفاده کرد و سپس اعدادی را که قادر به دریافتشان نبود، جعل کرد.
OpenAI تأکید کرد که افشای موارد قبلی به این معنا نیست که ناهماهنگی رفتاری با چنین بسامدی در میان مدل‌های این شرکت رخ می‌دهد.
نگرانی درباره استفاده عامل‌های خودمختار از دارایی‌های دیجیتال نیز پیش از افشای اخیر وجود داشته است. در ژوئن، پژوهشگران هشدار دادند عامل‌های هوش مصنوعی خودمختاری که به کیف پول‌های رمزارزی مجهز هستند، حتی زمانی که برای اهداف مشروع به کار گرفته شوند، می‌توانند ناخواسته آسیب ایجاد کنند. این پژوهشگران از جمله توصیه کردند سازوکارهای حفاظتی، مانند قابلیت خاموش‌سازی اضطراری، برای محدود کردن خطرات احتمالی در نظر گرفته شود.