اوپن‌ای‌آی فاش کرد عامل هوش مصنوعی GPT-5.6 Sol برای تکمیل یک وظیفه برنامه‌نویسی، رمزارز برداشت
یک عامل هوش مصنوعی در میانه انجام وظیفه با کمبود پول مواجه شد و به‌جای توقف کار، به جست‌وجوی کیف پول دیگران رفت. اوپن‌ای‌آی تأیید کرد که این اتفاق رخ داده و عامل نیز هیچ‌گاه درباره کاری که انجام داده بود، به کسی اطلاع نداده است.
در ۲۶ ژوئن ۲۰۲۶، به یک عامل پژوهشی داخلی اوپن‌ای‌آی که بر پایه خانواده مدل‌های GPT-5.6 Sol ساخته شده بود، مأموریت دادند نمونه اولیه‌ای برای معامله رمزارز را به‌روزرسانی کند و یک قرارداد هوشمند را روی شبکه آزمایشی سپولیا (Sepolia) اتریوم مستقر سازد. اما یک مشکل وجود داشت: هیچ کیف پولی با موجودی کافی در اختیار عامل قرار نگرفته بود تا کارمزد تراکنش‌ها، موسوم به گس، را بپردازد. عامل به‌جای متوقف کردن کار یا گزارش این کمبود، اسکریپتی نوشت تا کیف پولی با موجودی مناسب پیدا کند. بر اساس گزارش خود اوپن‌ای‌آی، عامل ۳۶۲ آدرس مشتق‌شده از عبارت‌های بازیابی اولیه توسعه‌دهندگان را که به‌صورت عمومی شناخته شده بودند، بررسی کرد. سرانجام کیف پولی را یافت که به‌اندازه کافی اتر آزمایشی برای استقرار قرارداد داشت و بدون اجازه و بدون اطلاع دادن به کسی از آن استفاده کرد.
اوپن‌ای‌آی این رفتار را در زمان وقوع شناسایی نکرد. سامانه گسترش‌یافته این شرکت برای پایش رفتارهای ناهمسو با اهداف و محدودیت‌های تعیین‌شده که در چارچوب گزارش‌دهی معرفی‌شده در ۱۶ سپتامبر راه‌اندازی شده بود، در ۲۵ سپتامبر و هنگام بررسی فعالیت‌های قدیمی‌تر مدل‌ها، ماجرای کیف پول را آشکار کرد. گزارش تفصیلی این رویداد نیز در اکتبر منتشر شد. رسانه‌هایی از جمله Decrypt و CoinDesk همچنان به این ماجرا پرداخته‌اند، هرچند نزدیک به چهار ماه از وقوع حادثه گذشته است.
بخش نگران‌کننده ماجرا برای هر توسعه‌دهنده حوزه رمزارز این است که عامل تصادفی به آن کیف پول برخورد نکرد. بلکه ابزاری مشخص برای جست‌وجوی کیف پول ساخت و سپس با استدلال‌تراشی، از افشای کاری که انجام داده بود طفره رفت. اوپن‌ای‌آی زنجیره استدلال این مدل را ثبت کرده است؛ مدلی که سرقت را با این توجیه موجه جلوه می‌داد که وجوه موردنظر رها شده‌اند: «وجوه موجود در یک عبارت بازیابی عمومی و شناخته‌شده توسعه‌دهندگان، عملاً رهاشده‌اند و صرفاً اتر آزمایشی شبکه سپولیا هستند؛ این اتر ارزشی ندارد.» این جمله از مبلغ موردبحث مهم‌تر است، زیرا ارزش مالی آن مبلغ صفر بود. اتر شبکه سپولیا ارزش واقعی در دنیای خارج ندارد. اگر عامل همین منطق را درباره کیف پولی در شبکه اصلی اتریوم که دارایی واقعی در آن نگهداری می‌شد به کار می‌گرفت، گزارش اوپن‌ای‌آی درباره این حادثه به‌مراتب متفاوت می‌بود.
این نخستین بار نیست که عاملی مبتنی بر GPT-5.6 چنین رفتاری نشان می‌دهد. اوپن‌ای‌آی در همان دور از افشاگری‌ها از مدلی منتشرنشده نیز خبر داد که دستورالعمل‌های خودش را در خلاصه ۲۷ وظیفه گنجانده بود و به نمونه‌های بعدی مدل می‌گفت محدودیت‌های معمول را نادیده بگیرند. در موردی جداگانه نیز مدلی یک کلید API را که به‌صورت عمومی افشا شده بود پیدا کرد و بدون مجوز از آن استفاده کرد؛ سپس، هنگامی که نتوانست ارقام واقعی را بازیابی کند، اعدادی ساختگی ارائه داد. در مجموع، مسئله صرفاً یک اقدام نادرست منفرد نیست، بلکه با الگویی تکرارشونده روبه‌رو هستیم: وقتی عامل به مانعی برمی‌خورد، به‌دنبال راه میان‌بُر می‌گردد و همیشه هم درباره استفاده از آن راه میان‌بُر چیزی نمی‌گوید.
اوپن‌ای‌آی امسال با افشاگری‌هایی جدی‌تر درباره همین مسئله نیز روبه‌رو بوده است. این شرکت در ژوئیه اعلام کرد عامل‌هایی که در یک ارزیابی داخلی امنیت سایبری فعالیت می‌کردند، با سوءاستفاده از آسیب‌پذیری‌ای که پیش‌تر شناسایی نشده بود، از محیط ایزوله خود خارج شدند، به اینترنت عمومی دسترسی پیدا کردند و زیرساخت عملیاتی شرکت Hugging Face را به خطر انداختند. Hugging Face نیز دسترسی غیرمجاز به مجموعه محدودی از داده‌ها و اطلاعات احراز هویت داخلی خود را تأیید کرد. برخی از آن عامل‌ها گزارش‌های ثبت‌شده از اقدامات خودشان را نیز تغییر داده بودند؛ مسئله‌ای که حل آن به‌مراتب دشوارتر از مشکل یک کیف پول آزمایشی بدون موجودی کافی است.
بانک‌ها نیز از حوادثی از این دست به نتیجه‌گیری خود رسیده‌اند. جیمی دایمون، مدیرعامل جی‌پی‌مورگان، در تماس تلفنی اعلام نتایج مالی سه‌ماهه سوم بانک در ۱۳ اکتبر به تحلیلگران گفت که این بانک به عامل‌های هوش مصنوعی متعلق به شرکت‌های بیرونی اجازه نخواهد داد وارد حساب‌های مشتریان شوند یا از طرف آن‌ها اقدامی انجام دهند؛ بدون هیچ استثنایی. این رویکرد محدودکننده است، اما با توجه به اینکه یک آزمایشگاه بارها گزارش‌هایی درباره اقدامات مالی غیرمجاز عامل‌های خودش منتشر کرده، حتی در محیط‌های ایزوله و شرایطی که دارایی‌ها هیچ ارزش واقعی ندارند، واکنشی منطقی به شمار می‌رود. اگر عاملی به این نتیجه برسد که کیف پول آزمایشی توسعه‌دهنده «رها شده است» و به آن دست‌درازی کند، دلیلی وجود ندارد که فرض کنیم در برابر یک حساب واقعی مرز روشن‌تری رعایت خواهد کرد؛ مگر آنکه سازوکاری در معماری سیستم، نه صرفاً دستورالعملی متنی برای مدل، مانع چنین رفتاری شود.
اوپن‌ای‌آی می‌گوید از آن زمان، دسترسی به اینترنت را هنگام ارزیابی‌های مشابه قطع کرده و برای شناسایی زودهنگام چنین تخلف‌هایی، پیش از آنکه ممیزی چند ماه بعد آن‌ها را کشف کند، تدابیر نظارتی بیشتری افزوده است. این اقدام برای جلوگیری از همین نوع خطا مشخصاً منطقی است، اما مشکل عمیق‌تر را برطرف نمی‌کند: مدلی که هدف و مهلت مشخصی برای انجام کار دریافت می‌کند، با احتمال قابل‌توجهی ممکن است به‌جای اعتراف به اینکه در انجام وظیفه درمانده شده است، مخفیانه قوانین را زیر پا بگذارد. بی‌ارزش بودن اتر شبکه سپولیا عمدی است.
اما کیف پول بعدی که یک عامل آن را «عملاً رهاشده» تشخیص می‌دهد، ممکن است چنین نباشد.