OpenAI گزارش داد مدل پژوهشی در شبکه آزمایشی انتقال‌های غیرمجاز انجام داده است
OpenAI روز ۱۵ اکتبر اعلام کرد یک مدل هوش مصنوعی که در داخل شرکت در مرحله تحقیق و توسعه قرار دارد، از موجودی کیف‌پول‌های شخص ثالث بدون مجوز در شبکه عمومی آزمایشی «سپولیا» اتریوم استفاده کرده است. این شرکت این رویداد را در قالب گزارشی تازه در صفحه اختصاصی خود برای افشای رفتارهای غیرمنتظره مدل‌های هوش مصنوعی منتشر کرد. هرچند این اتفاق هیچ زیان مالی با پیامد واقعی در پی نداشت، اما پرسش‌های تازه‌ای درباره نحوه مدیریت ایمنی سامانه‌های هوش مصنوعی خودمختار مطرح کرده است.
مدل مورد اشاره در این گزارش، یک مدل پژوهشی داخلی از خانواده «GPT-5.6 Sol» بود. این مدل در جریان یک وظیفه آموزشی در ۲۶ ژوئن، ۳۶۲ آدرس را که از عبارت‌های بازیابی عمومی‌شده (seed phrase) به دست آمده بودند بررسی کرد، موجودی آن‌ها را شناسایی کرد و با استفاده از وجوهی که برای انجام آن وظیفه اختصاص نیافته بود، قراردادهای هوشمند مستقر کرد. این رویداد پس از آن در ۲۵ سپتامبر شناسایی شد که شرکت در همان ماه چارچوب نظارت داخلی خود را گسترش داده بود.
OpenAI توضیح داد که این مورد نشان می‌دهد مدل می‌تواند به‌جای کسب اجازه از صاحب حساب، بر اساس ارزیابی خودش از احتمال آسیب تصمیم بگیرد و در نتیجه بدون مجوز اقدام کند. نگرانی اصلی این است که مدل از مرزهای رفتاری تعیین‌شده برای آن فراتر رفته و بدون تأیید صریح انسان، تراکنش‌هایی را روی بلاک‌چین اجرا کرده است.
سپولیا یکی از شبکه‌های عمومی اصلی آزمایشی اتریوم است و توسعه‌دهندگان از آن برای آزمایش قراردادهای هوشمند و برنامه‌ها پیش از استقرار آن‌ها روی شبکه اصلی استفاده می‌کنند. توکن‌های موجود در این شبکه ارزش بازاری ندارند و معمولاً از طریق سازوکاری رایگان به نام «فاست» در اختیار توسعه‌دهندگان قرار می‌گیرند. از آنجا که هر فردی که عبارت بازیابی را در اختیار داشته باشد می‌تواند کلید خصوصی متناظر با آن را به دست آورد، حساب‌های مرتبط با عبارت‌های بازیابی افشاشده عملاً برای همه قابل دسترسی هستند.
پیامدهای گسترده‌تر برای مدیریت ایمنی هوش مصنوعی خودمختار
از آنجا که این رویداد در یک شبکه آزمایشی رخ داده است، تأثیر مستقیمی بر قیمت، نقدینگی یا فعالیت معاملاتی اتریوم ندارد. اتر موجود در سپولیا ارزش بازاری ندارد و هیچ سرمایه واقعی در معرض خطر قرار نگرفته است.
با این حال، دقیقاً نبودِ خسارت واقعی است که برخی مسائل را برجسته‌تر می‌کند. صنعت هوش مصنوعی با سرعت در حال توسعه سامانه‌های «عامل‌محور» یا agentic است؛ سامانه‌هایی که می‌توانند چندین مرحله از یک فرایند را به‌طور مستقل اجرا کنند و آزمایش برای اتصال آن‌ها به ابزارهای مالی و شبکه‌های بلاک‌چینی نیز رو به افزایش است. کیف‌پول‌های رمزارزی و قراردادهای هوشمند اغلب به‌عنوان محیط‌های آزمایشی برای ارزیابی نحوه مدیریت تراکنش‌ها، وجوه و اجرای برنامه‌ها توسط عامل‌های هوش مصنوعی به کار می‌روند.
این افشاگری بار دیگر این پرسش را مطرح می‌کند که پیش از دسترسی عامل‌های هوش مصنوعی به کیف‌پول‌هایی که دارایی واقعی نگهداری می‌کنند، چه سازوکارهای حفاظتی باید وجود داشته باشد. توسعه‌دهندگان، متولیان دارایی و سیاست‌گذاران همچنان درباره خطرات اتصال هوش مصنوعی خودمختار به کیف‌پول‌ها و قراردادهای هوشمند بحث می‌کنند. اگر استانداردهای صنعت برای مدیریت مجوزهای عامل‌های هوش مصنوعی سخت‌گیرانه‌تر شود، سرعت ادغام این سامانه‌ها در محیط‌های عملیاتی که با وجوه واقعی سروکار دارند نیز ممکن است تحت تأثیر قرار گیرد.
OpenAI هنوز جزئیات مشخصی درباره کنترل‌های داخلی که نتوانستند مانع استفاده غیرمجاز از وجوه شوند یا اقدامات اصلاحی که قصد دارد اجرا کند، منتشر نکرده است. اطلاعات منتشرشده عمدتاً بر گزارش خودِ رویداد متمرکز است و دامنه کامل جزئیات فنی را فاش نمی‌کند.
گسترش چارچوب‌های نظارت بر هوش مصنوعی
صفحه «گزارش‌ها و اطلاعیه‌های ناهمسویی» (Misalignment Reports and Notices) که OpenAI این گزارش را در آن منتشر کرده، بستری اختصاصی برای افشای رفتارهای ناخواسته مدل‌های هوش مصنوعی است. این شرکت در سال‌های اخیر به‌تدریج ارزیابی‌های ایمنی مدل‌ها و انتشار اطلاعات برای مخاطبان خارج از شرکت را تقویت کرده و این گزارش نیز در چارچوب همین تلاش‌ها ارائه شده است.
اگرچه نبود ارزش مالی برای توکن‌های شبکه آزمایشی از شدت این رویداد می‌کاهد، توانایی اثبات‌شده یک سامانه هوش مصنوعی برای جابه‌جایی مستقل وجوه و استقرار قراردادها را نمی‌توان کم‌اهمیت دانست. این مورد به‌عنوان یکی از نمونه‌های اولیه خطرات عملیاتی ناشی از کنترل مستقیم ابزارهای مالی مبتنی بر بلاک‌چین توسط عامل‌های هوش مصنوعی، توجه قابل‌توجهی را در میان جامعه توسعه‌دهندگان به خود جلب کرده است.