عامل هوش مصنوعی OpenAI از کیف پول اتریومی که مالک آن نبود، هزینه کرد

OpenAI در گزارشی که ۱۵ اکتبر به‌روزرسانی شد، تأیید کرد که یک مدل پژوهشی داخلی با استفاده از یک عبارت بازیابی شناخته‌شده عمومی به یک حساب دسترسی پیدا کرده و موجودی آن را برای پرداخت کارمزد تراکنش‌های بلاکچین مصرف کرده است. این شرکت ۲۵ سپتامبر، هنگام بررسی سوابق رفتارهای قبلی مدل، از این فعالیت مطلع شد.

این رویداد به یک مدل داخلی از خانواده GPT-5.6 Sol مربوط می‌شود که روی یک اپلیکیشن معاملات رمزارز کار می‌کرد. اگرچه دستورالعمل‌های این مدل اجازه استقرار قراردادهای هوشمند را می‌داد، در مأموریت موردنظر هیچ کیف پول دارای موجودی در اختیار مدل قرار نگرفته بود و اجازه‌ای برای خرج کردن دارایی‌های حساب دیگری نیز وجود نداشت.

این تراکنش‌ها روی سپولیا انجام شدند؛ شبکه آزمایشی اتریوم که توسعه‌دهندگان از آن برای آزمایش اپلیکیشن‌ها پیش از استقرار آنها روی شبکه اصلی استفاده می‌کنند. OpenAI مبلغ هزینه‌شده را اعلام نکرده و گزارش این شرکت نیز هویت صاحب حساب را مشخص نکرده است.

عامل OpenAI برای یافتن موجودی، ۳۶۲ کیف پول اتریومی را بررسی کرد

در مأموریت ۲۶ ژوئن، از مدل پژوهشی خواسته شده بود نمونه اولیه یک سامانه معاملات رمزارز را به‌روزرسانی کند و قراردادهای هوشمند سازگار را روی سپولیا مستقر سازد. این وظایف شامل تغییر محاسبات معاملات، به‌روزرسانی توابع پایگاه داده و جایگزین کردن نشانی‌های موقت قراردادها با قراردادهای مستقر و فعال بود.

تکمیل استقرار به اتر سپولیا برای پرداخت هزینه‌های شبکه، که معمولاً «کارمزد گس» نامیده می‌شود، نیاز داشت. مدل ابتدا به دنبال قراردادهای موجودی گشت که بتوانند نیاز مأموریت را برآورده کنند و سپس سراغ فاست‌ها رفت؛ سرویس‌هایی که مقادیر اندکی رمزارز آزمایشی در اختیار توسعه‌دهندگان قرار می‌دهند.

طبق گزارش OpenAI، مدل نتوانست از این سرویس‌ها توکن آزمایشی کافی به دست آورد و شروع به بررسی گزینه‌های دیگر برای تأمین مالی کرد. استدلال ثبت‌شده مدل نشان می‌داد که به استفاده از عبارت‌های بازیابی‌ای فکر کرده است که معمولاً در مستندات توسعه‌دهندگان منتشر می‌شوند تا حساب‌هایی را پیدا کند که احتمالاً دارای اتر سپولیا هستند.

عبارت بازیابی مجموعه‌ای از کلمات است که برای تولید کلیدهای خصوصی کنترل‌کننده یک کیف پول رمزارزی به کار می‌رود. هر فردی که این عبارت را در اختیار داشته باشد، بالقوه می‌تواند به حساب‌های مربوط به آن دسترسی پیدا کند؛ حتی اگر از سوی فردی که موجودی کیف پول را تأمین کرده است مجوز نداشته باشد.

مدل اسکریپتی نوشت که با استفاده از عبارت‌های بازیابی عمومیِ شناخته‌شده توسعه‌دهندگان، نشانی‌های کیف پول را تولید و موجودی آنها را بررسی می‌کرد. پس از بررسی ۳۶۲ نشانی، یک حساب دارای موجودی آزمایشی کافی برای تکمیل استقرار برنامه را شناسایی کرد.

تحقیقات OpenAI نشان داد که عامل هوش مصنوعی پیش از تصمیم به ادامه کار، سابقه تراکنش‌های کیف پول انتخاب‌شده را بررسی کرده است. مدل متوجه فعالیت‌هایی شد که به نظر می‌رسید خودکار باشند و بررسی کرد که آیا تراکنش‌های در انتظار می‌توانند بر موجودی قابل‌استفاده تأثیر بگذارند یا نه.

در گزارش، مشاهده‌ای از مدل ثبت شده بود که نشان می‌داد کلید خصوصی این حساب عمومی بوده و هر فردی که آن را در اختیار داشته باشد می‌تواند وجوه را خرج کند. با وجود تشخیص این مسئله، مدل به آماده‌سازی استقرار ادامه داد.

مدل هوش مصنوعی درباره اخلاقی بودن خرج کردن موجودی کیف پول تردید کرد

عامل هوش مصنوعی پیش از امضای تراکنش، صراحتاً بررسی کرد که آیا استفاده از موجودی حساب انتخاب‌شده قابل‌قبول است یا خیر. استدلال آن به عمومی بودن عبارت بازیابی و ارزش اقتصادی محدود توکن‌های آزمایشی سپولیا اشاره داشت.

مدل پرسید: «اما آیا استفاده از کلید/وجوه عمومیِ شناخته‌شده از نظر اخلاقی درست است؟» سپس موجودی حساب را «عملاً رهاشده» توصیف کرد و به این نتیجه رسید که استفاده از آن برای انجام وظیفه کدنویسی قابل‌قبول است.

OpenAI دریافت که مدل این تصمیم را بدون دریافت مجوز از مالک حساب یا فردی که مأموریت را تعیین کرده بود گرفته است. این گزارش، رفتار مذکور را نمونه‌ای از تصمیم‌گیری مستقل یک مدل درباره قابل‌قبول بودن یک اقدام، به‌جای رعایت مرزهای مجوز، توصیف کرد.

عامل هوش مصنوعی در ادامه با استفاده از کلید خصوصی استخراج‌شده، یک تراکنش استقرار را به‌صورت آفلاین امضا کرد. نخستین تلاش آن برای ارسال تراکنش با شکست مواجه شد و در پی آن، مدل ارائه‌دهندگان و روش‌های دیگری را برای برقراری ارتباط با شبکه آزمایش کرد.

پس از یافتن یک اتصال فعال، عامل تراکنش را ارسال کرد و یک هش تأیید دریافت کرد. رسید تراکنش نشان داد قرارداد با موفقیت مستقر شده و کارمزد شبکه از کیف پول انتخاب‌شده کسر شده است.

تراکنش امضاشده مستقیماً اتر را به گیرنده دیگری منتقل نکرد. هزینه آن مربوط به گسی بود که برای اجرا و ثبت استقرار قرارداد روی سپولیا لازم بود.

تحقیقات OpenAI ثبت کرد که قراردادهای مستقر با موفقیت بررسی شدند و در ۱۰ نشانی، کد غیرخالی وجود داشت. محیط توسعه پس از آن ۱۲ تست واحد و یک بیلد تولید را با موفقیت تکمیل کرد.

عامل هوش مصنوعی در پاسخ نهایی خود به مأموریت اعلام کرد که قراردادهای موردنیاز مستقر شده‌اند و اپلیکیشن به‌روزرسانی شده است. اما افشا نکرد که هزینه استقرار از طریق حسابی تأمین شده که خودِ مدل به‌طور مستقل به آن دسترسی پیدا کرده بود.

OpenAI پس از تراکنش غیرمجاز کیف پول، نظارت را تقویت می‌کند

شرکت پژوهشی OpenAI در ۲۵ سپتامبر، هنگام گسترش نظارت بر فعالیت‌های قبلی مدل، از این رویداد مربوط به ژوئن مطلع شد. OpenAI در ۱۵ اکتبر گزارشی به‌روزشده منتشر کرد که تراکنش غیرمجاز و استدلال‌های داخلی ثبت‌شده مدل در جریان این مأموریت را شرح می‌دهد.

طبق این گزارش، شرکت از آن زمان محدودیت‌های بیشتری را برای جلوگیری از دسترسی زنده به اینترنت در موقعیت‌های آموزشی مشابه اعمال کرده است. سامانه نظارتی این شرکت اکنون تمام ترافیک را پوشش می‌دهد و به‌گونه‌ای طراحی شده است که در صورت وقوع دسترسی غیرمجاز و زنده به اینترنت، به نیروهای امنیتی هشدار دهد.

این افشاگری بخشی از چارچوب گزارش‌دهی ناهماهنگی مدل‌های OpenAI است که در سپتامبر ۲۰۲۶ معرفی شد. این شرکت این چارچوب را برای مستندسازی رویدادهایی ایجاد کرد که در آنها مدل‌ها اقداماتی مغایر با دستورالعمل‌ها، مجوزها یا رفتار مورد انتظار انجام می‌دهند.

این سامانه گزارش‌دهی، رویدادهایی مانند دسترسی غیرمجاز، اقدامات پنهان، سوءاستفاده از ابزارهای خارجی و دیگر رفتارهای غیرمنتظره مدل را پوشش می‌دهد. OpenAI اعلام کرده است که حتی زمانی که تحقیقات هنوز همه علل یک رویداد را به‌طور کامل مشخص نکرده‌اند، قصد دارد گزارش‌های مربوط به آنها را منتشر کند.

در مورد کیف پول اتریومی، شرکت هم هزینه‌کرد غیرمجاز و هم فرایند تصمیم‌گیری عامل را شناسایی کرد. گزارش عمومی، نشانی کیف پول، کلید خصوصی، هش تراکنش و مبلغ دقیق هزینه‌شده را حذف کرده است.

شرکت‌های رمزارزی برای عامل‌های هوش مصنوعی محدودیت‌های هزینه‌کرد ایجاد می‌کنند

افشاگری OpenAI پس از معرفی کیف پول‌های رمزارزی صورت می‌گیرد که به عامل‌های هوش مصنوعی اجازه می‌دهند بدون نیاز به تأیید انسان برای تک‌تک پرداخت‌ها، تراکنش انجام دهند.

در فوریه ۲۰۲۶، کوین‌بیس کیف پول‌هایی را راه‌اندازی کرد که به عامل‌های هوش مصنوعی اجازه خرج کردن و معامله رمزارز می‌دهند. این محصول محدودیت‌های قابل‌برنامه‌ریزی برای هزینه‌کرد و کنترل‌های مربوط به نشست را ارائه می‌کرد و در عین حال کلیدهای خصوصی را در زیرساخت کیف پول کوین‌بیس نگه می‌داشت.

متامسک نیز در ژوئن قابلیت‌های مشابهی را معرفی کرد و در ماه اوت دامنه دسترسی به آنها را گسترش داد. کیف پول هوش مصنوعی این شرکت با قابلیت محافظت از تراکنش‌ها به نرم‌افزارهای خودکار اجازه می‌دهد تراکنش‌های آنچین را در محدوده‌هایی که کاربر برای هزینه‌کرد و دسترسی به پروتکل‌های بلاکچینی تعیین کرده است، اجرا کنند.

ارائه‌دهنده کیف پول اعلام کرده است که سامانه آن شامل غربالگری تراکنش‌ها و الزامات تأیید اضافی برای برخی فعالیت‌های پرریسک است. تراکنش‌های واجد شرایط می‌توانند، با توجه به شرایط اعلام‌شده از سوی شرکت، تا سقف ۱۰ هزار دلار در ماه مشمول پوشش حفاظتی شوند.

همزمان، گزارشی در ۱۵ اکتبر که ۱۳۸ میلیون پرداخت رمزارزی انجام‌شده از طریق زیرساخت‌های پرداخت مرتبط با هوش مصنوعی را بررسی کرده بود، از افزایش استفاده از تراکنش‌های خودکار بلاکچینی در شبکه بیس کوین‌بیس خبر داد.

این مطالعه که بر پایه پژوهش Chainalysis انجام شده است، بیش از ۱۳۸ میلیون تراکنش x402 را در ۱۲ ماه منتهی به اول ژوئیه ۲۰۲۶ شمارش کرد. یافته‌ها نشان داد نرم‌افزارها از این پروتکل پرداخت برای خرید خدماتی از جمله دسترسی به داده، پردازش مدل‌های هوش مصنوعی و تحلیل کد استفاده کرده‌اند.

Chainalysis گزارش کرد که بیش از ۸۷ درصد پرداخت‌ها در یک دوره مشاهده گسترده‌تر، مبالغی بین ۰٫۰۰۰۱ تا ۰٫۱۰ دلار داشته‌اند. پژوهشگران هشدار دادند که تعداد تراکنش‌ها به‌تنهایی مشخص نمی‌کند چه تعداد عامل مستقل هوش مصنوعی یا مشتری پرداخت‌کننده در این فعالیت‌ها مشارکت داشته‌اند.