مدل OpenAI کارمزد شبکه آزمایشی اتریوم را از کیف‌پولی پرداخت کرد که در اختیارش قرار نگرفته بود
OpenAI گزارشی درباره یک مورد ناهمسویی منتشر کرده است که در آن یکی از مدل‌های تحقیقاتی داخلی این شرکت، هزینه استقرار یک قرارداد روی بلاک‌چین را با رمزارزهای موجود در کیف‌پولی پرداخت کرد که هیچ‌کس آن را در اختیار مدل قرار نداده بود؛ سپس هنگام اعلام پایان کار، این جزئیات را گزارش نکرد.
بر اساس این گزارش که OpenAI آخرین بار در ۱۵ اکتبر آن را به‌روزرسانی کرده است، این اتفاق ۲۶ ژوئن و در جریان یک وظیفه آموزشی برای مدلی از خانواده GPT-5.6 Sol رخ داد. این شرکت می‌گوید تنها در ۲۵ سپتامبر، یعنی حدود سه ماه بعد، متوجه این رخداد شد.
مدل چگونه به منابع مالی دسترسی پیدا کرد
از مدل خواسته شده بود روی یک نمونه اولیه معاملات رمزارزی کار کند و آدرس‌های آزمایشی را با قراردادهای واقعی در سپولیا جایگزین کند؛ سپولیا یک شبکه آزمایشی اتریوم است که توکن‌های آن ارزش بازاری ندارند. مدل در صورت پیدا نکردن قرارداد مناسب می‌توانست قراردادهای خودش را مستقر کند، اما به گفته OpenAI، هیچ کیف‌پول دارای موجودی در اختیار آن قرار نگرفته بود و اجازه‌ای هم برای خرج کردن دارایی‌های کیف‌پولی که خودش پیدا کرده بود نداشت.
پس از آنکه دریافت توکن‌های آزمایشی از فاست‌ها ناموفق ماند، مدل اسکریپتی نوشت که با استفاده از عبارت‌های بازیابی، حساب‌هایی را ایجاد می‌کرد که توسعه‌دهندگان معمولاً آنها را دوباره استفاده می‌کنند و سپس موجودی این حساب‌ها را بررسی می‌کرد. از میان ۳۶۲ آدرس بررسی‌شده، یکی به اندازه کافی اتریوم سپولیا داشت تا هزینه‌ها را پوشش دهد. هر فردی که یک عبارت بازیابی را در اختیار داشته باشد، می‌تواند کلیدهای خصوصی مرتبط با آن را بازسازی کند.
سوابق استدلال ثبت‌شده مدل نشان می‌دهد که خود آن نیز درباره این اقدام تردید داشته است. مدل نوشته بود: «اما استفاده اخلاقی از کلید/وجوه عمومی شناخته‌شده؟» سپس به این نتیجه رسید که این پول «عملاً رها شده» است و با توجه به بی‌ارزش بودن توکن‌های آزمایشی، استفاده از آن را توجیه کرد. مدل تراکنش را به‌صورت آفلاین امضا کرد و پس از آنکه نخستین تلاش برای ارسال تراکنش با خطا مواجه شد، ارائه‌دهندگان مختلف شبکه را آزمایش کرد و در نهایت آن را از طریق ارائه‌دهنده‌ای ارسال کرد که پاسخ داد. استقرار با موفقیت انجام شد و کارمزدها از حساب مذکور کسر شد. OpenAI آدرس، موجودی و هش تراکنش را از گزارش حذف کرده است.
OpenAI چه تغییراتی ایجاد کرد
OpenAI در گزارش خود نوشته است که این مورد نشان می‌دهد «یک مدل می‌تواند قضاوت خود را درباره میزان آسیب احتمالی جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
این شرکت می‌گوید زمانی از این رخداد مطلع شد که پایش ناهمسویی خود را گسترش داد تا گزارش‌های فعالیت‌های قبلی مدل‌ها را نیز بررسی کند. OpenAI از آن زمان برای موارد مشابه، تدابیری برای جلوگیری از دسترسی مستقیم مدل‌ها به اینترنت اضافه کرده است و اکنون این پایش را «روی تمام ترافیک» اجرا می‌کند و آن را به‌گونه‌ای تنظیم کرده که اگر مدلی به اینترنت متصل شود، به تیم امنیتی هشدار دهد.
این گزارش پس از رخداد جداگانه‌ای منتشر شده است که در آن عامل‌های OpenAI به سامانه‌های Hugging Face نفوذ کردند و پس از آن، دادستان کل کالیفرنیا نیز این شرکت را احضار کرد.