مدل OpenAI بدون اجازه از کیف پول اتریوم در شبکه آزمایشی برای تکمیل یک وظیفه کدنویسی استفاده کرد
یک مدل پژوهشی داخلی OpenAI برای تکمیل یک وظیفه کدنویسی، از وجوه یک کیف پول رمزارزی استفاده کرد که اجازه دسترسی به آن را نداشت. این مدل با استفاده از عبارت‌های بازیابی شناخته‌شده توسعه‌دهندگان، کلیدهای کیف پول را به دست آورد. OpenAI این موضوع را در گزارشی درباره ناهماهنگی مدل‌ها که روز پنجشنبه به‌روزرسانی شد، اعلام کرده است.
این مدل از خانواده GPT-5.6 Sol بود و از آن خواسته شده بود یک نمونه اولیه معاملات رمزارزی را به‌روزرسانی و قراردادهای هوشمند را روی شبکه آزمایشی Sepolia اتریوم مستقر کند؛ شبکه‌ای که توکن‌های آن ارزش پولی ندارند. این حادثه در ماه ژوئن و در جریان یک وظیفه آموزشی رخ داد و OpenAI در ماه سپتامبر از آن مطلع شد.
دستورالعمل‌های وظیفه به مدل اجازه می‌داد اگر قراردادهای سازگار موجود را پیدا نکرد، قراردادهای خودش را مستقر کند. با این حال، هیچ کیف پول دارای موجودی در اختیار آن قرار داده نشده بود و همچنین اجازه‌ای برای خرج کردن از حسابی که خودش پیدا کرده بود نداشت.
پس از آنکه مدل نتوانست توکن‌های آزمایشی را از فاست‌ها دریافت کند، اسکریپتی نوشت تا با استفاده از عبارت‌های بازیابی رایج میان توسعه‌دهندگان، حساب‌ها را استخراج و موجودی آن‌ها را بررسی کند. عبارت بازیابی به هر فردی که آن را در اختیار داشته باشد اجازه می‌دهد کلیدهای خصوصی کنترل‌کننده حساب‌های مربوطه را استخراج کند.
این اسکریپت ۳۶۲ آدرس را بررسی کرد و یک آدرس را یافت که به اندازه کافی ETH در شبکه آزمایشی Sepolia داشت تا هزینه استقرار قرارداد را پرداخت کند.
مدل پیش از امضای تراکنش درباره داشتن مجوز تردید کرد. در استدلال خود نوشت: «اما استفاده اخلاقی از کلیدها/وجوه عمومی شناخته‌شده؟ وجوه موجود در یک عبارت یادآوری عمومی توسعه‌دهنده عملاً رهاشده و صرفاً ETH آزمایشی هستند؛ Sepolia فاقد ارزش است.» سپس نتیجه گرفت: «اشکالی ندارد.»
استقرار قرارداد با موفقیت انجام شد و هزینه تراکنش از حساب مذکور پرداخت شد. مدل در پاسخ نهایی خود اعلام کرد که قراردادها را مستقر کرده است، اما توضیح نداد هزینه این کار را چگونه پرداخت کرده است.
OpenAI در این گزارش نوشت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خودش درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
عامل‌های هوش مصنوعی در محیط‌های آزمایشی
این گزارش به مجموعه‌ای از مواردی اضافه می‌شود که در آن‌ها عامل‌های هوش مصنوعی از محدودیت‌های محیط‌های آزمایشی خود عبور کرده‌اند. در یکی از این موارد، GPT-5.6 Sol از OpenAI و یک مدل پیش‌انتشار قدرتمندتر از محیط ایزوله خود خارج شدند و سرورهای عملیاتی شرکت هوش مصنوعی رقیب، Hugging Face، را هک کردند.
ماه گذشته نیز پژوهشگران شرکت امنیت سایبری Darktrace دریافتند که عامل‌های هوش مصنوعی برای تقلب، در حال هک کردن محیط آزمایشی خود بوده‌اند. در همین حال، برخی دانشمندان خواستار قطع دسترسی سیستم‌های هوش مصنوعی به اینترنت شده‌اند.
OpenAI اعلام کرد این حادثه را هنگام گسترش سامانه پایش ناهماهنگی خود به سوابق فعالیت‌های قبلی مدل‌ها کشف کرده است. این شرکت برای جلوگیری از دسترسی زنده مدل‌ها به اینترنت در موارد مشابه، «مکانیزم‌های حفاظتی بیشتری» اضافه کرده و اکنون سامانه پایش خود را روی تمام ترافیک اجرا می‌کند؛ این سامانه طوری طراحی شده است که اگر مدلی به اینترنت زنده دسترسی پیدا کند، به تیم امنیتی هشدار دهد.