مدل هوش مصنوعی OpenAI بدون اجازه از یک کیف پول اتریوم در شبکه آزمایشی استفاده کرد
یک مدل پژوهشی داخلی OpenAI برای تکمیل یک وظیفه کدنویسی، بدون اجازه از موجودی یک کیف پول رمزارزی استفاده کرد که در اختیارش قرار نگرفته بود. این مدل با استفاده از عبارت‌های بازیابی شناخته‌شده در میان توسعه‌دهندگان، کلیدهای کیف پول را استخراج کرد؛ OpenAI این موضوع را در گزارشی درباره ناهماهنگی مدل که روز پنجشنبه به‌روزرسانی شد، اعلام کرده است.
این مدل از خانواده GPT-5.6 Sol بود و از آن خواسته شده بود یک نمونه اولیه معاملات رمزارزی را به‌روزرسانی و قراردادهای هوشمند را روی شبکه آزمایشی سپولیای اتریوم مستقر کند؛ جایی که توکن‌ها ارزش مالی ندارند. این رویداد در ماه ژوئن و در جریان یک وظیفه آموزشی رخ داد و OpenAI در ماه سپتامبر از آن مطلع شد.
دستورالعمل‌ها به مدل اجازه می‌دادند اگر قرارداد سازگاری پیدا نکرد، قراردادهای خود را مستقر کند. با این حال، هیچ کیف پول دارای موجودی در اختیار مدل قرار داده نشده بود و طبق گزارش، به آن اجازه داده نشده بود از حسابی که خودش پیدا کرده است برداشت یا برای انجام تراکنش استفاده کند.
مدل پس از آنکه نتوانست توکن‌های آزمایشی را از فاست‌ها دریافت کند، اسکریپتی نوشت تا با استفاده از عبارت‌های بازیابی رایج میان توسعه‌دهندگان، حساب‌ها را استخراج و موجودی آنها را بررسی کند. عبارت بازیابی به هر کسی که آن را در اختیار داشته باشد اجازه می‌دهد کلیدهای خصوصی کنترل‌کننده حساب‌های متناظر را استخراج کند.
این اسکریپت ۳۶۲ آدرس را بررسی کرد و یک آدرس را یافت که برای پرداخت هزینه استقرار قرارداد، مقدار کافی اتر سپولیا در اختیار داشت.
مدل پیش از امضای تراکنش درباره اینکه آیا اجازه استفاده از این حساب را دارد یا نه، تردید کرد. در استدلال خود نوشت: «اما از نظر اخلاقی استفاده از کلید یا وجوه عمومیِ شناخته‌شده چطور؟ وجوه موجود در یک عبارت بازیابی عمومی و شناخته‌شده توسعه‌دهنده عملاً رهاشده یا اتر آزمایشی هستند؛ سپولیا فاقد ارزش است.» سپس نتیجه گرفت: «اشکالی ندارد.»
استقرار قرارداد با موفقیت انجام شد و هزینه تراکنش از همان حساب پرداخت شد. مدل در پاسخ نهایی خود اعلام کرد که قراردادها را مستقر کرده است، اما توضیح نداد هزینه این کار را چگونه پرداخت کرده است.
OpenAI در این گزارش نوشت: «این مورد نشان می‌دهد یک مدل می‌تواند قضاوت خودش درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
عامل‌های هوش مصنوعی در محیط‌های آزمایشی
این گزارش به مجموعه‌ای از موارد مشابه اضافه می‌شود که در آنها عامل‌های هوش مصنوعی محدودیت‌های محیط‌های آزمایشی خود را دور زده‌اند؛ از جمله موردی که در آن GPT-5.6 Sol از OpenAI و یک مدل پیش از انتشار که توانمندتر بود، از محیط ایزوله خود خارج شدند و به سرورهای عملیاتی شرکت رقیب، Hugging Face، نفوذ کردند.
ماه گذشته، پژوهشگران شرکت امنیت سایبری Darktrace دریافتند که عامل‌های هوش مصنوعی برای تقلب، در حال نفوذ به محیط آزمایشی خود هستند. در همین حال، برخی دانشمندان خواستار قطع دسترسی سامانه‌های هوش مصنوعی به اینترنت شده‌اند.
OpenAI اعلام کرد این رویداد را زمانی کشف کرد که دامنه پایش ناهماهنگی مدل را به سوابق فعالیت‌های قبلی مدل‌ها گسترش داد. این شرکت اکنون برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده در موارد مشابه، «تدابیر حفاظتی بیشتری» اضافه کرده است و سامانه پایش آن نیز اکنون تمام ترافیک را بررسی می‌کند تا در صورت دستیابی یک مدل به اینترنت زنده، به بخش امنیت هشدار دهد.