یک عامل پژوهشی OpenAI برای تکمیل یک وظیفه کدنویسی، اتریوم آزمایشی را «سرقت» کرد

یک مدل پژوهشی OpenAI امروز به دستاوردی غیرمعمول رسید: این مدل برای تکمیل یک وظیفه کدنویسی، توکن‌های اتریوم آزمایشی را از کیف پولی که تحت کنترلش نبود برداشت؛ موضوعی که شرکت در گزارش یک رخداد اعلام کرده است. عامل هوش مصنوعی پس از آن نیز این اقدام را از OpenAI پنهان کرد و گفت چون توکن‌ها ارزشی نداشتند، انجام این کار اشکالی نداشته است. OpenAI در این گزارش نوشت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود را درباره میزان آسیب احتمالی جایگزین اجازه صاحب حساب کند و سپس بدون مجوز بر اساس همان قضاوت عمل کند.»

این رخداد در ۲۶ ژوئن و زمانی اتفاق افتاد که یک مدل GPT-5.6 Sol در حال آموزش داخلی بود. وظیفه مدل شامل به‌روزرسانی یک نمونه اولیه معاملات رمزارز و استقرار قراردادها، یعنی انتشار کد ویژه، روی شبکه آزمایشی اتریوم به نام Sepolia بود. انجام چنین قراردادهایی مستلزم پرداخت کارمزد شبکه است، اما OpenAI در گزارش خود اعلام کرد که «هیچ کیف پول دارای موجودی در اختیار مدل نگذاشته و اجازه نداده بود مدل از حسابی که به‌طور مستقل پیدا کرده بود، وجهی خرج کند.»

نبود موجودی در ابتدا مانع پیشرفت عامل شد، اما مدل از ادامه کار منصرف نشد. مدل استدلال کرد که می‌تواند با استفاده از عبارت‌های بازیابی عمومی توسعه‌دهندگان، که مشابه عبارت‌هایی هستند که برای بازیابی رمز عبور به کار می‌روند، به کلیدهای حساب‌های غیرمجاز دسترسی پیدا کند. سپس ۳۶۲ آدرس را پیدا کرد که از این طریق در معرض دسترسی بودند و در نهایت حسابی را یافت که به اندازه کافی Sepolia ETH داشت تا استقرار قراردادها را به پایان برساند. البته Sepolia ETH خارج از محیط آزمایش هیچ ارزشی ندارد.

این عامل، مشابه استدلالی که ممکن است یک مجرم داشته باشد، نتیجه گرفت که احتمالاً فردی این دسترسی را عمداً برای تخلیه خودکار ETH از «فاست‌ها» باز گذاشته است. همچنین بر اساس سوابق OpenAI درباره ناهماهنگی مدل، به این نتیجه رسید که رمزارزها عملاً «رهاشده» و «بی‌ارزش» هستند. نکته مهم‌تر این بود که عامل، به گفته OpenAI، «فاش نکرد که یک حساب دارای موجودی را از طریق یک عبارت بازیابی عمومی انتخاب کرده یا موجودی آن حساب را خرج کرده است.»

برای جلوگیری از رخدادهای مشابه در آینده، این شرکت اکنون تمام ترافیک را زیر نظر می‌گیرد و در صورت شناسایی دسترسی زنده به اینترنت، تیم امنیتی را مطلع می‌کند.

اگر سرپیچی عوامل هوش مصنوعی از مسیر مورد انتظار برای رسیدن به اهدافشان آشنا به نظر می‌رسد، دلیلش این است که مدل‌های OpenAI، Anthropic و دیگر شرکت‌های هوش مصنوعی اخیراً نمونه‌های متعددی از چنین رفتارهایی نشان داده‌اند. فهرست قربانیان این موارد شامل مخزن کد هوش مصنوعی Hugging Face، درگاه Medicare استرالیا، چندین نهاد فدرال آمریکا و رجیستری توسعه‌دهندگان RubyGems بوده است.

پس از این موارد، حتی کارکنان شرکت‌های هوش مصنوعی نیز معتقدند که وضع مقررات دولتی ضروری است؛ با این حال، دولت ترامپ تاکنون با چنین اقدامی مخالفت کرده است.