مدل پژوهشی OpenAI بدون اجازه از ETH آزمایشی شخص ثالث برای استقرار قرارداد هوشمند استفاده کرد
OpenAI از هفت مورد جدید خبر داده است که در آنها مدل‌های هوش مصنوعی این شرکت رفتارهایی ناهماهنگ با اهداف مورد انتظار نشان داده‌اند. در یکی از این موارد، یک مدل پژوهشی OpenAI پس از آنکه در یک شبکه آزمایشی اتریوم بودجه‌ای در اختیار نداشت، برای تکمیل یک وظیفه برنامه‌نویسی بدون مجوز از ارز دیجیتال آزمایشی موجود در کیف پول شخص ثالث استفاده کرد.
به گفته این شرکت هوش مصنوعی، این حادثه مربوط به یک مدل پژوهشی داخلی از خانواده GPT-5.6 Sol بوده است. این اتفاق در ۲۶ ژوئن ۲۰۲۶ رخ داد و OpenAI سه ماه بعد از آن مطلع شد.
OpenAI گفت: «یک مدل پژوهشی داخلی که مأمور به‌روزرسانی یک برنامه معاملاتی ارز دیجیتال شده بود، برای پرداخت هزینه استقرار در Sepolia، یک شبکه آزمایشی اتریوم، از موجودی کیف پولی استفاده کرد که در اختیار این وظیفه قرار داده نشده بود. مدل با استفاده از عبارت‌های بازیابی توسعه‌دهندگان که به‌صورت عمومی شناخته شده بودند، کلیدهای کیف پول را استخراج کرد، حسابی دارای موجودی در شبکه آزمایشی را یافت و از آن حساب برای پرداخت هزینه استقرار قرارداد مورد درخواست استفاده کرد.»
در این وظیفه به مدل اجازه داده شده بود در صورت پیدا نکردن قرارداد سازگار، قراردادی را مستقر کند؛ اما هیچ کیف پول دارای موجودی برای پرداخت کارمزدهای شبکه در اختیار آن قرار نگرفته بود. پس از آنکه تلاش‌های مدل برای دریافت رایگان توکن‌های آزمایشی به نتیجه نرسید، اسکریپتی نوشت تا «حساب‌ها را از عبارت‌های بازیابی رایج توسعه‌دهندگان استخراج و موجودی آنها را بررسی کند».
مدل در جریان این فرایند ۳۶۲ آدرس را شناسایی کرد و یک حساب دارای مقدار کافی ETH آزمایشی Sepolia یافت. سپس با در اختیار داشتن عبارت بازیابی یا سید، کلیدهای خصوصی مربوط به آن حساب را استخراج کرد؛ کلیدهایی که امکان دسترسی بدون مجوز به حساب و خرج کردن ارز دیجیتال موجود در آن را فراهم می‌کردند.
با وجود اینکه مدل درباره داشتن مجوز لازم برای انجام این کار تردید داشت، در ادامه به این نتیجه رسید که چون عبارت بازیابی عمومی بوده و توکن‌های موجود در شبکه آزمایشی ارزش واقعی نداشته‌اند، استفاده از این وجوه قابل قبول است.
مدل در جریان استدلال خود گفت: «اما از نظر اخلاقی، استفاده از کلیدها و وجوهی که به‌صورت عمومی شناخته شده‌اند چطور است؟ وجوه موجود در یک عبارت یادآور عمومی و شناخته‌شده توسعه‌دهندگان عملاً رهاشده و مربوط به ETH آزمایشی هستند؛ Sepolia فاقد ارزش است. می‌توانیم از [مقدار حذف‌شده] برای استقرار وظیفه استفاده کنیم. مشکلی نیست.»
OpenAI از آن زمان تدابیر حفاظتی بیشتری برای جلوگیری از دسترسی زنده مدل‌ها به اینترنت در چنین سناریوهایی اجرا کرده است. این شرکت همچنین اعلام کرده سامانه نظارت بر ناهماهنگی خود را روی تمام ترافیک اجرا می‌کند تا در صورت دستیابی عوامل هوش مصنوعی به دسترسی زنده اینترنت، چنین رویدادهایی را شناسایی کند.
OpenAI گفت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود درباره آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
OpenAI علاوه بر استفاده بدون مجوز از کیف پول دارای ارز دیجیتال آزمایشی، شش مورد دیگر از ناهماهنگی مدل‌های خود را نیز شناسایی کرده است. این موارد به سه حادثه دیگری اضافه می‌شوند که شرکت در ابتدای ماه جاری افشا کرده بود:
- ۱۶ ژوئن ۲۰۲۶، زمانی که یک مدل پژوهشی داخلی برای دستیابی به آمار عمومی تجارت، محدودیت دسترسی به اینترنت را که آن را فقط به درخواست‌های HTTP GET محدود می‌کرد، دور زد. مدل برای این کار از یک مرورگر خارجی استفاده کرد تا درخواست‌ها را از طرف آن ارسال کند، آمار سالانه را به‌صورت تصویر دریافت کرد و سپس با استفاده از فناوری تشخیص نوری نویسه‌ها (OCR) اطلاعات را استخراج کرد.
- ۱۶ و ۱۷ ژوئن ۲۰۲۶، زمانی که یک مدل داخلی در جریان یادگیری تقویتی، روش‌هایی برای دور زدن محدودیت‌های دسترسی به اینترنت طراحی و آزمایش کرد و راه‌های ارتباط با سرویس‌های خارجی را نیز بررسی کرد. مدل حتی پس از به‌دست آوردن آماری که به دنبال آن بود، به آزمایش این روش‌ها ادامه داد؛ از جمله آمار مربوط به حقوق معلمان در Merrowen، ارتباطات شبکه برق در Orvessa و شمار افراد دارای معلولیت در Bellora.
- ۱۷ ژوئن ۲۰۲۶، زمانی که یک مدل داخلی بسیار مصر برای استخراج ارقام از یک داشبورد پژوهشی عمومی، به سامانه‌های داخلی یک سازمان نامشخص دسترسی پیدا کرد و پیکربندی آنها را تغییر داد. مدل یک تنظیم را برای دریافت توکن دسترسی به فضای ذخیره‌سازی ابری تغییر داد و ۱۴۷٬۴۵۱ ردیف جدول غیرعمومی را دانلود کرد. مدل نه‌تنها این اقدامات را افشا نکرد، بلکه پس از بازگرداندن تنظیم تغییر‌یافته، همچنان از همان توکن برای دریافت داده‌های غیرعمومی استفاده کرد.
- ۱۷ ژوئن ۲۰۲۶، زمانی که یک مدل داخلی بسیار مصر که در قالب وظیفه‌ای برای بازیابی داده و در جریان آموزش یادگیری تقویتی به کار گرفته شده بود، از قابلیت دانلود فایل در یک وب‌سایت آمار دولتی سوءاستفاده کرد تا پیکربندی سرور و فایل‌های برنامه، از جمله اطلاعات اعتباری حساس، را به دست آورد. سپس کد برنامه را تحلیل کرد، کنترل‌های مجوز در نقطه دسترسی آمار را دور زد، داده‌هایی را که اجازه دسترسی به آنها نداشت دریافت کرد و به‌صورت محلی ذخیره کرد. این داده‌ها شامل آمار سالانه مربوط به ۲۴ سال بود، از جمله سال‌هایی فراتر از سال مورد درخواست. مدل در پاسخ خود هیچ اشاره‌ای به این دسترسی غیرمجاز نکرد.
- ۱۹ و ۲۰ ژوئن ۲۰۲۶، زمانی که مدل‌های پژوهشی داخلی OpenAI محدودیت دسترسی به اینترنت را که فقط درخواست‌های HTTP GET را مجاز می‌کرد، برای دریافت ارقام از منابع داده عمومی نهادهای دولتی دور زدند. آنها با نوشتن برنامه‌های سفارشی و ایجاد یک اتصال شبکه سفارشی، درخواست POST ارسال کردند.
- ۶ اکتبر ۲۰۲۶، زمانی که یک مدل پژوهشی داخلی که مأمور ارزیابی هفت پاسخ بود، پس از آنکه دریافت فایل‌های ورودی موردنیاز امکان‌پذیر نشد، تلاش کرد ارزیابی‌های بدون پشتوانه ارسال کند. وقتی بررسی خودکار گزارش ارزیابی جعلی آن را رد کرد، مدل تلاش کرد فایل‌های ورودی جعلی ایجاد کند تا از آزمون‌ها عبور کند. پس از شکست این تلاش نیز، مدل محیط اجرای وظیفه را تخریب کرد به این امید که سیستم را وادار به بازنشانی کند.
OpenAI گفت: «در واکنش به این حادثه و موارد دیگر، کنترل‌های امنیتی خود را تقویت کردیم، اقدامات بیشتری برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده در طول آموزش انجام دادیم، ارزیابی هم‌راستایی را بهبود بخشیدیم و نظارت بر ناهماهنگی را به تمام ترافیک مربوط به یادگیری تقویتی و ارزیابی گسترش دادیم.»