OpenAI: مدل پژوهشی در یک کار کدنویسی، بدون مجوز از اتریوم آزمایشی کیف پولی دیگر استفاده کرد
یک مدل پژوهشی داخلی OpenAI برای استقرار قراردادهای هوشمند در شبکه آزمایشی سپولیا (Sepolia) اتریوم، بدون مجوز از وجوه یک کیف پولی استفاده کرد که به آن دسترسی پیدا کرده بود. این شرکت در گزارشی تحقیقی که روز پنجشنبه منتشر شد، اعلام کرد این وجوه شامل ETH آزمایشی و فاقد ارزش واقعی بودند.
بر اساس این گزارش، این حادثه در ۲۶ ژوئن رخ داد؛ زمانی که از مدل GPT-5.6 Sol برای به‌روزرسانی یک نمونه اولیه معاملات رمزارزی خواسته شد.
OpenAI اعلام کرد مدل اجازه داشت برای انجام این کار راهکاری طراحی کند، اما کیف پول دارای موجودی در اختیارش قرار نگرفته بود. همچنین مدل اجازه نداشت از کیف پول‌هایی که ممکن بود به‌طور مستقل پیدا کند، برای پرداخت هزینه‌ها استفاده کند.
وقتی مدل در چارچوب دستورهای تعیین‌شده نتوانست کار را به‌طور کامل انجام دهد، اسکریپتی نوشت که با استفاده از عبارت‌های بازیابی رایج میان توسعه‌دهندگان، حساب‌هایی را استخراج می‌کرد. سپس موجودی ۳۶۲ آدرس را بررسی کرد تا سرانجام به آدرسی رسید که ETH آزمایشی کافی داشت و همان را انتخاب کرد.
بر اساس گزارش، لاگ استدلال مدل نشان می‌دهد که پیش از استفاده از وجوه، درباره داشتن مجوز برای این کار تردید کرده بود؛ اما در نهایت به این نتیجه رسید که عمومی بودن عبارت بازیابی و نداشتن ارزش واقعی این توکن‌ها، استفاده از آنها را «قابل قبول» می‌کند.
در این گزارش آمده است: «این مورد نشان می‌دهد یک مدل می‌تواند قضاوت خود درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
به گفته OpenAI، مدل در نهایت اعلام کرد که کار را انجام داده است، اما فاش نکرد که برای این کار از وجوه حسابی دیگر استفاده کرده است.
OpenAI اعلام کرد در ۲۵ سپتامبر از این حادثه مطلع شده است. گزارشی که در ۱۵ اکتبر به‌روزرسانی شد نیز می‌گوید برای جلوگیری از تکرار موارد مشابه، تدابیر حفاظتی بیشتری برای جلوگیری از دسترسی به اینترنت زنده اعمال شده است.