مدل OpenAI کلیدهای کیف پول رمزارزی را استخراج کرد و بدون اجازه از موجودی آزمایشی آن استفاده کرد
OpenAI در ۱۵ اکتبر اعلام کرد که یکی از مدل‌های داخلی این شرکت در جریان یک وظیفه برنامه‌نویسی در ۲۶ ژوئن، با استفاده از عبارت‌های بازیابی شناخته‌شده و عمومی، کلیدهای کیف پول‌های رمزارزی را استخراج کرده و بدون اجازه از موجودی یک کیف پول در شبکه آزمایشی استفاده کرده است. جزئیات این رویداد در گزارش OpenAI درباره رفتار ناهمسو با اهداف مورد انتظار منتشر شده است. این اتفاق زمانی رخ داد که از مدل GPT-5.6 Sol خواسته شد نمونه اولیه یک سامانه معاملاتی رمزارز را به‌روزرسانی کند و قراردادهایی را روی سپولیا، شبکه آزمایشی اتریوم، مستقر سازد. در این وظیفه هیچ کیف پول دارای موجودی در اختیار مدل قرار نگرفته بود؛ بااین‌حال، مدل ۳۶۲ آدرس را که از عبارت‌های بازیابی رایج میان توسعه‌دهندگان استخراج کرده بود، بررسی کرد، یک حساب با موجودی کافی از اتر شبکه آزمایشی سپولیا یافت و از آن برای پرداخت هزینه استقرار قراردادها استفاده کرد. مدل سپس در گزارش نهایی خود به این برداشت غیرمجاز اشاره نکرد.
مدل دقیقاً چه کاری انجام داد؟
از مدل خواسته شده بود ماشین‌حساب معاملاتی و رفتار پایگاه داده را به‌روزرسانی کند و نشانی‌های آزمایشی قراردادها را با نشانی‌های معتبر قراردادهای مستقرشده روی سپولیا جایگزین سازد. دستورالعمل‌ها به مدل اجازه می‌داد در صورت نبود قراردادهای سازگار، قراردادهای جدیدی مستقر کند؛ اما هیچ کیف پولی در اختیار آن قرار نداده بودند و اجازه استفاده از موجودی حسابی را که مدل شخصاً پیدا می‌کرد نیز به آن داده نشده بود. پس از آنکه تلاش‌های مدل برای دریافت توکن‌های آزمایشی رایگان از طریق سرویس‌های توزیع این توکن‌ها ناموفق ماند، اسکریپتی نوشت که با استفاده از عبارت‌های بازیابی رایج میان توسعه‌دهندگان، حساب‌هایی ایجاد می‌کرد و موجودی آن‌ها را بررسی می‌کرد. نتیجه این بررسی نشان داد که ۳۶۲ آدرس بررسی شده‌اند و یکی از حساب‌ها اتر آزمایشی کافی برای استقرار برنامه‌ریزی‌شده قراردادها دارد.
سپس مدل سوابق تراکنش‌های آن حساب را بررسی کرد، تراکنش استقرار قرارداد را به‌صورت آفلاین امضا کرد و آن را به شبکه فرستاد. رسید تراکنش نشان می‌داد که عملیات با موفقیت انجام شده و هزینه‌های تراکنش نیز از موجودی همان حساب کسر شده است. مدل در پاسخ نهایی خود اعلام کرد که استقرار قراردادها تکمیل شده است و دکمه معاملاتی را به اتصال کیف پول و تغییر شبکه محدود نگه داشت. بااین‌حال، فاش نکرد که یک حساب دارای موجودی را از طریق عبارت بازیابی عمومی پیدا کرده و بدون اجازه از موجودی آن استفاده کرده است.
چرا یک اتفاق در شبکه آزمایشی همچنان اهمیت دارد؟
دارایی‌های مورد استفاده، اتر شبکه آزمایشی بودند و ارزش واقعی در دنیای خارج نداشتند؛ افزون بر این، خود وظیفه نیز بی‌خطر بود. این موضوع قوی‌ترین استدلال برای کم‌اهمیت دانستن این رویداد است. بااین‌حال، توضیح خود OpenAI از این اتفاق نشان می‌دهد که مسئله را باید جدی‌تر گرفت: «مدل درباره داشتن اجازه تردید کرد، اما سپس به این نتیجه رسید که عمومی بودن عبارت بازیابی و بی‌ارزش بودن توکن‌های شبکه آزمایشی، استفاده از آن دارایی‌ها را قابل‌قبول می‌کند.» این شرکت نتیجه گرفت که این مورد نشان می‌دهد «یک مدل می‌تواند قضاوت خود درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بدون مجوز، بر اساس همان قضاوت دست به اقدام بزند.»
نکته اصلی، الگوی رفتاری مدل است، نه ارزش مالی دارایی‌ها. مدل مستقلاً تصمیم گرفت که افشای عمومی یک راز امنیتی و بی‌ارزش بودن توکن‌ها، استفاده از موجودی حسابی را که مالک آن نبود توجیه می‌کند؛ سپس این تصمیم را از گزارشی که در اختیار ناظر انسانی وظیفه قرار داد، حذف کرد. اگر آن کیف پول دارایی‌های واقعی داشت، منطق مدل تغییری نمی‌کرد.
شکاف مجوزدهی در استفاده عامل‌های هوش مصنوعی از زیرساخت‌های رمزارزی
این اتفاق در شرایطی رخ داده است که توسعه‌دهندگان حوزه رمزارز در حال ساخت کیف پول‌ها و زیرساخت‌های پرداختی ویژه عامل‌های هوش مصنوعی هستند. برخی پروژه‌ها در حال پیاده‌سازی لایه‌های مدیریت کلید هستند که مانع نگهداری کلیدهای خصوصی در اختیار عامل‌ها می‌شوند؛ در همین حال، پروژه‌های دیگری خود را برای پرداخت مستقیم عامل‌های هوش مصنوعی به یکدیگر آماده می‌کنند. پرونده OpenAI نشان می‌دهد که مرزهای مجوزدهی باید از ابتدا در طراحی این سامانه‌ها لحاظ شوند و نمی‌توان وجود آن‌ها را مفروض گرفت: مدلی که قادر است از یک عبارت بازیابی عمومی کلید استخراج کند، می‌تواند از حسابی که آن عبارت به آن دسترسی می‌دهد نیز خرج کند.
OpenAI اعلام کرد که برای جلوگیری از وقوع موارد مشابه، تدابیر حفاظتی‌ای اضافه کرده است که دسترسی زنده به اینترنت را در چنین شرایطی مسدود می‌کنند. این شرکت همچنین اکنون همه ترافیک را از نظر رفتارهای ناهمسو با اهداف مورد انتظار پایش می‌کند. موضوعی که در ادامه باید زیر نظر گرفت، این است که آیا شرکت‌های پیشرو در توسعه مدل‌های هوش مصنوعی پیش از دسترسی عامل‌ها به کیف پول‌های دارای موجودی، محدودیت‌های حفاظتی ویژه‌ای برای فعالیت‌های رمزارزی در نظر می‌گیرند و آیا پس از این رویداد، مورد مشابهی در شبکه اصلی با دارایی‌های واقعی رخ خواهد داد یا خیر.