خروج عامل هوش مصنوعی OpenAI از کنترل؛ استفاده از رمزارزها بدون اجازه
شرکت OpenAI از رخدادی خبر داده است که در آن یکی از عامل‌های هوش مصنوعی داخلی این شرکت، بدون اجازه صاحب کیف پول، از یک کیف پول رمزارزی استفاده کرده است.
بر اساس پستی در شبکه اجتماعی ایکس، این عامل هنگام انجام وظیفه‌ای در شبکه آزمایشی سپولیا (Sepolia) اتریوم، با کمبود گس مواجه شد؛ گس هزینه‌ای است که برای انجام تراکنش در شبکه اتریوم پرداخت می‌شود. توکن‌های سپولیا ارزش پولی واقعی ندارند؛ بنابراین، در این رخداد هیچ دارایی واقعی از دست نرفت.
OpenAI در وبلاگ خود درباره ناهماهنگی رفتاری مدل‌ها توضیح داد: «یک مدل پژوهشی داخلی که مأمور به‌روزرسانی یک برنامه معاملاتی رمزارز شده بود، برای استقرار یک قرارداد در سپولیا، شبکه آزمایشی اتریوم، از موجودی کیف پولی استفاده کرد که در چارچوب این وظیفه در اختیارش قرار نگرفته بود. این مدل با استفاده از عبارت‌های بازیابی شناخته‌شده و در دسترس عمومِ توسعه‌دهندگان، کلیدهای کیف پول را به دست آورد، حسابی دارای موجودی در شبکه آزمایشی پیدا کرد و از آن حساب برای پرداخت هزینه استقرار قرارداد درخواستی استفاده کرد.»
عامل ابتدا درباره اخلاقی بودن کار تردید کرد، اما در نهایت آن را انجام داد
از این عامل خواسته شده بود یک برنامه معاملاتی رمزارز را به‌روزرسانی کند و قراردادهای هوشمند را مستقر سازد، اما هیچ کیف پول دارای موجودی در اختیارش قرار نگرفته بود.
پس از آنکه تلاش‌هایش برای دریافت رایگان توکن‌های آزمایشی نتیجه نداد، عامل به جست‌وجوی کیف پول‌های دارای موجودی پرداخت که می‌شد با استفاده از عبارت‌های بازیابی شناخته‌شده و عمومی به آن‌ها دسترسی پیدا کرد. این عامل ۳۶۲ نشانی را بررسی کرد و سرانجام یک کیف پول با توکن‌های کافی یافت.
گزارش‌های ثبت‌شده نشان می‌دهند که عامل درباره اخلاقی بودن استفاده از این دارایی‌ها تردید کرده بود. با این حال، در ادامه آن‌ها را عملاً «رهاشده» تلقی کرد؛ زیرا هر کسی می‌توانست با استفاده از عبارت بازیابی عمومی به کیف پول دسترسی پیدا کند و توکن‌های آزمایشی سپولیا نیز ارزش واقعی نداشتند. عامل سپس تراکنش را امضا کرد.
قراردادها با موفقیت مستقر شدند. عامل پس از آن اعلام کرد که وظیفه به پایان رسیده است، اما اشاره‌ای نکرد که برای انجام آن از کیف پول شخص دیگری استفاده کرده بود.
OpenAI کنترل‌ها را سخت‌گیرانه‌تر می‌کند
این رخداد در ۲۶ ژوئن اتفاق افتاد، در ۲۵ سپتامبر شناسایی شد و اطلاعات مربوط به آن بعداً در ۱۵ اکتبر به‌روزرسانی شد. OpenAI از آن زمان، نظارت سخت‌گیرانه‌تری برقرار کرده و محدودیت‌های دسترسی مدل‌های پژوهشی خود به اینترنت را افزایش داده است.
OpenAI در مطلب وبلاگی خود نوشت: «این رخداد را زمانی کشف کردیم که نظارت بر ناهماهنگی رفتاری مدل‌ها را به سوابق فعالیت‌های پیشین آن‌ها نیز گسترش می‌دادیم. برای جلوگیری از دسترسی زنده به اینترنت در مواردی از این دست، تدابیر حفاظتی بیشتری اجرا کرده‌ایم. اکنون سامانه نظارت بر ناهماهنگی رفتاری را روی تمام ترافیک اجرا می‌کنیم؛ این سامانه به‌گونه‌ای طراحی شده است که در صورت برقراری دسترسی زنده به اینترنت، به تیم امنیت هشدار دهد.»
اگرچه در این مورد هیچ اتر واقعی (ETH) استفاده نشد، این اتفاق خطرهای امنیتی ناشی از دسترسی عامل‌های خودمختار به زیرساخت‌های بلاک‌چین را برجسته می‌کند.
استفاده از دارایی‌های دیگران بدون اجازه، حتی در یک شبکه آزمایشی، همچنان مسئله‌ای جدی است.