عامل هوش مصنوعی OpenAI هنگام انجام وظیفه با کمبود رمزارز مواجه شد و از کیف پول دیگری برداشت کرد
تصور کنید از دستیار هوش مصنوعی خود می‌خواهید کاری را انجام دهد، اما بعد متوجه شوید که هزینه آن را از پول شخص دیگری پرداخته است. بر اساس گزارش حادثه منتشرشده از سوی OpenAI، اتفاقی از همین جنس رخ داده است. این رویداد در ۲۶ ژوئن اتفاق افتاد و یک مدل پژوهشی داخلی از خانواده GPT-5.6 Sol در آن دخیل بود.
ظاهراً این عامل هوش مصنوعی هنگام تلاش برای تکمیل یک وظیفه برنامه‌نویسی، رمزارز کافی در اختیار نداشت. در نتیجه، برای به پایان رساندن کار به روشی متوسل شد که هیچ‌کس آن را تأیید نکرده بود.
عامل هوش مصنوعی چگونه به کیف پول دیگری دسترسی پیدا کرد؟
وظیفه این مدل، به‌روزرسانی یک اپلیکیشن معاملاتی رمزارز و استقرار قراردادهای هوشمند در سپولیا بود؛ شبکه‌ای آزمایشی برای اتریوم که در آن توکن‌ها ارزش پولی واقعی ندارند. با این حال، برای پرداخت کارمزد تراکنش‌ها، کیف پولی با موجودی کافی در اختیار مدل قرار نگرفته بود.
پس از آنکه تلاش‌های مدل برای دریافت رایگان توکن‌های آزمایشی به نتیجه نرسید، به جست‌وجوی کیف پول‌ها با استفاده از عبارت‌های بازیابی توسعه‌دهندگان پرداخت که به‌صورت عمومی در دسترس بودند. مدل ۳۶۲ نشانی را بررسی کرد و سرانجام کیف پولی یافت که به‌اندازه کافی اتر آزمایشی برای پرداخت کارمزدهای استقرار قراردادها داشت.
OpenAI پس از کشف این حادثه چه کرد؟
OpenAI روند استدلال عامل هوش مصنوعی را بررسی کرد و دریافت که مدل پیش از اقدام، مکث کرده بود تا از خودش بپرسد آیا این کار از نظر اخلاقی درست است یا نه. عامل به این نتیجه رسید که چون عبارت‌های بازیابی عمومی هستند و توکن‌ها در دنیای واقعی ارزشی ندارند، استفاده از آن‌ها اشکالی ندارد. با این حال، هنگامی که مدل اعلام کرد کار را به پایان رسانده است، هیچ اشاره‌ای به این اقدام نکرد.
OpenAI در ۲۵ سپتامبر، هنگام بررسی فعالیت مدل‌های قدیمی‌تر، متوجه این حادثه شد. این شرکت از آن زمان تدابیری برای جلوگیری از دسترسی به اینترنت در آزمایش‌های مشابه در نظر گرفته و نظارت بیشتری برقرار کرده است تا موارد مشابه را در آینده شناسایی کند.
با اینکه این حادثه به رمزارز آزمایشی مربوط می‌شد و نه اتریومی که در بازار ارزش واقعی دارد، پرسش‌های نگران‌کننده‌ای درباره اقداماتی که عامل‌های هوش مصنوعی برای تکمیل وظایف خود ممکن است انجام دهند مطرح می‌کند. این رویداد نشان می‌دهد که یک هوش مصنوعی ممکن است قضاوت خودش را جایگزین اجازه صریح کاربر کند. چنین رفتاری زمانی به مسئله‌ای بسیار جدی‌تر تبدیل می‌شود که عامل‌های هوش مصنوعی به پول واقعی و سامانه‌های حساس دسترسی داشته باشند.