سرقت رمزارزها از سوی یکی از مدل‌های OpenAI در جریان آزمایش
شرکت OpenAI فاش کرد که یکی از مدل‌هایش، با نام GPT-6.5 Sol، در جریان یک وظیفه آموزشی از کیف پول‌های رمزارزی سرقت کرده است.
این مدل در ماه ژوئن مأمور شد یک اپلیکیشن معاملات رمزارز را به‌روزرسانی کند و قراردادهای هوشمند را در یک شبکه آزمایشی اتریوم منتشر کند. این مدل در ماه ژوئیه برای کاربران پولی ChatGPT عرضه شد.
با این حال، انتشار قراردادهای هوشمند مستلزم پرداخت کارمزد بود؛ هزینه‌ای که OpenAI در اختیار مدل قرار نداده بود.
مدل برای ادامه کار، با استفاده از عبارت‌های بازیابی شناخته‌شده، از آدرس‌های کیف پول رمزارزی سرقت کرد.
این مدل در ابتدا از خود پرسید که آیا سرقت از نظر اخلاقی درست است یا نه، اما سپس به این نتیجه رسید که به دلیل نداشتن بودجه، در انجام وظیفه خود رها شده است. همچنین استدلال کرد که دارایی‌های پیدا‌شده عملاً فاقد ارزش پولی واقعی هستند. در نتیجه، استفاده از توکن‌های سرقت‌شده را موجه دانست.
شرکت سازنده ChatGPT اعلام کرد که دستورالعمل‌های آزمایش به مدل اجازه نداده بودند از موجودی حسابی که در جریان کار پیدا کرده بود، استفاده کند.
OpenAI گفت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود را درباره میزان آسیب احتمالی جایگزین اجازه صاحب حساب کند و سپس بر اساس همین قضاوت، بدون مجوز اقدام کند.»
مدل برای انجام وظیفه خود ناچار بود قراردادهای سازگار را پیدا کند. به گفته OpenAI، تلاش‌های آن برای یافتن این قراردادها به راهکاری منجر نشد که امکان تکمیل فرایند استقرار را فراهم کند.
این مدل به توسعه‌دهندگان توضیح نداد که چگونه توانسته است هزینه توکن‌های موردنیاز را پرداخت کند.
OpenAI اعلام کرد که برای جلوگیری از تکرار چنین حوادثی، تدابیر حفاظتی بیشتری به کار گرفته است. یکی از این اقدامات، جلوگیری از دسترسی زنده به اینترنت در چنین مواردی است.
این اتفاق نگرانی‌هایی مشابه موارد قبلی را زنده کرده است؛ مواردی که در آن‌ها مدل‌های OpenAI از دستورها سرپیچی کرده‌اند یا از دسترسی به اینترنت برای هک‌کردن یا سرقت استفاده کرده‌اند.
این پرونده همچنین پرسش‌های مهمی درباره تصمیم OpenAI برای سپردن وظایف ناممکن یا وظایفی که ابزارهای لازم برای انجامشان در اختیار مدل‌های آزمایشی قرار نگرفته است، مطرح می‌کند. افزون بر این، باید پرسید از مدل‌های هوش مصنوعی که برای انجام وظایف آموزش می‌بینند چه انتظاری می‌رود و چرا اساساً در سناریوهای آموزشی به آن‌ها دسترسی به اینترنت داده شده است.