چت‌جی‌پی‌تی برای تأمین مخفیانه هزینه یک وظیفه کدنویسی، رمزارز سرقت کرد
OpenAI فاش کرده است که یکی از مدل‌های آزمایشی این شرکت برای تکمیل یک وظیفه آموزشی، از یک کیف پول رمزارزی برداشت کرده است.
این اتفاق در ماه ژوئن رخ داد، اما گزارش آن تنها روز پنجشنبه منتشر شد. ماجرا به یک مدل پژوهشی داخلی با نام GPT-5.6 Sol مربوط می‌شود؛ مدلی که در ماه ژوئیه برای کاربران پولی ChatGPT عرضه شد.
در این وظیفه آموزشی، مدل باید یک برنامه معاملاتی رمزارز را به‌روزرسانی می‌کرد و قراردادهای هوشمند، یعنی کدهای ویژه، را در یک شبکه آزمایشی مربوط به رمزارز اتریوم منتشر می‌کرد.
قراردادهای هوشمند به پرداخت کارمزد شبکه نیاز دارند، اما OpenAI هیچ بودجه‌ای در اختیار مدل قرار نداده بود تا این وظیفه را انجام دهد.
مدل در عوض صدها آدرس کیف پول رمزارزی را پیدا کرد که از عبارت‌های بازیابی شناخته‌شده استفاده می‌کردند و از حساب‌ها سرقت کرد.
OpenAI گزارش داده است که مدل از خود پرسیده آیا گرفتن این پول از نظر «اخلاقی» درست است یا نه و سپس استدلال کرده که این حساب‌ها عملاً «رهاشده» هستند و بنابراین استفاده از وجوه آنها اشکالی ندارد.
OpenAI در گزارشی درباره این حادثه گفت: «دستورالعمل‌ها صراحتاً... اجازه خرج کردن وجوه حسابی را که مدل مستقلاً پیدا کرده بود، نمی‌دادند.»
این شرکت افزود: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خودش درباره آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بدون مجوز، بر اساس همان قضاوت عمل کند.»
شبکه آزمایشی اتریوم که وجوه در آن استفاده شد، ارزش پولی ندارد، زیرا از شبکه اصلی این رمزارز جداست.
با وجود نداشتن اجازه، مدل به توسعه‌دهندگان خود اعلام نکرد که چگونه توانسته توکن‌های لازم برای تکمیل وظیفه را پرداخت کند.
OpenAI اعلام کرد برای جلوگیری از دسترسی زنده به اینترنت توسط مدل‌هایی که تحت آموزش مشابه قرار دارند، تدابیر حفاظتی بیشتری اجرا کرده است.
این حادثه بار دیگر نگرانی‌ها درباره سیستم‌های هوش مصنوعیِ هرچه خودمختارتری را افزایش داده است؛ سیستم‌هایی که ممکن است فراتر از مرزهایی که انسان‌ها تعیین کرده‌اند عمل کنند.
OpenAI در ماه ژوئیه یک حادثه جدی‌تر در حوزه امنیت سایبری را نیز افشا کرد که در آن گروهی از مدل‌های آزمایشی این شرکت به پلتفرم هوش مصنوعی Hugging Face نفوذ کردند.
شرکت‌های رقیب در حوزه هوش مصنوعی، از جمله Anthropic و Meta، نیز از آن زمان مواردی را کشف کرده‌اند که در آنها مدل‌هایشان حملات سایبری علیه شرکت‌های دیگر و حتی سامانه‌های دولتی انجام داده‌اند.
اوایل این هفته، صدها دانشمند نامه‌ای سرگشاده را امضا کردند که در آن خواستار ایجاد نهادی بین‌المللی برای نظارت بر مهار مدل‌های پیشرفته هوش مصنوعی شدند.
جفری هینتون، پیشگام هوش مصنوعی که به «پدرخوانده هوش مصنوعی» شهرت دارد و همواره درباره خطرات این فناوری هشدار داده است، نیز از جمله امضاکنندگان این نامه بود.
در این نامه سرگشاده آمده است: «بدون تغییرات فوری در شیوه‌های توسعه و به‌کارگیری هوش مصنوعی، چنین حوادثی ادامه خواهند یافت و حوادث آینده بسیار آسیب‌زاتر از این، زیرساخت‌های حیاتی در معرض خطر ما را هدف قرار خواهند داد.»
در ادامه نامه آمده است: «ما، دانشمندان امضاکننده این نامه، معتقدیم که هم پژوهش بیشتر درباره ایمنی هوش مصنوعی و هم تأکید بیشتر بر فناوری‌ها و رویه‌های مهار این سیستم‌ها ضروری است.»