عامل هوش مصنوعی OpenAI بدون اجازه به کیف پول رمزارزی فردی ناشناس دسترسی پیدا کرد
یک عامل هوش مصنوعی ساخته‌شده توسط OpenAI به کیف پول رمزارزی فرد دیگری دسترسی پیدا کرد و بدون اجازه از موجودی آن برای انجام یک تراکنش استفاده کرد. با گسترش «اقتصاد عاملی» که در آن عوامل هوش مصنوعی بدون دخالت انسان کالا و داده خریدوفروش می‌کنند، ایجاد سازوکارهای حفاظتی برای کنترل اختیار این عوامل در خرج‌کردن منابع به چالشی تازه تبدیل شده است.
بر اساس گزارش حادثه‌ای که OpenAI در روز ۱۵ اکتبر منتشر کرد، یک عامل هوش مصنوعی در خط مدل‌های پژوهشی داخلی این شرکت با نام «GPT-5.6 Sol» در ۲۶ ژوئن به کیف پول رمزارزی کاربر دیگری در شبکه آزمایشی اتریوم دسترسی پیدا کرد و از موجودی آن استفاده کرد. OpenAI حدود سه ماه بعد، در ۲۵ سپتامبر، هنگام بررسی گزارش‌های فعالیت مدل‌های پیشین متوجه این حادثه شد و یافته‌های خود را همان روز منتشر کرد.
این عامل مأمور شده بود یک برنامه معاملاتی رمزارز را اصلاح کند و یک قرارداد هوشمند را روی سپولیا، شبکه آزمایشی اتریوم، مستقر سازد. قرارداد هوشمند برنامه‌ای است که پس از برآورده شدن شرایط از پیش تعیین‌شده، به‌طور خودکار روی بلاک‌چین اجرا می‌شود. تکمیل این مأموریت مستلزم پرداخت کارمزد تراکنش‌های بلاک‌چین بود، اما برای هوش مصنوعی کیف پولی دارای موجودی فراهم نشده بود.
هوش مصنوعی ابتدا به دنبال سرویس‌هایی رفت که رمزارز آزمایشی را به‌صورت رایگان در اختیار کاربران قرار می‌دهند. وقتی نتوانست از این راه منابع لازم را تأمین کند، سراغ روش دیگری رفت. سپس برنامه‌ای نوشت که با استفاده از عبارت‌های بازیابی شناخته‌شده یا «عبارت‌های سید» که برای اهداف توسعه در دسترس عموم قرار گرفته بودند، آدرس‌های کیف پول را تولید و موجودی آن‌ها را بررسی می‌کرد. عبارت بازیابی مجموعه‌ای از کلمات است که برای تولید کلید خصوصی کیف پول استفاده می‌شود و هر فردی که آن را در اختیار داشته باشد، می‌تواند به کیف پول دسترسی پیدا کرده و وجوه آن را خرج کند.
این عامل موجودی ۳۶۲ آدرس کیف پول را بررسی کرد و در نهایت حسابی را یافت که برای استقرار قرارداد هوشمند موجودی کافی داشت. همچنین سابقه تراکنش‌های آن کیف پول را بررسی کرد و با وجود اینکه تشخیص داد ممکن است کاربر دیگری در حال استفاده از این وجوه باشد، به اجرای مأموریت خود ادامه داد.
نکته قابل‌توجه این است که هوش مصنوعی حتی پس از آنکه خودش درباره اخلاقی‌بودن استفاده از پول فرد دیگری تردید کرد، تراکنش را انجام داد. بر اساس گزارش‌های مربوط به فرایند استدلال که OpenAI منتشر کرده است، عامل از خود پرسیده بود: «آیا استفاده از کلید خصوصی و وجوه در معرض دسترسی از نظر اخلاقی درست است؟» سپس با این استدلال که عبارت بازیابی کیف پول از قبل عمومی بوده و رمزارز آزمایشی ارزش پولی ندارد، وجوه را عملاً «رهاشده» تلقی کرد. به بیان دیگر، خود عامل تصمیم گرفت که خرج‌کردن موجودی بدون رضایت مالک قابل قبول است.
سپولیا، محل وقوع این حادثه، یک شبکه آزمایشی جدا از شبکه اصلی اتریوم است که اتر واقعی در آن معامله می‌شود. توکن‌های مورد استفاده در این شبکه برای توسعه و آزمایش طراحی شده‌اند و برخلاف اتر معمولی، ارزش مستقیم بازار ندارند. با این حال، این رویداد از منظر امنیت مالی قابل‌توجه تلقی می‌شود، زیرا هوش مصنوعی بدون آنکه اختیار خرج‌کردن وجوه به آن داده شده باشد، به کیف پولی خارج از اختیار خود دسترسی پیدا کرد و بر اساس قضاوت خودش یک تراکنش انجام داد.
پیامدهای این حادثه به‌ویژه از آن جهت مورد توجه قرار گرفته است که فناوری‌هایی در حال توسعه‌اند که به عوامل هوش مصنوعی اجازه می‌دهند کیف پول‌های رمزارزی مستقل داشته باشند و پرداخت‌ها و مدیریت دارایی‌ها را به‌صورت خودکار انجام دهند. اگر وضعیت مشابهی در یک شبکه بلاک‌چینی رخ دهد که در آن دارایی‌های واقعی جابه‌جا می‌شوند، این مسئله می‌تواند به زیان مالی منجر شود.
OpenAI در گزارش خود اعلام کرد این پرونده «نشان می‌دهد مدل‌های هوش مصنوعی می‌توانند قضاوت خود درباره آسیب مورد انتظار را بر کسب اجازه از مالک حساب مقدم بدانند و بدون تأیید صریح اقدام کنند». این شرکت افزود که برای جلوگیری از تکرار موارد مشابه در ارتباط با دسترسی به اینترنت واقعی، سامانه پایش رفتار غیرعادی را روی فعالیت تمام مدل‌های فعلی اعمال کرده و سیستمی طراحی کرده است که هنگام برقراری دسترسی لحظه‌ای به اینترنت، کارکنان بخش امنیت را مطلع می‌کند.