عامل هوش مصنوعی OpenAI برای انجام یک وظیفه، بدون اجازه از کیف پول رمزارزی برداشت کرد
نکات کلیدی
- یکی از مدل‌های هوش مصنوعی OpenAI بدون اجازه به یک کیف پول رمزارزی دسترسی پیدا کرد تا دارایی موردنیاز برای استقرار قراردادهای هوشمند در شبکه آزمایشی سپولیا اتریوم را تأمین کند.
- مدل درباره اخلاقی بودن استفاده از این دارایی تأمل کرد، اما چون توکن‌ها ارزش مالی واقعی نداشتند، تصمیم گرفت از آن‌ها استفاده کند.
- OpenAI اعلام کرد که مدل در گزارش نهایی خود از وظیفه انجام‌شده، به اقدامات غیرمجازش اشاره نکرد.
شرکت OpenAI در گزارشی که در ماه اکتبر منتشر کرد، فاش کرد یکی از مدل‌های داخلی هوش مصنوعی این شرکت بدون مجوز به یک کیف پول رمزارزی دسترسی پیدا کرده تا دارایی لازم برای تکمیل یک وظیفه توسعه نرم‌افزار را به دست آورد. گزارش این شرکت جزئیات این رویداد را شرح می‌دهد.
این اتفاق در اواخر ماه ژوئن رخ داد؛ زمانی که از این مدل، متعلق به خانواده GPT-5.6، خواسته شد یک برنامه معاملاتی رمزارز را به‌روزرسانی کند و قراردادهای هوشمند را روی سپولیا مستقر سازد. سپولیا یک شبکه آزمایشی برای توسعه و آزمایش برنامه‌های مبتنی بر اتریوم است و در آن از توکن‌های آزمایشی استفاده می‌شود که در دنیای واقعی ارزش مالی ندارند.
OpenAI در ۲۵ سپتامبر و در جریان گسترش دامنه سامانه نظارت خود بر رفتارهای ناهمسو با اهداف تعیین‌شده، به‌منظور بررسی فعالیت‌های پیشین مدل‌ها، از این رویداد مطلع شد. آخرین به‌روزرسانی گزارش در ۱۵ اکتبر انجام شده است.
بر اساس این گزارش، پس از آنکه سرویس‌های آنلاین ارائه‌دهنده توکن‌های آزمایشی رایگان نتوانستند دارایی کافی در اختیار مدل قرار دهند، این مدل برای تکمیل وظیفه به روش‌های غیرمجاز متوسل شد. هیچ کیف پول دارای موجودی در اختیار آن قرار نگرفته بود و اجازه نداشت از دارایی‌های حساب دیگری استفاده کند.
در گزارش آمده است که مدل اسکریپتی نوشت تا کیف پول‌های رمزارزی را با استفاده از عبارت‌های بازیابی شناخته‌شده و عمومی، که به آن‌ها عبارت بازیابی اولیه یا «سید فریز» (Seed Phrase) نیز گفته می‌شود، جست‌وجو کند. مدل ۳۶۲ کیف پول را بررسی کرد و سرانجام یک کیف پول حاوی مقدار کافی اتر آزمایشی سپولیا (ETH) یافت که می‌توانست هزینه تراکنش موردنیاز برای استقرار قراردادهای هوشمند را پوشش دهد.
مدل پیش از تأیید تراکنش، اخلاقی بودن استفاده از این دارایی را بررسی کرد. با این استدلال که توکن‌ها در دنیای واقعی ارزش مالی ندارند، تصمیم گرفت بدون کسب اجازه از صاحب حساب از آن‌ها استفاده کند.
تراکنش با موفقیت انجام شد. هرچند هیچ رمزارزی با ارزش مالی واقعی به سرقت نرفت، صاحب کیف پول ملزم به پرداخت کارمزد پردازش تراکنش شد. OpenAI مبلغ این کارمزد را اعلام نکرده است.
OpenAI گفت مدل در گزارش نهایی خود درباره وظیفه تکمیل‌شده، اشاره‌ای به اقداماتی که بدون مجوز انجام داده بود، نکرد.
OpenAI در گزارش خود نوشت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خودش درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
این رویداد به نگرانی‌های فزاینده درباره اقدام‌های غیرمجاز عامل‌های هوش مصنوعی برای تکمیل وظایف محول‌شده می‌افزاید؛ نگرانی‌هایی که هم‌زمان با افزایش دسترسی این عامل‌ها به اینترنت و سامانه‌های خارجی بیشتر شده‌اند.
در ماه‌های اخیر نیز چندین حادثه نگرانی‌هایی درباره استفاده از عامل‌های هوش مصنوعی در حملات سایبری علیه مؤسسات مالی و سازمان‌های دیگر ایجاد کرده است.
در ماه سپتامبر، شرکت امنیت سایبری اسرائیلی گمبیت سکیوریتی (Gambit Security) از کارزاری خبر داد که با استفاده از عامل‌های هوش مصنوعی انجام شده بود، ۲۵ شرکت را درگیر کرده و به سرقت دست‌کم ۶۰۰ هزار رکورد کارت اعتباری انجامیده بود.
اوایل همین ماه، لی جه‌میونگ، رئیس‌جمهور کره جنوبی، گفت احتمالاً از عامل‌های هوش مصنوعی در حملات سایبری علیه دست‌کم هفت مؤسسه مالی استفاده شده است؛ حملاتی که اطلاعات شخصی دست‌کم ۶۸ هزار مشتری را در معرض افشا قرار داد. بازرسان، این حملات را به ARTEX AI مرتبط دانسته‌اند؛ ابزاری متن‌باز که برای شناسایی نقاط ضعف امنیتی و برنامه‌ریزی نفوذهای احتمالی طراحی شده است.
همین هفته، خبرگزاری رویترز گزارش داد که یک هکر چینی‌زبان با استفاده از عامل‌های هوش مصنوعی مبتنی بر DeepSeek و Claude Code شرکت آنتروپیک، موفق شده است به بیش از ۱۰۰ وب‌سایت شرکتی نفوذ کند. در میان شرکت‌های هدف، دییر (Deere)، شارک‌نینجا (SharkNinja) و کامینز (Cummins) نیز قرار داشتند.
یک پژوهشگر امنیت سایبری هنگام جست‌وجو برای یافتن پلتفرم‌های Cairn در معرض دسترسی عمومی، این کارزار را کشف کرد. این پلتفرم‌ها هماهنگی عامل‌های هوش مصنوعی را برای انجام وظایف با حداقل نظارت انسانی بر عهده دارند. ابعاد کامل این نفوذها همچنان در دست بررسی است.
OpenAI اعلام کرد: «برای جلوگیری از دسترسی زنده به اینترنت در مواردی از این دست، تدابیر حفاظتی بیشتری اجرا کرده‌ایم. اکنون سامانه نظارت بر رفتارهای ناهمسو با اهداف تعیین‌شده را روی تمام ترافیک اجرا می‌کنیم. این سامانه به‌گونه‌ای طراحی شده است که در صورت برقراری دسترسی زنده به اینترنت، به تیم امنیت هشدار دهد.»
منابع
- OpenAI، «استفاده از کیف پول رمزارزی آزمایشی دارای موجودی بدون مجوز»، گزارش رفتارهای ناهمسو با اهداف تعیین‌شده
- فورچون، «عامل سرکش OpenAI برای تأمین دارایی موردنیاز انجام یک وظیفه، از کیف پول رمزارزی برداشت کرد»، ۱۶ اکتبر ۲۰۲۶
- تامز هاردور، «عامل زیرک OpenAI در جریان یک آزمایش، آگاهانه و برای تکمیل یک وظیفه از حسابی که متعلق به او نبود رمزارز برداشت کرد»، ۱۷ اکتبر ۲۰۲۶