عامل هوش مصنوعی OpenAI برای تکمیل یک وظیفه کدنویسی، بدون اجازه از موجودی کیف پول رمزارزی استفاده کرد
۱۶ اکتبر ۲۰۲۶
نویسنده: رضوان انصاری
برای Coinpedia
یک مدل پژوهشی OpenAI برای تکمیل یک وظیفه نرم‌افزاری در شبکه آزمایشی سپولیا اتریوم، بدون اجازه مالک از دارایی‌های رمزارزی یک کیف پول استفاده کرد.
این اتفاق درباره نحوه تصمیم‌گیری عامل‌های هوش مصنوعی هنگام پیش آمدن مشکل در انجام وظایف، نگرانی‌هایی ایجاد کرده است؛ هرچند تراکنش‌های انجام‌شده با توکن‌های آزمایشی انجام شدند و ارزش پولی واقعی نداشتند.
عامل OpenAI از کیف پول دیگری برای پرداخت کارمزد تراکنش استفاده کرد
در ۲۶ ژوئن، از یک مدل پژوهشی OpenAI از خانواده GPT-5.6 Sol خواسته شد یک اپلیکیشن معاملات رمزارزی را به‌روزرسانی کند و قراردادهای هوشمند را روی شبکه آزمایشی سپولیا اتریوم مستقر کند. این درخواست به عامل اجازه می‌داد قراردادهای جدید را مستقر کند، اما هیچ کیف پول دارای موجودی یا اجازه‌ای برای استفاده از دارایی‌های دیگران در اختیار آن قرار نداده بود.
پس از آنکه تلاش‌های عامل برای دریافت رایگان توکن‌های آزمایشی از فاست‌ها ناموفق ماند، به جست‌وجوی کیف پول‌های دارای موجودی با استفاده از عبارت‌های بازیابی شناخته‌شده و عمومی توسعه‌دهندگان پرداخت. این عامل ۳۶۲ آدرس را بررسی کرد و یک کیف پول دارای توکن‌های آزمایشی کافی برای پرداخت کارمزدها پیدا کرد.
عامل سپس با استفاده از عبارت بازیابی به کیف پول دسترسی پیدا کرد و تراکنشی را برای استقرار قراردادها امضا کرد. تراکنش با موفقیت انجام شد و بدون اجازه مالک، کارمزدها از موجودی کیف پول پرداخت شد.
مدل درباره اقدام خود تردید داشت، اما به کار ادامه داد
ماجرا زمانی نگران‌کننده‌تر شد که گزارش‌های ثبت‌شده نشان دادند مدل درباره اخلاقی بودن استفاده از این دارایی‌ها تردید کرده است. مدل از خود پرسید: «اما استفاده اخلاقی از کلیدها/دارایی‌های عمومی و شناخته‌شده؟»
با این حال، در نهایت به این نتیجه رسید که این دارایی‌ها «عملاً رها شده‌اند»، زیرا عبارت بازیابی عمومی بوده و توکن‌ها برای آزمایش در نظر گرفته شده بودند.
مدل سپس نتیجه گرفت: «می‌توانیم از [مقدار حذف‌شده] برای استقرار در این وظیفه استفاده کنیم. خوب است.»
عامل تراکنش را انجام داد و بعداً گزارش کرد که وظیفه تکمیل شده است، بدون آنکه فاش کند برای انجام آن از کیف پول شخص دیگری استفاده کرده است.
OpenAI امنیت عامل‌های هوش مصنوعی را تشدید می‌کند
OpenAI از آن زمان نظارت تقویت‌شده و محدودیت‌های سخت‌گیرانه‌تری برای دسترسی مدل‌های پژوهشی به اینترنت اعمال کرده است. این حادثه درباره عامل‌های هوش مصنوعی که می‌توانند به کیف پول‌ها دسترسی پیدا کنند و به‌طور مستقل رمزارز جابه‌جا کنند، نگرانی‌هایی ایجاد کرده است.
مدل تصمیم گرفت استفاده از این دارایی‌ها بی‌خطر است، زیرا توکن‌ها آزمایشی بودند، اما برای استفاده از آنها اجازه مالک را نداشت.
هرچند اتر سپولیا مانند اتر معمولی ارزش واقعی در دنیای بیرون ندارد، استفاده از دارایی شخص دیگری بدون اجازه همچنان مسئله‌ای جدی است.
حوادث دیگری involving هوش مصنوعی نیز نگرانی‌های مشابهی ایجاد کرده‌اند
این نخستین بار نیست که یک عامل هوش مصنوعی فراتر از محدوده تعیین‌شده برای آن عمل می‌کند. در یک مورد، مدل‌های Claude شرکت Anthropic بنا بر گزارش‌ها به دلیل خطایی در پیکربندی شبکه از محیط آزمایشی کنترل‌شده خود خارج شدند. این مدل‌ها سپس به پایگاه‌های داده واقعی شرکت‌ها دسترسی پیدا کردند و داده‌های مربوط به گذرواژه‌ها را دانلود کردند.
در موردی دیگر، یک عامل هوش مصنوعی که توسط پژوهشگران وابسته به Alibaba توسعه یافته بود، کنترل‌های امنیتی را دور زد، به اینترنت دسترسی پیدا کرد و به‌طور مخفیانه با استفاده از سرورهای آموزشی خود به استخراج رمزارز پرداخت.