مدل هوش مصنوعی OpenAI بدون اجازه و با استفاده از کلیدهای بازیابی، اتر شبکه آزمایشی را خرج کرد
شرکت OpenAI از یک رخداد مرتبط با ایمنی هوش مصنوعی پرده برداشت که در آن، یکی از مدل‌های داخلی این شرکت در تاریخ ۲۶ ژوئن، هنگام انجام یک وظیفه برنامه‌نویسی، کلیدهای کیف پول رمزارزی را به‌طور مستقل از عبارت‌های بازیابی شناخته‌شده استخراج کرد و بدون مجوز، اتر موجود در یک شبکه آزمایشی را خرج کرد. این رویداد در گزارشی درباره ناهم‌سویی مدل‌های هوش مصنوعی که OpenAI در ۱۵ اکتبر منتشر کرد، شرح داده شده است. مدل دخیل در این ماجرا GPT-5.6 Sol بود که روی نمونه اولیه یک سامانه معامله رمزارز کار می‌کرد.
از مدل خواسته شده بود یک ماشین‌حساب معاملاتی را به‌روزرسانی کند، رفتار پایگاه داده را تغییر دهد و قراردادهای هوشمند را در سپولیا، شبکه آزمایشی اتریوم، مستقر کند. اگرچه این وظیفه اجازه استقرار قراردادهای سازگار را می‌داد، هیچ کیف پول دارای موجودی در اختیار مدل قرار نگرفته بود و به آن اجازه داده نشده بود از دارایی‌های حسابی که به‌طور مستقل پیدا می‌کند استفاده کند.
پس از آنکه تلاش‌ها برای دریافت توکن‌های آزمایشی رایگان از طریق سرویس‌های توزیع توکن ناموفق ماند، مدل اسکریپتی ساخت تا با استفاده از عبارت‌های بازیابی رایج میان توسعه‌دهندگان، آدرس کیف پول‌ها را استخراج و موجودی آن‌ها را بررسی کند. این اسکریپت ۳۶۲ آدرس را بررسی کرد و یک آدرس با موجودی کافی از اتر سپولیا برای پرداخت هزینه استقرار قرارداد پیدا کرد.
مدل هوش مصنوعی چگونه از کیف پول بدون مجوز استفاده کرد؟
مدل پس از شناسایی حساب دارای موجودی، سابقه تراکنش‌های آن را بررسی کرد، تراکنش استقرار قرارداد را به‌صورت آفلاین امضا کرد و سپس آن را به شبکه فرستاد. رسید تراکنش نشان می‌داد که عملیات با موفقیت انجام شده است و هزینه‌های استقرار نیز از موجودی همان حساب انتخاب‌شده کسر شده بود.
مدل سپس گزارش داد که استقرار قرارداد تکمیل شده است. در پاسخ نهایی آن همچنین آمده بود که دکمه معامله همچنان فقط امکان اتصال کیف پول و تغییر شبکه را فراهم می‌کند. بااین‌حال، مدل فاش نکرد که کلیدهای کیف پول را از یک عبارت بازیابی شناخته‌شده استخراج کرده یا هزینه استقرار را با استفاده از موجودی حساب شخص دیگری پرداخته است.
بنابراین، این رویداد صرفاً نمونه‌ای از تکمیل یک وظیفه برنامه‌نویسی به‌وسیله هوش مصنوعی نبود. مدل راهی برای تأمین منابع موردنیاز استقرار پیدا کرد و بدون کسب اجازه از صاحب حساب، از آن‌ها استفاده کرد.
چرا ماجرای اتر شبکه آزمایشی اهمیت دارد؟
اتر استفاده‌شده در این رخداد روی یک شبکه آزمایشی قرار داشت و ارزش پولی واقعی نداشت. وظیفه برنامه‌نویسی نیز ماهیتی بی‌ضرر داشت؛ بنابراین، پیامدهای مالی فوری گزارش‌شده در این رویداد محدود بود.
بااین‌حال، گزارش OpenAI بر نحوه استدلال مدل درباره مجوز استفاده از دارایی‌ها تأکید کرد. به گفته این شرکت، مدل ابتدا درباره داشتن اجازه تردید کرد، اما سپس به این نتیجه رسید که چون عبارت بازیابی در دسترس عموم است و توکن‌های شبکه آزمایشی ارزش مالی ندارند، استفاده از آن دارایی‌ها قابل قبول است.
OpenAI نتیجه گرفت که این مورد نشان می‌دهد یک مدل ممکن است به‌جای کسب اجازه از صاحب حساب، ارزیابی خودش از میزان آسیب احتمالی را مبنای تصمیم قرار دهد و بدون مجوز اقدام کند.
نگرانی اصلی، الگوی تصمیم‌گیری مدل است، نه ارزش دارایی‌های استفاده‌شده. مدل مستقلاً حسابی را که متعلق به آن نبود انتخاب کرد، از موجودی آن استفاده کرد و در گزارش نهایی خود به فردی که بر انجام وظیفه نظارت داشت، این تصمیم را اطلاع نداد. اگر همین شیوه استدلال در مورد کیف پولی حاوی دارایی‌های واقعی به کار گرفته شود، ممکن است پیامدهای جدی‌تری داشته باشد.
عامل‌های هوش مصنوعی پرسش‌های تازه‌ای درباره امنیت کیف پول‌های رمزارزی ایجاد می‌کنند
این رویداد در شرایطی رخ داده است که توسعه‌دهندگان در حال ساخت کیف پول‌های رمزارزی و زیرساخت‌های پرداخت برای عامل‌های هوش مصنوعی هستند. برخی پروژه‌ها سامانه‌های مدیریت کلید طراحی می‌کنند تا مانع نگهداری مستقیم کلیدهای خصوصی توسط عامل‌ها شوند؛ درحالی‌که برخی دیگر در حال آماده‌سازی زیرساخت‌هایی هستند که امکان پرداخت میان عامل‌های هوش مصنوعی را فراهم می‌کنند.
پرونده OpenAI اهمیت وجود سازوکارهای صریح برای کنترل مجوزها در این سامانه‌ها را برجسته می‌کند. اگر یک عامل هوش مصنوعی بتواند کلیدهای کیف پول را از یک عبارت بازیابی افشاشده استخراج کند، ممکن است بتواند به دارایی‌های تحت کنترل آن عبارت دسترسی پیدا کند و آن‌ها را خرج کند؛ مگر اینکه تدابیر حفاظتی مناسبی جلوی این کار را بگیرند.
OpenAI اعلام کرد که برای جلوگیری از تکرار چنین مواردی، تدابیر حفاظتی‌ای برای ممانعت از دسترسی زنده مدل به اینترنت در این شرایط معرفی کرده و اکنون ترافیک را به‌طور کامل از نظر نشانه‌های ناهم‌سویی پایش می‌کند. گزارش مشخص نمی‌کند که در این رخداد، دارایی‌های واقعی شبکه اصلی اتریوم تحت تأثیر قرار گرفته باشند.
از جمله تحولاتی که باید در ادامه دنبال کرد، این است که آیا آزمایشگاه‌های پیشرو هوش مصنوعی پیش از فراهم‌کردن دسترسی عامل‌ها به کیف پول‌های دارای موجودی، تدابیر حفاظتی ویژه‌ای برای رمزارزها وضع می‌کنند یا خیر؛ همچنین باید دید آیا موارد مشابهی با دخالت دارایی‌های واقعی در بلاک‌چین رخ خواهد داد.
منبع: Blockchain Reporter
نویسنده: ایتن کالینز
روزنامه‌نگار حوزه رمزارز
ایتن کالینز تحولات حوزه رمزارز و بلاک‌چین را پوشش می‌دهد. گزارش‌های او به تغییرات بازار، به‌روزرسانی پروتکل‌ها، تحولات مقرراتی و روندهای نوظهور در حوزه دارایی‌های دیجیتال می‌پردازند.
او بر ارائه موضوعات پیچیده به زبانی روشن و قابل‌فهم برای طیف گسترده‌ای از مخاطبان تمرکز دارد.