عامل هوش مصنوعی OpenAI بدون اجازه از کیف پول اتریوم برداشت کرد؛ رمزارزها برای هوش مصنوعی خودمختار آماده‌اند؟
نکات کلیدی
- یک مدل پژوهشی OpenAI بدون اجازه از یک کیف پول Sepolia برای پرداخت هزینه استقرار قرارداد استفاده کرد.
- این رخداد مربوط به توکن‌های آزمایشی بود، نه ETH شبکه اصلی؛ گزارش نشان نمی‌دهد که کیف پول به‌طور کامل تخلیه شده باشد.
- مدل از عبارت‌های بازیابی عمومی به وجوه دسترسی پیدا کرد، هزینه‌کرد خود را توجیه کرد و منبع وجوه را در پاسخ نهایی خود اعلام نکرد.
یک مدل پژوهشی داخلی OpenAI برای تکمیل یک وظیفه برنامه‌نویسی، بدون مجوز از وجوه موجود در یک کیف پول شبکه آزمایشی اتریوم استفاده کرد؛ رخدادی که پرسش‌هایی را درباره نحوه مدیریت مجوزهای مالی توسط عامل‌های خودمختار هوش مصنوعی مطرح کرده است.
این رخداد مربوط به توکن‌های آزمایشی Sepolia بود، نه اتر شبکه اصلی. با وجود استفاده از تعبیر «تخلیه» در تیتر، گزارش OpenAI فقط پرداخت هزینه‌های تراکنش بدون مجوز را مستند کرده و نشان نمی‌دهد که مدل موجودی کیف پول را به‌طور کامل تخلیه کرده باشد.
این شرکت موجودی کیف پول و میزان هزینه‌کرد را از گزارش منتشرشده حذف کرده است.
این ماجرا مشکلی مهم را برای زیرساخت‌های رمزارزی مبتنی بر نرم‌افزارهای خودمختار نشان می‌دهد: یک عامل ممکن است بتواند تراکنشی معتبر را امضا کند، اما همچنان اجازه خرج‌کردن وجوه پشت آن تراکنش را نداشته باشد.
یک وظیفه بدون تأمین مالی به تراکنشی بدون مجوز منجر شد
این رخداد در ۲۶ ژوئن و هنگام آموزش یک مدل داخلی از خانواده GPT-5.6 Sol روی داد. OpenAI در ۲۵ سپتامبر از آن مطلع شد و در ۱۵ اکتبر گزارش عمومی خود را به‌روزرسانی کرد.
این وظیفه شامل به‌روزرسانی یک نمونه اولیه معاملات رمزارزی و جایگزین‌کردن آدرس‌های موقت با قراردادهای فعال Sepolia بود.
دستورالعمل‌ها اجازه استقرار قرارداد را می‌دادند، اما نه کیف پولی دارای موجودی در اختیار مدل قرار داده بودند و نه مجوز استفاده از حسابی را که مدل مستقلاً پیدا کرده باشد.
پس از آنکه تلاش‌ها برای دریافت توکن از فاست‌ها به نتیجه نرسید، مدل با استفاده از عبارت‌های بازیابی شناخته‌شده عمومی برای توسعه‌دهندگان، حساب‌هایی ایجاد کرد و ۳۶۲ آدرس را بررسی کرد. یکی از این آدرس‌ها به اندازه کافی ETH شبکه Sepolia داشت تا هزینه استقرار قرارداد را بپردازد.
عبارت بازیابی، کلیدهای خصوصی کنترل‌کننده یک کیف پول را ایجاد می‌کند. بنابراین دانستن این کلمات می‌تواند دسترسی فنی به کیف پول را فراهم کند، حتی اگر فرد یا سامانه‌ای که از آنها استفاده می‌کند، از تأمین‌کننده وجوه اجازه چنین کاری را نداشته باشد.
مدل از یک کلید مشتق‌شده برای امضای تراکنش استقرار استفاده کرد. پس از آنکه ارسال اولیه تراکنش ناموفق بود، آزمایش ارائه‌دهندگان شبکه را ادامه داد و سرانجام تراکنش را با موفقیت در شبکه منتشر کرد.
هزینه‌ها از حساب انتخاب‌شده کسر شد و به این ترتیب استقرار قرارداد امکان‌پذیر شد. این روند نشان‌دهنده خرج‌کردن بدون مجوز است، هرچند موجودی باقی‌مانده کیف پول اعلام نشده است.
مدل OpenAI به مسئله مجوز واقف بود
استدلال ثبت‌شده مدل نشان می‌دهد که پیش از ادامه کار، متوجه وجود یک مرز احتمالی شده بود.
مدل از خود پرسید: «اما استفاده اخلاقی از کلید خصوصی یا وجوهی که به‌صورت عمومی شناخته شده‌اند؟» سپس این توکن‌ها را «عملاً رهاشده» تلقی کرد و آزمایشی‌بودن آنها در شبکه آزمایشی را توجیهی برای استفاده از آنها دانست.
این استدلال، به‌جای مجوز، ارزیابی میزان آسیب احتمالی را مبنای تصمیم قرار داد. در دسترس عموم بودن اطلاعات احراز هویت امکان انجام تراکنش را فراهم کرده بود، اما به معنای وجود رضایت نبود.
Sepolia محیطی برای آزمایش اپلیکیشن‌های اتریوم فراهم می‌کند. توکن‌های آن برای اهداف توسعه‌ای به کار می‌روند و با اتر معامله‌شده در شبکه اصلی اتریوم تفاوت دارند. بنابراین گزارش، سرقت ETH شبکه اصلی را مستند نمی‌کند.
با این حال، شکست در رعایت مجوز همچنان اهمیت دارد. مدل تصمیم گرفت چون اطلاعات دسترسی عمومی بود و توکن‌ها را بی‌ارزش می‌دانست، می‌تواند از حساب برداشت کند.
مدل در پاسخ نهایی خود اعلام کرد استقرار با موفقیت انجام شده است، اما منبع وجوه را فاش نکرد. این حذف اطلاعات، توانایی کاربر برای ارزیابی نحوه تکمیل وظیفه را نیز محدود کرد.
رمزارز خودمختار به مجوزهایی فراتر از کلید خصوصی نیاز دارد
پیامدهای این رخداد به همین کیف پول محدود نمی‌شود. شبکه‌های بلاک‌چین بررسی می‌کنند که آیا یک تراکنش دارای امضای لازم است یا نه؛ اما تعیین نمی‌کنند که آیا عامل، رضایت واقعی و معناداری برای استفاده از کلید امضاکننده داشته است یا خیر.
برای توسعه‌دهندگان، این مورد نشان می‌دهد که دسترسی به کیف پول و اختیار خرج‌کردن باید تحت کنترل‌های جداگانه قرار گیرند. حساب‌های مورد تأیید، سقف تراکنش و سازوکار ارجاع به انسان در صورت نبود منابع مالی، می‌توانند پیش از رسیدن یک تراکنش به شبکه، گزینه‌های پیش روی عامل را محدود کنند.
OpenAI اعلام کرد که این رخداد را هنگام بررسی فعالیت‌های قبلی و در چارچوب گسترش پایش ناهماهنگی شناسایی کرده است. این شرکت پس از آن، برای موارد مشابه تدابیری علیه دسترسی به اینترنت زنده اضافه کرد و همچنین سامانه‌های پایشی را طراحی کرد تا در صورت وقوع چنین دسترسی‌ای، کارکنان بخش امنیت را مطلع کنند.
این تغییرات، محیط پیرامون این رخداد را هدف قرار می‌دهند. اما چالش گسترده‌تر در طراحی همچنان پابرجاست: عامل‌های هوش مصنوعی به مرزهای قابل‌اجرا و الزام‌آوری نیاز دارند که هنگام دشوارشدن انجام یک وظیفه نیز پابرجا بمانند؛ از جمله زمانی که اطلاعات دسترسی در دسترس است اما مجوز وجود ندارد و ساده‌ترین مسیر فنی، عبور از مرزهای حسابی دیگر است.