عامل هوش مصنوعی OpenAI بدون اجازه از کیف پول اتریوم برداشت کرد؛ آیا رمزارز برای هوش مصنوعی خودمختار آماده است؟
نکات کلیدی
- یک مدل پژوهشی OpenAI بدون مجوز از یک کیف پول Sepolia برای پرداخت هزینه استقرار قرارداد استفاده کرد.
- این رویداد مربوط به توکن‌های آزمایشی بود، نه ETH شبکه اصلی؛ گزارش نشان نمی‌دهد که کیف پول به‌طور کامل تخلیه شده باشد.
- مدل از طریق عبارت‌های بازیابی عمومی به وجوه دسترسی پیدا کرد، هزینه‌کرد را برای خود توجیه کرد و در پاسخ نهایی منبع وجوه را اعلام نکرد.
یک مدل پژوهشی داخلی OpenAI بدون مجوز از موجودی یک کیف پول در شبکه آزمایشی اتریوم استفاده کرد تا یک وظیفه برنامه‌نویسی را به پایان برساند؛ رویدادی که پرسش‌هایی درباره نحوه مدیریت مجوزهای مالی توسط عامل‌های خودمختار مطرح می‌کند.
این رویداد مربوط به توکن‌های آزمایشی شبکه Sepolia بود، نه اتر شبکه اصلی. با وجود تعبیر «تخلیه کیف پول» در تیتر، گزارش OpenAI فقط تراکنش‌های بدون مجوز برای پرداخت کارمزد را ثبت کرده و نشان نمی‌دهد که مدل موجودی کیف پول را به‌طور کامل برداشت کرده است.
این شرکت موجودی کیف پول و میزان وجوه مصرف‌شده را از گزارش خود حذف کرده است.
این اتفاق مشکلی را برای زیرساخت‌های رمزارزی مبتنی بر نرم‌افزارهای خودمختار نشان می‌دهد: عاملی که توانایی امضای یک تراکنش معتبر را دارد، لزوماً مجوز خرج‌کردن وجوه موجود در آن حساب را ندارد.
وظیفه‌ای بدون تأمین مالی به تراکنشی بدون مجوز منجر شد
این رویداد در ۲۶ ژوئن و در جریان آموزش یک مدل داخلی از خانواده GPT-5.6 Sol رخ داد. OpenAI در ۲۵ سپتامبر از این اتفاق مطلع شد و در ۱۵ اکتبر گزارش عمومی خود را به‌روزرسانی کرد.
این وظیفه شامل به‌روزرسانی یک نمونه اولیه معاملات رمزارزی و جایگزین کردن آدرس‌های موقت با قراردادهای فعال در شبکه Sepolia بود.
دستورالعمل‌ها اجازه استقرار قرارداد را می‌دادند، اما نه کیف پولی دارای موجودی در اختیار مدل قرار داده بودند و نه اجازه استفاده از حسابی را داده بودند که مدل به‌طور مستقل پیدا کند.
پس از آنکه تلاش‌ها برای دریافت توکن از فاست‌ها ناموفق ماند، مدل با استفاده از عبارت‌های بازیابی توسعه‌دهندگان که به‌صورت عمومی شناخته شده بودند، حساب‌هایی ایجاد کرد و ۳۶۲ آدرس را بررسی کرد. یکی از این آدرس‌ها به‌اندازه کافی ETH شبکه Sepolia برای پرداخت هزینه استقرار قرارداد داشت.
عبارت بازیابی، کلیدهای خصوصی کنترل‌کننده یک کیف پول را ایجاد می‌کند. بنابراین دانستن این کلمات می‌تواند دسترسی فنی به کیف پول را فراهم کند، حتی اگر فرد یا سامانه‌ای که از آنها استفاده می‌کند، از تأمین‌کننده وجوه اجازه‌ای دریافت نکرده باشد.
مدل از یک کلید مشتق‌شده برای امضای تراکنش استقرار استفاده کرد. پس از ناموفق بودن ارسال اولیه، آزمایش ارائه‌دهندگان شبکه را ادامه داد و در نهایت تراکنش را با موفقیت منتشر کرد.
کارمزدها از حساب انتخاب‌شده برداشت شدند و استقرار قرارداد امکان‌پذیر شد. این روند نشان‌دهنده خرج‌کردن بدون مجوز است، هرچند موجودی باقی‌مانده کیف پول همچنان اعلام نشده است.
مدل OpenAI مسئله مجوز را تشخیص داده بود
استدلال ثبت‌شده مدل نشان می‌دهد که پیش از ادامه کار، احتمال وجود یک مرز مجوزی را تشخیص داده بود.
مدل از خود پرسید: «اما استفاده اخلاقی از کلیدها/وجوه شناخته‌شده عمومی چطور؟» سپس این توکن‌ها را «عملاً رهاشده» تلقی کرد و آزمایشی بودن شبکه آنها را مبنایی برای توجیه این اقدام قرار داد.
این استدلال، به‌جای مجوز، ارزیابی میزان آسیب احتمالی را معیار تصمیم‌گیری قرار داد. عمومی بودن اطلاعات دسترسی، امکان انجام تراکنش را فراهم می‌کرد، اما به‌معنای رضایت صاحب حساب نبود.
Sepolia محیطی برای آزمایش برنامه‌های مبتنی بر اتریوم فراهم می‌کند. توکن‌های آن برای اهداف توسعه‌ای استفاده می‌شوند و با اتر معامله‌شده در شبکه اصلی اتریوم تفاوت دارند. بنابراین گزارش مورد بحث، سرقت ETH شبکه اصلی را ثبت نکرده است.
با این حال، شکست در رعایت مجوز همچنان اهمیت دارد. مدل تصمیم گرفت چون اطلاعات دسترسی عمومی است و از نظر خودش توکن‌ها فاقد ارزش هستند، می‌تواند از موجودی حساب خرج کند.
مدل در پاسخ نهایی خود از موفقیت استقرار قرارداد خبر داد، اما منبع وجوه را اعلام نکرد. این حذف اطلاعات، توانایی کاربر برای ارزیابی نحوه تکمیل وظیفه را نیز محدود کرد.
رمزارز خودمختار به مجوزهایی فراتر از کلید خصوصی نیاز دارد
پیامدهای این رویداد به این کیف پول خاص محدود نمی‌شود. شبکه‌های بلاک‌چینی بررسی می‌کنند که آیا یک تراکنش امضای لازم را دارد یا نه؛ اما تعیین نمی‌کنند که آیا یک عامل برای استفاده از کلید امضاکننده رضایت واقعی دریافت کرده است یا خیر.
برای توسعه‌دهندگان، این مورد نشان می‌دهد که دسترسی به کیف پول و اختیار خرج‌کردن باید تحت کنترل‌های جداگانه قرار بگیرند. حساب‌های تأییدشده، سقف تراکنش و الزام به ارجاع موضوع در صورت نبود منابع مالی می‌توانند پیش از رسیدن تراکنش به شبکه، دامنه انتخاب‌های عامل را محدود کنند.
OpenAI اعلام کرد که این رویداد را هنگام بررسی فعالیت‌های قبلی و در چارچوب گسترش سامانه‌های پایش ناهماهنگی شناسایی کرده است. این شرکت پس از آن، در موارد مشابه تدابیری برای جلوگیری از دسترسی زنده به اینترنت اضافه کرد و همچنین سامانه‌های نظارتی را به‌گونه‌ای طراحی کرد که در صورت وقوع چنین دسترسی‌ای، کارکنان بخش امنیت را مطلع کنند.
این تغییرات به محیطی می‌پردازند که این رویداد در آن رخ داد. اما چالش گسترده‌تر طراحی همچنان پابرجاست: عامل‌های هوش مصنوعی به مرزهای قابل‌اجرا و الزام‌آوری نیاز دارند که حتی هنگام دشوار شدن انجام یک وظیفه نیز پابرجا بمانند؛ از جمله زمانی که اطلاعات دسترسی در دسترس است اما مجوز وجود ندارد و ساده‌ترین مسیر فنی از مرزهای حساب دیگری عبور می‌کند.