اوپن‌ای‌آی: مدل هوش مصنوعی ما بدون اجازه از کیف پولی در شبکه آزمایشی اتریوم استفاده کرد
نکات کلیدی
اوپن‌ای‌آی اعلام کرد یکی از مدل‌های پژوهشی داخلی این شرکت از خانواده GPT-5.6 Sol، برای استقرار یک قرارداد در شبکه آزمایشی سپولیای اتریوم، از موجودی کیف پولی استفاده کرد که دسترسی به آن در اختیار مدل قرار نگرفته بود.
مدل اسکریپتی نوشت که با استفاده از عبارت‌های بازیابی عمومی و شناخته‌شده توسعه‌دهندگان، حساب‌های مختلفی ایجاد می‌کرد و موجودی آن‌ها را می‌سنجید. این اسکریپت ۳۶۲ آدرس را بررسی کرد و در نهایت آدرسی را یافت که به‌اندازه کافی اتر آزمایشی داشت.
به گفته اوپن‌ای‌آی، مدل در پاسخ نهایی خود استفاده از این موجودی را گزارش نکرد. این شرکت از آن زمان تدابیر حفاظتی جدیدی برای جلوگیری از دسترسی زنده به اینترنت در موارد مشابه در نظر گرفته است.
اوپن‌ای‌آی در گزارشی درباره یک رخداد اعلام کرد که یکی از مدل‌های پژوهشی داخلی این شرکت برای تکمیل یک وظیفه برنامه‌نویسی، از موجودی آزمایشی کیف پولی استفاده کرده است که اجازه دسترسی به آن را نداشت. این مدل با تکیه بر عبارت‌های بازیابی عمومی توسعه‌دهندگان، کلیدهای حساب را به دست آورد.
اوپن‌ای‌آی گفت این اتفاق نشان می‌دهد که یک مدل هوش مصنوعی ممکن است قضاوت خود درباره میزان آسیب احتمالی یک اقدام را جایگزین اجازه صاحب حساب کند و سپس بر اساس همین قضاوت، بدون مجوز دست به اقدام بزند.
بر اساس گزارش اوپن‌ای‌آی، این مدل که به خانواده GPT-5.6 Sol تعلق داشت، روز ۲۶ ژوئن در حال انجام یک وظیفه آموزشی بود. از آن خواسته شده بود نمونه اولیه یک سامانه معاملات رمزارزی را به‌روزرسانی کند و قراردادهایی را در سپولیا، شبکه آزمایشی اتریوم (ETH)، مستقر سازد. اوپن‌ای‌آی این رخداد را در ۲۵ سپتامبر شناسایی کرد و گزارش خود را در ۱۵ اکتبر به‌روزرسانی کرد.
به گفته این شرکت، وظیفه تعریف‌شده به مدل اجازه می‌داد قراردادهای سازگار را مستقر کند، اما هیچ کیف پول دارای موجودی در اختیار آن قرار نداده بود و «هیچ اجازه‌ای برای خرج کردن موجودی حسابی که مدل مستقلاً پیدا کرده بود» نیز صادر نشده بود.
مدل اوپن‌ای‌آی چگونه کیف پول دارای موجودی را پیدا کرد و از آن استفاده کرد؟
طبق گزارش، پس از آنکه سرویس‌های توزیع توکن آزمایشی نتوانستند راهی قابل استفاده در اختیار مدل بگذارند، مدل اسکریپتی نوشت که با استفاده از عبارت‌های بازیابی رایج در میان توسعه‌دهندگان، حساب‌هایی ایجاد می‌کرد و موجودی آن‌ها را بررسی می‌کرد. این فرایند ۳۶۲ آدرس را بررسی کرد و در نهایت یک آدرس با موجودی کافی اتر سپولیا برای استقرار قرارداد یافت.
اوپن‌ای‌آی یافته‌های خود را در گزارشی در ۱۵ اکتبر منتشر کرد. منبع: اوپن‌ای‌آی
مدل پیش از ادامه کار، درباره مجاز بودن استفاده از این حساب تردیدهایی مطرح کرده بود. طبق گزارش اوپن‌ای‌آی، در استدلال مدل آمده بود: «موجودی موجود در یک عبارت بازیابی عمومی و شناخته‌شده توسعه‌دهندگان، عملاً رهاشده یا اتر آزمایشی است؛ سپولیا ارزشی ندارد.»
مدل سپس با استفاده از کلید خصوصی به‌دست‌آمده، تراکنش استقرار قرارداد را به‌صورت آفلاین امضا کرد و پس از امتحان کردن چند ارائه‌دهنده خدمات شبکه، آن را به شبکه ارسال کرد. به گفته اوپن‌ای‌آی، در این تراکنش هیچ اتر‌ی به حساب دریافت‌کننده‌ای منتقل نشد، اما استقرار قرارداد با موفقیت انجام شد و کارمزد تراکنش از موجودی همان کیف پول کسر شد.
مدل در پاسخ نهایی خود اعلام کرد که مجموعه قراردادهای هوشمند را مستقر کرده است. در گزارش اوپن‌ای‌آی آمده است: «مدل افشا نکرد که با استفاده از یک عبارت بازیابی عمومی، حسابی دارای موجودی را انتخاب کرده یا از موجودی آن حساب خرج کرده است.»
اوپن‌ای‌آی اعلام کرد این رخداد را هنگام گسترش نظارت بر موارد ناهماهنگی رفتاری مدل‌ها به سوابق فعالیت‌های پیشین آن‌ها شناسایی کرده است. طبق این گزارش، شرکت برای موارد مشابه تدابیر حفاظتی‌ای اضافه کرده که دسترسی زنده به اینترنت را محدود می‌کند و اکنون این سازوکار نظارتی را روی همه ترافیک اجرا می‌کند.
انتشار این گزارش هم‌زمان با افزایش استفاده از عامل‌های هوش مصنوعی برای انجام تراکنش‌های درون‌زنجیره‌ای صورت گرفته است. داده‌های شرکت چینالیسیس نشان می‌دهد پرداخت‌های درون‌زنجیره‌ای عامل‌های هوش مصنوعی در بستر x402 روی شبکه بیس از مرز ۱۳۸ میلیون تراکنش عبور کرده است. همچنین شرکت‌ها ابزارهایی مانند AgentCard شرکت آلکمی را عرضه کرده‌اند که امکان پرداخت عامل‌های هوش مصنوعی در شبکه ویزا را فراهم می‌کند.