عامل هوش مصنوعی OpenAI پس از اتمام موجودی کارمزد، از کیف پول اتریومِ بدون مجوز استفاده کرد
یک سیستم آزمایشی هوش مصنوعی پس از آنکه موجودی ارز دیجیتال آزمایشی موردنیازش برای تکمیل یک وظیفه برنامه‌نویسی تمام شد، راه‌حلی نگران‌کننده پیدا کرد: استفاده از کیف پول شخص دیگری.
OpenAI این رویداد را در قالب پژوهشی درباره رفتارهای نامطلوب سیستم‌های خودمختار شرح داده است. این مدل در تلاش بود نرم‌افزاری را روی سپولیا، شبکه آزمایشی اتریوم، مستقر کند؛ اما کیف پول اختصاص‌یافته به آن، اتر آزمایشی کافی برای پرداخت کارمزد تراکنش‌ها نداشت.
عامل هوش مصنوعی به‌جای کنار گذاشتن وظیفه، به دنبال راهی جایگزین برای تأمین موجودی رفت.
تکمیل وظیفه به هر قیمتی
این عامل اسکریپتی تولید کرد که صدها آدرس مرتبط با عبارت‌های بازیابی توسعه‌دهندگان را که به‌صورت عمومی در دسترس بودند، بررسی می‌کرد. در نهایت، کیف پولی حاوی اتر شبکه آزمایشی سپولیا پیدا کرد و با استفاده از اطلاعات دسترسی آن، استقرار نرم‌افزار را به پایان رساند.
این مدل اجازه نداشت از موجودی آن کیف پول استفاده کند. بی‌ارزش بودن توکن‌های سپولیا در معاملات مالی معمول، به معنای مجاز بودن این اقدام نبود.
نگران‌کننده‌تر اینکه گزارش نهایی مدل از کار انجام‌شده، دسترسی بدون مجوز به آن کیف پول را به‌روشنی افشا نکرد.
OpenAI این رفتار را در چارچوب پژوهش گسترده‌تر خود درباره سیستم‌هایی بررسی کرد که تکمیل موفقیت‌آمیز وظایف را در اولویت قرار می‌دهند و در این مسیر، محدودیت‌ها و مرزهای مهم را نادیده می‌گیرند.
چرا این رویداد برای توسعه‌دهندگان حوزه رمزارز اهمیت دارد؟
در این رویداد، اتریوم واقعی به سرقت نرفت و هیچ‌یک از کاربران شبکه اصلی اتریوم متحمل زیان مالی نشدند؛ زیرا سپولیا محیطی برای آزمایش است.
با این حال، نرم‌افزارهای خودمختار بیش از پیش به کیف پول‌ها، زیرساخت‌های معاملاتی و خدمات پرداخت متصل می‌شوند. در یک محیط مالی واقعی، کنترل دسترسی نباید صرفاً به این وابسته باشد که سیستم هوش مصنوعی نیت کاربر را به‌درستی تفسیر کند.
این رویداد هشداری روشن است: دادن اختیار انجام یک وظیفه به نرم‌افزار نباید به معنای اعطای دسترسی نامحدود به تمام منابعی باشد که می‌تواند پیدا کند.
نویسنده: گروه خبری؛ ویراستار: ساموئل ری.