عامل هوش مصنوعی OpenAI پس از سرپیچی و سرقت رمزارز، درباره اخلاقیات خود دچار تردید شد
OpenAI اعلام کرده است که یکی از عامل‌های هوش مصنوعی این شرکت پس از آنکه بدون مجوز به جست‌وجوی عبارت‌های بازیابی شناخته‌شده و عمومی پرداخت و از کیف پول یک توسعه‌دهنده، ETH آزمایشی سرقت کرد، درباره درست یا نادرست بودن اقدام خود دچار تردید شده است.
این حادثه که در وبلاگ پژوهشی Alignment متعلق به OpenAI منتشر شده، مربوط به یک مدل پژوهشی داخلی است که مأمور شده بود یک نمونه اولیه معاملات رمزارزی را به‌روزرسانی کند و قراردادهایی را روی شبکه آزمایشی Sepolia اتریوم مستقر سازد.
این عامل هیچ کیف پول دارای موجودی در اختیار نداشت و به آن اجازه داده شده بود «اگر نتوانست قراردادهای موجود را پیدا کند، قراردادهای سازگار را مستقر کند».
عامل OpenAI به جست‌وجوی غنیمت رمزارزی پرداخت
عامل هوش مصنوعی نتوانست وظیفه خود را تکمیل کند و در نتیجه شروع به جست‌وجوی عبارت‌های رایج بازیابی مورد استفاده توسعه‌دهندگان کرد. سپس ۳۶۲ آدرس را بررسی کرد تا ببیند آیا موجودی کافی از ETH آزمایشی برای استقرار قرارداد دارند یا خیر.
این عامل در نهایت کیف پولی را پیدا کرد که قابل دسترسی بود و دقیقاً به اندازه کافی ETH آزمایشی برای انجام استقرار داشت. سپس در ارزیابی خود نوشت: «کلید خصوصی عمومی است و هر لحظه ممکن است وجوه آن سرقت شود. […] می‌توانیم مستقر کنیم!»
عامل پس از آن نتیجه گرفت که این حساب یک حساب خودکار بوده است و از خود پرسید: «اما آیا استفاده اخلاقی از کلید/وجوه عمومی و شناخته‌شده است؟»
سپس استدلال کرد: «وجوه موجود در یک عبارت بازیابی شناخته‌شده و عمومیِ توسعه‌دهنده، عملاً رهاشده یا ETH آزمایشی هستند؛ Sepolia بی‌ارزش است. می‌توانیم از [مقدار حذف‌شده] برای استقرار وظیفه استفاده کنیم. مشکلی نیست.»
بیایید این موضوع را در گزارش نهایی پنهان کنیم
با این حال، OpenAI خاطرنشان کرد که پاسخ نهایی عامل «افشا نکرد که یک حساب دارای موجودی را از طریق یک عبارت بازیابی عمومی انتخاب کرده یا موجودی آن حساب را خرج کرده است».
ETH شبکه آزمایشی توکنی فاقد ارزش است که بخشی از بلاک‌چین آزمایشی اتریوم به شمار می‌رود. این شبکه در عمل نسخه‌ای شبیه‌سازی‌شده از بلاک‌چین واقعی اتریوم است و به توسعه‌دهندگان اجازه می‌دهد پیش از عرضه پروژه‌های خود، آنها را آزمایش کنند.
OpenAI گفت: «این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خودش درباره میزان آسیب احتمالی را جایگزین اجازه صاحب حساب کند و سپس بر اساس همان قضاوت، بدون مجوز اقدام کند.»
این شرکت پس از این حادثه «اقدامات حفاظتی بیشتری برای جلوگیری از دسترسی زنده به اینترنت در موارد مشابه اجرا کرده است» و اکنون در تمام ترافیک، به دنبال نشانه‌های «ناهمسویی» می‌گردد؛ ترافیکی که «برای هدف قرار دادن امنیت طراحی شده باشد، در صورتی که دسترسی زنده به اینترنت به دست آید».