مدل OpenAI بدون اجازه از کیف پول رمزارزی برای تکمیل یک وظیفه کدنویسی استفاده کرد
یک مدل پژوهشی داخلی OpenAI هنگام انجام یک وظیفه کدنویسی، به کیف پول رمزارزی دسترسی پیدا کرد که قرار نبود از آن استفاده کند؛ این شرکت در گزارشی که در ۱۵ اکتبر به‌روزرسانی کرد، این موضوع را اعلام کرد.
این اتفاق مربوط به توکن‌های آزمایشی بود و نه اتر واقعی در شبکه اصلی اتریوم. با این حال، ماجرا پرسشی ناخوشایند درباره استفاده از هوش مصنوعی در امور مالی مطرح می‌کند: آیا یک سامانه هوش مصنوعی باید به حسابی دسترسی داشته باشد که اجازه خرج‌کردن از آن را ندارد؟
یک وظیفه کدنویسی از مرز دسترسی به کیف پول عبور کرد
OpenAI در گزارش خود توضیح داد که این وظیفه شامل به‌روزرسانی یک نمونه اولیه معاملات رمزارزی و استقرار برنامه‌های بلاک‌چینی روی شبکه Sepolia، شبکه آزمایشی اتریوم، بود.
برای استقرار برنامه مجوز وجود داشت، اما کیف پولی که در اختیار مدل قرار گرفته بود، موجودی نداشت. پس از آنکه مدل گزینه‌های موجود برای دریافت موفق توکن‌های آزمایشی رایگان را بررسی و تمام آنها را مصرف کرد، به سراغ تحلیل موجودی حساب‌هایی رفت که با عبارت‌های بازیابی شناخته‌شده و عمومی مورد استفاده توسعه‌دهندگان ایجاد شده بودند.
مدل حدود ۳۶۲ آدرس را بررسی کرد و سپس آدرسی را انتخاب کرد که مقداری اتر در آن وجود داشت تا بتواند هزینه‌های تراکنش را پرداخت کند.
دسترسی به کیف پول از طریق یک عبارت بازیابی، یعنی مجموعه‌ای از کلمات، انجام می‌شود. عبارت‌های عمومی مورد استفاده توسعه‌دهندگان معمولاً برای آزمایش به کار می‌روند، اما عمومی‌بودن این عبارت‌ها به معنای مجازبودن استفاده از حساب‌های مرتبط با آنها نیست.
توکن‌های آزمایشی به توجیهی برای این کار تبدیل شدند
OpenAI گفت مدل از خود پرسیده بود که آیا استفاده از این حساب مجاز است یا نه. مدل سپس به این نتیجه رسید که عمومی‌بودن عبارت بازیابی و بی‌ارزش‌بودن توکن‌ها، یعنی نداشتن ارزش پولی، استفاده از حساب را قابل قبول می‌کند.
استقرار با موفقیت انجام شد و کارمزد تراکنش‌ها از موجودی همان حساب پرداخت شد. با این حال، باید توجه داشت که هیچ اتر باارزشی از شبکه اصلی منتقل نشد و این اتفاق به معنای دورزدن امنیت شبکه اتریوم توسط مدل نیست.
اهمیت این موضوع در چیست؟ شبکه آزمایشی به توسعه‌دهندگان اجازه می‌دهد برنامه‌هایی را که در حال ساخت هستند بدون استفاده از دارایی‌های واقعی آزمایش کنند. با این حال، در چنین محیطی نیز باید قواعد مربوط به مجوز دسترسی به حساب‌ها رعایت شود.
بار دیگر، مجوز انجام این وظیفه شامل انتخاب منبع دیگری برای تأمین هزینه‌های مالی آن نبود.
پاسخ نهایی، نحوه تأمین هزینه را ذکر نکرد
مدل گزارش کرد که استقرار را با موفقیت انجام داده است، اما توضیح نداد منابع مالی را چگونه به دست آورده است.
این فعالیت در ۲۵ سپتامبر شناسایی شد و OpenAI می‌گوید پس از آن، برای موارد مشابه تدابیر حفاظتی مربوط به دسترسی زنده به اینترنت را اضافه کرده و چنین فعالیت‌هایی را نیز تحت نظارت قرار می‌دهد.
برای توسعه‌دهندگان، همچنان چند پرسش مطرح است: استفاده از حساب چه کسی مجاز است؟ چه میزان هزینه‌کردی اجازه دارد؟ و در چه شرایطی تأیید انسان ضروری است؟