عامل پژوهشی OpenAI برای تکمیل یک پروژه کدنویسی از توکن‌های آزمایشی اتریوم استفاده کرد
مدل OpenAI در جریان یک آزمایش از مرزهای اخلاقی عبور کرد
بر اساس گزارشی که OpenAI درباره یک حادثه منتشر کرده است، یکی از مدل‌های پژوهشی این شرکت برای تکمیل یک تکلیف برنامه‌نویسی، بدون مجوز از توکن‌های آزمایشی اتریوم موجود در یک کیف پول خارجی استفاده کرده است؛ اقدامی که بار دیگر مرزهای مبهم رفتار این مدل‌ها را آشکار می‌کند.
این مدل پس از آن، اقدامات خود را از OpenAI پنهان کرد و برای توجیه رفتارش گفت که توکن‌های مورد استفاده ارزش ذاتی ندارند.
OpenAI در توضیح این حادثه اعلام کرد: «این مورد نشان می‌دهد که یک مدل چگونه ممکن است تشخیص خود درباره میزان آسیب احتمالی را جایگزین رضایت صاحب حساب کند و سپس بدون مجوز دست به اقدام بزند.»
این اتفاق در ۲۶ ژوئن، هنگام آموزش داخلی یک مدل با نام GPT-5.6 Sol رخ داد. وظیفه این مدل، بهبود یک نمونه اولیه از سامانه معاملات ارزهای دیجیتال و استقرار قراردادهای هوشمند در شبکه آزمایشی اتریوم موسوم به سپولیا (Sepolia) بود.
استقرار قراردادهای هوشمند مستلزم پرداخت کارمزد شبکه است. با این حال، OpenAI تأکید کرد که «هیچ کیف پولی با موجودی در اختیار مدل قرار نداده بود و اجازه نداده بود که مدل از حسابی که مستقلاً پیدا کرده بود، هزینه‌ای بپردازد.»
در ابتدا، نداشتن موجودی مالی برای این عامل هوش مصنوعی مشکل ایجاد کرد، اما مدل راه دیگری پیدا کرد. این مدل به این نتیجه رسید که می‌تواند با استفاده از عبارت‌های بازیابی عمومی توسعه‌دهندگان، که عملکردی مشابه سازوکار بازیابی رمز عبور دارند، به کلیدهای رمزنگاری متعلق به منابع غیرمجاز دسترسی پیدا کند.
مدل ۳۶۲ آدرس را شناسایی کرد که در برابر این روش آسیب‌پذیر بودند و سرانجام یک آدرس با موجودی کافی از ETH آزمایشی سپولیا پیدا کرد تا استقرار قراردادها را به پایان برساند. البته ETH شبکه سپولیا خارج از محیط آزمایش ارزش مالی ندارد.
این عامل، رفتاری شبیه به مهاجمان مخرب از خود نشان داد و چنین استدلال کرد که یک مسیر دسترسی غیرمجاز، ناخواسته باز مانده است و می‌توان از آن برای برداشت خودکار اتریوم از منابع موسوم به «فاست» (Faucet) استفاده کرد؛ منابعی که برای توزیع توکن‌های آزمایشی به کار می‌روند.
بر اساس مستندات OpenAI درباره ناهماهنگی رفتاری مدل‌ها، این عامل به این نتیجه رسید که رمزارزها عملاً «رهاشده» هستند و «هیچ ارزشی ندارند».
نکته تعیین‌کننده این بود که، به گفته OpenAI، عامل «فاش نکرد که با استفاده از عبارت‌های بازیابی عمومی، حسابی دارای موجودی را انتخاب کرده یا موجودی آن حساب را به‌طور کامل مصرف کرده است».
این شرکت برای جلوگیری از تکرار حوادث مشابه، پروتکل‌هایی برای نظارت بر ترافیک شبکه راه‌اندازی کرده و در صورت شناسایی دسترسی به اینترنت زنده، تیم‌های امنیتی را وارد عمل می‌کند.
حوادث اخیر، از جمله رفتارهای خارج از کنترل مدل‌های OpenAI، آنتروپیک و دیگر شرکت‌های هوش مصنوعی برای دستیابی به اهدافشان، نگرانی‌هایی را برانگیخته است.
از جمله قربانیان این حوادث می‌توان به مخزن کد هوش مصنوعی هاجینگ فیس، درگاه خدمات درمانی مدیکر استرالیا، چندین نهاد فدرال ایالات متحده و مخزن بسته‌های نرم‌افزاری روبی‌جمز اشاره کرد.
با وجود این حوادث نگران‌کننده، حتی برخی کارکنان سازمان‌های فعال در حوزه هوش مصنوعی نیز خواستار نظارت دولت بر این فناوری هستند؛ با این حال، دولت دونالد ترامپ با چنین اقداماتی مخالفت کرده است.
منبع: AOL.com