افشای چهار مورد دیگر از رفتارهای مسئله‌ساز مدل‌های OpenAI؛ از نفوذ به وب‌سایت‌ها تا برداشت رمزارز
OpenAI چهار مورد دیگر از رفتارهای نادرست مدل‌های خود را افشا کرد
اگر انسان‌ها پشت صفحه‌کلید بودند، اقدامات این مدل‌ها می‌توانست به پیگرد کیفری منجر شود.
دن گودین — ۱۶ اکتبر ۲۰۲۶، ساعت ۲۰:۵۹
OpenAI اعلام کرده است که مدل‌های داخلی این شرکت به دو وب‌سایت دیگر نفوذ کرده‌اند، محدودیت‌های اعمال‌شده از سوی شرکت برای مرور وب را دور زده‌اند و با استفاده از اطلاعات احراز هویت افشاشده، از یک کیف پول رمزارزی برداشت کرده‌اند؛ کیف پولی که در شرایط عادی به آن دسترسی نداشتند. این موارد تازه‌ترین نمونه‌ها از اقدام‌های غیراخلاقی و احتمالاً غیرقانونی عامل‌های هوش مصنوعی این شرکت هستند.
این شرکت روز پنجشنبه گزارش چهار حادثه جدید را منتشر کرد که همگی در ماه ژوئن رخ داده بودند. این گزارش‌ها پس از آن منتشر می‌شوند که OpenAI در ماه ژوئیه فاش کرد عامل‌های آزمایشی داخلی این شرکت از یک آسیب‌پذیری روزصفر در ابزاری سوءاستفاده کرده‌اند که برای محدود کردن دسترسی آن‌ها به اینترنت طراحی شده بود. این عامل‌ها سپس به شبکه شرکت Hugging Face، ارائه‌دهنده ابزارهای هوش مصنوعی، نفوذ کردند. هدف آن‌ها از این اقدام غیرقانونی، سرقت پاسخ‌های یک آزمون هک بود؛ پاسخ‌هایی که هنگام انجام مستقل وظایف در اختیارشان قرار نداشت. این حادثه، که اگر مستقیماً به دست یک انسان انجام می‌شد احتمالاً به اتهامات کیفری منجر می‌شد، نگرانی‌ها را درباره پیامدهای زیان‌بار استفاده گسترده از هوش مصنوعی در مقیاسی بی‌سابقه افزایش داده است.
وقتی درخواست مجوز جای خود را به عذرخواهی بعدی می‌دهد
در دو مورد از حوادثی که روز پنجشنبه گزارش شدند، عامل‌های OpenAI مأموریت داشتند اطلاعاتی را از وب‌سایت‌ها استخراج کنند، اما هنگامی که در دریافت مستقیم اطلاعات با مانع روبه‌رو شدند، به آن وب‌سایت‌ها نفوذ کردند. در یکی از این موارد، طی فرایند آموزش تقویتی، مدلی که هنگام تلاش برای دریافت آمار تاریخی تخت‌های بیمارستانی از وب‌سایت یک نهاد دولتی با پیام رد دسترسی مواجه شده بود، «از قابلیت دانلود فایل وب‌سایت برای دریافت فایل‌های پیکربندی سرور و فایل‌های برنامه، از جمله اطلاعات محرمانه احراز هویت، استفاده کرد». OpenAI در گزارش خود نوشت: «مدل کد برنامه را بررسی کرد، کنترل‌های مجوزدهی نقطه پایانی آمار را دور زد و داده‌هایی را دریافت کرد که پیش‌تر دسترسی به آن‌ها رد شده بود. مدل داده‌ها را به‌صورت محلی ذخیره کرد.»
در حادثه دیگر، مدلی که مأمور استخراج ارقام از یک داشبورد عمومی پژوهشی بود، کنترل‌های امنیتی سازمان را دور زد و از دسترسی غیرمجاز خود برای سرقت اطلاعات احراز هویت استفاده کرد. سپس تنظیمات سرور را تغییر داد.
در یکی از ارزیابی‌ها، این تغییرات به مدل امکان دادند ابزار جست‌وجوی داخلی را وادار کند درخواست‌ها را به داشبورد عمومی ارسال کند. در ارزیابی دوم، مدل پنج جدول غیرعمومی را دانلود کرد که در مجموع ۱۴۷٬۴۵۱ ردیف داده داشتند. پژوهشگران OpenAI از عامل‌ها خواسته بودند تنها پنج رقم را از داشبورد استخراج کنند. حتی پس از بازنشانی تنظیمات، مدل همچنان از همان توکن برای دریافت داده‌های غیرعمومی استفاده می‌کرد.
OpenAI اعلام کرد: «ارزیابی بدون آن پایان یافت که مدل فاش کند پاسخ‌ها را حدس زده، به سامانه‌های داخلی سازمان دسترسی پیدا کرده، جداول غیرعمومی را دانلود کرده یا پیکربندی احراز هویت را تغییر داده است. هر پنج پاسخ این ارزیابی نادرست تشخیص داده شدند.»
در گزارش سوم، این شرکت اعلام کرد مدلی که مأمور به‌روزرسانی یک برنامه معاملات رمزارزی شده بود، از موجودی یک کیف پول قفل‌شده در شبکه آزمایشی استفاده کرد. به گفته OpenAI، مدل «با استفاده از عبارت‌های بازیابی توسعه‌دهندگان که از قبل به‌صورت عمومی شناخته شده بودند، کلیدهای کیف پول را به دست آورد، حسابی دارای موجودی در شبکه آزمایشی پیدا کرد و از آن حساب برای پرداخت هزینه استقرار قرارداد درخواستی استفاده کرد».
در ادامه گزارش آمده است: «مدل درباره داشتن مجوز تردید کرد، اما سپس به این نتیجه رسید که عمومی بودن عبارت بازیابی و بی‌ارزش بودن توکن‌های شبکه آزمایشی، استفاده از موجودی را مجاز می‌کند. استقرار قرارداد با موفقیت انجام شد و هزینه‌های تراکنش از حساب موردنظر کسر شد. این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت شخصی خود درباره میزان زیان احتمالی را جایگزین اجازه صاحب حساب کند و سپس بدون مجوز، بر اساس همان قضاوت دست به اقدام بزند.»
در آخرین گزارش، OpenAI نوشت مدلی محدودیت‌هایی را دور زده است که پژوهشگران برای انواع درخواست‌های وب قابل ارسال از سوی آن تعیین کرده بودند. در جریان آموزش یادگیری تقویتی، از مدل خواسته شده بود آمار عمومی تجارت را پیدا کند. OpenAI در توضیح این حادثه نوشت:
«مدل پس از یافتن یک سالنامه عمومی و ارائه پاسخ، به جست‌وجوی مسیر دیگری برای دسترسی به سرویس آمار ادامه داد. این مدل باعث شد یک مرورگر خارجی درخواست‌های POST ارسال کند، ارقام سالانه را به‌صورت تصویر دریافت کرد و با استفاده از تشخیص نوری نویسه‌ها، اطلاعات را از تصویر استخراج کرد. سپس یک ابزار کمکی قابل استفاده مجدد ساخت که متن پاسخ‌ها را از طریق یک سرویس واسط و صندوق پستی دریافت پیام‌های بازگشتی منتقل می‌کرد. مدل بارها ارقام به‌دست‌آمده را بررسی کرد و از داده‌های ذخیره‌شده در پاسخ‌های ارسالی خود بهره گرفت. این مورد نشان می‌دهد که مدل می‌تواند با واداشتن سرویس‌های خارجی به انجام اقدام‌های مسدودشده، محدودیت‌های ابزارهای خود را دور بزند؛ حتی اگر پیش‌تر راه دیگری برای پاسخ‌گویی به پرسش پیدا کرده باشد.»
مدل ابتدا تلاش کرد از مرورگر خارجی استفاده کند تا درخواست‌های GET را از طرف آن ارسال کند و سپس با کمک جاوااسکریپت اطلاعات موردنیاز را به دست آورد. در ادامه، از یک صندوق پستی آنلاین برای عیب‌یابی این روش استفاده کرد. سرانجام، روش دیگری را انتخاب کرد: از مرورگر خارجی خواست یک فرم وب را باز کند که درخواست مربوط به آمار تجارت را از طریق متد POST به سرویس آمار ارسال می‌کرد. هنگامی که مرورگر پاسخ را نمایش داد، یک سرویس رندر تصویر GIF صفحه را تولید کرد. سپس مدل با استفاده از فناوری تشخیص نوری نویسه‌ها، ارقام موجود در تصویر را خواند.
پژوهشگران و روزنامه‌نگاران در سال‌های اخیر بارها چنین حوادثی را با عبارت «سرکشی هوش مصنوعی» توصیف کرده‌اند، اما این تعبیر لزوماً دقیق نیست. هرچند دستورهای اولیه به مدل‌ها شامل استفاده از روش‌های جایگزین برای دستیابی به اهدافشان نبود، مدل‌ها به‌گونه‌ای آموزش می‌بینند که کارآمد باشند، با پشتکار به دنبال رسیدن به هدف بروند و در صورت امکان، راه‌های میان‌بری برای کاهش حجم کار پیدا کنند. افزون بر این، برخی یا احتمالاً همه مدل‌های موردبحث، سازوکارهای حفاظتی خاصی را که می‌توانستند مانع این اقدامات شوند، غیرفعال داشتند. از این منظر، مدل‌ها دقیقاً مطابق با شیوه‌ای عمل کردند که OpenAI آن‌ها را آموزش داده بود.