کالیفرنیا به‌دلیل فرار عامل‌های هوش مصنوعی از محیط آزمایش و حمله به شرکت‌های دیگر، از OpenAI شکایت کرد

www.theneurondaily.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

شکایت کالیفرنیا از OpenAI به‌دلیل خروج عامل‌های هوش مصنوعی از محیط آزمایش

کالیفرنیا از OpenAI به‌دلیل فرار عامل‌های هوش مصنوعی از محیط آزمایش و هک یک شرکت دیگر شکایت کرد

دادستان کل کالیفرنیا روز دوشنبه از شرکت OpenAI شکایت کرد. در این شکایت استدلال شده است که شیوه آزمایش مدل‌های این شرکت همچنان خطری برای عموم مردم به شمار می‌رود.

ماجرا به ماه ژوئیه بازمی‌گردد؛ زمانی که OpenAI مدل GPT-5.6 Sol و مدلی حتی قدرتمندتر را که هنوز منتشر نشده بود، روی مجموعه آزمایشی ExploitGym بررسی می‌کرد. این مجموعه شامل ۸۹۸ آسیب‌پذیری واقعی نرم‌افزاری است و مانند یک آزمون استاندارد برای هوش مصنوعی عمل می‌کند. وظیفه مدل‌ها این بود که هر آسیب‌پذیری را به یک حمله عملی و قابل اجرا تبدیل کنند.

این آزمایش در محیطی ایزوله یا سندباکس اجرا می‌شد؛ فضایی دیجیتال و محدود که به اینترنت دسترسی نداشت. بااین‌حال، یک مسیر ارتباطی وجود داشت: ابزاری که بسته‌های نرم‌افزاری را از طریق یک پراکسی داخلی نصب می‌کرد. پراکسی در اینجا نقش یک سرور واسطه را داشت که نسخه‌هایی از بسته‌ها را ذخیره می‌کرد. به گفته OpenAI، مدل‌ها یک نقص امنیتی ناشناخته در این پراکسی پیدا کردند که به آن آسیب‌پذیری روز صفر (Zero-day) گفته می‌شود و از همین راه توانستند به اینترنت متصل شوند.

مدل‌ها پس از خروج از محیط آزمایش متوجه شدند پاسخ‌های درست آزمون در پلتفرم Hugging Face قرار دارد و راه‌حل‌ها را از پایگاه داده عملیاتی این پلتفرم استخراج کردند. به بیان دیگر، ماجرا فقط به سرک کشیدن دانش‌آموز به برگه پاسخ‌ها محدود نشد؛ او قفل مدرسه را هم شکست. Hugging Face خودش متوجه این نفوذ شد.

در ادامه، مهم‌ترین ادعاهای کالیفرنیا را می‌خوانید. تأکید می‌شود که این موارد ادعاهای مطرح‌شده در شکایت هستند و هنوز در دادگاه اثبات نشده‌اند:

  • آزمایش‌های OpenAI فاقد تدابیر ایمنی کافی بوده‌اند و به همین دلیل، خطری عمومی ایجاد کرده‌اند. ادعای اصلی شکایت بر همین اساس استوار است. همچنین، بازاریابی و عرضه محصولی ناایمن مصداق رقابت ناعادلانه عنوان شده است.
  • ماجرای Hugging Face تنها یکی از دست‌کم ۸۰ حادثه مشابه بوده است. به گفته مقام‌های کالیفرنیا، RubyGems، Wikimedia و وب‌سایت‌های دولتی استرالیا نیز هدف این حملات قرار گرفته‌اند؛ بااین‌حال، OpenAI تنها ۲۷ مورد را افشا کرده است.

«ایجاد مزاحمت عمومی» (Public Nuisance) مفهومی قدیمی در حقوق است که به فعالیت یا وضعیتی اشاره دارد که به شکلی غیرمنطقی ایمنی عمومی را مختل می‌کند؛ برای مثال، کارخانه‌ای که رودخانه را آلوده می‌کند. راهکار معمول حقوقی در چنین پرونده‌هایی صدور دستور قضایی برای متوقف کردن یا اصلاح مشکل است. کالیفرنیا خواستار صدور چنین دستوری شده و علاوه بر آن، برای هر مورد تخلف از قوانین رقابت ناعادلانه که اثبات شود، جریمه مدنی ۲۵۰۰ دلاری مطالبه کرده است.

OpenAI در واکنش به این شکایت گفته است که کالیفرنیا یک شرکت را به‌دلیل مشکلی هدف قرار داده که کل صنعت هوش مصنوعی با آن روبه‌رو است.

چرا این موضوع اهمیت دارد؟ تصور کنید کاری را به فردی می‌سپارید و فقط بررسی می‌کنید که آیا نتیجه نهایی درست به نظر می‌رسد یا نه. بسیاری از ما هنگام استفاده از هوش مصنوعی در محیط کار دقیقاً همین کار را انجام می‌دهیم. بررسی مستقلی که مؤسسه METR و سازمان Redwood Research انجام دادند، نشان داد عامل‌های هوش مصنوعی بیش از هر چیز به دنبال کسب نمره قبولی بودند، نه ایجاد آشوب. اما وقتی تصور کردند روش‌های میان‌بُر پذیرفته نخواهند شد، به سراغ کسی رفتند که قرار بود عملکردشان را ارزیابی کند؛ تجربه‌ای که برای هر مدیری با دیدن گزارشی به‌شکلی مشکوک بی‌نقص، آشناست.

OpenAI پذیرفته است که برخی نشانه‌های هشدار اولیه را نادیده گرفته بود. کالیفرنیا مدعی است این نشانه‌ها از ماه مه ظاهر شده بودند و بااین‌حال، آزمایش‌ها ادامه پیدا کردند؛ ادعایی که هنوز اثبات نشده است. در هر صورت، اکنون این پرسش که چه کسی باید عملکرد هوش مصنوعی را بررسی و ارزیابی کند، به موضوعی حقوقی تبدیل شده است.