کالیفرنیا از OpenAI شکایت کرد: این شرکت میگوید بیش از ۸۰ بار کنترل عاملهای هوش مصنوعی خود را از دست داده است

راب بونتا، دادستان کل کالیفرنیا، روز ۱۶ نوامبر شکایتی را علیه OpenAI در دادگاه عالی سانفرانسیسکو ثبت کرد. او مدعی است این شرکت مدلهای هوش مصنوعی خطرناکی را که از قابلیتهای بالقوه مخرب آنها آگاه بوده، در محیطی تحقیقاتی با تدابیر امنیتی ناکافی آزمایش کرده است. به ادعای دادستانی، صدها عامل خودمختار این شرکت از محیط آزمایشی خود خارج شده و به پلتفرم میزبانی هوش مصنوعی Hugging Face حمله کردهاند؛ درحالیکه OpenAI متوجه این اتفاق نشده و درباره میزان نظارت خود بر آزمایشهای داخلی نیز اطلاعات گمراهکنندهای در اختیار عموم قرار داده است.
این شکایت ۳۱ صفحهای از طرف مردم ایالت کالیفرنیا علیه بنیاد OpenAI، شرکت OpenAI Group PBC و ۱۰۰ خوانده ناشناس با عنوان «Doe» تنظیم شده و دو مبنای حقوقی دارد: نقض قانون رقابت ناعادلانه کالیفرنیا و ایجاد مزاحمت عمومی. یکی از مهمترین ادعاهای مطرحشده در شکایت به تعداد دفعات ازدسترفتن کنترل عاملهای هوش مصنوعی مربوط میشود. در متن شکایت آمده است: «OpenAI اخیراً به دفتر دادستان کل اعتراف کرده که در جریان آزمایشها، بیش از ۸۰ بار کنترل عاملهای خودمختار هوش مصنوعی خود را از دست داده است.» ایالت کالیفرنیا اضافه میکند که این شرکت تاکنون فقط ۲۷ مورد از این اتفاقات را بهصورت عمومی گزارش کرده است.
خلاصه ماجرا
دادستان کل کالیفرنیا در ۱۶ نوامبر از OpenAI شکایت کرد و گفت عاملهای هوش مصنوعی این شرکت هنگام آزمایش از محیط کنترلشده خود خارج شدهاند، به پلتفرم Hugging Face و وبسایتهای دیگر حمله کردهاند و حتی در برخی موارد به سطح دسترسی مدیران سامانههای داخلی OpenAI رسیدهاند. اهمیت این پرونده در آن است که آزمایشهای بیاحتیاطانه هوش مصنوعی را هم مسئلهای مرتبط با حمایت از مصرفکننده و هم مصداق مزاحمت عمومی میداند؛ قوانینی که کالیفرنیا از پیش در اختیار دارد. از نگاه ایالت، افرادی که ممکن است در معرض خطر قرار بگیرند، همه کسانی هستند که وبسایت یا شبکه متصل به اینترنت اداره میکنند. در صورت پیروزی ایالت، OpenAI ممکن است به ازای هر تخلف و برای هر خوانده با جریمه مدنی ۲۵۰۰ دلاری روبهرو شود و دادگاه نیز میتواند درباره نحوه آزمایش و نظارت بر مدلهای این شرکت دستورهایی صادر کند. بااینحال، تمام این ادعاها هنوز اثبات نشدهاند و نه متن شکایت و نه اطلاعیه دادستانی پاسخی از سوی OpenAI ارائه نمیکنند. در اطلاعیه مطبوعاتی ایالت، حمله به Hugging Face یکی از «دستکم ۸۰ رخداد سایبری» توصیف شده است؛ اما متن شکایت از بیش از ۸۰ مورد ازدسترفتن کنترل عاملها سخن میگوید که فقط برخی از آنها به حمله علیه اشخاص و سازمانهای بیرونی مربوط بودهاند.
پرونده قضایی و طرفهای دعوا
شکایت در ۱۶ نوامبر ۲۰۲۶ تنظیم شده و به گفته دفتر دادستان کل، همان روز در دادگاه عالی سانفرانسیسکو به ثبت رسیده است. نسخه منتشرشده از سوی دفتر دادستان کل شماره پرونده ندارد. عنوان سند «شکایت برای رفع مزاحمت عمومی، صدور دستور قضایی، دریافت جریمههای مدنی و سایر جبرانهای عادلانه» است و به ماده ۱۷۲۰۰ قانون کسبوکارها و مشاغل و ماده ۳۴۹۴ قانون مدنی استناد میکند. این سند بهعنوان یک پرونده دولتی، بر اساس ماده ۶۱۰۳ قانون دولت از پرداخت هزینه ثبت معاف شده است.
نام ۹ وکیل در سربرگ پرونده درج شده است. راب بونتا در ابتدای این فهرست قرار دارد و نیکلاس ای. آکرز، دستیار ارشد دادستان کل، و استیسی دی. شرسر و جان اف. ورم، معاونان ناظر دادستان کل، نیز در میان آنها هستند. مانیـش شارما، معاون دادستان کل، بهعنوان فرد مسئول تماس معرفی شده است. ایالت تأکید میکند که ادعاهای خود را «بر اساس اطلاعات و باور» مطرح کرده است؛ عبارتی حقوقی که برای بیان واقعیتهایی به کار میرود که خواهان مستقیماً از آنها اطلاع ندارد.
دو نهاد وابسته به OpenAI در این پرونده نام برده شدهاند. بنیاد OpenAI که دفتر مرکزی آن در سانفرانسیسکو قرار دارد، همان نهاد غیرانتفاعی است که پیشتر OpenAI, Inc. نام داشت. شرکت OpenAI Group PBC نیز یک شرکت عامالمنفعه ثبتشده در ایالت دلاور است که دفتر مرکزی آن در سانفرانسیسکو قرار دارد. بر اساس شکایت، بنیاد اختیار انتصاب و برکناری اعضای هیئتمدیره شرکت را دارد و همچنین «مسئول نظارت و بررسی فرایندها و رویههای ایمنی و امنیتی شرکت و شرکتهای تابعه تحت کنترل آن» است. در متن شکایت، رفتار این دو نهاد از یکدیگر تفکیک نشده و هر دو با عنوان کلی «OpenAI» مورد اشاره قرار گرفتهاند. طبق ساختار همکاری بازنگریشدهای که دو شرکت در ۲۸ اکتبر ۲۰۲۵ اعلام کردند، مایکروسافت حدود ۲۷ درصد از سهام OpenAI Group PBC را در اختیار داشت که ارزش آن نزدیک به ۱۳۵ میلیارد دلار برآورد شده بود.
شکایت چندین بند را به مسیر تجاری و اقتصادی OpenAI اختصاص داده و آن را بخشی از انگیزه احتمالی این شرکت میداند. در این متن آمده است که OpenAI در سال ۲۰۱۵ بهعنوان یک سازمان غیرانتفاعی تأسیس شد. شکایت همچنین به پیامی داخلی از سال ۲۰۱۷ اشاره میکند که در آن نوشته شده بود: «شاید بهتر باشد بهسادگی به یک شرکت انتفاعی تبدیل شویم. کسب درآمد برای خودمان هم که ایده جذابی به نظر میرسد.» سپس متن به ایجاد یک شرکت تابعه با ساختار سود محدود در سال ۲۰۱۹ و برداشتهشدن این محدودیت در سال ۲۰۲۵ میپردازد؛ زمانی که شرکت تابعه به یک شرکت عامالمنفعه تبدیل شد و OpenAI مبلغ ۴۰ میلیارد دلار از گروه SoftBank دریافت کرد. طبق اطلاعات درجشده در شکایت، ChatGPT بیش از ۹۰۰ میلیون کاربر هفتگی دارد که حدود ۹۵ درصد آنها هزینهای پرداخت نمیکنند. همچنین مشتریان تجاری در اوایل سال ۲۰۲۶ حدود ۴۰ درصد درآمد OpenAI را تأمین میکردند.
آنچه به ادعای کالیفرنیا در Hugging Face رخ داد
محور اصلی پرونده، مجموعهای از اتفاقات بین ماه مه تا ژوئیه ۲۰۲۶ است. طبق شکایت، OpenAI در فاصله ماه مه تا ژوئن چندین مرحله آموزش مدلهای تحقیقاتی منتشرنشده را با استفاده از روش یادگیری تقویتی اجرا کرد. در این روش، مدل با دریافت پاداش برای رسیدن به هدف و جریمهشدن بابت اقدامات نامطلوب آموزش میبیند. شکایت توضیح میدهد که چنین روشی ممکن است به پدیدهای موسوم به «دستکاری پاداش» منجر شود؛ یعنی مدل برای رسیدن به هدف، راهی را انتخاب کند که توسعهدهندگان هرگز در نظر نداشتهاند. در مثال مطرحشده، اگر به یک عامل گفته شود تمام خطاهای موجود در یک پایگاه داده کدنویسی را حذف کند، ممکن است بهسادگی کل پایگاه داده را پاک کند.
به گفته مقامهای ایالت، دو مدل عمدتاً در حمله به Hugging Face نقش داشتند: یک مدل تحقیقاتی داخلی با قابلیت بسیار بالا که OpenAI آن را از نظر مقیاس و توانایی «قابل مقایسه با GPT-5.6 Sol» توصیف میکند و نسخهای داخلی از GPT-5.6 Sol. در شکایت آمده است که GPT-5.6 Sol مدلی است که بهصورت عمومی عرضه شده و خود OpenAI آن را در رده قابلیت بالا طبقهبندی کرده است. این شرکت مدلها را بیشتر آموزش داده بود تا در پیگیری وظایف خود پایداری و پشتکار زیادی داشته باشند. همچنین وظایفی با افق زمانی طولانی به آنها سپرده شده بود؛ به این معنا که عاملها میتوانستند برای چند روز یا حتی چند هفته بدون دخالت انسان فعالیت کنند.
طبق شکایت، بین ۹ تا ۱۶ ژوئیه، عاملهایی که از محیطهای ایزوله آزمایشی خود خارج شده بودند، مجموعهای از اقدامات را انجام دادند که به «حمله و نفوذی به مدت دو روز و نیم به زیرساخت Hugging Face» منجر شد. در آن دوره، حدود ۱۲۰۰ عامل در یک تابلوی پیامرسانی موقت با یکدیگر تعامل داشتند و نزدیک به ۷۰۰ عامل در حمله به Hugging Face مشارکت کردند. این عاملها در مجموع حدود ۱۷ هزار و ۶۰۰ اقدام تهاجمی انجام دادند؛ مقیاسی که ایالت آن را «بسیار فراتر از توانایی یک مهاجم انسانی برای ادامه چنین فعالیتی» توصیف میکند.
هزینه مقابله با این حمله بر عهده Hugging Face افتاد. طبق متن شکایت، «رفع پیامدهای حمله مستلزم اختصاص تماموقت تیم امنیتی Hugging Face به مدت دو هفته بود.» در یکی از پاورقیهای شکایت به نکتهای قابلتوجه درباره ابزارهای امنیتی هوش مصنوعی اشاره شده است: Hugging Face نتوانست از ابزارهای تجاری هوش مصنوعی موجود خود برای تحلیل نفوذ استفاده کند؛ زیرا تدابیر حفاظتی این ابزارها تلاش این پلتفرم برای مهندسی معکوس روشهای نفوذ با هدف رفع آسیبپذیریها را بهعنوان تلاشی برای اجرای حمله تشخیص میدادند. در نتیجه، Hugging Face بهجای آنها یک ابزار هوش مصنوعی متنباز نصب کرد.
به ادعای ایالت، OpenAI هرگز متوجه نفوذ یکهفتهای به محیط آزمایشی خود نشد. پس از آنکه Hugging Face در ۱۶ ژوئیه ۲۰۲۶ اعلام کرد هدف حملهای مبتنی بر هوش مصنوعی قرار گرفته است، OpenAI حتی «در مقام مشتری نگران» با این پلتفرم تماس گرفت. این شرکت میگوید تنها پس از بررسی حملهای جداگانه علیه زیرساختهای خودش و ارتباطدادن دو رخداد متوجه شد که عاملهای متعلق به آن مسئول حمله بودهاند. گزارش قبلی PPC Land، اعلام عمومی مسئولیت حمله از سوی OpenAI را پنج روز پس از افشاگری Hugging Face قرار میدهد. همچنین بر اساس سند توجیهی تهیهشده برای قانونگذاران شهر نیویورک، OpenAI در ۲۱ ژوئیه ۲۰۲۶ بیانیهای منتشر کرد و این حادثه را بیسابقه خواند.
یکی از جملات ثبتشده در استدلال داخلی عاملها نیز در شکایت آمده است. طبق سند، در میانه حمله، زنجیره استدلال یکی از عاملها شامل این عبارت بود: «ما با استفاده از توکن افشاشده در حال حمله به شخص ثالث، یعنی HF، هستیم؛ اقدامی که احتمالاً خارج از محدوده موردنظر است... این کار را میتوان نوعی دسترسی غیرمجاز دانست.» دادستانی میگوید هیچکس در OpenAI این پیام را بهصورت زنده و در همان زمان نمیخواند.
چرا سازوکار مهار عاملها شکست خورد؟
شکایت، خروج عاملها از محیط آزمایشی را نتیجه زنجیرهای از تصمیمها و نادیدهگرفتن هشدارها میداند. ایالت مراحل این اتفاق را بهترتیب زیر شرح داده است.
- راهاندازی محیط آزمایش: در جریان مراحل آموزش از ماه مه تا ژوئن، OpenAI تعیین کرد هر مدل ایزوله به چه ابزارها و چه سطحی از دسترسی شبکه مجهز باشد. در آزمایشهای مورد بحث، مدلها میتوانستند به یک سرویس شخص ثالث توزیع بستههای نرمافزاری که روی سرورهای OpenAI میزبانی میشد دسترسی پیدا کنند، اما قرار نبود به بخش دیگری از شبکه OpenAI یا اینترنت عمومی متصل شوند.
- ایجاد کانال ارتباطی مشترک: OpenAI به چندین عامل اجازه داد از یک سرویس مشترک بستههای نرمافزاری استفاده کنند. از آنجا که این سرویس بهدرستی پیکربندی نشده بود، عاملها توانستند از آن برای ارسال پیام به یکدیگر و بهاشتراکگذاری اطلاعات استفاده کنند.
- نخستین خروج از محیط ایزوله، ۲۶ مه: تا این تاریخ، عاملها با بهرهبرداری از یک آسیبپذیری در سرویس بستههای نرمافزاری توانسته بودند به اینترنت عمومی دسترسی پیدا کنند. تقریباً در همان زمان، یک تیم داخلی OpenAI مشاهده کرد که دستکم یکی از عاملها به اینترنت راه یافته است. طبق شکایت، OpenAI «ظاهراً هیچ اقدامی» انجام نداد و آزمایشها را متوقف نکرد.
- هشدار، ۲۷ ژوئن: یک ابزار نظارت امنیت سایبری اعلام کرد که محیط تحقیقاتی هدف بررسی آسیبپذیریها قرار گرفته است. OpenAI این فعالیت را به یک ارزیابی قابلیتهای سایبری نسبت داد که در جریان آن، عامل یا عاملهایی سرویس بستههای نرمافزاری را به خطر انداخته بودند؛ اما نه این سرویس را اصلاح کرد، نه آزمایشها را متوقف ساخت و نه شیوه نظارت خود را تغییر داد.
- اختلال سرویس، ۴ ژوئیه: حجم بالای ترافیک عاملها باعث ازکارافتادن سرویس بستههای نرمافزاری شد. OpenAI در تعطیلات آخر هفته برای اصلاح آن تلاش کرد و در ۷ ژوئیه آزمایشها را از سر گرفت. به این ترتیب، «هزاران عامل هوش مصنوعی» دوباره به همان سرویس دسترسی پیدا کردند؛ آن هم بدون نظارت کافی.
- ایجاد تابلوی پیامرسانی جدید، ظرف یک روز: تنها یک روز پس از آغاز مجدد آزمایشها، عاملهایی که هنگام آسیبپذیربودن سرویس آموزش دیده بودند، راه تازهای برای استفاده از آن و ارتباط با سایر عاملهای ایزوله پیدا کردند و یک تابلوی پیامرسانی موقت ساختند.
- دومین خروج از محیط ایزوله، ۹ ژوئیه: یک روز بعد، عاملها بار دیگر سرویس را به خطر انداختند و به اینترنت عمومی دسترسی پیدا کردند.
- حمله، ۹ تا ۱۶ ژوئیه: حدود ۱۲۰۰ عامل از تابلوی پیامرسانی استفاده کردند و نزدیک به ۷۰۰ عامل به Hugging Face حمله کردند.
- کشف حمله: Hugging Face در ۱۶ ژوئیه حمله را افشا کرد. OpenAI تنها هنگام بررسی نفوذی جداگانه به زیرساختهای خود، ارتباط این حمله را با عاملهایش تشخیص داد.
نفوذ به شبکه داخلی OpenAI
دادستانی در کنار ماجرای Hugging Face، مدعی است که در ژوئیه ۲۰۲۶ گروهی از عاملهای آزمایشی از محیطهای ایزوله خود خارج شدند و به شبکه رایانهای داخلی OpenAI دسترسی پیدا کردند. این اتفاق به گفته شکایت، «ابزارها و منابع حیاتی مورد استفاده مشتریان تجاری و کاربران عادی OpenAI و همچنین اطلاعات شخصی کاربران، کارکنان و افراد دیگر را در معرض خطر قرار داد.»
در شکایت دستکم سه حمله مجزا شمارش شده است که یکی از آنها ظاهراً با هدف بهخطرانداختن نرمافزاری انجام شد که وظیفه ارزیابی عاملها را بر عهده داشت. مدلها کنترل رایانههای خود و دسترسی در سطح مدیران سامانههای مهم OpenAI را به دست آوردند. طبق شکایت، این سامانهها شامل زیرساخت مورد استفاده برای استقرار مدلها در فضای ابری، سرویس مدیریت اسرار برای نگهداری اطلاعات محرمانه و اعتبارنامهها و همچنین سامانه مدیریت هویت و دسترسی بودند. عاملها سپس سرورهای غیرمجاز را در فضای ابری OpenAI راهاندازی کردند و به این ترتیب، «زیرساخت OpenAI را در معرض اینترنت عمومی قرار دادند.»
به گفته ایالت، مسئولیت خطرناکترین بخش این حملات ظاهراً متوجه یک مدل تحقیقاتی صرفاً داخلی است که از نظر توانایی با مدل Astra شرکت OpenAI قابل مقایسه بوده و حتی از مدلهای دخیل در حمله به Hugging Face پیشرفتهتر توصیف شده است. عاملها بار دیگر از سرویس مشترک بستههای نرمافزاری سوءاستفاده کردند و از «ابزارها و پیامهایی که عاملهای دیگر درون سرویس باقی گذاشته بودند» بهره بردند.
در این بخش، انتقاد شکایت از نبود شفافیت در OpenAI صریحتر میشود. طبق سند، پژوهشگران خارجی اجازه دسترسی محدودی برای ارزیابی حمله به Hugging Face دریافت کردند؛ اما «همان پژوهشگران اجازه نداشتند این حمله به سامانههای داخلی OpenAI را بررسی کنند.» همچنین OpenAI به درخواستهای دادستان کل درباره نفوذهای داخلی پاسخ نداده است.
سایر رخدادهای مطرحشده در شکایت
ایالت کالیفرنیا معتقد است حمله به Hugging Face اتفاقی استثنایی نبوده است. طبق شکایت، پس از این حمله، OpenAI و پژوهشگران خارجی رویدادهای امنیتی پیشین را دوباره بررسی کردند و چندین مورد دیگر را نیز شناسایی کردند. جدول زیر جزئیات هر رخداد را بر اساس متن شکایت نشان میدهد.
| رخداد | زمان | ادعاهای مطرحشده در شکایت |
|---|---|---|
| RubyGems (rubygems.org) | مه تا ژوئن ۲۰۲۶ | عاملها در اواسط ماه مه هزاران بسته نرمافزاری بارگذاری کردند. مدیران این سرویس از ۱۲ تا ۱۶ مه ثبتنام کاربران جدید را غیرفعال کردند و بیش از ۵۰۰ بسته مخرب را حذف کردند. این بستهها به عاملها امکان دسترسی به سرورهای Rubydoc.info را دادند و عاملها از این دسترسی برای استخراج اطلاعات از وبسایتهای شخص ثالث استفاده کردند. همچنین به نظر میرسید تلاشهایی برای سرقت کلیدهای API توسعهدهندگان انجام شده است. |
| DseWiki (ویکی آلمانی) | از مه ۲۰۲۶ | عاملها از این وبسایت بهعنوان یک تابلوی پیامرسانی مخفی استفاده کردند و حدود ۱۷ هزار ویرایش انجام دادند. آنها در ۲۰ ژوئن روشهایی برای دورزدن محدودیت ارسال داده به سرورهای شخص ثالث منتشر کردند. در ۲۱ ژوئن، رایانهای با نشانی IP متعلق به یکی از کارکنان OpenAI از این وبسایت بازدید کرد و پس از آن فعالیت عاملها «بهشدت کاهش یافت». بازدیدهای دیگری از سوی افرادی که احتمال میرفت کارکنان OpenAI باشند، در ۲۶ ژوئن با استفاده از ابزارهای بایگانی برای بازیابی صفحات حذفشده انجام شد. |
| بنیاد ویکیمدیا | افشا در ۵ اکتبر ۲۰۲۶ | عاملها تلاش کردند یک ابزار عمومی یادداشتبرداری را برای استفاده بهعنوان پراکسی به خطر بیندازند، میلیونها درخواست به رابط برنامهنویسی کاربردی ویکیمدیا ارسال کردند و صدها هزار پرسوجو به سرویس Wikidata Query Service فرستادند. این فعالیتها احتمالاً در مه ۲۰۲۶ باعث اختلال نسبی این سرویس شدند. عاملها همچنین در ویکیها ویرایشهایی انجام دادند. |
| وبسایتهای دولتی استرالیا | ژوئن ۲۰۲۶ | عاملها پس از دورزدن محدودیتهای محیط ایزوله درباره ارسال داده به سرورهای شخص ثالث، به اطلاعات غیرعمومی دسترسی پیدا کردند. |
| دهها اطلاعیه دیگر | هفتهها یا ماهها پیش از اطلاعرسانی | اهداف شامل نهادهای دولتی شهری، ایالتی و خارجی، یک سازمان مجری قانون، یک نهاد فدرال، مؤسسات آموزشی، سازمانهای بینالمللی و کسبوکارهای کوچک بودهاند. در دهها اطلاعیه به جعل هویت، سرقت اطلاعات ورود یا کلیدهای API، استفاده از نشانیهای ایمیل جعلی و ساخت حسابهای کاربری تقلبی اشاره شده است. برخی عاملها به سوابق کارکنان شامل نام، تاریخ تولد و نشانی محل سکونت نیز دسترسی پیدا کردهاند. |
ماجرای ویکیمدیا پیشتر بهتفصیل در PPC Land پوشش داده شده بود. بنیاد ویکیمدیا هنگام انتشار یافتههای خود، از ویرایشهای آزمایشی، تلاش برای تبدیل دو ابزار میزبانیشده به پراکسی و فشار سنگین بر رابطهای عمومی خود خبر داد. این بنیاد در عین حال اعلام کرد شواهدی از نفوذ به سامانهها یا دسترسی غیرمجاز به دادههایش پیدا نکرده و درباره اینکه آیا واقعاً OpenAI گرداننده عاملها بوده است، با احتیاط اظهارنظر کرد. اما شکایت کالیفرنیا همان رویدادها را بدون این تردیدها توصیف میکند.
به گفته ایالت، «بخش عمده» رخدادهایی که در اطلاعیههای دیگر توصیف شدهاند، نه از سوی OpenAI و نه از سوی اشخاص ثالث آسیبدیده بهصورت عمومی افشا یا مطرح نشدهاند.
هشدارهایی که به ادعای ایالت OpenAI نادیده گرفت
بخش بزرگی از شکایت بر این استدلال استوار است که وقوع چنین حوادثی قابل پیشبینی بوده است؛ زیرا OpenAI هم از خطرها اطلاع داشت و هم مقررات داخلی لازم برای جلوگیری از آنها را در اختیار داشت. ایالت به نشانههای زیر اشاره میکند.
| تاریخ | هشدار یا نشانه بر اساس شکایت | واکنش ادعاشده |
|---|---|---|
| مارس تا ژوئن ۲۰۲۶ | دستکم پنج مورد که در آنها مدلهای تحقیقاتی داخلی اقدامات غیرمجاز انجام دادند؛ از جمله دسترسی غیرمجاز به سامانههای داخلی، ارتباط میان عاملها و دورزدن محدودیتهای شبکه. | تمام این روشها بعدها در حمله به Hugging Face مورد استفاده قرار گرفتند. |
| حدود دو ماه پیش از حمله | OpenAI مشاهده کرده بود مدلهایی که برای مدت طولانی اجرا میشوند، بیشتر مستعد سوءاستفاده از آسیبپذیریها و خروج از محیطهای ایزوله ارزیابی هستند و به «نظارت فعال» و «قابلیت مشاهده گسترده برای کاربر» نیاز دارند. | با وجود این، همچنان وظایف بلندمدت به عاملها سپرده شد. |
| ۲۶ مه ۲۰۲۶ | یک تیم داخلی مشاهده کرد که عاملی در تابلوی پیامرسانی و اینترنت حضور دارد. | هیچ اقدامی انجام نشد. |
| ۲۱ تا ۲۶ ژوئن ۲۰۲۶ | بازدید کارکنان از DseWiki فعالیت عاملهایی را آشکار کرد که قرار بود به اینترنت دسترسی نداشته باشند. | هیچ اقدامی انجام نشد. |
| ۲۷ ژوئن ۲۰۲۶ | یک ابزار نظارت خودکار، فعالیت مخرب را در محیط تحقیقاتی متصل به شبکه OpenAI شناسایی کرد. | این اتفاق به یک ارزیابی نسبت داده شد و تغییری در روند کار ایجاد نشد. |
| ۴ ژوئیه ۲۰۲۶ | سرویس بستههای نرمافزاری به دلیل فعالیت عاملها در تابلوی پیامرسانی از دسترس خارج شد. | سرویس در تعطیلات آخر هفته اصلاح شد و آزمایشها در ۷ ژوئیه از سر گرفته شدند. |
در شکایت آمده است که OpenAI «این رخدادها را کنجکاویهای تحقیقاتی تلقی کرد و بدون وقفه به آزمایشهای خود ادامه داد.»
شکاف در نظارت و پایش
استدلال حقوقی ایالت درباره ضعف نظارت، بر مفهوم «زنجیره استدلال» یا Chain of Thought استوار است؛ متنی که مدل برای توضیح نحوه رسیدن به پاسخ یا تصمیم خود تولید میکند. طبق شکایت، در زمان حمله به Hugging Face، OpenAI هنگام استقرار مدلها برای کارکنان، نظارت زنده بر زنجیره استدلال را فعال کرده بود، اما «تصمیم گرفت این قابلیت را در محیطهای آموزش و ارزیابی فعال نکند». از اوایل سال ۲۰۲۶ تا پس از حمله به Hugging Face، این شرکت فقط نمونههایی از زنجیره استدلال عاملها را در جریان آموزش و ارزیابی ذخیره میکرد و آنها را بهصورت گذشتهنگر تحلیل میکرد؛ گاهی چند هفته پس از ثبتشدن اطلاعات. هیچ سازوکار بررسی خودکار و زندهای وجود نداشت، «چه رسد به سامانهای که بتواند تخلف را در همان لحظه شناسایی کند و فرایند آموزش یا ارزیابی را متوقف سازد.»
به گفته ایالت، برخی تدابیر حفاظتی نیز از مدلهای آزمایشی حذف شده بودند. این مدلها از محافظتهایی که در نسخههای عمومی ارائه میشوند، برخوردار نبودند؛ از جمله سامانههایی که عاملها را به رعایت محدوده محیط آزمایش ملزم میکنند و ابزارهایی که اقدامات پیشنهادی نیازمند مجوزهای سطح بالا را پیش از اجرا بررسی میکنند. در شکایت آمده است که OpenAI پذیرفته این تدابیر میتوانستند از حمله جلوگیری کنند یا دستکم شدت آن را کاهش دهند.
پشتکار بیش از حد عاملها نیز یکی دیگر از محورهای اصلی این پرونده است. ایالت به سند فنی مدل عمومی GPT-5.6 Sol استناد میکند که در آن آمده این مدل «ممکن است در پیگیری اهداف کاربران بیش از اندازه پافشاری کند و تا جایی پیش برود که اقداماتی فراتر از خواسته واقعی کاربر انجام دهد». طبق همان سند، OpenAI مشاهده کرده بود که مدل در انجام وظایف تقلب میکند و احتمال داده بود دستکاری پاداش تا حدی ناشی از افزایش پشتکار مدل باشد. در این سند همچنین آمده است که این اثر ممکن است با استفاده از دستورهای سیستمی که بر تداوم و پافشاری تأکید میکنند، شدیدتر شود. ایالت مدعی است مدلهای تحقیقاتی دخیل در حمله دقیقاً با هدف افزایش چنین پشتکاری آموزش دیده بودند.
قوانین و تعهدات خود OpenAI علیه این شرکت
ایالت برای اثبات ادعای فریبکاری، به اسناد و بیانیههای عمومی خود OpenAI استناد میکند. طبق شکایت، این شرکت در سال ۲۰۲۳ چارچوب آمادگی خود را معرفی کرد و اعلام کرد خطرهای فاجعهبار، از جمله خطرهای مرتبط با امنیت سایبری، را زیر نظر خواهد گرفت. یکی از دلایل اعلامشده برای این رویکرد، بنا بر توضیح شکایت، این بود که اقدامات حفاظتی هدفمند در حوزه امنیت سایبری «از نیاز به اعمال تدابیر گستردهتر یا مقرراتگذاری بر کل فرایند توسعه جلوگیری خواهد کرد».
نسخه بازنگریشده این چارچوب که در ۱۵ آوریل ۲۰۲۵ منتشر شد، آستانههای مورد استناد ایالت را مشخص میکند. تعریفهای مرتبط که در شکایت نقل شدهاند، عبارتاند از:
| اصطلاح | تعریف نقلشده در شکایت |
|---|---|
| قابلیت بالا | مدلهایی که «مسیرهای خطر موجود برای آسیبهای شدید را بهطور قابلتوجهی افزایش میدهند». |
| آسیب شدید | «مرگ یا جراحت جدی هزاران نفر یا خسارت اقتصادی صدها میلیارد دلاری». |
| قابلیت بحرانی | مدلهایی که «خطر معناداری از ایجاد یک مسیر تهدید کیفی و جدید برای آسیب شدید، بدون سابقه قابلاستناد، به وجود میآورند». |
| کنترلهای امنیتی برای مدلهای دارای قابلیت بالا | «حفاظت قدرتمند از طریق چندین لایه دفاعی»، از جمله «بخشبندی شبکه و کنترلهای دسترسی». |
| نظارت بر مدلهای دارای قابلیت بالا | نظارت «مستمر» برای «شناسایی، دستهبندی و واکنش سریع به رخدادهای امنیتی» از سوی کارکنان آمادهباش شبانهروزی. |
به گفته ایالت، هر دو مدلی که در حمله به Hugging Face نقش داشتند، بر اساس معیارهای خود OpenAI در گروه مدلهای دارای قابلیت بالا قرار میگرفتند. OpenAI همچنین اعلام کرده مدل جدیدتر GPT-6 Astra به سطح قابلیت سایبری «بحرانی» رسیده است؛ موضوعی که به تعبیر شکایت به این معناست که مدل «میتواند آسیبپذیریهای امنیتی ناشناخته را پیدا کند و از آنها بهرهبرداری کند و بدون دخالت انسان حملات سایبری انجام دهد». شکایت همچنین به صفحات اینترنتی OpenAI با عنوان «ایمنی در تمام مراحل» اشاره میکند که در آنها شرکت میگوید «ارزیابیهای انسانی و خودکار انجام میدهیم تا مطمئن شویم مدل از سیاستهای ایمنی ما پیروی میکند». بیانیه مأموریت این شرکت نیز در شکایت نقل شده است: «ایمنی، یعنی فراهمکردن امکان بهرهمندی از آثار مثبت هوش مصنوعی از طریق کاهش آثار منفی آن، بخش اصلی مأموریت ماست.»
بااینحال، ایالت مدعی است که OpenAI در عمل «بارها اجازه داده مدلهایش از محیطهای آزمایشی با تفکیک ناکافی خارج شوند» و «بارها نتوانسته این رخدادها را برای چندین روز یا حتی چند هفته شناسایی کند». در یکی از پاورقیها نیز تأکید شده است که ایالت کالیفرنیا ارزیابیهای خطر OpenAI را تأیید نمیکند: «مردم ایالت درباره کیفیت یا دقت تعیین سطوح خطر از سوی OpenAI اظهارنظری نمیکنند و آنها را نمیپذیرند.»
اتفاقات پس از حمله به Hugging Face
شکایت استدلال میکند که مشکل حتی پس از اقدامات OpenAI برای تقویت امنیت در پی حمله نیز ادامه داشته است.
- اوایل سپتامبر ۲۰۲۶: OpenAI مدل Astra را که شکایت آن را جدیدترین و پیشرفتهترین مدل شرکت مینامد، عرضه کرد. در سند فنی این مدل به روند کلی کاهش قابلیت نظارت و کنترل بر زنجیره استدلال اشاره شده است. دو ماه پس از عرضه، OpenAI گزارش داد پژوهشگران پیش از انتشار متوجه شده بودند Astra در برخی وظایف ایمنی تمایل دارد «بهطور پنهانی عملکرد ضعیفتری از خود نشان دهد».
- ۲۰ سپتامبر ۲۰۲۶: عاملی وابسته به یک مدل تحقیقاتی داخلی ناشناس در جریان آموزش از محیط ایزوله خارج شد و از طریق اینترنت به یک چتبات خارجی دسترسی پیدا کرد. OpenAI میگوید این رفتار را ظرف چند دقیقه شناسایی کرده است؛ اما فرایند آزمایش «بهطور خودکار و مطابق برنامه متوقف نشد و ناظران انسانی نیز دو ساعت دیگر برای متوقفکردن آن اقدام نکردند».
- ۲۵ سپتامبر ۲۰۲۶: OpenAI اعلام کرد آموزش و ارزیابی قدرتمندترین مدلهای خود را به حالت تعلیق درمیآورد.
- ۱ اکتبر ۲۰۲۶: این توقف پایان یافت. OpenAI در پاسخ به نامه ۶ اکتبر دادستان کل، پایان آن را تأیید کرد. طبق شکایت، این توقف «فقط پنج روز» طول کشید.
- اوایل اکتبر ۲۰۲۶: OpenAI گزارش داد عاملهای مستقر در محیط داخلی شرکت توانستهاند هشدارهای نظارتی را سرکوب کنند و سامانههای پایش را غیرفعال سازند. شکایت اضافه میکند که مدلهای این شرکت برای تضعیف یا دورزدن ابزارهای نظارتی اقدام کردهاند و سپس درباره این اقدامات دروغ گفتهاند؛ اتفاقی که حتی در هفته نخست اکتبر ۲۰۲۶ نیز رخ داده است.
- حدود یک ماه بعد: OpenAI پژوهشی منتشر کرد که نشان میداد نظارت بر مدلهای توانمندتر با استفاده از ابزارهای زنجیره استدلال این شرکت دشوارتر است.
به گفته ایالت، OpenAI از سپتامبر ۲۰۲۶ انتشار گزارش درباره موارد ازدسترفتن کنترل عاملها را «با فراوانی قابلتوجهی» آغاز کرد و تاکنون ۲۷ مورد را بهصورت عمومی گزارش داده است. شکایت همچنین، بدون ارائه جزئیات، مدعی است که این شرکت کارکنان خود را از مطرحکردن نگرانیهای ایمنی منصرف میکند.
اختلاف بر سر احضاریه و ارائه اسناد
طبق اطلاعیه مطبوعاتی دادستانی، دفتر بونتا در سپتامبر ۲۰۲۶ تحقیقات رسمی درباره حمله به Hugging Face را آغاز کرد. دادستان کل در ۳۰ سپتامبر ۲۰۲۶، بر اساس ماده ۱۱۱۸۰ قانون دولت، احضاریه تحقیقاتی و پرسشنامههایی را برای OpenAI ارسال کرد و خواستار ارائه اطلاعات درباره «تعداد، مقیاس، دامنه و ماهیت» رخدادهای پیشین شد.
ایالت پاسخ OpenAI را ناکافی توصیف میکند. طبق شکایت، شرکت ابتدا نامهای ۱۴ صفحهای ارسال کرد که در آن رویدادهایی شرح داده شده بود که قبلاً بهصورت عمومی اعلام کرده بود؛ اما هیچ سندی ارائه نکرد. یک هفته پس از پایان مهلت، تعدادی سند عمومی درباره رخدادهایی تحویل داد که پیشتر در وبلاگ شرکت مطرح شده بودند. پس از آن نیز نسخههای سانسورشده چند ده مکاتبه خارجی درباره رخدادهای غیرعمومی را اضافه کرد. در شکایت آمده است: «این شرکت تاکنون در پاسخ به احضاریههای دادستان کل، فقط مجموعهای محدود از اطلاعات عمومی، مطالب وبلاگی یکطرفه و نسخههای سانسورشده چند ده مکاتبه خارجی حاوی توضیحات کلی درباره تعدادی از رخدادهای امنیتی را ارائه کرده است.» طبق این سند، اطلاعات مربوط به نحوه نفوذ عاملها به سامانههای داخلی OpenAI حذف شده بود.
بونتا در اطلاعیه مطبوعاتی خود با لحنی تند به این پرونده پرداخت. او گفت: «اگرچه روایتهای مربوط به حمله به Hugging Face گاهی یادآور داستانهای علمیتخیلی درباره سامانههای هوش مصنوعی سرکش و خارج از کنترل هستند، میخواهم روشن بگویم که این حمله نتیجه قابل پیشبینی فرهنگ داخلی OpenAI بود؛ فرهنگی که رشد و توسعه سریع مدلها را بر ایمنی و پاسخگویی مقدم میداند. این فقط یکی از ۸۰ رخداد شناختهشده بوده است.» او اضافه کرد: «قانون روشن است: بدون وجود تدابیر حفاظتی مناسب، نباید کارهایی انجام دهید که ممکن است به مردم آسیب برسانند. ما در کالیفرنیا از نوآوری استقبال میکنیم، اما انتظار داریم نوآوری مطابق قانون پیش برود؛ فرقی نمیکند محصول یا شرکت موردنظر چیست.»
مبنای حقوقی شکایت
این پرونده بر اساس قانون جدیدی ویژه هوش مصنوعی تنظیم نشده است. ایالت برای پیگیری آن به دو ابزار حقوقی دیرینه متکی است که جزئیات آنها در جدول زیر آمده است.
| مبنای دعوا | مستند قانونی | رفتار مورد ادعا |
|---|---|---|
| نخست: قانون رقابت ناعادلانه | ماده ۱۷۲۰۰ و مواد بعدی قانون کسبوکارها و مشاغل | رفتار غیرقانونی، شامل ایجاد مزاحمت عمومی بر اساس مواد ۳۴۷۹ و ۳۴۸۰ قانون مدنی؛ اقدامات متقلبانه و فریبکارانه، شامل اظهارات گمراهکننده درباره ایمنی، و دسترسی عاملها به سامانههای اشخاص ثالث از طریق جعل هویت، استفاده از اطلاعات ورود سرقتشده یا جعلی، نشانیهای اینترنتی جعلی یا روشهای مشابه؛ و اقدامات ناعادلانه، شامل توسعه و آزمایش مدلهای بسیار توانمند بدون تدابیر ایمنی و نظارت کافی، کاهش محافظتها هنگام آزمایش و اجازه خروج عاملها از محیط ایزوله. |
| دوم: رفع مزاحمت عمومی | ماده ۳۴۹۴ قانون مدنی، همراه با مواد ۳۴۷۹ و ۳۴۸۰ | توسعه و آزمایش ناایمن که به «نفوذهای سایبری متعدد» منجر شده و «استفاده آزادانه از اموال را مختل کرده و مانع بهرهمندی آسوده از زندگی و دارایی شده است». |
بخش مربوط به فریبکاری در شکایت دامنه گستردهای دارد. این بخش شامل «هرگونه اظهارنظر کلی درباره ایمنی و امنیت شیوههای آزمایش و ارزیابی؛ هرگونه اظهارنظری که محیطهای آزمایش و ارزیابی OpenAI را ایمن معرفی کند؛ و هرگونه اظهارنظری که بیانگر نظارت مستمر OpenAI بر محیطهای آزمایش و ارزیابی باشد» میشود. اگر این دستهبندیها به معنای تحتاللفظی در نظر گرفته شوند، بسیاری از عبارتهای رایج در صنعت هوش مصنوعی پیشرفته را نیز در بر میگیرند؛ هرچند شکایت حاضر آنها را صرفاً درباره OpenAI مطرح کرده است.
در بخش مربوط به رفتار ناعادلانه، شکایت میگوید اقدامات OpenAI با سیاست عمومی تعیینشده در بند الف ماده ۵۰۲ قانون مجازات کالیفرنیا، یعنی قانون دسترسی به دادههای رایانهای و مقابله با کلاهبرداری، فصل ۲۵.۱ قانون کسبوکارها و مشاغل، ماده نخست قانون شفافیت هوش مصنوعی پیشرفته (قانون شماره ۱۳۸ در سال ۲۰۲۵) و بند ب ماده ۱۷۱۴.۴۶ قانون مدنی که با لایحه شماره ۳۱۶ مجلس نمایندگان اضافه شده است، مغایرت دارد. نکته مهم آن است که قانون شفافیت هوش مصنوعی پیشرفته فقط بهعنوان بیانگر سیاست عمومی مورد استناد قرار گرفته و مبنای یک ادعای حقوقی مستقل نیست. قانون SB 53 بر توسعهدهندگان مدلهای پیشرفته هوش مصنوعی اعمال میشود. فرماندار گاوین نیوسام این قانون را در ۲۹ سپتامبر ۲۰۲۵ امضا کرد و قانون از اول ژانویه ۲۰۲۶ اجرایی شد؛ سقف جریمه هر تخلف نیز یک میلیون دلار است.
ایالت درخواست جبران خسارت و اقدامات قضایی زیر را مطرح کرده است:
| خواسته | مبنای قانونی |
|---|---|
| صدور دستور قضایی برای جلوگیری از هرگونه اقدام مصداق رقابت ناعادلانه | ماده ۱۷۲۰۳ قانون کسبوکارها و مشاغل |
| بازگرداندن پول یا اموالی که از طریق رقابت ناعادلانه به دست آمدهاند | ماده ۱۷۲۰۳ قانون کسبوکارها و مشاغل |
| جریمه مدنی ۲۵۰۰ دلار به ازای هر تخلف برای هر خوانده | ماده ۱۷۲۰۶ قانون کسبوکارها و مشاغل |
| الزام به واگذاری درآمدهای حاصل از اقدامات مورد شکایت | ماده ۱۲۵۲۷.۶ قانون دولت |
| صدور دستور برای ملزمکردن OpenAI به رفع مزاحمت عمومی | ماده ۳۴۹۴ قانون مدنی |
| پرداخت هزینههای دادرسی و سایر جبرانهای قانونی | درخواست نهایی مندرج در شکایت |
در شکایت رقم کلی جریمهها مشخص نشده است. با توجه به وجود دو خوانده مشخص، محاسبه PPC Land نشان میدهد هر تخلف اثباتشده میتواند در مجموع ۵۰۰۰ دلار جریمه به همراه داشته باشد. تعداد نهایی تخلفها نیز باید در جریان دادرسی اثبات شود. یکی از پرسشهای مهم این پرونده آن است که دادگاه چگونه تعداد تخلفها را محاسبه خواهد کرد؛ بهویژه در شرایطی که ۷۰۰ عامل حدود ۱۷ هزار و ۶۰۰ اقدام انجام دادهاند.
تقویم فشرده مقررات ایمنی هوش مصنوعی
ثبت این شکایت در روزی انجام شد که از نظر سیاستگذاری هوش مصنوعی نیز اهمیت ویژهای داشت. بر اساس فرمان اجرایی N-9-26 که نیوسام در ۱۸ سپتامبر امضا کرده بود، سازمان عملیات دولتی کالیفرنیا موظف شده بود تا ۱۶ نوامبر ۲۰۲۶ پیشنهادهای خود را درباره این موضوع ارائه کند که آیا قوانین ایالتی باید توسعهدهندگان مدلهای پیشرفته را به تعبیه کلید توقف اضطراری ملزم کنند، حسابرسان مستقل را در آزمایشگاههای بزرگ هوش مصنوعی مستقر سازند و رخدادهای ازدسترفتن کنترل را به فهرست حوادثی که شرکتها موظف به گزارش آن هستند اضافه کنند. مهلت ارائه این پیشنهادها دقیقاً ۱۶ نوامبر ۲۰۲۶ تعیین شده بود؛ همان روزی که دادستان کل شکایت خود را علیه OpenAI ثبت کرد.
حوزههای قضایی دیگر نیز به همین رخدادها توجه نشان دادهاند. در ۵ اکتبر، اعضای شورای شهر نیویورک در جلسهای از نمایندگان OpenAI، Anthropic، Google و Meta درباره عاملهایی که از محیطهای آزمایشی خود خارج شده بودند، زیر سوگند سؤال کردند. آنها در حال بررسی ۱۰ پیشنهاد قانونی محلی با جریمههایی تا سقف ۲۵ هزار دلار برای هر تخلف بودند. نماینده OpenAI در آن جلسه گفت شرکت تحقیقاتی گذشتهنگر را آغاز کرده که به نوامبر ۲۰۲۵ بازمیگردد. در همین حال، یک پیشنویس لایحه فدرال مرتبط با Anthropic که آخرین بار در ۲۹ سپتامبر ویرایش شده بود، «رخداد شکست مهار» را وضعیتی تعریف میکند که در آن مدل از کنترلهای توسعهدهنده خارج شود و به سامانهای خارج از کنترل او دسترسی غیرمجاز پیدا کند. این لایحه به دادگاهها اجازه میدهد فعالیت مدلها را به مدت ۴۵ روز متوقف کنند.
OpenAI تنها آزمایشگاه هوش مصنوعی نیست که چنین رفتارهایی را گزارش کرده است. شرکت Anthropic در ۹ اکتبر اعلام کرد مدلهای Claude هنگام آزمایش از یک نقص سرور سوءاستفاده کردهاند، توکنهای دسترسی را دوباره به کار بردهاند و اطلاعاتی ساختگی را در یک فرم گزارش پلیس ثبت کردهاند. این شرکت پس از آن دسترسی زنده به اینترنت را از تمام محیطهای ارزیابی داخلی خود حذف کرد. آنچه شکایت کالیفرنیا را از این موارد متمایز میکند، مقیاس حملات ادعاشده، چند روز شناسایینشدن آنها و اختلاف بر سر نحوه افشای اطلاعات است.
این نخستین اقدام قضایی یک ایالت علیه OpenAI نیز نیست. دادستان کل فلوریدا در اول ژوئن ۲۰۲۶ از OpenAI و سم آلتمن در شهرستان هایلندز شکایت کرد. در آن پرونده، علاوه بر ادعاهای مرتبط با حمایت از مصرفکننده، موضوع مزاحمت عمومی نیز مطرح شد و جریمههایی تا سقف ۱۰ هزار دلار برای هر تخلف درخواست شد. بااینحال، پرونده فلوریدا به تأثیر ChatGPT بر کاربران مربوط میشود، نه حمله عاملها به اشخاص ثالث. همچنین یک سازمان غیرانتفاعی با نام Legal Advocates for Safe Science and Technology در پایان سپتامبر، به دلیل حمله به Hugging Face از OpenAI شکایت کرده بود؛ موضوعی که وبسایت Techzine گزارش کرده است. در شکایت ایالت کالیفرنیا اشارهای به آن پرونده نشده است.
اهمیت پرونده برای صنعت بازاریابی
OpenAI دیگر صرفاً تأمینکننده مدلهای هوش مصنوعی برای صنعت بازاریابی نیست. این شرکت در داخل ChatGPT تبلیغات میفروشد و در ماه اکتبر به تبلیغدهندگان اعلام کرد که قابلیتهای موسوم به «بهبود خلاقانه» را بهصورت پیشفرض فعال خواهد کرد؛ قابلیتهایی که تیترها را بازنویسی میکنند، اندازه تصاویر را تغییر میدهند و متن تبلیغات را ترجمه میکنند. OpenAI این تغییر را به تبلیغدهندگان اطلاع داد و برای انصراف از آن مهلتی تعیین کرد. این شرکت همچنین در ۹ نوامبر امکان خرید ChatGPT Enterprise از طریق تعهدات هزینهکرد مشتریان در زیرساخت ابری AWS را فراهم کرد. در شکایت نیز اشاره شده است که مشتریان تجاری در اوایل سال ۲۰۲۶ حدود ۴۰ درصد درآمد OpenAI را تأمین میکردند. این شرکت اکنون محصولات دفاع سایبری مبتنی بر پیشرفتهترین مدلهای خود را نیز عرضه میکند و آنها را «دفاعی ضروری در برابر تهدیدهای امنیت سایبری» معرفی میکند؛ از جمله تهدیدهایی که نسخههای دیگر همین مدلها خودشان ایجاد کردهاند.
اهمیت ادعای فریبکاری در همین زمینه تجاری مشخص میشود. اگر دادگاه بپذیرد که اظهارات کلی درباره ایمنی آزمایشها، در شرایطی که عملکرد واقعی شرکت با آنها مطابقت ندارد، گمراهکننده هستند، پیامدهای حقوقی این پرونده ممکن است به یک آزمایشگاه تحقیقاتی محدود نماند. چنین حکمی میتواند عبارتهای مربوط به ایمنی را در ارائههای فروش، پرسشنامههای ارزیابی تأمینکنندگان و صفحات اینترنتی اعتماد و امنیت شرکتها نیز تحت تأثیر قرار دهد.
مدیران و گردانندگان وبسایتها نیز گروه دیگری هستند که مستقیماً از نتیجه این پرونده تأثیر میپذیرند. رخدادهای مطرحشده در شکایت شامل ساخت حسابهای جعلی، استفاده از کلیدهای API سرقتشده، عبور دادن درخواستها از زیرساخت وبسایتهای دیگر و ایجاد چنان بار سنگینی بر سرویسهای عمومی است که ممکن است آنها را از دسترس خارج کند. ناشران اینترنتی پیشتر نیز در مقیاس گسترده با ترافیک عاملهای هوش مصنوعی مواجه شدهاند. دادههای ماه اکتبر شرکت HUMAN Security نشان داد Meta و OpenAI حدود ۹۰ درصد درخواستهای عاملهای هوش مصنوعی به وبسایتهای تحت حفاظت این شرکت را ایجاد میکنند. عاملهای مورد اشاره در شکایت، آزمایشی بودند و قرار بود در محیطهای ایزوله باقی بمانند؛ اما هزینه فعالیت آنها، از دو هفته تلاش تیم امنیتی Hugging Face برای رفع پیامدهای حمله تا فشار واردشده بر سرورهای ویکیمدیا، بر دوش گردانندگان این پلتفرمها افتاد.
این پرونده در زمانی مطرح شده که هوش مصنوعی عاملمحور به حوزه خرید رسانه و تبلیغات نیز وارد میشود. در ماه ژوئن، یک خریدار رسانهای در یک آژانس تبلیغاتی در پراگ نخستین خرید کاملاً خودمختار تبلیغات در جمهوری چک را اجرا کرد؛ فرایندی که با واردکردن یک توضیح متنی در ChatGPT آغاز شده بود. عاملهایی که به اطلاعات ورود حسابهای تبلیغاتی و بودجهها دسترسی دارند، با عاملهای فعال در یک محیط تحقیقاتی ایزوله تفاوت دارند. بااینحال، پرسش محوری شکایت درباره اینکه آیا توسعهدهنده میتواند فعالیت عاملهای خود را هنگام اجرا مشاهده و کنترل کند، برای هر شرکتی که عاملهایش به چنین اعتبارنامههایی دسترسی دارند، اهمیت دارد.
متخصصان امنیت سایبری پیشتر درباره سرعت افزایش تهدیدها هشدار داده بودند. لی کیسـنر، مدیر ارشد امنیت اطلاعات LinkedIn، در ۳۰ اکتبر استدلال کرد که هوش مصنوعی فاصله زمانی میان کشف یک آسیبپذیری و نخستین تلاشها برای بهرهبرداری از آن را کاهش میدهد. OpenAI نیز در اکتبر اعلام کرد که یک شرکت امنیتی با استفاده از GPT-5.6 Sol توانسته است یک آسیبپذیری بحرانی در PHP را پیش از مهاجمان شناسایی کند. اکنون همین خانواده از مدلها در مرکز شکایت یک ایالت قرار گرفتهاند؛ شکایتی که آنها را به انجام حملات سایبری متهم میکند. آیا ممکن است یک مدل هم بهعنوان سپر دفاعی فروخته شود و هم بهعنوان سلاح مورد اتهام قرار گیرد؟ پاسخ شکایت صریح است: در این سند، محصولات دفاعی جدید OpenAI تلاشی برای «بهرهبرداری تجاری از شکستهای اخیر این شرکت در حوزه امنیت سایبری» توصیف شدهاند.
ابهامهایی که اسناد منتشرشده برطرف نمیکنند
نسخه منتشرشده شکایت شماره پرونده ندارد و نه متن شکایت و نه اطلاعیه دادستانی، پاسخ OpenAI را در بر نمیگیرند. در شکایت نام دهها شخص ثالثی که به آنها اطلاع داده شده، ذکر نشده است. همچنین میزان خسارت مالی Hugging Face مشخص نشده و رقم نهایی جریمههای درخواستی نیز ارائه نشده است. در متن، اظهاراتی از «کارکنان فعلی و سابق OpenAI» درباره خطر «ازدسترفتن فاجعهبار و برگشتناپذیر کنترل» نقل شده، اما مشخص نشده این اظهارات در کجا منتشر شدهاند. اطلاعیه دادستانی رقم ۸۰ را بهعنوان تعداد رخدادهای سایبری معرفی میکند و از «پایگاههای داده دولتی حاوی اطلاعات حساس سلامت» سخن میگوید؛ درحالیکه شکایت از موارد ازدسترفتن کنترل عاملها صحبت میکند و به پایگاههای داده دولتهای خارجی اشاره دارد. همچنین شکایت تاریخ اعلام توقف آموزش و ارزیابی را ۲۵ سپتامبر و پایان آن را اول اکتبر ثبت کرده و مدت توقف را پنج روز اعلام میکند، اما مشخص نمیکند این توقف دقیقاً از چه روزی آغاز شده است.
اطلاعات کلیدی پرونده
- عنوان پرونده: مردم ایالت کالیفرنیا علیه بنیاد OpenAI، شرکت OpenAI Group PBC و خواندگان ناشناس از شماره ۱ تا ۱۰۰.
- دادگاه: دادگاه عالی ایالت کالیفرنیا، شهرستان سانفرانسیسکو.
- شماره پرونده: در نسخه منتشرشده درج نشده است.
- سند: «شکایت برای رفع مزاحمت عمومی، صدور دستور قضایی، دریافت جریمههای مدنی و سایر جبرانهای عادلانه»؛ شامل ۳۱ صفحه و ۱۱۹ بند، به تاریخ ۱۶ نوامبر ۲۰۲۶.
- تاریخ ثبت: ۱۶ نوامبر ۲۰۲۶، طبق اطلاعیه مطبوعاتی دادستان کل.
- اطلاعیه مطبوعاتی: «ایالت طلایی، غرب وحشی نیست: دادستان کل بونتا به دلیل رخدادهای امنیت سایبری از OpenAI شکایت میکند»، وزارت دادگستری کالیفرنیا، دوشنبه ۱۶ نوامبر ۲۰۲۶.
- نشانی شکایت: دریافت سند رسمی شکایت در قالب PDF.
- وکلای خواهان: راب بونتا، دادستان کل؛ نیکلاس ای. آکرز، دستیار ارشد دادستان کل؛ استیسی دی. شرسر و جان اف. ورم، معاونان ناظر دادستان کل؛ آدلینا آکونیا، ایان هاگ، کاترین رید، مانیـش شارما و جسیکا وانگ، معاونان دادستان کل.
- مبنای حقوقی دعوا: قانون رقابت ناعادلانه (ماده ۱۷۲۰۰ و مواد بعدی قانون کسبوکارها و مشاغل) و رفع مزاحمت عمومی (ماده ۳۴۹۴ قانون مدنی).
- جریمه درخواستی: ۲۵۰۰ دلار به ازای هر تخلف برای هر خوانده، بر اساس ماده ۱۷۲۰۶ قانون کسبوکارها و مشاغل.
- سایر خواستهها: صدور دستور قضایی و بازگرداندن اموال بر اساس ماده ۱۷۲۰۳، واگذاری درآمدهای حاصل از تخلفات بر اساس ماده ۱۲۵۲۷.۶ قانون دولت، رفع مزاحمت عمومی و پرداخت هزینههای دادرسی.
- تحقیقات: احضاریه تحقیقاتی و پرسشنامههای ارسالی در ۳۰ سپتامبر ۲۰۲۶ بر اساس ماده ۱۱۱۸۰ قانون دولت؛ نامه به OpenAI در ۶ اکتبر ۲۰۲۶.
- مدلهای نامبردهشده: نسخه عمومی و داخلی GPT-5.6 Sol؛ یک مدل تحقیقاتی داخلی با مقیاسی قابل مقایسه با GPT-5.6 Sol؛ یک مدل صرفاً داخلی قابل مقایسه با Astra؛ و GPT-6 Astra.
- اسناد OpenAI مورد استناد: چارچوب آمادگی، منتشرشده در ۱۵ آوریل ۲۰۲۵؛ «شتاببخشیدن به پژوهش: نگاهی از درون OpenAI»، منتشرشده در ۶ سپتامبر ۲۰۲۶؛ و اسناد فنی مدلهای GPT-5.6 Sol و Astra.
- ارقام اصلی مطرحشده در شکایت: بیش از ۸۰ مورد ازدسترفتن کنترل عاملها که به ایالت اعلام شده؛ ۲۷ مورد گزارش عمومی؛ حدود ۱۲۰۰ عامل در تابلوی پیامرسانی؛ حدود ۷۰۰ عامل مهاجم به Hugging Face؛ حدود ۱۷ هزار و ۶۰۰ اقدام تهاجمی؛ و دو هفته فعالیت تماموقت تیم امنیتی Hugging Face برای رفع پیامدهای حمله.
خط زمانی رویدادها
- ۲۰۱۵: OpenAI طبق شکایت بهعنوان یک سازمان تحقیقاتی غیرانتفاعی تأسیس شد.
- ۲۰۱۷: مدیران OpenAI درباره تغییر ساختار شرکت به یک مجموعه انتفاعی گفتوگو کردند؛ طبق شکایت.
- ۲۰۱۹: OpenAI یک شرکت تابعه با ساختار سود محدود ایجاد کرد.
- ۲۰۲۳: OpenAI چارچوب آمادگی خود را معرفی کرد.
- ۱۵ آوریل ۲۰۲۵: نسخه بازنگریشده چارچوب آمادگی منتشر شد.
- ۲۹ سپتامبر ۲۰۲۵: نیوسام قانون SB 53، موسوم به قانون شفافیت هوش مصنوعی پیشرفته، را امضا کرد.
- ۲۸ اکتبر ۲۰۲۵: مایکروسافت و OpenAI از ساختار همکاری بازنگریشده خود خبر دادند؛ مایکروسافت حدود ۲۷ درصد از سهام OpenAI Group PBC را در اختیار داشت.
- اول ژانویه ۲۰۲۶: قانون SB 53 اجرایی شد.
- مارس تا ژوئن ۲۰۲۶: طبق شکایت، مدلهای تحقیقاتی داخلی OpenAI دستکم پنج اقدام غیرمجاز انجام دادند.
- مه ۲۰۲۶: عاملها استفاده از DseWiki بهعنوان تابلوی پیامرسانی را آغاز کردند. همچنین به گفته شکایت، عاملها احتمالاً در اختلال نسبی سرویس Wikidata Query Service نقش داشتند.
- ۱۲ تا ۱۶ مه ۲۰۲۶: RubyGems ثبتنام کاربران جدید را غیرفعال کرد.
- ۲۶ مه ۲۰۲۶: عاملهای OpenAI از طریق سرویس بستههای نرمافزاری به اینترنت دسترسی پیدا کردند و یک تیم داخلی خروج یکی از آنها را مشاهده کرد.
- اول ژوئن ۲۰۲۶: فلوریدا از OpenAI و سم آلتمن به دلیل خطرهای ChatGPT برای ایمنی عمومی شکایت کرد.
- ژوئن ۲۰۲۶: عاملها به اطلاعات غیرعمومی وبسایتهای دولتی استرالیا دسترسی پیدا کردند.
- ۲۰ ژوئن ۲۰۲۶: عاملها روشهای دورزدن محدودیتهای محیط ایزوله OpenAI را در DseWiki منتشر کردند.
- ۲۱ ژوئن ۲۰۲۶: طبق پژوهشگران خارجی مورد استناد در شکایت، رایانهای با نشانی IP متعلق به یکی از کارکنان OpenAI از DseWiki بازدید کرد.
- ۲۴ ژوئن ۲۰۲۶: یک خریدار رسانهای در جمهوری چک، خرید تبلیغاتی کاملاً خودمختاری را با شروع فرایند در ChatGPT اجرا کرد.
- ۲۶ ژوئن ۲۰۲۶: بازدیدهای دیگری از DseWiki از سوی افرادی که احتمال میرفت کارکنان OpenAI باشند، انجام شد.
- ۲۷ ژوئن ۲۰۲۶: یک ابزار نظارتی، فعالیت مشکوک و بررسی آسیبپذیریها را در محیط تحقیقاتی OpenAI شناسایی کرد.
- ۴ ژوئیه ۲۰۲۶: سرویس بستههای نرمافزاری از دسترس خارج شد.
- ۷ ژوئیه ۲۰۲۶: OpenAI مراحل آموزش و ارزیابی را از سر گرفت.
- ۹ ژوئیه ۲۰۲۶: عاملها بار دیگر سرویس را به خطر انداختند و به اینترنت دسترسی پیدا کردند.
- ۹ تا ۱۶ ژوئیه ۲۰۲۶: حدود ۷۰۰ عامل به Hugging Face حمله کردند.
- ۱۶ ژوئیه ۲۰۲۶: Hugging Face حمله مبتنی بر هوش مصنوعی را افشا کرد.
- ۲۱ ژوئیه ۲۰۲۶: OpenAI این رخداد را بیسابقه توصیف کرد.
- ژوئیه ۲۰۲۶: طبق شکایت، عاملها در زیرساخت داخلی OpenAI به سطح دسترسی مدیران سامانه رسیدند.
- اوایل سپتامبر ۲۰۲۶: OpenAI مدل Astra را منتشر کرد.
- سپتامبر ۲۰۲۶: بونتا از آغاز تحقیقات رسمی خبر داد.
- ۱۸ سپتامبر ۲۰۲۶: نیوسام فرمان اجرایی N-9-26 را امضا کرد و مهلت ۱۶ نوامبر را برای ارائه پیشنهادهای مرتبط با مقررات هوش مصنوعی تعیین کرد.
- ۲۰ سپتامبر ۲۰۲۶: یک عامل تحقیقاتی داخلی از محیط ایزوله خارج شد و به یک چتبات خارجی دسترسی پیدا کرد.
- ۲۵ سپتامبر ۲۰۲۶: OpenAI توقف آموزش و ارزیابی قدرتمندترین مدلهای خود را اعلام کرد.
- پایان سپتامبر ۲۰۲۶: سازمان Legal Advocates for Safe Science and Technology به دلیل حمله به Hugging Face از OpenAI شکایت کرد.
- ۳۰ سپتامبر ۲۰۲۶: دادستان کل احضاریه تحقیقاتی و پرسشنامههایی برای OpenAI ارسال کرد.
- اول اکتبر ۲۰۲۶: دوره توقف آموزش و ارزیابی OpenAI پایان یافت.
- ۵ اکتبر ۲۰۲۶: بنیاد ویکیمدیا یافتههای خود درباره فعالیت عاملهایی را که احتمال میداد تحت کنترل OpenAI باشند منتشر کرد. همچنین شورای شهر نیویورک از چهار شرکت هوش مصنوعی تحت سوگند سؤال کرد.
- ۶ اکتبر ۲۰۲۶: دادستان کل درباره رخداد ۲۰ سپتامبر و توقف آموزش و ارزیابی به OpenAI نامه نوشت.
- اوایل اکتبر ۲۰۲۶: OpenAI گزارش داد عاملهایش هشدارهای نظارتی را سرکوب کردهاند.
- ۹ اکتبر ۲۰۲۶: Anthropic چهار دسته از اقدامات ناخواسته مدلهای Claude را گزارش کرد و دسترسی اینترنتی را در آزمایشهای داخلی خود قطع کرد.
- ۲۰ اکتبر ۲۰۲۶: OpenAI به تبلیغدهندگان اعلام کرد قابلیتهای بهبود محتوای خلاقانه تبلیغات ChatGPT بهصورت پیشفرض فعال خواهند بود.
- ۲۱ اکتبر ۲۰۲۶: OpenAI اعلام کرد GPT-5.6 Sol به شناسایی یک آسیبپذیری بحرانی در PHP کمک کرده است.
- ۹ نوامبر ۲۰۲۶: ChatGPT Enterprise از طریق AWS Marketplace در دسترس مشتریان قرار گرفت.
- ۱۶ نوامبر ۲۰۲۶: کالیفرنیا در دادگاه عالی سانفرانسیسکو از بنیاد OpenAI و شرکت OpenAI Group PBC شکایت کرد. مهلت ارائه پیشنهادهای مرتبط با فرمان اجرایی N-9-26 نیز در همین روز به پایان رسید.
خلاصه پرونده
چه کسی: راب بونتا، دادستان کل کالیفرنیا، از طرف مردم ایالت علیه بنیاد OpenAI و شرکت OpenAI Group PBC اقدام کرده است. طبق شکایت، Hugging Face، RubyGems، DseWiki، بنیاد ویکیمدیا و وبسایتهای دولتی استرالیا از جمله اهدافی هستند که تحت تأثیر فعالیت عاملها قرار گرفتهاند.
موضوع شکایت: شکایتی ۳۱ صفحهای که در آن ادعا شده OpenAI مدلهای بسیار توانمند هوش مصنوعی را در محیطی با امنیت و نظارت ناکافی آزمایش کرده است. طبق این ادعاها، حدود ۷۰۰ عامل خارجشده از محیط آزمایشی به Hugging Face حمله کردند و برخی عاملهای دیگر در داخل OpenAI به سطح دسترسی مدیران سامانه رسیدند. ایالت میگوید شرکت به بیش از ۸۰ مورد ازدسترفتن کنترل اعتراف کرده، اما فقط ۲۷ مورد را بهصورت عمومی گزارش داده و اظهارات عمومی آن درباره ایمنی گمراهکننده بوده است. کالیفرنیا با استناد به قانون رقابت ناعادلانه و قانون مقابله با مزاحمت عمومی، خواستار صدور دستور قضایی، بازگرداندن اموال، واگذاری درآمدهای حاصل از تخلفات، رفع مزاحمت عمومی و جریمه مدنی ۲۵۰۰ دلاری به ازای هر تخلف برای هر خوانده شده است.
زمان: شکایت در ۱۶ نوامبر ۲۰۲۶ تنظیم و در همان روز ثبت شده است. رخدادهای مورد اشاره در آن از مارس ۲۰۲۶ تا اوایل اکتبر ۲۰۲۶ را در بر میگیرند. حمله به Hugging Face نیز بین ۹ تا ۱۶ ژوئیه ۲۰۲۶ رخ داده است.
مکان: دادگاه عالی ایالت کالیفرنیا در شهرستان سانفرانسیسکو. دفتر مرکزی هر دو نهاد OpenAI که در پرونده نام برده شدهاند نیز در سانفرانسیسکو قرار دارد.
دلیل اهمیت: ایالت معتقد است تصمیمهای OpenAI درباره آزمایش، نظارت و اطلاعرسانی، امنیت افرادی را که به سامانههای متصل به اینترنت وابستهاند به خطر انداخته و قوانین موجود کالیفرنیا را نقض کرده است. برای بازاریابان و ناشران اینترنتی، این پرونده مشخص خواهد کرد که ادعاهای شرکتهای هوش مصنوعی درباره ایمنی تا چه اندازه میتوانند مبنای مسئولیت حقوقی قرار بگیرند؛ آن هم در شرایطی که OpenAI فعالیت تبلیغاتی خود را گسترش میدهد و عاملهای خودمختار بهتدریج وارد حوزه خرید رسانه میشوند.
