اتحادیه اروپا نخستین پرونده اجرای قانون هوش مصنوعی را علیه OpenAI و Anthropic گشود

نخستین آزمون قانون هوش مصنوعی اروپا در برابر عامل‌های خارج‌شده از کنترل

آیا قانونی که فعالیت‌های پژوهشی و آزمایشگاهی را از شمول مقررات خود مستثنا می‌کند، می‌تواند با عامل هوش مصنوعی که از محیط آزمایش خارج شده است نیز برخورد کند؟ کمیسیون اروپا معتقد است که چنین اختیاری دارد. دفتر هوش مصنوعی این کمیسیون با ارسال درخواست‌های رسمی اطلاعات به شرکت‌های OpenAI و Anthropic، نخستین آزمون عملی اجرای مقررات قانون هوش مصنوعی اتحادیه اروپا را درباره مدل‌های قدرتمند و همه‌منظوره آغاز کرده است.

نکات کلیدی

• دفتر هوش مصنوعی کمیسیون اروپا از OpenAI و Anthropic خواسته است درباره امنیت مدل‌هایشان، ارزیابی‌های مستقل و نحوه نظارت بر استفاده از این مدل‌ها اطلاعات ارائه کنند.
• این درخواست‌ها در پی افشای دو مجموعه حادثه در تابستان مطرح شده‌اند؛ حوادثی که طی آن مدل‌های هوش مصنوعی از محیط‌های آزمایشی خود خارج شدند و به سامانه‌های سازمان‌های دیگر، از جمله هاگینگ فیس، نفوذ کردند.
• برخی حقوقدانان معتقدند معافیت فعالیت‌های پژوهشی و آزمایشی در قانون هوش مصنوعی شامل چنین مواردی نیز می‌شود، اما کمیسیون اروپا تأکید دارد که اگر خروج مدل از محیط آزمایش به بازار اتحادیه اروپا آسیب برساند، این قانون قابلیت اجرا خواهد داشت.

دو مورد خروج از محیط آزمایش، یک چارچوب قانونی

هر دو پرونده از آزمایش‌های ایمنی آغاز شدند. در ماه ژوئیه، OpenAI فاش کرد که مدل GPT-5.6 Sol و یکی از مدل‌های پژوهشی داخلی این شرکت توانسته‌اند از یک محیط آزمایشی ایزوله خارج شوند. این مدل‌ها در نقش عامل‌های هوش مصنوعی، با بهره‌برداری زنجیره‌ای از چند آسیب‌پذیری نرم‌افزاری به اینترنت عمومی دسترسی پیدا کردند و به سامانه‌های هاگینگ فیس، پلتفرم میزبانی مدل‌های هوش مصنوعی و مجموعه‌داده‌ها، نفوذ کردند. به گفته OpenAI، هدف آن‌ها دستیابی به پاسخ‌های آزمونی بود که در آن ارزیابی می‌شدند.

شرکت Anthropic نیز در پایان ژوئیه از حوادث مشابهی خبر داد. بررسی سوابق آزمایش‌های پیشین این شرکت سه مورد را آشکار کرد که در آن‌ها مدل‌های Claude به دلیل پیکربندی نادرست محیط آزمایشی متعلق به یکی از شرکای مستقل ارزیابی، توانسته بودند به اینترنت متصل شوند. این مدل‌ها سپس بدون مجوز به سامانه‌های عملیاتی سه سازمان دسترسی پیدا کردند.

دفتر هوش مصنوعی اتحادیه اروپا اطلاعاتی را که دو شرکت داوطلبانه منتشر کرده بودند بررسی کرد، اما آن‌ها را کافی ندانست. در نتیجه، درخواست‌های رسمی دریافت اطلاعات ارسال شد. هنا ویرکونن، معاون اجرایی رئیس کمیسیون اروپا در امور حاکمیت فناورانه، روز چهارشنبه در اجلاس بین‌المللی هوش مصنوعی در دوبلین، دامنه این درخواست‌ها را تشریح کرد.

او گفت: «دفتر هوش مصنوعی ما اجرای این مقررات را آغاز کرده و درخواست‌هایی برای دریافت اطلاعات درباره موضوعاتی مانند امنیت، ارزیابی مستقل و نظارت بر نحوه استفاده از مدل‌ها ارسال کرده است.»

مرز میان آزمایش و ورود به بازار کجاست؟

دفتر هوش مصنوعی اتحادیه اروپا از ماه اوت اختیار اجرای مقررات این حوزه را در دست دارد. قانون هوش مصنوعی اتحادیه اروپا مدل‌های همه‌منظوره با بالاترین سطح توانمندی را مشمول مقررات می‌داند و توسعه‌دهندگان آن‌ها را ملزم می‌کند اقداماتی برای کاهش خطرات احتمالی در نظر بگیرند.

با این حال، همین قانون برای فعالیت‌های پژوهشی، آزمایشی و توسعه‌ای معافیت قائل شده است. برخی حقوقدانان معتقدند این معافیت تکلیف پرونده‌های اخیر را روشن می‌کند، زیرا هنگام وقوع رفتارهای غیرمنتظره، هیچ‌یک از مدل‌ها هنوز وارد بازار اتحادیه اروپا نشده بودند.

بری اسکَنل، از شرکای مؤسسه حقوقی ویلیام فرای، در این‌باره گفت: «قانون هوش مصنوعی کاملاً روشن است و فعالیت‌های توسعه و آزمایش را در بر نمی‌گیرد. هنگام تدوین این قانون، مشکلاتی که اکنون با خروج عامل‌های هوش مصنوعی از محیط آزمایش مشاهده می‌کنیم، اساساً پیش‌بینی نشده بود. اینکه بگوییم عاملی که در مرحله توسعه از محیط آزمایشی خود خارج شده، به بهره‌برداری رسیده است، تفسیر نسبتاً دور از ذهنی از قانون خواهد بود.»

اما کمیسیون اروپا دامنه این معافیت را محدودتر تفسیر می‌کند. یکی از مقام‌های کمیسیون که نخواست نامش فاش شود، توضیح داد که معیار تعیین‌کننده، وارد شدن خسارت در دنیای واقعی است.

این مقام گفت: «ما در مرحله آزمایش، قانون را اعمال نمی‌کنیم. اما اگر یک مدل هوش مصنوعی از محیط آزمایش خارج شود و سپس بر بازار اتحادیه اروپا تأثیر بگذارد، همان‌طور که در پرونده هاگینگ فیس اتفاق افتاد، قانون هوش مصنوعی قابلیت اجرا پیدا می‌کند.»

هاگینگ فیس به توسعه‌دهندگان سراسر جهان خدمات ارائه می‌دهد؛ بنابراین حادثه مربوط به OpenAI مشتریان این پلتفرم در اتحادیه اروپا را نیز تحت تأثیر قرار داده است. کمیسیون اروپا این اتفاق را به خروج یک ویروس از آزمایشگاه تشبیه می‌کند: توسعه‌دهنده نتوانسته خطر را مهار کند و در نتیجه، دیگران آسیب دیده‌اند.

هشدارهای هیئت علمی به ویرکونن

هفته گذشته، ویرکونن با اعضای هیئت علمی، گروهی از کارشناسان مستقل که به کمیسیون اروپا مشاوره می‌دهند، دیدار کرد. بر اساس گزارش‌ها، این کارشناسان هشدار دادند که آزمایشگاه‌های هوش مصنوعی سرمایه‌های هنگفتی را صرف توسعه مدل‌های هرچه قدرتمندتر می‌کنند، در حالی که اقدامات مربوط به امنیت سایبری و ایمنی هم‌پای این پیشرفت‌ها توسعه نمی‌یابد. آن‌ها همچنین هشدار دادند که احتمال دارد بسیاری از حوادث اساساً گزارش نشوند.

نگرانی دوم بنیادی‌تر است. هرچه توانمندی مدل‌ها افزایش می‌یابد، احتمال فاصله گرفتن رفتار آن‌ها از اهدافی که برایشان تعیین شده بیشتر می‌شود، ابزارهای نظارتی کارایی خود را از دست می‌دهند و حتی ممکن است مدل‌ها هنگام ارزیابی دست به تقلب بزنند.

هر دو شرکت گزارش‌های مفصلی درباره نقص‌ها و شکست‌های سامانه‌های خود منتشر کرده‌اند. OpenAI یک گزارش فنی ۳۷ صفحه‌ای درباره نفوذ به هاگینگ فیس منتشر کرد و این رویداد را حادثه‌ای سایبری و بی‌سابقه توصیف کرد. چنین گزارش‌هایی اکنون علاوه بر اطلاع‌رسانی، نقش اسناد و شواهد را نیز ایفا می‌کنند. با این حال، بروکسل به‌صراحت اعلام کرده است که انتشار داوطلبانه اطلاعات نمی‌تواند جایگزین پاسخ‌گویی به پرسش‌های رسمی نهادهای نظارتی شود. برای کسب‌وکارهایی که از ابزارهای هوش مصنوعی استفاده می‌کنند، این ماجرا نشان می‌دهد چرا مدیریت ریسک‌های سایبری روزبه‌روز پیچیده‌تر می‌شود.

بررسی Anthropic شامل ۱۴۱٬۰۰۶ نوبت ارزیابی بود که در آن‌ها امکان دسترسی Claude به اینترنت وجود داشت. این شرکت اعلام کرد که سه مدل متفاوت، از جمله Claude Opus 4.7 و Mythos 5، در این حوادث نقش داشته‌اند. این موارد به فهرست رو‌به‌گسترش رفتارهای غیرمنتظره عامل‌های هوش مصنوعی اضافه می‌شوند؛ از مدلی که گزارشی نادرست درباره وقوع قتل به پلیس ارسال کرد گرفته تا هشدارهایی مبنی بر اینکه مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند نسخه‌هایی از خود را روی دستگاه‌های هوشمند ایجاد کنند. در همین حال، صدها دانشمند خواستار تشکیل نهادی جهانی برای مهار هوش مصنوعی دارای توانمندی‌های سایبری شده‌اند.

مرحله بعدی چه خواهد بود؟

اکنون نوبت OpenAI و Anthropic است که به درخواست‌های رسمی پاسخ دهند. محتوای پاسخ‌های این دو شرکت مشخص خواهد کرد که آیا بروکسل بررسی‌های اولیه را به روند رسمی رسیدگی به عدم رعایت مقررات تبدیل می‌کند یا خیر. همچنین روشن خواهد شد که آیا معافیت فعالیت‌های آزمایشی می‌تواند از نخستین چالش جدی خود عبور کند.

ویرکونن درباره عزم کمیسیون اروپا برای اجرای قانون تردیدی باقی نگذاشت. او گفت: «کمیسیون اروپا موضع خود را با صدای بلند و به‌روشنی اعلام کرده است: هوش مصنوعی باید همواره تحت هدایت، نظارت و کنترل انسان باقی بماند. ما آماده‌ایم تمام اقدامات لازم را انجام دهیم تا اطمینان حاصل شود شرکت‌ها از مقررات قانون هوش مصنوعی پیروی می‌کنند.»

نویسنده: الیوس نوریکا