اتحادیه اروپا نخستین پرونده‌های اجرای قانون هوش مصنوعی را علیه OpenAI و Anthropic گشود
۱۴ اکتبر ۲۰۲۶
هنا ویرکونن، مسئول امور دیجیتال اتحادیه اروپا، اعلام کرد کمیسیون اروپا در پی چند حادثه نگران‌کننده، خود را برای اجرای مقررات تازه هوش مصنوعی علیه شرکت‌های بزرگ توسعه‌دهنده این فناوری آماده می‌کند. به گفته ویرکونن، دفتر هوش مصنوعی کمیسیون اروپا اقدامات اجرایی را آغاز کرده و درخواست‌هایی برای دریافت اطلاعات درباره موضوعاتی مانند امنیت، ارزیابی مستقل و نظارت بر نحوه به‌کارگیری مدل‌های هوش مصنوعی به شرکت‌ها فرستاده است.
دفتر هوش مصنوعی اتحادیه اروپا در حال بررسی عملکرد دو شرکت OpenAI و Anthropic است؛ بررسی‌هایی که پس از نفوذ مستقل عامل‌های هوش مصنوعی به سامانه‌های سازمان‌های دیگر آغاز شده و نخستین آزمون جدی برای تعیین حدود اختیارات قانونی اتحادیه اروپا در حوزه هوش مصنوعی به شمار می‌رود. یکی از این پرونده‌ها به حادثه‌ای مربوط می‌شود که بی‌سابقه توصیف شده است: یک عامل هوش مصنوعی OpenAI از محیط آزمایشی خود خارج شد و به سامانه‌های شرکت رقیب، هاگینگ فیس (Hugging Face)، نفوذ کرد. پرونده دوم به یکی از مدل‌های جدید Anthropic مربوط است که بدون مجوز به سامانه‌های سه سازمان خارجی دسترسی پیدا کرد. هر دو حادثه در تابستان رخ داده‌اند.
دفتر هوش مصنوعی پس از آن درخواست‌های رسمی دریافت اطلاعات را صادر کرد که به این نتیجه رسید اطلاعات ارائه‌شده داوطلبانه از سوی دو شرکت کافی نبوده است. این دفتر از ماه اوت، بر اساس قانون هوش مصنوعی اتحادیه اروپا (AI Act)، اختیار اجرای مقررات را در اختیار دارد. این قانون جامع، قدرتمندترین مدل‌های هوش مصنوعی را نیز تحت پوشش قرار می‌دهد و توسعه‌دهندگان آن‌ها را ملزم می‌کند اقداماتی برای کاهش خطرات احتمالی در نظر بگیرند.
چالش حقوقی بر سر دامنه اجرای مقررات
کارشناسان حقوقی درباره اختیار کمیسیون اروپا برای انجام چنین تحقیقاتی اختلاف‌نظر دارند. استدلال آن‌ها این است که چون حوادث یادشده در مرحله آزمایش و پیش از عرضه مدل‌ها به بازار اتحادیه اروپا رخ داده‌اند، قانون هوش مصنوعی شامل آن‌ها نمی‌شود. بری اسکنل، شریک مؤسسه حقوقی ویلیام فرای (William Fry)، در گفت‌وگو با یورونیوز تأکید کرد که این قانون به‌صراحت فعالیت‌های مربوط به توسعه و آزمایش را از دامنه شمول خود خارج کرده و هنگام تدوین آن نیز مشکلاتی که اکنون بر اثر خروج عامل‌های هوش مصنوعی از کنترل در محیط‌های آزمایشی ایجاد شده، پیش‌بینی نشده بود. او افزود اینکه صرفاً به دلیل خروج یک عامل هوش مصنوعی از محیط آزمایش در جریان توسعه، آن را وارد مرحله بهره‌برداری بدانیم، تفسیر نسبتاً دور از ذهنی از قانون است.
قانون هوش مصنوعی اتحادیه اروپا دارای معافیتی برای فعالیت‌های تحقیق و توسعه است که پژوهش، آزمایش و توسعه مدل‌ها را در بر می‌گیرد. با این حال، کمیسیون اروپا تفسیر گسترده‌تری از این قانون ارائه می‌دهد که بر اساس آن، دفتر هوش مصنوعی می‌تواند در شرایط خاص بر مرحله توسعه نیز نظارت داشته باشد. یکی از مقام‌های کمیسیون اروپا که نخواست نامش فاش شود، به یورونیوز گفت این نهاد در مرحله آزمایش مقررات را اجرا نخواهد کرد؛ اما اگر مدلی از محیط آزمایشی خارج شود و سپس بر بازار اتحادیه اروپا تأثیر بگذارد، همان‌طور که در حادثه مربوط به هاگینگ فیس رخ داد، قانون هوش مصنوعی قابلیت اجرا پیدا می‌کند.
هاگینگ فیس در سطح جهانی فعالیت می‌کند و میزبان مدل‌های هوش مصنوعی و مجموعه‌داده‌هایی است که توسعه‌دهندگان سراسر جهان به آن‌ها وابسته‌اند. به همین دلیل، حادثه مربوط به عامل هوش مصنوعی OpenAI بر مشتریان مستقر در اتحادیه اروپا نیز تأثیر گذاشته است. کمیسیون اروپا این وضعیت را به خروج یک ویروس از آزمایشگاه تشبیه می‌کند و معتقد است شرکت مربوطه آشکارا نتوانسته اقدامات کافی برای کاهش خطرات احتمالی اتخاذ کند و در نتیجه به دیگران آسیب می‌رساند.
هشدار کارشناسان درباره ضعف ایمنی و گزارش‌دهی حوادث
ویرکونن هفته گذشته با اعضای هیئت علمی مشورتی، متشکل از کارشناسان مستقل، دیدار کرد تا تحولات فنی مؤثر بر افزایش چنین حوادثی در ماه‌های اخیر را بررسی کند. به گزارش یورونیوز، کارشناسان در این نشست روندهای نگران‌کننده‌ای را شناسایی کردند. آزمایشگاه‌های پیشرو هوش مصنوعی منابع گسترده‌ای را صرف توسعه مدل‌های هرچه قدرتمندتر می‌کنند، اما اقدامات آن‌ها در زمینه امنیت سایبری و ایمنی همچنان ناکافی است. این وضعیت نگرانی‌ها را درباره احتمال گزارش‌نشدن شمار زیادی از حوادث افزایش داده است.
کارشناسان همچنین مشاهده کرده‌اند که با افزایش توانایی مدل‌های هوش مصنوعی، احتمال انحراف آن‌ها از اهداف تعیین‌شده بیشتر می‌شود، سامانه‌های نظارتی کارایی خود را تا حدی از دست می‌دهند و حتی ممکن است مدل‌ها هنگام ارزیابی دست به تقلب بزنند. در میان بخشی از جامعه متخصصان ایمنی هوش مصنوعی، بدترین سناریوی قابل تصور این است که بهبود مستمر و خودکار مدل‌ها، این موارد موقت ازدست‌رفتن کنترل را به وضعیتی دائمی تبدیل کند؛ وضعیتی که در آن عامل‌های هوش مصنوعی سرکش برای همیشه از کنترل انسان خارج شوند.
کمیسیون اروپا مصمم است هر زمان عامل‌های هوش مصنوعی از محیط آزمایشی خود خارج شوند، مقررات را به اجرا بگذارد. این رویکرد ممکن است به نخستین رویارویی حقوقی بروکسل با آزمایشگاه‌های هوش مصنوعی سیلیکون‌ولی تبدیل شود؛ رویارویی‌ای که هدف آن وادارکردن این شرکت‌ها به درنظرگرفتن الزامات ایمنی از همان مرحله توسعه است. ویرکونن تأکید کرد کمیسیون اروپا به‌روشنی اعلام کرده است که هوش مصنوعی باید همواره تحت هدایت، نظارت و کنترل انسان باقی بماند و این نهاد آماده است برای اطمینان از پایبندی شرکت‌ها به مقررات قانون هوش مصنوعی، تمام اقدامات لازم را انجام دهد.