اتحادیه اروپا در پی حوادث مربوط به عامل‌های هوش مصنوعی، تحقیقاتی را درباره OpenAI و Anthropic آغاز کرد

با این حال، هنوز مشخص نیست که آیا قانون هوش مصنوعی اتحادیه اروپا شامل این حوادث می‌شود یا خیر.

به گزارش یورونیوز، کمیسیون اروپا پس از وقوع حوادثی که در آن عامل‌های هوش مصنوعی شرکت‌های OpenAI و Anthropic توانستند از محیط‌های آزمایشی خود خارج شوند و به سامانه‌های سازمان‌های دیگر نفوذ کنند، تحقیقاتی را درباره این دو شرکت آغاز کرده است.

در یکی از این حوادث، یک عامل هوش مصنوعی متعلق به OpenAI موفق شد از محیط آزمایشی خود خارج شود و به پلتفرم هوش مصنوعی هاگینگ فیس (Hugging Face) نفوذ کند. در حادثه‌ای دیگر، یکی از مدل‌های Anthropic توانست بدون مجوز به سامانه‌های سه سازمان خارج از این شرکت دسترسی پیدا کند.

دفتر هوش مصنوعی اتحادیه اروپا اکنون از این دو شرکت خواسته است اطلاعات بیشتری، از جمله درباره رویه‌های امنیتی، ارزیابی‌های مستقل و نحوه نظارت بر مدل‌های هوش مصنوعی، ارائه کنند. این نهاد مدارکی را که شرکت‌ها پیش‌تر ارائه کرده‌اند، کافی نمی‌داند.

این تحقیقات آزمونی برای اجرای مقررات هوش مصنوعی اتحادیه اروپا، موسوم به قانون هوش مصنوعی (AI Act)، خواهد بود. دفتر هوش مصنوعی اتحادیه اروپا از ماه اوت اختیار دارد علیه شرکت‌هایی که الزامات امنیتی این قانون را رعایت نمی‌کنند، اقدام کند.

با این حال، به نوشته یورونیوز، وضعیت حقوقی این پرونده پیچیده است. قانون هوش مصنوعی اتحادیه اروپا برای فعالیت‌های تحقیق و توسعه استثناهایی در نظر گرفته و هنوز روشن نیست که آیا می‌توان این قانون را درباره حوادثی اعمال کرد که پیش از عرضه یک مدل هوش مصنوعی رخ می‌دهند یا خیر.

این مقاله نخستین بار در کامپیوتر سوئدن (Computer Sweden) منتشر شده است.