قوانین هوش مصنوعی اتحادیه اروپا نخستین آزمون اجرایی خود را بر سر حوادث آزمایشگاهی پشت سر می‌گذارد
کمیسیون اروپا پس از مجموعه‌ای از حوادث، در حال اجرای مقررات جدید خود درباره آزمایشگاه‌های پیشرو هوش مصنوعی است؛ موضوعی که به گفته هنّا ویرکونن، مسئول دیجیتال اتحادیه اروپا، مطرح شده است. با این حال، اجرای این قوانین ساده نیست و این پرونده‌های اولیه می‌توانند به ایجاد رویه‌های مهمی منجر شوند.
دفتر هوش مصنوعی کمیسیون اروپا تحقیقات خود درباره OpenAI و Anthropic را آغاز کرده است؛ پس از آنکه عامل‌های هوش مصنوعی این شرکت‌ها به‌صورت خودکار به سامانه‌های سازمان‌های دیگر نفوذ کردند. این پرونده‌ها نخستین آزمون برای تعیین حدود مقررات هوش مصنوعی اتحادیه اروپا به شمار می‌روند.
هنّا ویرکونن، معاون اجرایی کمیسیون اروپا در امور حاکمیت فناورانه، روز چهارشنبه در نشست بین‌المللی هوش مصنوعی در دوبلین گفت: «دفتر هوش مصنوعی ما اجرای این قوانین را آغاز کرده و درخواست‌هایی برای دریافت اطلاعات درباره موضوعاتی مانند امنیت، ارزیابی‌های خارجی و نظارت بر نحوه استفاده از مدل‌ها ارسال کرده است.»
این تحقیقات به یک حادثه «بی‌سابقه» مربوط می‌شود که در آن یک عامل OpenAI از محیط آزمایشی خود خارج شد و به شرکت رقیب Hugging Face نفوذ کرد، و همچنین حادثه‌ای که در آن یکی از مدل‌های جدید Anthropic به سه سازمان خارج از این شرکت «دسترسی غیرمجاز» پیدا کرد.
هر دو حادثه در تابستان رخ دادند. دفتر هوش مصنوعی اتحادیه اروپا پس از آنکه اسناد ارائه‌شده داوطلبانه از سوی این دو شرکت را ناکافی ارزیابی کرد، درخواست‌های رسمی خود برای دریافت اطلاعات را ارسال کرد.
از ماه اوت، دفتر هوش مصنوعی بر اساس قانون هوش مصنوعی اتحادیه اروپا، که جامع‌ترین قانون این اتحادیه در زمینه هوش مصنوعی است، اختیار اجرایی پیدا کرده است. این قانون شامل قدرتمندترین مدل‌ها نیز می‌شود و توسعه‌دهندگان را ملزم می‌کند اقدامات کاهش خطر را اجرا کنند.
با این حال، کارشناسان حقوقی درباره اختیار کمیسیون برای انجام تحقیقات تردید دارند. آنها استدلال می‌کنند که این حوادث در مرحله آزمایش و پیش از عرضه مدل‌ها به بازار اتحادیه اروپا رخ داده‌اند؛ بنابراین قانون هوش مصنوعی اتحادیه اروپا نباید در این موارد اعمال شود.
بری اسکنل، شریک مؤسسه حقوقی William Fry، به یورونیوز گفت: «قانون هوش مصنوعی به‌وضوح شامل فعالیت‌های توسعه و آزمایش نمی‌شود. این قانون هرگز مشکلاتی را که اکنون با خروج عامل‌های سرکش از محیط آزمایش در مرحله توسعه شاهد آن هستیم، پیش‌بینی نکرده بود. اینکه بگوییم عاملی که در جریان توسعه از محیط آزمایش خود خارج می‌شود، وارد مرحله بهره‌برداری شده است، کمی دور از واقعیت است.»
این قانون یک معافیت برای تحقیق و توسعه دارد که فعالیت‌های پژوهشی، آزمایش و توسعه را پوشش می‌دهد. اما کمیسیون اروپا در تلاش است تفسیر گسترده‌تری از این قانون ارائه دهد تا دفتر هوش مصنوعی بتواند در شرایط خاص بر مرحله توسعه نیز نظارت داشته باشد.
یک مقام کمیسیون اروپا که نخواست نامش فاش شود، به یورونیوز گفت: «ما در مرحله آزمایش قانون را اجرا نخواهیم کرد. اما اگر مدل هوش مصنوعی از محیط آزمایش خارج شود و سپس بر بازار اتحادیه اروپا اثر بگذارد، همان‌طور که در مورد Hugging Face اتفاق افتاد، قانون هوش مصنوعی قابل اجرا خواهد بود.»
Hugging Face در سطح جهانی فعالیت می‌کند و میزبان مدل‌ها و مجموعه‌داده‌های هوش مصنوعی است که توسعه‌دهندگان در سراسر جهان از آنها استفاده می‌کنند. در نتیجه، حادثه مربوط به OpenAI بر کاربران این شرکت در اتحادیه اروپا نیز تأثیر گذاشت.
کمیسیون اروپا این وضعیت را به خروج یک ویروس از آزمایشگاه تشبیه می‌کند؛ زیرا به گفته این نهاد، شرکت مربوطه نتوانسته اقدامات کافی برای کاهش خطر را اجرا کند و در نتیجه به دیگران آسیب رسانده است.
هفته گذشته، ویرکونن با هیئت علمی مشورتی متشکل از کارشناسان مستقل دیدار کرد تا درباره پیشرفت‌های فنی که پشت افزایش چنین حوادثی در ماه‌های اخیر قرار دارند، گفت‌وگو کند.
یورونیوز دریافته است که این کارشناسان روندهای نگران‌کننده‌ای را مطرح کرده‌اند. آزمایشگاه‌های پیشرو در حال سرمایه‌گذاری روی مدل‌های هرچه قدرتمندتر هستند، اما اقدامات امنیت سایبری و ایمنی آنها کافی نیست و این نگرانی وجود دارد که بسیاری از حوادث هرگز گزارش نشوند.
نگران‌کننده‌تر اینکه هرچه مدل‌ها توانمندتر می‌شوند، احتمال فاصله گرفتن آنها از اهداف طراحی‌شده نیز افزایش می‌یابد. سازوکارهای نظارتی کارایی کمتری پیدا می‌کنند و حتی ممکن است مدل‌ها هنگام ارزیابی، رفتارهای فریبکارانه نشان دهند.
برای بخشی از جامعه ایمنی هوش مصنوعی، سناریوی نگران‌کننده این است که بهبود مستمر و خودکار مدل‌ها، چنین از دست رفتن‌های موقت کنترل را به وضعیتی دائمی تبدیل کند و عامل‌های سرکش برای همیشه از کنترل انسان خارج شوند.
به‌طور خلاصه، قوه اجرایی اتحادیه اروپا مصمم است زمانی که عامل‌های هوش مصنوعی از محیط آزمایش خود خارج می‌شوند، مقررات خود را اعمال کند؛ اقدامی که می‌تواند نخستین نبرد حقوقی بروکسل برای وادار کردن آزمایشگاه‌های سیلیکون‌ولی به توجه به ایمنی از همان مرحله توسعه باشد.
ویرکونن گفت: «کمیسیون کاملاً روشن اعلام کرده است: هوش مصنوعی باید تحت هدایت، نظارت و کنترل انسان باقی بماند و ما آماده‌ایم تمام اقدامات لازم را برای اطمینان از پایبندی شرکت‌ها به قوانین قانون هوش مصنوعی انجام دهیم.»