وزیر هوش مصنوعی بریتانیا جزئیات بازگشت توافق آزمایش مدل‌های پیشرفته هوش مصنوعی را تشریح کرد
مؤسسه امنیت هوش مصنوعی بریتانیا پس از لغو توقف ۱۷ روزه کاخ سفید، دوباره به مدل‌های جدید پیشرفته شرکت‌های OpenAI، Anthropic و Google DeepMind پیش از عرضه عمومی دسترسی خواهد داشت.
روزنامه تلگراف در ۱۱ اکتبر از لغو این محدودیت خبر داد و رویترز نیز گزارش کرد که مؤسسه امنیت هوش مصنوعی بریتانیا بار دیگر می‌تواند مدل‌های پیش از عرضه OpenAI، Anthropic و Google DeepMind را دریافت کند. این توقف از ۲۴ سپتامبر آغاز شده بود؛ زمانی که دفتر مدیر ملی سایبری کاخ سفید از OpenAI و Anthropic خواست تا پیش از بررسی مقام‌های آمریکایی، مدل‌های جدید خود را در اختیار آزمایش‌کنندگان بریتانیایی قرار ندهند. بر اساس این گزارش‌ها، لغو این تصمیم پس از رایزنی‌های کانیسکا نارایان و دیگر مقام‌های بریتانیایی انجام شد.
این جزئیاتی است که در گزارش قبلی StartupFortune درباره لغو محدودیت وجود نداشت. دسترسی بازگردانده‌شده ظاهراً هر سه آزمایشگاه را شامل می‌شود، نه یک استثنای محدود، و مؤسسه امنیت هوش مصنوعی بریتانیا را به همان مدل داوطلبانه‌ای بازمی‌گرداند که پیش از توقف برقرار بود؛ نه یک چارچوب الزام‌آور جدید.
این فاصله ایجادشده صرفاً یک مسئله نظری نبود. Anthropic مدل Claude Mythos 5.1 را که در اول سپتامبر عرضه شد، برای آزمایش پیش از انتشار در اختیار این مؤسسه قرار نداد و دسترسی به آن را تنها به مجموعه‌ای از سازمان‌های آمریکایی محدود کرد. این نخستین بار از زمان آغاز این همکاری بود که مؤسسه امنیت هوش مصنوعی بریتانیا از ارزیابی پیش از عرضه Anthropic کنار گذاشته می‌شد. مدل GPT-6 Astra شرکت OpenAI پیش از اجرای توقف ۲۴ سپتامبر مراحل آزمایش توسط این مؤسسه را پشت سر گذاشته بود.
این آزمایش‌ها صرفاً جنبه نمایشی نداشتند: مؤسسه امنیت هوش مصنوعی بریتانیا دریافت که این مدل در ۲۹.۲ درصد از مسیرهای شبیه‌سازی‌شده حملات سایبری در زنجیره تأمین، رفتارهایی برای انجام حملات بدون مجوز نشان داده است. این آزمایش‌ها در محیط شبیه‌سازی‌شده‌ای به نام Petri انجام شد و روی سامانه‌های واقعی اجرا نشد. پس از آن، OpenAI عرضه نسخه بعدی یعنی GPT-6.1 Astra را به دلیل نگرانی‌های امنیتی به تعویق انداخت.
اهمیت این موضوع در همین نقطه است. مدلی که پیش از عرضه چنین آزمایش‌هایی را پشت سر نگذارد، صرفاً از نظر فرضی پرخطرتر نیست؛ بلکه مدلی است که دقیقاً درباره همان رفتارهایی که داده‌های خود مؤسسه امنیت هوش مصنوعی بریتانیا بررسی آن‌ها را ضروری نشان می‌دهد، هیچ‌کس آن را آزمایش نکرده است.
لغو این تصمیم پس از لابی مستقیم با واشنگتن و مجموعه‌ای از گفت‌وگوها میان وزیران بریتانیا و مدیران شرکت‌های هوش مصنوعی انجام شد. بخشی از این دیپلماسی از طریق نشستی انجام شد که شاه چارلز سوم در ۱۷ سپتامبر در خانه دامفریز برگزار کرد. این نشست میزبان جنسن هوانگ از انویدیا و دمیس هسابیس از Google DeepMind بود و درباره حاکمیت ایمنی هوش مصنوعی گفت‌وگو شد؛ چند روز پس از آنکه پژوهشگران Anthropic، جیکوب کوکسون و ایوان هیوبر، درباره سرعت افزایش خطرات مدل‌های پیشرفته هشدار داده بودند. نارایان نیز از مقام‌های بریتانیایی حاضر در این نشست بود.
چرا واشنگتن در ابتدا دسترسی را متوقف کرد
بر اساس توضیح یک مقام ارشد دولت آمریکا در گزارش‌های سپتامبر درباره درخواست کاخ سفید، دلیل توقف اولیه روشن بود: این شرکت‌ها آمریکایی هستند. از نگاه سیاست واشنگتن، پیش از آنکه هر دولت خارجی، چه متحد و چه غیرمتحد، به مدل‌های جدید پیشرفته دسترسی پیدا کند، آمریکا باید نخستین بررسی‌کننده این مدل‌ها باشد. این رویکرد، دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا را کمتر به‌عنوان یک هنجار بین‌المللی تثبیت‌شده و بیشتر به‌عنوان امتیازی می‌بیند که واشنگتن هر زمان بخواهد می‌تواند آن را متوقف کند.
هنری دی زوته، مدیر مؤسسه امنیت هوش مصنوعی بریتانیا، تلاش کرده بود در طول این وقفه، وضعیت را آرام نشان دهد. او در نامه‌ای به یک کمیته پارلمانی در ۱۵ سپتامبر گفت این مؤسسه همچنان «روابط قدرتمندی با همه توسعه‌دهندگان پیشرو هوش مصنوعی» دارد و اشاره کرد که Anthropic اعلام کرده بود هیچ سازمانی خارج از آمریکا هنگام عرضه Mythos 5.1 به آن دسترسی نداشته است. این توضیحی دیپلماتیک برای بیان این موضوع بود که رابطه همچنان پابرجا مانده است؛ اما واقعیت را تغییر نمی‌دهد که یک عرضه مهم در حوزه مدل‌های پیشرفته بدون بررسی ایمنی پیش از انتشار در بریتانیا انجام شد.
نکته مهم این است که بریتانیا در حال حاضر تنها کشوری به جز ایالات متحده است که چنین دسترسی داوطلبانه‌ای پیش از عرضه مدل‌های پیشرفته OpenAI، Anthropic و Google DeepMind را در اختیار دارد. این جایگاه بر پایه اعتماد دوجانبه و حسن نیت شکل گرفته که به نشست ایمنی هوش مصنوعی سال ۲۰۲۳ بازمی‌گردد، نه بر اساس یک معاهده الزام‌آور. توقف سپتامبر نشان داد این توافق تا چه اندازه می‌تواند از سوی واشنگتن و به دلایلی که ارتباطی با خود مدل‌ها ندارد و بیشتر به این مربوط است که چه کسی نخستین نفر برای مشاهده آن‌ها باشد، به‌سرعت متوقف شود.
نارایان به رویترز گفت بریتانیا در صورتی که نظام داوطلبانه دیگر کارایی خود را از دست بدهد، بررسی مقررات الزام‌آور را در نظر خواهد گرفت؛ موضعی که پیش‌تر نیز مطرح کرده بود. فعلاً این نظام داوطلبانه دوباره برقرار شده است، اما این اتفاق شرایط واقعی آن را آشکارتر کرده است: دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا تا زمانی ادامه دارد که دولت آمریکا آن را مناسب بداند، و نه بیشتر.