چرا بریتانیا پیشرو جهان در ایمنی هوش مصنوعی شناخته می‌شود
تام سینکلر
بریتانیا شاید خالق چت‌جی‌پی‌تی، جمنای یا کلود نباشد، اما این دیدگاه روزبه‌روز جدی‌تر مطرح می‌شود که این کشور به مرجعی جهانی تبدیل شده است؛ مرجعی که دیگران برای اطمینان از ایمنی سیستم‌هایی مانند این ابزارها به آن نگاه می‌کنند.
اندی برنهام، نخست‌وزیر بریتانیا، ۱۲ اکتبر در مجلس عوام این موضوع را مطرح کرد؛ زمانی که اهداف کشورش را در آستانه ریاست گروه ۲۰ در سال ۲۰۲۷ تشریح می‌کرد.
برنهام به نمایندگان گفت هوش مصنوعی در دوران ریاست بریتانیا بر گروه ۲۰ در کانون توجه قرار خواهد گرفت و این کشور برای دستیابی به توافقی بین‌المللی درباره اصول و استانداردهای مشترک حاکم بر این فناوری تلاش خواهد کرد.
او برای تأیید این رویکرد، به اظهارنظری قابل‌توجه از سوی یکی از بانفوذترین چهره‌های صنعت فناوری نیز اشاره کرد.
برنهام گفت: «چهره‌های برجسته‌ای مانند رئیس مایکروسافت می‌گویند بریتانیا در زمینه ایمنی هوش مصنوعی پیشرو جهان است.»
او افزود: «بنابراین، ما موقعیت مناسبی برای ایفای این نقش داریم و می‌توانیم در سال ریاست خود بر گروه ۲۰ برای توافق بر سر مجموعه‌ای واحد از اصول و استانداردهای جهانی هوش مصنوعی تلاش کنیم.»
این ادعا از آن جهت اهمیت دارد که بریتانیا در توسعه قدرتمندترین سیستم‌های هوش مصنوعی جهان جایگاه مسلطی ندارد.
بیشتر مدل‌های پیشرفته هوش مصنوعی را شرکت‌های آمریکایی، از جمله اوپن‌ای‌آی، گوگل، آنتروپیک، متا و ایکس‌ای‌آی، توسعه می‌دهند.
بااین‌حال، بریتانیا در حوزه‌ای متفاوت جایگاه ویژه‌ای ایجاد کرده است: تمرکز پژوهشگران، تخصص دولتی و ظرفیت ارزیابی مستقل با هدف شناسایی توانایی‌های سیستم‌های پیشرفته هوش مصنوعی، پیش از آنکه این توانایی‌ها به خطری جدی تبدیل شوند.
همه‌چیز از بلچلی پارک آغاز شد
پایه‌های این جایگاه در دوران نخست‌وزیری ریشی سوناک گذاشته شد.
در نوامبر ۲۰۲۳، بریتانیا نخستین اجلاس بزرگ بین‌المللی ایمنی هوش مصنوعی در جهان را در بلچلی پارک برگزار کرد؛ مکانی که در دوران جنگ جهانی دوم مرکز فعالیت رمزگشایان بریتانیایی بود.
نمایندگان ۲۸ کشور، از جمله ایالات متحده و چین، به همراه نمایندگان اتحادیه اروپا، بیانیه‌ای را امضا کردند که بعدها به «بیانیه بلچلی» معروف شد.
برای نخستین بار، شماری از قدرت‌های بزرگ جهان رسماً و به‌طور مشترک پذیرفتند که هوش مصنوعی بسیار توانمند می‌تواند خطرات جدی بین‌المللی ایجاد کند. این خطرات حوزه‌هایی مانند امنیت سایبری، زیست‌فناوری، اطلاعات نادرست و احتمال از دست رفتن کنترل مؤثر انسان بر سیستم‌های پیشرفته را در بر می‌گرفت.
این اجلاس از جهت دیگری نیز اهمیت داشت.
بریتانیا نخستین مؤسسه دولتی جهان را تأسیس کرد که به‌طور اختصاصی برای بررسی خطرات هوش مصنوعی پیشرفته فعالیت می‌کرد.
این نهاد که در ابتدا «مؤسسه ایمنی هوش مصنوعی» نام داشت و اکنون «مؤسسه امنیت هوش مصنوعی» خوانده می‌شود، با هدف انجام کاری شکل گرفت که پیش از آن دولت‌ها عمدتاً به شرکت‌های فناوری واگذار کرده بودند: آزمایش مستقل مدل‌های قدرتمند هوش مصنوعی.
برنهام در جریان نشست این هفته مجلس عوام نیز به این سابقه اشاره کرد.
او در پاسخ به درخواست‌ها برای نظارت بین‌المللی گسترده‌تر گفت: «ما همین حالا مؤسسه امنیت هوش مصنوعی را داریم و منصفانه است که از نخست‌وزیر پیشین حزب محافظه‌کار، نماینده محترم ریچموند و نورثالرتون، ریشی سوناک، قدردانی کنم؛ او در تأسیس این مؤسسه نقشی اساسی داشت.»
تداوم این رویکرد در دولت‌های مختلف یکی از دلایلی است که جایگاه بریتانیا با تغییر دولت‌ها در وست‌مینستر حفظ شده است.
دولت‌های دیگر نیز از الگوی بریتانیا پیروی کردند
مؤسسه بریتانیا صرفاً یک نهاد نظارتی دیگر نبود.
این مؤسسه گروه‌هایی تخصصی تشکیل داد که می‌توانستند سیستم‌های پیشرفته هوش مصنوعی را تحت ارزیابی‌های فنی قرار دهند. در این ارزیابی‌ها بررسی می‌شود که آیا مدل‌ها می‌توانند به اجرای حملات سایبری کمک کنند، افراد را فریب دهند یا تحت تأثیر قرار دهند، در ساخت مواد زیستی خطرناک نقش داشته باشند، ارزیابان خود را گمراه کنند یا به‌صورت خودمختار و غیرمنتظره عمل کنند.
پس از آن، کشورهای دیگر نیز سازمان‌هایی مشابه تأسیس کردند.
دولت بریتانیا اعلام کرده است که نهادهایی در سراسر جهان با الگوبرداری از ساختار این کشور ایجاد شده‌اند و مؤسسه بریتانیا اکنون با نهادهای همتای خود، از جمله در ایالات متحده و سنگاپور، همکاری می‌کند.
این مؤسسه همچنین شبکه‌ای بین‌المللی را هماهنگ می‌کند که بر اندازه‌گیری و ارزیابی هوش مصنوعی پیشرفته متمرکز است.
این فعالیت‌ها به بریتانیا نفوذی می‌دهد که فراتر از اندازه صنعت هوش مصنوعی داخلی آن است.
درحالی‌که آمریکا میزبان بسیاری از شرکت‌هایی است که قدرتمندترین سیستم‌های جهان را می‌سازند، بریتانیا به‌تدریج در زمینه آزمایش و ارزیابی این سیستم‌ها تخصص پیدا کرده است.
دسترسی به مدل‌ها اهمیت حیاتی دارد
بااین‌حال، یک مانع بزرگ وجود دارد.
مؤسسه ایمنی هوش مصنوعی نمی‌تواند یک مدل قدرتمند را بررسی کند، مگر آنکه شرکت سازنده به آن دسترسی بدهد.
به همین دلیل، روابط با توسعه‌دهندگان آمریکایی اهمیت اساسی دارد.
مؤسسه بریتانیا از طریق ارتباط با توسعه‌دهندگان بزرگ و شرکای بین‌المللی، توانسته است برای انجام آزمایش‌های ایمنی به برخی از جدیدترین مدل‌های پیشرفته دسترسی پیدا کند.
امکان بررسی مدل‌ها پیش از عرضه یا در حوالی زمان انتشار آن‌ها اهمیت زیادی دارد؛ زیرا پژوهشگران می‌توانند توانایی‌هایی را آزمایش کنند که کاربران عادی ممکن است هرگز با آن‌ها روبه‌رو نشوند.
برای مثال، پژوهشگران می‌توانند بررسی کنند که آیا یک عامل هوش مصنوعی قادر است به‌طور مستقل آسیب‌پذیری‌های رایانه‌ای را پیدا کند و از آن‌ها بهره‌برداری کند، آیا می‌توان محدودیت‌های ایمنی آن را دور زد یا آیا مدل بدون مجوز صریح اپراتورهایش دست به اقداماتی می‌زند.
اکنون بیش از ۱۰۰ متخصص فنی در مؤسسه امنیت هوش مصنوعی بریتانیا مشغول بررسی دقیقاً همین نوع مسائل هستند.
خطرات دیگر صرفاً فرضی نیستند
از زمان برگزاری اجلاس بلچلی پارک، ماهیت این بحث نیز به‌طور چشمگیری تغییر کرده است.
در سال ۲۰۲۳، بخش زیادی از گفت‌وگوها درباره ایمنی هوش مصنوعی بر خطراتی متمرکز بود که ممکن بود چند سال بعد پدیدار شوند.
اما در سال ۲۰۲۶، پژوهشگران بیش از پیش سیستم‌هایی را بررسی می‌کنند که قادرند با رایانه‌ها کار کنند، نرم‌افزارهای پیچیده بنویسند و بدون هدایت مداوم انسان، زنجیره‌های طولانی از اقدامات را انجام دهند.
مؤسسه امنیت هوش مصنوعی بریتانیا پژوهش‌هایی منتشر کرده است که بررسی می‌کنند آیا سیستم‌های پیشرفته می‌توانند عملیات سایبری انجام دهند، ارزیابان را فریب دهند یا هنگام فعالیت با سطحی از خودمختاری، رفتارهای پیش‌بینی‌نشده نشان دهند.
در بخشی از پژوهش‌های این مؤسسه، آزمایش‌هایی نیز انجام شده است تا مشخص شود آیا سیستم‌های هوش مصنوعی ممکن است در کارهای ایمنی که انسان‌ها انجام می‌دهند، اختلال ایجاد کنند یا نه.
در نتیجه، دولت دیگر تنها به پژوهش‌های آزمایشگاهی توجه ندارد، بلکه تاب‌آوری ملی را نیز در نظر می‌گیرد.
استدلال اصلی ساده است: دولت‌ها نمی‌توانند تشخیص ایمن بودن محصولات هوش مصنوعی را به‌طور کامل به شرکت‌هایی واگذار کنند که خودشان این فناوری را توسعه می‌دهند.
چرا مایکروسافت از بریتانیا تمجید می‌کند؟
اظهارات برد اسمیت، رئیس مایکروسافت، به‌ویژه قابل‌توجه است؛ زیرا خود این شرکت نقشی عمیق در صنعت جهانی هوش مصنوعی دارد.
اسمیت از ارزیابی مستقل سیستم‌های هرچه قدرتمندتر، الزام شرکت‌ها به گزارش حوادث جدی و ایجاد سازوکارهایی حمایت کرده است که در صورت خطرناک شدن رفتار یک سیستم هوش مصنوعی، امکان متوقف کردن آن را فراهم کنند.
او به فعالیت‌های مستقل بریتانیا در زمینه آزمایش این سیستم‌ها اشاره کرده و آن‌ها را نمونه‌ای از توانمندی‌هایی دانسته است که دولت‌ها در آینده بیش از پیش به آن‌ها نیاز خواهند داشت.
البته این به معنای آن نیست که بریتانیا توانسته است مشکل تنظیم‌گری هوش مصنوعی را حل کند.
این کشور آشکارا هنوز به چنین هدفی نرسیده است.
بخش بزرگی از نظام کنونی همچنان به توافق میان دولت و شرکت‌های خصوصی متکی است، نه به اختیارات قانونی جامع و الزام‌آور.
اتحادیه اروپا در تصویب قوانین الزام‌آور هوش مصنوعی بسیار فراتر رفته است.
بریتانیا همچنین برای دسترسی پژوهشگرانش به پیشرفته‌ترین سیستم‌ها همچنان به همکاری شرکت‌های فناوری آمریکایی وابستگی زیادی دارد.
این موارد ضعف‌های مهمی به شمار می‌روند.
مزیت متفاوت بریتانیا
بااین‌حال، جایگاه بریتانیا ویژگی‌های منحصربه‌فردی دارد.
ایالات متحده بر توسعه مدل‌های پیشرفته هوش مصنوعی تسلط دارد.
چین یکی از رقبای اصلی فناورانه این کشور است.
اتحادیه اروپا نیز به مهم‌ترین حامی مقررات قانونی دقیق و جامع در این حوزه تبدیل شده است.
بریتانیا تلاش کرده است در فاصله میان این رویکردها جای بگیرد: این کشور می‌خواهد به مرکزی برای علم ایمنی هوش مصنوعی تبدیل شود و نقش واسطه‌ای را ایفا کند که بتواند با دولت‌ها و شرکت‌های هر دو سوی اقیانوس اطلس همکاری داشته باشد.
این بریتانیا بود که اجلاس بلچلی را برگزار کرد.
این کشور نخستین مؤسسه دولتی اختصاصی ایمنی هوش مصنوعی را تأسیس کرد.
پژوهشگران بریتانیایی نیز به توسعه روش‌های آزمایش و ارزیابی سیستم‌های پیشرفته کمک کرده‌اند.
اکنون بریتانیا می‌خواهد این توانمندی‌های فنی را به استانداردهای بین‌المللی تبدیل کند.
فرصت بعدی در سال ۲۰۲۷ فرا می‌رسد.
برنهام می‌گوید بریتانیا در دوران ریاست بر گروه ۲۰ تلاش خواهد کرد برخی از بزرگ‌ترین اقتصادهای جهان را بر سر اصول مشترک هوش مصنوعی به توافق برساند.
رسیدن به چنین توافقی آسان نخواهد بود.
دولت‌ها درباره مقررات، آزادی فعالیت‌های تجاری، امنیت ملی و میزان کنترلی که شرکت‌ها باید بر فناوری خود حفظ کنند، اختلاف‌نظرهای عمیقی دارند.
بااین‌حال، دلیل قانع‌کننده‌ای برای تلاش در این مسیر وجود دارد.
سیستم‌های هوش مصنوعی تقریباً بلافاصله از مرزهای کشورها عبور می‌کنند.
قابلیت سایبری قدرتمندی که در کالیفرنیا توسعه یافته است، می‌تواند در کاردیف، پکن یا مسکو به کار گرفته شود.
مدلی که بتواند به فردی در طراحی سلاح زیستی کمک کند، صرفاً به این دلیل که سرور میزبان آن در قلمرو قضایی کشور دیگری قرار دارد، کم‌خطرتر نمی‌شود.
بنابراین، مقررات ملی به‌تنهایی محدودیت‌های آشکاری دارند.
نزدیک به سه سال پس از آنکه دولت‌ها در ساختمان‌های دوران جنگ بلچلی پارک گرد هم آمدند، به نظر می‌رسد شرط‌بندی اولیه بریتانیا بر این رویکرد، دوراندیشانه بوده است.
شاید این کشور کنترل قدرتمندترین سیستم‌های هوش مصنوعی جهان را در اختیار نداشته باشد، اما جایگاه خود را در مرکز پرسشی هر روز فوری‌تر تثبیت کرده است: چه کسی این سیستم‌ها را آزمایش می‌کند، چه کسی بر آن‌ها نظارت دارد و اگر مشکلی پیش بیاید، چه اتفاقی خواهد افتاد؟