وزیر: بریتانیا به جدیدترین مدل‌های هوش مصنوعی برای آزمایش ایمنی دسترسی یافته است
کانیسکا نارایان به‌عنوان وزیر مشاور در امور هوش مصنوعی منصوب شده است. (عکس: X/ @KanishkaNarayan)
مؤسسه امنیت هوش مصنوعی بریتانیا به جدیدترین مدل‌های پیشرفته هوش مصنوعی دسترسی پیدا کرده و با دولت آمریکا و توسعه‌دهندگان بزرگ، از جمله گوگل، برای ارزیابی ایمنی این مدل‌ها همکاری می‌کند. کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه این موضوع را اعلام کرد.
بریتانیا که میزبان هیچ‌یک از شرکت‌های بزرگ توسعه‌دهنده هوش مصنوعی نیست، تلاش می‌کند در ارزیابی و مدیریت خطرات ناشی از سامانه‌های هوش مصنوعی قدرتمندتر، نقشی پیشرو ایفا کند.
تمرکز بر ایمنی هوش مصنوعی پس از آن افزایش یافته است که شرکت‌هایی مانند آنتروپیک و اوپن‌ای‌آی مواردی از رفتارهای غیرمنتظره یا نامطلوب عامل‌های هوش مصنوعی را گزارش کرده‌اند. برخی چهره‌های فعال در صنعت نیز هشدار داده‌اند که این فناوری ممکن است تهدیدی وجودی برای بشریت ایجاد کند.
اعلامیه روز دوشنبه که در آن مشخص نشده بود این مؤسسه دقیقاً کدام مدل‌ها را ارزیابی می‌کند، پس از گزارش‌هایی در ماه گذشته منتشر شد که بر اساس آن کاخ سفید از اوپن‌ای‌آی و آنتروپیک خواسته بود عرضه مدل‌های جدید به آزمایش‌کنندگان بریتانیایی را تا زمان انجام بررسی‌های آمریکا متوقف کنند.
نارایان گفت: «می‌توانم تأیید کنم که دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی اکنون در حال انجام ارزیابی‌های دقیق روی جدیدترین نسل مدل‌ها، از جمله Gemini 4 Argon، هستند تا خطرات را در مراحل اولیه شناسایی کنند، تدابیر حفاظتی قدرتمند را آزمایش کنند و به حفظ امنیت مردم کمک کنند.»
این مؤسسه بر اساس توافق‌های داوطلبانه با توسعه‌دهندگان بزرگ هوش مصنوعی، پیش از عرضه عمومی مدل‌ها به آن‌ها دسترسی پیدا می‌کند. این دسترسی به مؤسسه اجازه می‌دهد توانایی‌ها و خطرات مدل‌ها را بررسی کند و در شکل‌گیری استانداردهای بین‌المللی نوظهور در زمینه ایمنی هوش مصنوعی مشارکت داشته باشد.
برد اسمیت، رئیس مایکروسافت، در مصاحبه‌ای که روز دوشنبه توسط بی‌بی‌سی منتشر شد، گفت بریتانیا جایگاه مناسبی برای کمک به رهبری تلاش‌ها در زمینه تدوین دستورالعمل‌های ایمنی هوش مصنوعی دارد.
مؤسسه امنیت هوش مصنوعی بریتانیا در نامه‌ای که در ماه سپتامبر منتشر کرد، اعلام کرده بود آنتروپیک تصریح کرده است که هیچ سازمانی خارج از آمریکا به مدل Mythos 5.1 این شرکت دسترسی نداشته است.
نارایان در پاسخ به پرسشی درباره دسترسی به سامانه‌های پیشرفته هوش مصنوعی — موضوعی که وزیران هرگز به‌طور رسمی تأیید نکرده بودند که این مؤسسه در سطح گسترده آن را از دست داده باشد — گفت دولت بریتانیا رابطه‌ای دیرینه و مبتنی بر اعتماد با آمریکا دارد.
او گفت: «وقتی به فناوری متعلق به طرف دیگری وابسته هستید، باید با دیدی واقع‌بینانه درباره دوام هر نتیجه‌ای قضاوت کنید. اما من بسیار مطمئن هستم که در نتیجه گفت‌وگوهایی که داشته‌ایم، خواهیم توانست جدیدترین نسل مدل‌ها را آزمایش کنیم.»