وزیر: بریتانیا به جدیدترین مدل‌های هوش مصنوعی برای آزمایش ایمنی دسترسی پیدا کرده است
ویلیام جیمز
لندن، ۱۲ اکتبر (رویترز) - کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه گفت مؤسسه امنیت هوش مصنوعی این کشور به جدیدترین مدل‌های پیشرفته هوش مصنوعی دسترسی پیدا کرده و با دولت آمریکا و توسعه‌دهندگان بزرگ، از جمله گوگل، برای ارزیابی ایمنی این مدل‌ها همکاری می‌کند.
بریتانیا که میزبان هیچ‌یک از توسعه‌دهندگان بزرگ هوش مصنوعی نیست، تلاش می‌کند در ارزیابی و مدیریت خطرهای ناشی از سیستم‌های هوش مصنوعی قدرتمندتر، نقشی پیشرو ایفا کند.
تمرکز بر ایمنی هوش مصنوعی پس از آن افزایش یافته است که شرکت‌هایی از جمله آنتروپیک و اوپن‌ای‌آی مواردی از رفتارهای غیرمنتظره یا نامطلوب عامل‌های هوش مصنوعی خود را منتشر کردند. برخی چهره‌های این صنعت هشدار داده‌اند که این فناوری می‌تواند تهدیدی وجودی برای بشریت ایجاد کند.
اعلامیه روز دوشنبه که در آن مشخص نشده است این مؤسسه دقیقاً کدام مدل‌ها را ارزیابی می‌کند، پس از گزارش‌هایی منتشر شد مبنی بر اینکه کاخ سفید ماه گذشته از اوپن‌ای‌آی و آنتروپیک خواسته بود تا زمان انجام بررسی‌های آمریکا، ارائه مدل‌های جدید به آزمایش‌کنندگان بریتانیایی را متوقف کنند.
نارایان گفت: «می‌توانم تأیید کنم که دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی اکنون ارزیابی‌های دقیق جدیدترین نسل مدل‌ها، از جمله Gemini 4 Argon، را انجام می‌دهند تا خطرها را در مراحل اولیه شناسایی کنند، سازوکارهای حفاظتی قدرتمند را آزمایش کنند و به حفظ امنیت مردم کمک کنند.»
بر اساس توافق‌های داوطلبانه با توسعه‌دهندگان بزرگ هوش مصنوعی، این مؤسسه پیش از عرضه عمومی مدل‌ها به آن‌ها دسترسی پیدا می‌کند تا توانایی‌ها و خطرهای احتمالی آن‌ها را ارزیابی کند و در شکل‌گیری استانداردهای بین‌المللی نوظهور در حوزه ایمنی هوش مصنوعی مشارکت داشته باشد.
برد اسمیت، رئیس مایکروسافت، در مصاحبه‌ای که روز دوشنبه توسط بی‌بی‌سی منتشر شد، گفت بریتانیا جایگاه مناسبی برای کمک به رهبری تلاش‌ها در زمینه تدوین دستورالعمل‌های ایمنی هوش مصنوعی دارد.
مؤسسه امنیت هوش مصنوعی بریتانیا در نامه‌ای که در ماه سپتامبر منتشر کرد، اعلام کرده بود آنتروپیک به‌روشنی گفته است هیچ سازمانی خارج از آمریکا به مدل Mythos 5.1 این شرکت دسترسی ندارد.
نارایان در پاسخ به پرسشی درباره دسترسی به سیستم‌های پیشرفته هوش مصنوعی، موضوعی که وزیران تاکنون هرگز تأیید نکرده‌اند که این مؤسسه در سطح گسترده‌تری آن را از دست داده باشد، گفت دولت بریتانیا رابطه‌ای دیرینه و مبتنی بر اعتماد با آمریکا دارد.
او گفت: «وقتی به فناوری شخص دیگری وابسته هستید، باید با دیدی واقع‌بینانه درباره ماندگاری هر نتیجه‌ای نگاه کنید. اما کاملاً اطمینان دارم که در نتیجه گفت‌وگوهایی که داشته‌ایم، قادر خواهیم بود جدیدترین نسل مدل‌ها را آزمایش کنیم.»
(گزارش از ویلیام جیمز، کیت هولتون و سارا یانگ؛ ویرایش: مارک پاتر)