قدرت هوش مصنوعی مایه نگرانی چهره‌های ارشد حزب کارگر است؛ آن‌ها از عقب ماندن دولت از افکار عمومی هم بیم دارند
به نظر می‌رسد وست‌مینستر سرانجام هشدارها درباره ایمنی هوش مصنوعی را جدی گرفته است؛ به‌ویژه نگرانی‌ها از استفاده گروه‌های افراطی و افراد بدخواه از این فناوری.
یکی از وزیران کابینه با نگاهی نگران گفت: «احساس می‌کنم ظرف چند ماه آینده، هوش مصنوعی به موضوعی تبدیل می‌شود که همه درباره آن حرف می‌زنند.»
این اظهارات در جریان کنفرانس حزب کارگر مطرح شد؛ رویدادی که در آن، از وزیران گرفته تا فعالان حزبی، از قدرت‌گیری اندی برنهام و افزایش محبوبیت حزب در نظرسنجی‌ها پس از تغییر رهبری خوشحال بودند.
با این حال، شماری از چهره‌های ارشد حزب کارگر در گفت‌وگوهای غیرعلنی، قدرت هوش مصنوعی را در کنار فشارهای فوری ناشی از هزینه‌های زندگی و وضعیت شکننده اقتصاد، یکی از مهم‌ترین عوامل نگرانی خود می‌دانستند.
یکی از وزیران کابینه که مسئولیتش ارتباطی با فناوری نداشت، به گاردین گفت هوش مصنوعی خطرناک و مهارنشدنی موضوعی است که شب‌ها خواب را از چشمانش می‌گیرد؛ او نگران تهدید این فناوری برای بشریت است. به گفته او، مسئله «ربات‌های قاتل» نیست، بلکه احتمال آن است که حجم عظیمی از قدرت فوق‌هوشمند در دست افراد بدخواه قرار بگیرد.
یکی دیگر از مقام‌ها ابراز نگرانی کرد که دولت در رسیدگی به دغدغه‌های عمومی درباره ایمنی هوش مصنوعی، «از مردم عقب افتاده» است و باید هرچه سریع‌تر این فاصله را جبران کند.
اد میلیبند در سخنرانی خود در کنفرانس حزب، صریح‌تر از دیگران درباره خطرهای «دلهره‌آور» هوش مصنوعی هشدار داد. او تأکید کرد که سیاستمداران نمی‌توانند و اجازه نخواهند داد سود شرکت‌های فناوری به بهای آسیب دیدن فرزندان ما یا حتی بشریت به دست آید.
طولی نکشید که این هشدارها شدت بیشتری گرفتند. رویدادهای هفت روز گذشته نشان می‌دهد که وست‌مینستر در این هفته سرانجام به‌طور جدی متوجه هشدارها شده است.
موجی از فعالیت‌ها روز دوشنبه آغاز شد؛ زمانی که کانیشکا نارایان، وزیر هوش مصنوعی، اعلام کرد احتمال هک شدن نهادهای دولتی بریتانیا به دست عاملان مخرب «زیاد است، اگر نگوییم اجتناب‌ناپذیر». او همچنین گفت بریتانیا در پی تقویت قوانین آتی خود در زمینه امنیت سایبری است.
هوش مصنوعی روز سه‌شنبه به موضوع اصلی بحث در جلسه کابینه تبدیل شد. پس از آن، کن مک‌کالوم، رئیس سازمان اطلاعات داخلی بریتانیا، ام‌آی۵، هشدار داد که هوش مصنوعی «رقابت امنیت سایبری میان مهاجمان و مدافعان را به‌شدت تشدید می‌کند». او گفت بزرگ‌ترین تهدید، استفاده گروه‌های افراطی از این فناوری برای به‌کارگیری سلاح‌های زیستی است؛ موادی سمی که برای ایجاد بیماری و مرگ استفاده می‌شوند.
لیام برن، رئیس کمیته کسب‌وکار، نوآوری، علم و تجارت پارلمان، گفت تغییر دولت از کی‌یر استارمر به اندی برنهام تا حدی موجب افزایش توجه به محافظت از بریتانیا در برابر تهدیدهای هوش مصنوعی شده است، هرچند اقدامات بیشتری لازم است. برن گفت: «واقعیت این است که دولت استارمر بیش از حد به شرکت‌های بزرگ فناوری نزدیک بود. اما برنهام، صادقانه بگویم، چنین نزدیکی‌ای ندارد و به همین دلیل رویکرد تغییر کرده است. این مسئله، در کنار هشدارهای نهادهای امنیتی، شرایط را تغییر داده است.»
یکی از چهره‌های ارشد دولت حزب کارگر نیز موافق بود که دولت برنهام هشدارهای مربوط به ایمنی هوش مصنوعی را جدی‌تر می‌گیرد. او گفت: «احساس می‌کنم تغییری رخ داده است. در دولت قبلی، افراد زیادی بیش از حد مجذوب وعده‌های اغراق‌آمیز غول‌های فناوری شده بودند.»
کمیته برن این هفته جلسه‌ای برای دریافت شواهد برگزار کرد که در آن، مدیران ارشد خدمات کشوری مسئول امنیت هوش مصنوعی و مدیران شرکت‌های مهم این حوزه، از جمله آنتروپیک، اوپن‌ای‌آی، دیپ‌مایند و متا، حضور داشتند. میان شرکت‌کنندگان درباره اینکه آیا آزمایش دولتی مدل‌های جدید هوش مصنوعی باید اجباری باشد یا نه، اختلاف نظر وجود داشت.
برن گفت کمیته او با برجسته کردن این موضوع، به‌ویژه در زمینه همکاری با ایالات متحده برای تنظیم مقررات و نظارت بر مدل‌های جدید، توجه‌ها را به آن جلب کرده است. پیش‌تر گزارش شده بود که دولت دونالد ترامپ از شرکت‌های هوش مصنوعی خواسته است جدیدترین مدل‌های خود را برای آزمایش در اختیار مؤسسه امنیت هوش مصنوعی بریتانیا، که در خط مقدم این حوزه فعالیت می‌کند، قرار ندهند. با این حال، نارایان این هفته تأیید کرد که همکاری‌ها حفظ شده است.
برن گفت اکنون دولت باید از این فرصت استفاده کند و در تدوین مقررات جدید پیشگام شود؛ به‌ویژه اگر جمهوری‌خواهانِ حامی ترامپ در انتخابات میان‌دوره‌ای، کنترل کنگره را به دموکرات‌ها واگذار کنند.
او گفت: «به نظر من، دولت هنوز میان دو ضرورت گرفتار مانده است: از یک سو، با توجه به رفتارهای پیش‌بینی‌ناپذیر رئیس‌جمهور آمریکا، می‌خواهد دسترسی به مدل‌ها را حفظ کند و از سوی دیگر، باید تدابیر حفاظتی‌ای را در نظر بگیرد که خود صنعت اکنون ضروری می‌داند. به نظرم وقت آن رسیده که تصمیمش را بگیرد.»
برن افزود: «شرکت‌ها می‌خواهند همکاری کنند... عرضه مدل‌هایی که مرگبار باشند، به نفع تجاری آن‌ها نیست. با این حال، آن‌ها هم باید با کاخ سفید کنار بیایند. بنابراین، فکر می‌کنم اکنون زمانی است که دولت باید کاری را انجام دهد که به سود کشور است؛ زیرا کنگره آمریکا به‌زودی معادلات این موضوع را تغییر خواهد داد.»
ریاست آتی بریتانیا بر گروه ۲۰ فرصتی کلیدی برای پیشبرد اقدامات بین‌المللی با هدف مهار هوش مصنوعی خواهد بود. جفری ایروینگ، دانشمند ارشد پیشین مؤسسه امنیت هوش مصنوعی بریتانیا که در جلسه استماع پارلمان در این هفته سخن گفت، معتقد است نگرانی‌های دولت بریتانیا موجه است. فناوری اوپن‌ای‌آی و آنتروپیک تاکنون توانایی‌هایی در زمینه هک نشان داده است، اما مدل‌های این شرکت‌ها با سازوکارهای حفاظتی عرضه می‌شوند که دست‌کم می‌توانند خطر رفتارهای مخرب را کاهش دهند.
با این حال، مدل‌های موسوم به هوش مصنوعی متن‌باز به‌صورت رایگان در دسترس‌اند و می‌توان آن‌ها را تغییر داد. ایروینگ گفت این مدل‌ها معمولاً در کمتر از یک سال به سطح مدل‌های پولی، مانند محصولات اوپن‌ای‌آی، می‌رسند؛ هرچند همین حالا نیز می‌توانند اختلال ایجاد کنند.
ایروینگ به گاردین گفت: «بسیار محتمل است که مدل‌های متن‌باز همین حالا هم آن‌قدر قدرتمند باشند که آسیب جدی وارد کنند.» او افزود انتظار دارد فناوری متن‌باز «به‌زودی» به توانایی محصولات اوپن‌ای‌آی و آنتروپیک برسد. به گفته او، در مدل‌های متن‌باز سازوکارهای حفاظتی یا اصلاً وجود ندارند یا به‌سادگی می‌توان آن‌ها را حذف کرد.
در جلسه این هفته کمیته کسب‌وکار مطرح شد که با قدرتمندتر شدن مدل‌های هوش مصنوعی و افزایش توانایی آن‌ها در طراحی عوامل زیستی آسیب‌زا و جدید، سلاح‌های زیستی مبتنی بر هوش مصنوعی ممکن است پس از تهدیدهای امنیت سایبری به خطر جدی بعدی تبدیل شوند. با این حال، کارشناسان می‌گویند میان طراحی عوامل بیماری‌زای خطرناک و تبدیل آن‌ها به سلاح، فاصله‌ای وجود دارد.
نگرانی درباره امنیت سایبری و سلاح‌های زیستی می‌تواند به‌سرعت به ترس از نابودی بشریت به دست هوش مصنوعی در سناریوهای مختلف گسترش یابد. چنین نگرانی‌ای در جامعه هوش مصنوعی رواج دارد و ایروینگ نیز با آن هم‌نظر است.
با این حال، برخی کارشناسان معتقدند دولت باید بر خطرهای فوری هوش مصنوعی تمرکز کند. پروفسور النا سیمپرل، یکی از مدیران مشترک مؤسسه هوش مصنوعی در کینگز کالج لندن، گفت استدلال مربوط به خطر انقراض بشریت «هیچ شواهدی ندارد» و بیشتر یک «نظریه» است تا تهدیدی قابل اتکا.
سیمپرل گفت: «خطرهای بزرگ‌تر و فوری‌تری وجود دارند که فناوری هوش مصنوعی همین حالا ایجاد می‌کند و شواهدی هم برای آن‌ها داریم؛ از جمله هک و نشانه‌هایی که حاکی از آن است که هوش مصنوعی می‌تواند به‌اندازه شبکه‌های اجتماعی اعتیادآور باشد.»
در نبود مقررات بین‌المللی برای هوش مصنوعی، برخی مقام‌ها در دولت بریتانیا نگران‌اند که آیا کشور به‌اندازه کافی برای مقابله با جنگ‌افزارهای مبتنی بر هوش مصنوعی و حملات احتمالی آماده شده است یا نه.
منابع دفاعی گفتند لغو برنامه هوش مصنوعی در سال گذشته در آزمایشگاه علوم و فناوری دفاعی دولت بریتانیا (Dstl)، مستقر در پورتون داون، موجب نگرانی شده است. به گفته آن‌ها، این تصمیم ممکن است کوته‌بینانه بوده باشد؛ زیرا کشور برای ارتقای توانمندی‌های خود و دفاع در برابر خطرهای این فناوری به پژوهش‌های پیشرفته نیاز دارد.
در مقابل، سخنگوی وزارت دفاع بریتانیا گفت هوش مصنوعی «از صنعت دفاعی گرفته تا میدان نبرد، در حال متحول کردن عرصه دفاع است و نقشی تعیین‌کننده در شیوه جنگیدن و دفاع کردن ما خواهد داشت». او افزود که این فناوری باید «در همه حوزه‌های کاری ادغام شود، نه اینکه برنامه‌ای مستقل باشد». این مقام به سرمایه‌گذاری ۴۰۰ میلیون پوندی در قابلیت‌های مبتنی بر هوش مصنوعی طی چهار سال آینده اشاره کرد که هدف آن «آماده کردن بریتانیا برای آینده جنگ» است.
در بخش‌های دیگری از دولت، نگرانی معکوسی وجود دارد: اینکه توجه بیش از حد به ایمنی هوش مصنوعی، دولت را از به‌کارگیری ابزارهایی بازدارد که می‌توانند بهره‌وری را متحول کنند و به حل مشکلات دیرینه خدمات عمومی، از جمله مراقبت‌های پزشکی و کاهش فهرست انتظار بیماران، کمک کنند.
گاس اودانل، دبیر کابینه پیشین بریتانیا، به گاردین گفت وزیران باید همان‌قدر که به ضرورت ایجاد سازوکارهای حفاظتی توجه دارند، خطر «عقب ماندن» در حوزه هوش مصنوعی را نیز جدی بگیرند.
اودانل هنگام معرفی گزارشی درباره هوش مصنوعی در دولت‌ها که مجمع جهانی دولت با همکاری شرکت فناوری کاگنیزنت تهیه کرده است، به گاردین گفت: «نیاز زیادی به بهبود وضعیت و پیشرفت جدی در این زمینه وجود دارد. من بسیار خوش‌بینم، اما چالش ما، طبیعتاً، مدیریت خطرها در این مسیر و اطمینان از این است که اشتباهاتی مرتکب نشویم که اعتماد مردم را کاهش دهد و باعث عقب‌گرد ما شود.»