رئیس مایکروسافت: هوش مصنوعی به مقررات‌گذاری فوری نیاز دارد
برد اسمیت، رئیس مایکروسافت، خواستار مقررات‌گذاری فوری هوش مصنوعی به رهبری بریتانیا شده است؛ در شرایطی که شرکت‌هایی مانند OpenAI، آنتروپیک و گوگل دیپ‌مایند از ایده کاهش سرعت توسعه این فناوری حمایت کرده‌اند.
برد اسمیت، رئیس مایکروسافت می‌گوید برای فناوری هوش مصنوعی به قوانین ایمنی جهانی بیشتری نیاز است؛ از جمله الزام قانونی شرکت‌ها برای اطلاع‌رسانی به قربانیان احتمالی در صورت نفوذ یا عملکرد خارج از کنترل عامل‌های هوش مصنوعی و همچنین تعیین شرایطی که ارزیاب‌های مستقل صنعت باید پیش از عرضه عمومی محصولات هوش مصنوعی، آن‌ها را تأیید کنند.
دیدگاه‌های او درباره وضعیت صنعت هوش مصنوعی با مواضع دونالد ترامپ، رئیس‌جمهور آمریکا، تفاوت دارد؛ ترامپ معتقد است این بخش باید خودتنظیمی کند تا شرکت‌های آمریکایی در رقابت با رقبای چینی عقب نمانند.
با این حال، اسمیت معتقد است خود فناوری هوش مصنوعی بدون تدابیر حفاظتی مناسب خطرهای جدی ایجاد می‌کند و اشاره می‌کند که حتی محصولاتی مانند شیر در فروشگاه‌ها تحت مقررات سخت‌گیرانه‌تری نسبت به هوش مصنوعی قرار دارند.
در حال حاضر، درخواست‌ها برای وضع قوانین کنترل‌کننده هوش مصنوعی در حال افزایش است؛ زیرا کارشناسان این حوزه معتقدند این فناوری می‌تواند تهدیدی بالقوه برای بشریت باشد. آن‌ها به آسیب‌های ناشی از «روان‌پریشی هوش مصنوعی» و حملات کاملاً خودکار، از جمله نمونه‌ای که در آن یک مدل OpenAI اوایل امسال به شرکت هوش مصنوعی Hugging Face نفوذ کرد، اشاره می‌کنند.
«ما می‌دانیم چگونه محصولات دیگر را قانون‌گذاری کنیم. باید از این تجربه استفاده کنیم و بررسی کنیم چگونه می‌توان آن را برای هوش مصنوعی به کار گرفت.»
برد اسمیت، رئیس مایکروسافت
نکات کلیدی
- مؤسسه امنیت هوش مصنوعی بریتانیا در سال ۲۰۲۳ راه‌اندازی شد و برد اسمیت آن را دلیل مناسبی برای رهبری تلاش‌های جهانی در زمینه مقررات هوش مصنوعی می‌داند.
- یک مدل OpenAI اوایل امسال به شرکت هوش مصنوعی Hugging Face نفوذ کرد؛ نمونه‌ای که اسمیت آن را نشانه خطرهای حملات کاملاً خودکار هوش مصنوعی می‌داند.
- مدیران شرکت‌های هوش مصنوعی از جمله آنتروپیک، OpenAI و گوگل دیپ‌مایند از ایده کاهش سرعت توسعه هوش مصنوعی حمایت کرده‌اند.
- ترامپ میزبان مدیران شرکت‌های فناوری آمریکایی شامل OpenAI، آنتروپیک، انویدیا، اسپیس‌ایکس، متا و گوگل در کاخ سفید بود و هر مدیر یک سند «الزام‌آور اخلاقی» درباره هوش مصنوعی را امضا کرد.
- برد اسمیت معتقد است دولت آمریکا از یک ائتلاف احتمالی هوش مصنوعی به رهبری بریتانیا حمایت خواهد کرد، نه اینکه استانداردهای اروپایی هوش مصنوعی را بپذیرد.
بریتانیا به‌عنوان رهبر مقررات‌گذاری هوش مصنوعی
برد اسمیت می‌گوید هوش مصنوعی می‌تواند هم «ابزار» باشد و هم «سلاح» و به همین دلیل نیازمند مقررات‌گذاری فوری است.
او اضافه می‌کند که شرکت‌های هوش مصنوعی به «ترمزهای اضطراری» نیاز دارند؛ سازوکاری که در صنعت اغلب با عنوان «کلیدهای توقف» شناخته می‌شود تا توسعه هوش مصنوعی در صورت خطر از کنترل خارج شدن، متوقف شود.
اسمیت می‌گوید باید شرکت‌ها از نظر قانونی موظف شوند گزارش رخدادها را تهیه کنند و در صورت خارج شدن فناوری از کنترل، قربانیان را مطلع سازند. او همچنین پیشنهاد می‌کند یک هیئت مستقل از ارزیاب‌های دولتی بر توسعه فناوری هوش مصنوعی نظارت کند.
او می‌افزاید: «ما می‌دانیم چگونه محصولات دیگر را قانون‌گذاری کنیم. باید از این تجربه استفاده کنیم و بررسی کنیم چگونه می‌توان آن را برای هوش مصنوعی به کار گرفت.»
اسمیت درباره وضعیت مقررات جهانی می‌گوید بریتانیا به دلیل داشتن مؤسسه امنیت هوش مصنوعی که در سال ۲۰۲۳ راه‌اندازی شد، بهترین جایگاه را برای ارائه چنین مقرراتی دارد.
او می‌گوید: «در دنیای فناوری، بیشتر افرادی که می‌شناسم اگر از آن‌ها بپرسید کدام کشور در داشتن این توانایی فنی پیشرو است، خواهند گفت... بریتانیا. آن‌ها بهترین هستند.»
توافق «الزام‌آور اخلاقی» درباره هوش مصنوعی
مدیران شرکت‌های هوش مصنوعی مانند آنتروپیک، OpenAI و گوگل دیپ‌مایند از ایده کاهش سرعت توسعه هوش مصنوعی حمایت کرده‌اند. با این حال، ترامپ با این احتمال مخالفت کرده و گفته است: «هرکس هوش مصنوعی را ببرد، پیروز می‌شود.»
با وجود این، اسمیت می‌گوید باور دارد دولت آمریکا همچنان از یک ائتلاف هوش مصنوعی به رهبری بریتانیا میان دو کشور حمایت خواهد کرد، نه اینکه استانداردهای اروپایی هوش مصنوعی را بپذیرد.
اسمیت درباره توانایی مدل‌های فعلی هوش مصنوعی می‌گوید: «وقتی به عامل‌های هوش مصنوعی نگاه می‌کنید که از کنترل انسان خارج شده‌اند، وقتی به مدل‌هایی نگاه می‌کنید که آن‌قدر قدرتمند هستند که امنیت سایبری جهان را در معرض خطر قرار می‌دهند...»
او ادامه می‌دهد: «بیایید با آرامش، شاید حتی با صدایی آرام، اما قاطعانه صحبت کنیم و شروع به گرد هم آوردن مردم کنیم. امیدوارم این نقشی باشد که ما به‌عنوان یک شرکت بتوانیم ایفا کنیم. امیدوارم این نقشی باشد که بریتانیا بتواند به‌عنوان یک کشور ایفا کند.»
در پایان ماه گذشته، ترامپ میزبان چندین مدیر شرکت‌های فناوری آمریکایی شامل OpenAI، آنتروپیک، انویدیا، اسپیس‌ایکس، متا و گوگل در کاخ سفید بود؛ جایی که هر مدیر یک سند «الزام‌آور اخلاقی» درباره هوش مصنوعی را امضا کرد.
اسمیت می‌گوید از این بیانیه استقبال می‌کند و اضافه می‌کند که مایکروسافت «خوشحال است آن را امضا کند».
با این حال، او اضافه می‌کند که چالش اصلی برای هر طرف، متقاعد کردن شرکت‌های دیگر برای انجام همین کار خواهد بود.
او می‌گوید: «این شرکت‌هایی هستند که به اندازه کافی مسئولیت‌پذیر نیستند که باید نگرانشان باشید.»