رئیس مایکروسافت هشدار داد هوش مصنوعی از شیر هم کمتر قانون‌گذاری شده است
هوش مصنوعی کمتر از شیر قانون‌گذاری شده است؛ هشدار رئیس مایکروسافت درباره ایمنی این فناوری
برد اسمیت، رئیس مایکروسافت، در پی افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی، خواستار وضع قوانین سخت‌گیرانه‌تر برای کنترل این فناوری شده است؛ از جمله ایجاد تعهدات قانونی در قبال قربانیانی که ممکن است از سوی عوامل هوش مصنوعی خارج از کنترل آسیب ببینند.
اسمیت در گفت‌وگو با بی‌بی‌سی گفت: «در حال حاضر، ماشین لباسشویی شما مشمول قوانین ایمنی بیشتری نسبت به هوش مصنوعی است. هر بسته شیری که در فروشگاه مواد غذایی می‌بینید، تحت قوانین ایمنی و بازرسی قرار دارد.»
هم‌زمان، کارشناسان، سیاستمداران و نهادهای قانون‌گذار خواستار مقررات سخت‌تر برای کنترل هوش مصنوعی شده‌اند. شرکت‌هایی مانند Anthropic، Google DeepMind و OpenAI نیز هشدار داده‌اند که سرعت توسعه این فناوری باید کاهش یابد.
اسمیت گفت هوش مصنوعی می‌تواند هم «ابزار» و هم «سلاح» باشد و باید هرچه سریع‌تر تحت نظارت و قانون‌گذاری قرار گیرد.
او در مصاحبه با بی‌بی‌سی گفت شرکت‌ها به «ترمزهای اضطراری» یا همان «کلیدهای خاموش‌کننده» نیاز دارند تا در صورتی که هوش مصنوعی از کنترل خارج شد، بتوانند آن را متوقف یا سرعت فعالیتش را کاهش دهند.
مایکروسافت که زیرساخت‌های هوش مصنوعی را اداره می‌کند و سهامدار شرکت OpenAI، سازنده ChatGPT، است، تحت مدیریت مدیرعامل خود ساتیا نادلا قرار دارد. نادلا نیز روز شنبه خواستار مجهز شدن مدل‌های هوش مصنوعی به «ترمز اضطراری» شده بود.
او نوشت: «ما نمی‌توانیم با ابرهوش مانند مجموعه‌ای از جعبه‌های سیاه تو در تو رفتار کنیم و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.
«ما باید سامانه‌های کنترل‌شده‌ای بسازیم که بتوانیم رفتارشان را مشاهده کنیم، محدودیت‌هایشان را آزمایش کنیم و همیشه بتوانیم اقداماتشان را مهار کنیم.»
اظهارات اسمیت و نادلا در حالی مطرح شد که کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، قرار است از شرکت‌های توسعه‌دهنده هوش مصنوعی پیشرفته بخواهد اقدامات بیشتری برای اطمینان از ایمنی این فناوری انجام دهند.
نارایان در سخنرانی روز دوشنبه خود قرار است بگوید شرکت‌هایی که مدل‌های هوش مصنوعی می‌سازند باید برای مقابله با خطرات و ایجاد سازوکارهای حفاظتی بهتر، اقدامات بیشتری انجام دهند. همچنین بر اساس گزارش‌ها، دولت بریتانیا در حال آماده‌سازی قوانینی برای افزایش نظارت بر هوش مصنوعی است.
کارشناسان هشدار داده‌اند کشورهای رقیب نیز ممکن است مدل‌های قدرتمند و منتشرنشده هوش مصنوعی را سرقت کنند. جفری اروینگ، دانشمند ارشد پیشین مؤسسه امنیت هوش مصنوعی بریتانیا، به گاردین گفت شرکت‌های هوش مصنوعی «امنیتی ندارند که بتواند مانع سرقت مدل‌ها توسط یک کشور متخاصم شود».
در همین حال، نمونه‌هایی از رفتارهای غیرمنتظره هوش مصنوعی همچنان آشکار می‌شود. هفته گذشته شرکت Anthropic اعلام کرد هنگام آزمایش نسخه‌ای از مدل Claude، این هوش مصنوعی با پلیس تماس گرفت و به‌طور نادرست ادعا کرد که می‌تواند در حل یک پرونده قتل کمک کند.