رئیس مایکروسافت درباره ضرورت نظارت سخت‌گیرانه بر هوش مصنوعی هشدار داد
رئیس مایکروسافت خواستار قوانین فوری جهانی برای نظارت بر هوش مصنوعی شد
برد اسمیت، رئیس مایکروسافت، خواستار وضع قوانین جهانی فوری برای هوش مصنوعی شده و هشدار داده است که سامانه‌های هوش مصنوعی در حال حاضر الزامات ایمنی کمتری نسبت به محصولات مصرفی روزمره مانند شیر یا ماشین لباس‌شویی دارند.
اسمیت در گفت‌وگو با بی‌بی‌سی گفت دولت‌ها باید مجموعه‌ای مشترک از استانداردهای ایمنی هوش مصنوعی ایجاد کنند؛ استانداردهایی که شامل ارزیابی مستقل سامانه‌های جدید، گزارش اجباری رخدادها و یک ترمز اضطراری برای زمانی باشد که عامل‌های هوش مصنوعی رفتارهای خطرناک از خود نشان می‌دهند.
او گفت: «در حال حاضر، ماشین لباس‌شویی شما بیشتر از هوش مصنوعی تحت قوانین ایمنی قرار دارد. هر بسته شیری که در فروشگاه مواد غذایی می‌بینید، مشمول قوانین ایمنی و بازرسی است.»
اسمیت همچنین تأکید کرد افرادی یا سازمان‌هایی که تحت تأثیر یک سامانه هوش مصنوعی سرکش قرار می‌گیرند، باید در صورت وقوع نقض یا حادثه از آن مطلع شوند.
او افزود شرکت‌های فعال در حوزه هوش مصنوعی باید از نظر قانونی ملزم شوند حوادث جدی را مستندسازی کنند؛ مشابه چارچوب‌های گزارش‌دهی که در صنایع دیگرِ تحت نظارت مورد استفاده قرار می‌گیرد.
اسمیت گفت: «ما می‌دانیم برای محصولات دیگر چگونه این کار را انجام دهیم. باید بر این دانش تکیه کنیم و فکر کنیم چگونه آن را برای هوش مصنوعی به کار بگیریم.»
اظهارات رئیس مایکروسافت او را در تضاد با رویکرد دونالد ترامپ، رئیس‌جمهور آمریکا، درباره مقررات‌گذاری سبک‌تر قرار می‌دهد. ترامپ معتقد است قوانین بیش از حد می‌توانند توسعه هوش مصنوعی در آمریکا را کند کرده و شرکت‌های آمریکایی را در رقابت با رقبای چینی تضعیف کنند.
با این حال، اسمیت هوش مصنوعی را هم «ابزار» و هم «سلاح» توصیف کرد؛ دیدگاهی که نشان می‌دهد او معتقد است تنها اتکا به تدابیر داوطلبانه شرکت‌ها برای حفظ ایمنی کافی نیست.
اظهارات او در شرایطی مطرح می‌شود که توسعه‌دهندگان بزرگ هوش مصنوعی، از جمله OpenAI، Anthropic و Google DeepMind، همچنان درباره میزان نظارتی که باید همراه با مدل‌های قدرتمندتر اعمال شود، بحث می‌کنند.
پیامد برای سرمایه‌گذاران
از دیدگاه سرمایه‌گذاران مایکروسافت، اهمیت سخنان اسمیت در این است که او عملاً خواستار ساختار نظارتی بیشتر برای صنعتی شده که مایکروسافت سرمایه‌گذاری گسترده‌ای در آن دارد.
این موضوع ممکن است در نگاه اول غیرمنتظره به نظر برسد، اما شرکت‌های بزرگ و تثبیت‌شده گاهی از قوانین شفاف‌تر سود می‌برند، زیرا سرمایه، زیرساخت‌های حقوقی و تیم‌های انطباق لازم برای رعایت این مقررات را در اختیار دارند.
در مقابل، استارتاپ‌های کوچک‌تر حوزه هوش مصنوعی ممکن است برای تحمل این هزینه‌ها با دشواری بیشتری روبه‌رو شوند.
خطر این است که قوانین سخت‌گیرانه‌تر جهانی می‌توانند روند عرضه مدل‌های جدید را کند کنند، هزینه‌های توسعه را افزایش دهند و برخی کاربردهای هوش مصنوعی را محدود کنند.
برای سرمایه‌گذاران، موضوعات کلیدی که باید زیر نظر گرفته شوند شامل آزمایش‌های اجباری ایمنی، قوانین گزارش‌دهی رخدادها، استانداردهای مسئولیت حقوقی و این مسئله است که آیا بازارهای بزرگ به سمت مقررات مشترک هوش مصنوعی حرکت می‌کنند یا چارچوب‌های متفاوتی را در پیش می‌گیرند.
اگر قوانین جهانی استانداردتر شوند، مایکروسافت ممکن است در زمینه استقرار فناوری‌های خود با شفافیت بیشتری روبه‌رو شود. اما اگر مقررات میان کشورها پراکنده و متفاوت باقی بمانند، هزینه‌های رعایت قوانین می‌تواند به‌طور قابل توجهی افزایش یابد.