برد اسمیت از مایکروسافت خواستار استانداردهای «واقعی و مؤثر» ایمنی هوش مصنوعی شد
برد اسمیت، رئیس مایکروسافت، روز سه‌شنبه هشدار داد که صنعت فناوری و دولت‌ها باید «با فوریت اقدام کنند» تا «استانداردهای واقعی و مؤثر ایمنی» برای مهار خطرات مرتبط با هوش مصنوعی ایجاد شود.
اسمیت در گفت‌وگو با گروهی از خبرنگاران، یک روز پیش از برگزاری نشست بین‌المللی هوش مصنوعی در دوبلین، گفت: «ما برای هوش مصنوعی به چیزی نیاز داریم که در همه جنبه‌های دیگر زندگی داریم... به استانداردهای واقعی و مؤثر ایمنی نیاز داریم و باید اعتماد عمومی به این استانداردها ایجاد شود.»
نگرانی‌ها درباره ایمنی هوش مصنوعی در ماه‌های اخیر افزایش یافته است؛ پس از آن‌که مدل‌های توسعه‌یافته توسط OpenAI و Anthropic در جریان آزمایش‌ها با رخدادهای امنیتی مواجه شدند و فشارها برای قانون‌گذاری درباره این فناوری افزایش یافت.
اسمیت گفت: «به نقطه‌ای رسیده‌ایم که به‌وضوح نیاز داریم شرکت‌های این صنعت گام‌های بیشتری بردارند تا مسائل مربوط به ایمنی هوش مصنوعی را حل کنند. فکر می‌کنم به زمانی رسیده‌ایم که دولت‌ها نیز باید اقدامات بیشتری انجام دهند.»
رئیس مایکروسافت پیشنهادهای این شرکت برای تقویت ایمنی در سراسر این بخش را تشریح کرد. یکی از این پیشنهادها، الزام مجهز شدن عوامل هوش مصنوعی به «ترمزهای ایمنی» است که کاربران بتوانند در صورت وقوع حادثه آن‌ها را فعال کنند.
او توضیح داد: «به‌ویژه برای هر هوش مصنوعی که روی زیرساخت‌های حیاتی یا نوع دیگری از سامانه‌های خودکار فعالیت می‌کند، این سامانه‌ها باید توانایی خاموش شدن یا کاهش سرعت عملکرد خود را داشته باشند.»
اسمیت همچنین خواستار آن شد که ارائه‌دهندگان خدمات هوش مصنوعی به‌صورت اجباری حوادث مرتبط با این فناوری را گزارش کنند.
او گفت: «اگر یک کسب‌وکار با یک رخنه امنیتی مواجه شود که به از دست رفتن داده‌های مصرف‌کنندگان منجر شود، باید به مصرف‌کنندگان اطلاع دهد. همین منطق باید درباره افرادی که از سوی یک عامل هوش مصنوعی آسیب می‌بینند نیز اعمال شود» و شرکت‌ها باید از نظر قانونی موظف باشند افراد آسیب‌دیده را مطلع کنند.
رئیس مایکروسافت همچنین بر ضرورت آزمایش و ارزیابی قوی‌تر مدل‌های هوش مصنوعی پیش از عرضه عمومی آن‌ها تأکید کرد تا اطمینان حاصل شود که این فناوری‌ها ایمن هستند.
او هشدار داد: «ما باید با فوریت اقدام کنیم.»
اسمیت جدیدترین چهره برجسته صنعت فناوری است که بر ضرورت افزایش هوشیاری درباره فناوری هوش مصنوعی تأکید کرده است. از جمله این افراد، داریو آمودی، مدیرعامل Anthropic، است که اعلام کرده در صورت نیاز ممکن است توسعه این فناوری را به‌صورت یک‌جانبه کندتر کند.
جنسن هوانگ، مدیرعامل انویدیا، نیز روز سه‌شنبه گفت رهبران شرکت‌های هوش مصنوعی باید مسئولیت اطمینان از توسعه ایمن این فناوری را بر عهده بگیرند.
هوانگ که در پاریس سخن می‌گفت، اظهار کرد: «تمام ظرفیت هوش مصنوعی تنها زمانی می‌تواند محقق شود که هم‌زمان با پیشرفت قابلیت‌های هوش مصنوعی، ایمنی و امنیت آن را نیز ارتقا دهیم.»
او افزود: «این‌ها اهداف متضادی نیستند. در واقع، این‌ها یک هدف واحد هستند.»