چرا مدیران مایکروسافت و OpenAI خواستار قوانین سخت‌گیرانه‌تر برای ایمنی هوش مصنوعی هستند؟
مدیران مایکروسافت و OpenAI خواستار تقویت قوانین مربوط به ایمنی هوش مصنوعی شده‌اند. به اعتقاد آن‌ها، با پیشرفت روزافزون توانایی‌های این فناوری، دیگر نمی‌توان به هشدار دادن درباره خطرات احتمالی آن بسنده کرد.
به گزارش خبرگزاری آنادولو، برد اسمیت، نایب‌رئیس هیئت‌مدیره و رئیس مایکروسافت، روز چهارشنبه در اجلاس بین‌المللی هوش مصنوعی ۲۰۲۶ در ایرلند خواستار تقویت تدابیر ایمنی این فناوری شد. او تأکید کرد که سازوکارهای حفاظتی نتوانسته‌اند همگام با سرعت بالای پیشرفت فناوری‌های هوش مصنوعی توسعه پیدا کنند.
اسمیت گفت: «مردم، چه در اروپا و چه در هر نقطه دیگری از جهان، از صنعت ما انتظار ندارند که صرفاً درباره اتفاقات ناگواری که ممکن است رخ دهد هشدار بدهیم. آن‌ها انتظار دارند جلوی وقوع چنین اتفاقاتی را بگیریم و دست به اقدام عملی بزنیم.»
او افزود شرکت‌ها و مدیرانشان باید آماده باشند هر زمان که نگرانی‌های ایمنی ایجاب می‌کند، سرعت توسعه فناوری را کاهش دهند.
اسمیت سال ۲۰۲۶ را «سالی هشداردهنده برای ایمنی هوش مصنوعی» توصیف کرد و به گزارش‌هایی درباره عامل‌های هوش مصنوعی خارج‌شده از کنترل که به شبکه‌ها نفوذ کرده‌اند و همچنین کرم‌های رایانه‌ای مبتنی بر هوش مصنوعی که خانه‌های هوشمند و متصل به شبکه را هدف قرار می‌دهند، اشاره کرد.
او گفت: «برای یک پاکت شیر، مقررات ایمنی بیشتری نسبت به هوش مصنوعی وجود دارد. حتی مقررات ایمنی اجاق آشپزخانه شما هم از هوش مصنوعی بیشتر است.»
اسمیت از شرکت‌های فناوری خواست از مقررات منطقی حمایت کنند؛ مقرراتی که از جمله شرکت‌ها را ملزم به گزارش حوادث مرتبط با هوش مصنوعی، اطلاع‌رسانی به قربانیان رخنه‌های امنیتی انجام‌شده با کمک این فناوری و انجام ارزیابی‌های مستقل کند. او همچنین خواستار آن شد که نتایج این ارزیابی‌ها در اختیار دولت‌ها و مشتریان قرار گیرد.
او تأکید کرد: «ما به قانون نیاز داریم. به مقررات نیاز داریم؛ مقرراتی که منطقی و متعادل باشند و نوآوری را نیز در نظر بگیرند.»
اسمیت افزود: «قدرت هوش مصنوعی سریع‌تر از تدابیر ایمنی آن پیشرفت کرده است. اکنون باید ایمنی این فناوری خود را به سطح پیشرفت آن برساند.»
سارا فرایر، مدیر مالی OpenAI، نیز از همکاری بین‌المللی برای حکمرانی هوش مصنوعی حمایت کرد و گفت این شرکت همواره از تنظیم مقررات جهانی در این حوزه دفاع کرده است.
فرایر که در همان نشست سخنرانی می‌کرد، اعلام کرد OpenAI انتشار یکی از مدل‌های خود را به تعویق انداخته است تا بررسی‌های بیشتری درباره ایمنی و هم‌راستایی رفتار آن با اهداف و ارزش‌های موردنظر انجام دهد.
با این حال، او هشدار داد که اگر روند توسعه هوش مصنوعی بیش از اندازه کند شود، ممکن است متخصصان امنیت سایبری در برابر مهاجمانی که هم‌اکنون به ابزارهای قدرتمند دسترسی دارند، در موقعیت ضعیف‌تری قرار بگیرند.
فرایر گفت: «افرادی که نیت مخرب دارند، به این ابزارها دسترسی پیدا کرده‌اند. بنابراین باید مطمئن شویم کسانی که مسئول دفاع هستند نیز ابزارهای لازم را در اختیار دارند.»
او توضیح داد که OpenAI از هوش مصنوعی برای شناسایی آسیب‌پذیری‌های زیرساخت‌های خود استفاده کرده و توانسته است آن‌ها را با سرعت زیادی برطرف کند.
فرایر گفت: «ما آسیب‌پذیری‌ها را پیدا کردیم و با سرعت ماشین آن‌ها را برطرف کردیم.»
او همچنین هشدار داد که نباید ترس را به محور اصلی بحث درباره هوش مصنوعی تبدیل کرد و در عوض خواستار تمرکز بر راهکارهای عملی و افزایش شفافیت شد.
فرایر گفت: «ترویج ترس، راه مناسبی برای مواجهه با جهان نیست. ما باید راهکار ارائه کنیم؛ راهکارهایی که شفاف، روشن و صادقانه باشند و مردم بتوانند چنین ویژگی‌هایی را در آن‌ها ببینند.»