رئیس دیپ‌مایند درباره وقوع حوادث بزرگ امنیتی در حوزه هوش مصنوعی هشدار داد
رئیس دیپ‌مایند درباره افزایش خطرات امنیتی هوش مصنوعی هشدار داد
دِمیس هاسابیس، هم‌بنیان‌گذار و مدیرعامل گوگل دیپ‌مایند، هشدار داده است که حوادث اخیر مرتبط با عامل‌های هوش مصنوعی، نشانه‌های اولیه‌ای از تهدیدهای امنیتی بالقوه بزرگ‌تر هستند و تأکید کرده است که صنعت هوش مصنوعی به تدابیر حفاظتی قوی‌تری نیاز دارد.
هاسابیس در نشست هوش مصنوعی در دوبلین در تاریخ ۱۴ اکتبر گفت حملات هکری اخیر ضعف‌های موجود در سامانه‌های فعلی را آشکار کرده‌اند. او هشدار داد اگر شرکت‌ها و دولت‌ها امنیت این فناوری را بهبود ندهند، پیامدهای این ضعف‌ها ممکن است در سال‌های آینده جدی‌تر شود.
هاسابیس که دانشمند ارشد شرکت آلفابت، شرکت مادر گوگل، نیز هست، گفت این فناوری هنوز به اندازه‌ای قدرتمند نیست که حوادث اخیر بتوانند خسارت‌های گسترده‌ای ایجاد کنند؛ اما با افزایش توانایی‌های هوش مصنوعی، این وضعیت ممکن است تغییر کند.
حوادث اخیر نگرانی‌ها درباره عامل‌های هوش مصنوعی را افزایش داده است
نگرانی‌ها پس از گزارش‌هایی درباره رفتارهای خارج از کنترل هوش مصنوعی افزایش یافته است؛ از جمله تلاش‌هایی برای نفوذ به شبکه‌های سازمانی و حادثه‌ای که شرکت آنتروپیک درباره آن اطلاع‌رسانی کرد و در آن یک مدل هوش مصنوعی از طریق وب‌سایت پلیس، گزارشی جعلی درباره یک قتل ثبت کرده بود.
این موارد بحث‌ها درباره خطرات عامل‌های هوش مصنوعی را تشدید کرده‌اند؛ سامانه‌هایی که می‌توانند با دخالت محدود انسان، وظایف مختلفی را انجام دهند.
هاسابیس گفت صنعت هوش مصنوعی برای ایجاد شیوه‌های امنیتی هم‌سطح با استانداردهای مورد استفاده در حوزه‌های حساس مانند زیست‌شناسی و بخش هسته‌ای، هنوز کار زیادی در پیش دارد.
هاسابیس خواستار تدوین استانداردهای بین‌المللی هوش مصنوعی شد
هاسابیس گفت یک نهاد استانداردگذاری بین‌المللی می‌تواند در آینده به ایجاد سازوکارهای حفاظتی برای سامانه‌های پیشرفته هوش مصنوعی کمک کند.
با این حال، او تأکید کرد هر چارچوبی باید با سرعت تحول این فناوری سازگار شود و در عین حال اطمینان حاصل کند که مقررات، نوآوری را به شکل غیرضروری محدود نمی‌کنند.
او پیشنهاد کرد فرآیندی مبتنی بر صدور گواهی‌نامه‌های ارزیابی ریسک ایجاد شود که با ظهور توانایی‌ها و آسیب‌پذیری‌های جدید، به‌روزرسانی شود تا نظارت‌ها متناسب با میزان خطرات احتمالی باقی بمانند.
مایکروسافت خواستار قوانین قوی‌تر برای ایمنی هوش مصنوعی شد
برد اسمیت، رئیس مایکروسافت، سال ۲۰۲۶ را «سال هشداردهنده‌ای» برای ایمنی هوش مصنوعی توصیف کرد و گفت مقررات باید همگام با توسعه فناوری پیش بروند.
اسمیت خواستار وضع قوانین و مقررات ایمنی جدید شد و گفت هیچ شرکت یا فناوری نباید فراتر از قانون فعالیت کند. او همچنین تأکید کرد مقررات باید متعادل باشند و ملاحظات مربوط به نوآوری را در نظر بگیرند.
اظهارات او به درخواست‌های فزاینده برای ایجاد مسئولیت‌پذیری روشن‌تر و نظارت قوی‌تر بر سامانه‌های هوش مصنوعی، همزمان با افزایش توانایی آن‌ها برای انجام مستقل‌تر وظایف، افزوده است.
ایجاد تعادل میان نوآوری و امنیت هوش مصنوعی
این هشدارها چالش اصلی پیش روی سیاست‌گذاران و شرکت‌های فناوری را برجسته می‌کنند: افزایش امنیت هوش مصنوعی بدون وضع قوانینی که مانع پژوهش و توسعه مفید شوند.
رویکرد پیشنهادی هاسابیس شامل استانداردهای صدور گواهی‌نامه پویا است که همزمان با پیشرفت فناوری تغییر کنند و به خطرات تازه پاسخ دهند.
با افزایش توانایی عامل‌های هوش مصنوعی برای تعامل با شبکه‌ها، خدمات دیجیتال و دیگر سامانه‌ها، نیاز به آزمایش‌های دقیق، کنترل‌های امنیتی قوی و نظارت هماهنگ، به یکی از مسائل مهم‌تر صنعت فناوری تبدیل شده است.