بیش از ۳۰۰ دانشمند خواستار تقویت امنیت هوش مصنوعی با ایجاد یک نهاد بین‌المللی جدید شدند
خلاصه
بیش از ۳۰۰ دانشمند از سراسر قاره‌های آمریکا، اروپا، آسیا، آفریقا و اقیانوسیه با انتشار نامه‌ای سرگشاده خواستار اقدامات بیشتر برای ایمنی هوش مصنوعی شده‌اند.
این نامه سه پیشنهاد ارائه کرده است که از جمله آنها ایجاد یک نهاد بین‌المللی برای ثبت و انتشار رخدادهای امنیتی ناشی از هوش مصنوعی است.
گام بعدی چیست؟
دولت فدرال در حال نهایی‌کردن استانداردهای ملی هوش مصنوعی است و قصد دارد قوانین جدیدی را در سال ۲۰۲۷ به تصویب برساند.
گروهی متشکل از ۳۵۰ دانشمند از بیش از ۳۰ کشور با انتشار نامه‌ای سرگشاده خواستار تقویت امنیت هوش مصنوعی از طریق ایجاد یک نهاد بین‌المللی برای ثبت و انتشار شکست‌های امنیتی ناشی از این فناوری شده‌اند.
در ماه‌های اخیر، چندین رخداد در کشورهای مختلف از جمله استرالیا رخ داده است که در آنها مدل‌های هوش مصنوعی به سامانه‌های سازمان‌های خارجی نفوذ کرده‌اند؛ از جمله شرکت نوپای Hugging Face و چندین وب‌سایت دولتی.
در این نامه آمده است: «این رخدادها را می‌توان نمونه‌ای از کوتاهی غیرمسئولانه در رعایت استانداردهای امنیت سایبری دانست که با استفاده از محیط‌های ایزوله‌تر و رویه‌های مناسب‌تر قابل پیشگیری بودند.»
این دانشمندان از ۳۱ کشور، از جمله استرالیا، هستند و در اروپا، آسیا، آفریقا و اقیانوسیه فعالیت می‌کنند. آنها هشدار داده‌اند که بدون تغییرات فوری، رخدادهای آینده می‌تواند زیرساخت‌های حیاتی را در معرض خطر قرار دهد.
این نامه سه توصیه اصلی ارائه کرده است:
- استفاده از سامانه‌های مهار با اطمینان بالا و در ابتدا قرار دادن مدل‌های هوش مصنوعی دارای توانایی سایبری در محیط‌های کاملاً جدا از اینترنت (air-gapping).
- ایجاد یک نهاد بین‌المللی برای ثبت و پیگیری شکست‌های مربوط به مهار و کنترل هوش مصنوعی.
- گزارش رخدادهای امنیتی به این نهاد و انتشار عمومی آنها.
توبی والش، دانشمند ارشد مؤسسه هوش مصنوعی دانشگاه نیو ساوت ولز، از امضاکنندگان این نامه است و می‌گوید زمان اقدام فرا رسیده است.
«تا اینجا خوش‌شانس بوده‌ایم، زیرا هک‌هایی که رخ داده‌اند، رویدادهای سایبری بسیار محدودی بوده‌اند.»
پروفسور والش گفت.
او افزود: «اما تصور کنید اگر یک مدل هوش مصنوعی تلاش می‌کرد به سامانه کنترل ترافیک هوایی نفوذ کند، این موضوع به‌راحتی می‌توانست آسیب‌های قابل‌توجهی به زندگی روزمره ما وارد کند.»
اقدامات حفاظتی مانع تکرار رخدادها می‌شوند
پس از هک شرکت Hugging Face که در آن یک مدل هوش مصنوعی توانست وارد سامانه‌های این شرکت شود، شرکت OpenAI این اتفاق را «زنگ هشدار» توصیف کرد و گفت بدون تدابیر حفاظتی مناسب، عامل‌های هوش مصنوعی ممکن است بدون هدایت انسان دست به «اقدامات خطرناک» بزنند.
اما پروفسور والش گفت یکی از پیشنهادهای مطرح‌شده در نامه سرگشاده می‌توانست به‌طور کامل از وقوع این حمله جلوگیری کند.
«اگر محیط آزمایش را از اینترنت جدا کرده بودند، حمله به Hugging Face رخ نمی‌داد.»
او گفت.
او افزود: «اگر در ماجرای Medicare هم با دقت بیشتری فقط حداقل مجوزهای لازم برای انجام وظیفه مورد نیاز را به عامل‌ها می‌دادند، آن حمله رخ نمی‌داد.»
«منظورم این است که همه این موارد، اصول بسیار ابتدایی هستند.»
پروفسور والش گفت مهم‌ترین بخش این نامه سرگشاده، ایجاد یک نهاد بین‌المللی برای اشتراک‌گذاری اطلاعات و نظارت بر رخدادهای امنیتی است.
او اشاره کرد که برای صنایع دیگری مانند بانکداری، هوانوردی و داروسازی نهادهای مشابهی وجود دارد.
«هر بار که یک سانحه هوایی رخ می‌دهد، بازرسان مستقل وارد عمل می‌شوند و بررسی می‌کنند چه اتفاقی افتاده است تا همه بتوانند از آن درس بگیرند و همان اشتباه را دوباره تکرار نکنند.»
او گفت.
«ما می‌توانیم همین کار را برای هوش مصنوعی انجام دهیم، زیرا این فناوری با سرعت زیادی در حال پیشرفت است و باید آن را تا حد ممکن ایمن کنیم.»
برای جلوگیری از رخدادها به همکاری بین‌المللی نیاز است
هفته گذشته، اندرو چارلتون، دستیار وزیر علوم، فناوری و اقتصاد دیجیتال، نیز در سخنرانی خود درباره تنظیم مقررات هوش مصنوعی مشابه حوزه‌های بانکداری و هوانوردی دیدگاه مشابهی را مطرح کرد.
دولت در حال نهایی‌کردن استانداردهای ملی هوش مصنوعی است و قصد دارد سال آینده قوانین جدیدی را برای این حوزه وضع کند.
اما پروفسور والش گفت درباره هوش مصنوعی باید یک توافق گسترده بین‌المللی وجود داشته باشد، زیرا این فناوری به‌صورت جدا از جهان توسعه پیدا نمی‌کند.
«بنابراین باید در سطح بین‌المللی همکاری کنیم؛ شاید در زمینه گزارش رخدادها و اشتراک‌گذاری اطلاعات، بدون اینکه لزوماً مجبور باشیم در سطح بین‌المللی مقررات‌گذاری کنیم.»
او گفت.
پروفسور والش گفت امنیت سایبری پس از آن بهبود یافت که شرکت‌ها ملزم شدند رخدادهای امنیتی را گزارش کنند.
«در غیر این صورت، هیچ‌کس نمی‌دانست چه اتفاقی در حال رخ دادن است و ما نمی‌توانستیم از همه اشتباهاتی که شرکت‌ها مرتکب شده بودند درس بگیریم.»
او گفت.
«در اینجا نیز، در حال حاضر به حسن نیت شرکت‌ها برای گزارش‌دادن درباره اتفاقات رخ‌داده تکیه کرده‌ایم.»