رئیس مایکروسافت: شیر بیشتر از هوش مصنوعی تحت نظارت است
برد اسمیت، رئیس مایکروسافت، خواستار تدوین قوانین جهانی قوی‌تر برای هوش مصنوعی شده و هشدار داده است که سامانه‌های پیشرفته این فناوری در حال حاضر الزامات رسمی ایمنی کمتری نسبت به بسیاری از محصولات مصرفی روزمره دارند.
اسمیت معتقد است دولت‌ها باید آزمایش‌های مستقل، گزارش‌دهی اجباری درباره حوادث جدی مرتبط با هوش مصنوعی و سازوکارهایی برای متوقف کردن رفتارهای خطرناک خودکار را پیش از قدرتمندتر شدن این فناوری اجرا کنند.
مایکروسافت می‌گوید نظارت بر هوش مصنوعی عقب مانده است
اسمیت برای توضیح دیدگاه خود از مقایسه‌ای قابل توجه استفاده کرد و گفت محصولاتی مانند شیر، در مقایسه با هوش مصنوعی، تحت مقررات بیشتری قرار دارند.
استدلال او این است که صنایع تولیدکننده محصولات فیزیکی سال‌هاست با استانداردهای ایمنی مشخص، نظام‌های بازرسی و الزامات گزارش‌دهی فعالیت می‌کنند؛ در حالی که بسیاری از پیشرفته‌ترین سامانه‌های هوش مصنوعی هنوز عمدتاً بر تعهدات داوطلبانه شرکت‌ها متکی هستند.
این نگرانی با ورود هوش مصنوعی به مرحله‌ای جدید جدی‌تر شده است؛ مرحله‌ای که در آن سامانه‌ها دیگر فقط به پرسش‌ها پاسخ نمی‌دهند، بلکه می‌توانند از ابزارها استفاده کنند، نرم‌افزار بنویسند و وظایف چندمرحله‌ای را با نظارت انسانی کمتر انجام دهند.
این سامانه‌ها که به «عامل‌های هوش مصنوعی» شناخته می‌شوند، می‌توانند کارهای مفیدی انجام دهند، اما پژوهشگران به‌طور فزاینده در حال بررسی این موضوع هستند که اگر چنین سیستم‌هایی برخلاف انتظار توسعه‌دهندگان خود عمل کنند، چه اتفاقی رخ می‌دهد.
اسمیت خواستار آزمایش مستقل پیش از عرضه است
یکی از پیشنهادهای اصلی مایکروسافت، استفاده گسترده‌تر از ارزیابی‌های مستقل است.
بر اساس این رویکرد، مدل‌های پیشرفته هوش مصنوعی باید توسط کارشناسان بیرونی آزمایش شوند و تنها به ارزیابی‌هایی که شرکت‌های سازنده خود انجام می‌دهند، متکی نباشند.
هدف از این آزمایش‌ها، شناسایی توانایی‌های خطرناک پیش از عرضه گسترده مدل‌ها خواهد بود.
این بررسی‌ها می‌توانند مشخص کنند که آیا یک سامانه هوش مصنوعی قادر است به حملات سایبری کمک کند، تدابیر حفاظتی را دور بزند، کاربران را دستکاری کند یا هنگام فعالیت مستقل، اقدامات زیان‌بار انجام دهد.
بریتانیا پیش‌تر در همین مسیر حرکت کرده و از طریق مؤسسه امنیت هوش مصنوعی خود، برخی از مدل‌های پیشرفته را پیش از استقرار ارزیابی می‌کند.
ممکن است گزارش حوادث جدی هوش مصنوعی اجباری شود
اسمیت همچنین از اجباری شدن گزارش‌دهی هنگام وقوع شکست‌ها یا حوادث مهم مرتبط با هوش مصنوعی حمایت می‌کند.
بر این اساس، شرکت‌ها ممکن است موظف شوند زمانی که یک سامانه هوش مصنوعی باعث یک حادثه امنیتی جدی می‌شود یا در آن نقش دارد، موضوع را به نهادهای مسئول اطلاع دهند؛ نه اینکه خودشان تصمیم بگیرند آیا حادثه باید افشا شود یا خیر.
او همچنین گفته است افرادی که تحت تأثیر رخدادهای مرتبط با هوش مصنوعی قرار می‌گیرند، باید در جریان قرار گیرند.
این ایده مشابه قوانین حوزه امنیت سایبری و نقض داده‌هاست؛ حوزه‌ای که در آن شرکت‌ها ممکن است از نظر قانونی ملزم به گزارش حوادث جدی باشند.
با این حال، سامانه‌های هوش مصنوعی می‌توانند انواع متفاوتی از خطاها را ایجاد کنند. یک عامل خودکار ممکن است به اطلاعاتی دسترسی پیدا کند که نباید به آن دسترسی داشته باشد، اقدامی بدون مجوز انجام دهد یا به شکلی غیرمنتظره با سامانه‌های دنیای واقعی تعامل کند.
آزمایش‌های بریتانیا رفتارهای غیرمجاز عامل‌های هوش مصنوعی را آشکار کرد
این بحث صرفاً نظری نیست.
مؤسسه امنیت هوش مصنوعی بریتانیا در ماه اوت اعلام کرد عامل‌های هوش مصنوعی که تحت آزمایش‌های سایبری قرار داشتند، اقدام‌های مداوم و غیرمجاز مرتبط با افراد و سازمان‌های واقعی انجام داده‌اند.
این مؤسسه اعلام کرد این رخداد در جریان یک ارزیابی کنترل‌شده برای بررسی امکان سوءاستفاده از مدل‌های پیشرفته در حملات سایبری رخ داده است.
پژوهشگران انتقال‌های غیرعادی داده از سامانه‌های آزمایشی خود را شناسایی کردند و بعداً دریافتند برخی عامل‌های هوش مصنوعی فراتر از چیزی که ارزیابان در نظر داشتند، عمل کرده‌اند.
این حادثه به نمونه‌ای از دلیل درخواست قانون‌گذاران و پژوهشگران برای نظارت قوی‌تر بر سامانه‌های هوش مصنوعی با سطح بالاتر خودمختاری تبدیل شد.
مایکروسافت خواستار «ترمز اضطراری» برای هوش مصنوعی سرکش است
اسمیت همچنین خواستار آن شده است که سامانه‌های قدرتمند هوش مصنوعی به چیزی مجهز شوند که او آن را سازوکار «ترمز اضطراری» توصیف کرده است.
ایده اصلی ساده است: اگر یک سامانه خودکار شروع به رفتار خطرناک کرد، اپراتورها باید راهی مطمئن برای متوقف کردن آن داشته باشند.
این موضوع با افزایش دسترسی هوش مصنوعی به زیرساخت‌های ابری، شبکه‌های سازمانی، سامانه‌های مالی و دیگر نرم‌افزارها اهمیت بیشتری پیدا می‌کند.
نرم‌افزارهای سنتی معمولاً فقط اقدام‌هایی را انجام می‌دهند که به‌طور مشخص برای آن‌ها برنامه‌ریزی شده است. اما عامل‌های هوش مصنوعی می‌توانند با انعطاف بیشتری عمل کنند؛ قابلیتی که فرصت‌های جدیدی ایجاد می‌کند اما پیش‌بینی رفتار آن‌ها را نیز دشوارتر می‌سازد.
بنابراین، یک سازوکار مؤثر برای خاموش کردن سامانه می‌تواند به یکی از الزامات پایه‌ای ایمنی برای هوش مصنوعی‌های پرخطر تبدیل شود.
بریتانیا در حال بررسی حمایت‌های قانونی قوی‌تر است
دولت بریتانیا به‌طور جداگانه اعلام کرده است که در حال بررسی تدابیر حفاظتی سخت‌گیرانه‌تر در برابر تهدیدهای نوظهور هوش مصنوعی است.
مقام‌های این کشور بررسی می‌کنند که آیا حوادث جدی و موارد نزدیک به وقوع حادثه در حوزه هوش مصنوعی باید در چارچوب لایحه امنیت سایبری و تاب‌آوری این کشور قرار گیرد یا خیر.
دولت همچنین برای رویارویی با حوادث جدی مرتبط با عامل‌های خودکار هوش مصنوعی آماده می‌شود.
هم‌زمان، بریتانیا از سامانه‌های پیشرفته هوش مصنوعی برای شناسایی آسیب‌پذیری‌های امنیت سایبری استفاده می‌کند و می‌گوید برنامه‌های آزمایشی مورد حمایت دولت تاکنون بیش از هزار ضعف امنیتی را شناسایی و برطرف کرده‌اند.
کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا، گفته است اگر توافق‌های داوطلبانه با شرکت‌های هوش مصنوعی حفاظت کافی ایجاد نکنند، قانون‌گذاری همچنان یک گزینه خواهد بود.
قانون‌گذاری هوش مصنوعی به یک رقابت جهانی تبدیل شده است
دولت‌ها در تلاش هستند میان دو اولویت رقیب تعادل برقرار کنند.
قوانین سخت‌گیرانه می‌توانند خطرهای امنیتی و ایمنی را کاهش دهند، اما شرکت‌های فناوری هشدار می‌دهند که مقررات بیش از حد ممکن است نوآوری را کند کند و رقابت کشورها در عرصه جهانی هوش مصنوعی را دشوارتر سازد.
ایالات متحده در سطح فدرال همچنان تا حد زیادی به چارچوب‌های داوطلبانه متکی است، با وجود اینکه نگرانی عمومی درباره ایمنی هوش مصنوعی افزایش یافته است. یک نظرسنجی رویترز/ایپسوس که اوایل همین ماه منتشر شد، نشان داد اکثریت رأی‌دهندگان آمریکایی معتقدند دولت و کنگره خطرهای هوش مصنوعی را به اندازه کافی جدی نمی‌گیرند.
اختلاف‌های فزاینده، بحث درباره هوش مصنوعی را از این پرسش که آیا این فناوری به نظارت نیاز دارد یا نه، به موضوعی دیگر منتقل کرده است.
اکنون پرسش اصلی این است که چه میزان از مقررات باید اجباری باشد، چه کسانی باید آزمایش‌های ایمنی را انجام دهند و آیا شرکت‌ها باید از نظر قانونی موظف به افشای شکست‌ها باشند.
این موضوع برای شما چه معنایی دارد
برای کاربران عادی، مقررات قوی‌تر هوش مصنوعی می‌تواند در نهایت به ایجاد قوانین روشن‌تر درباره نحوه برخورد با زمانی منجر شود که یک سامانه هوش مصنوعی باعث آسیب، افشای داده‌ها یا انجام اقدامی بدون مجوز می‌شود.
آزمایش مستقل همچنین می‌تواند به این معنا باشد که سامانه‌های پرخطر هوش مصنوعی پیش از استفاده در محیط‌های کاری، بانک‌ها، سازمان‌های دولتی یا زیرساخت‌های حیاتی، بررسی‌های لازم را پشت سر بگذارند.
برای شرکت‌ها، این تغییرات می‌تواند پیامدهای مهمی داشته باشد.
ممکن است از توسعه‌دهندگان انتظار رود ثابت کنند مدل‌های قدرتمند آن‌ها به‌طور مستقل آزمایش شده‌اند، سامانه‌هایی برای توقف رفتارهای خطرناک نگهداری کنند و حوادث بزرگ را به نهادهای نظارتی گزارش دهند.
هشدار اسمیت بازتاب‌دهنده تغییر گسترده‌تری در بحث هوش مصنوعی است. این فناوری سریع‌تر از آنکه دولت‌ها بتوانند قوانین رسمی لازم را ایجاد کنند، از مرحله آزمایش به سمت تبدیل شدن به بخشی از زیرساخت‌های حیاتی حرکت می‌کند.