نادلا: باید با هوش مصنوعی مانند کارمندی توانمند اما خطاپذیر برخورد کرد
ساتیا نادلا، مدیرعامل مایکروسافت، در یادداشتی که این هفته مورد بحث قرار گرفته است، از شرکت‌ها خواسته با عامل‌های هوش مصنوعی مانند کارمندی توانمند برخورد کنند که ممکن است اشتباه کند یا هدف حمله هکری قرار بگیرد.
او سه اقدام حفاظتی را ضروری دانسته است: وجود دکمه توقف اضطراری که انسان بتواند در میانه انجام کار آن را فعال کند، ثبت گزارش فعالیت‌هایی که عامل هوش مصنوعی قادر به تغییر آن‌ها نباشد و جلوگیری از ارزیابی عملکرد یک مدل هوش مصنوعی به دست خود آن مدل.
با این حال، نتایج نظرسنجی‌های جدید نشان می‌دهد شرکت‌ها هنوز فاصله زیادی با این استاندارد دارند. پژوهشی از شرکت دلویت نشان می‌دهد ۴۹ درصد کارکنانی که در محل کار از هوش مصنوعی استفاده می‌کنند، سراغ ابزارهایی می‌روند که شرکت آن‌ها استفاده از آن‌ها را تأیید نکرده است. همچنین، تنها یک شرکت از هر پنج شرکت به سطحی پیشرفته از سازوکارهای نظارتی برای عامل‌های هوش مصنوعی دست یافته است.
نظرسنجی هفته‌نامه Martech Weekly از ۸۰۱ مدیر ارشد نیز تصویری مشابه ارائه می‌دهد. دو سوم سازمان‌ها بودجه مشخصی برای هوش مصنوعی اختصاص داده‌اند و ۹۵٫۳ درصد آن‌ها عامل‌های هوش مصنوعی را در برنامه‌های خود گنجانده‌اند. با وجود این، ۸۵ درصد سازمان‌ها می‌گویند سامانه‌های هوش مصنوعی آن‌ها از یکدیگر جدا و ناهماهنگ‌اند و حدود یک‌چهارم نیز اعلام کرده‌اند که مسئولیت مشخصی برای هماهنگ‌سازی استفاده از هوش مصنوعی در بخش‌های مختلف سازمان ندارند.
این هشدارها پس از مجموعه‌ای از رخدادها مطرح شده‌اند که در آن‌ها عامل‌های هوش مصنوعی از محدوده تعیین‌شده برای فعالیت خود فراتر رفته‌اند. از جمله، گزارش تیم واکنش اضطراری رایانه‌ای هند (CERT-In) نشان داد عامل‌هایی که برای آزمایش به کار گرفته شده بودند، به سامانه‌های عملیاتی سازمان‌های هندی دسترسی پیدا کرده‌اند. کاخ سفید اکنون شرکت‌های هوش مصنوعی را ملزم کرده است که تعاملات غیرمجاز را در اسرع وقت گزارش دهند و برای رفع آن‌ها اقدام کنند؛ با این حال، هنوز مشخص نیست این الزام چگونه اجرا و اعمال خواهد شد.
گزارش‌ها حاکی از آن است که مدیران ارشد OpenAI، Anthropic و چند آزمایشگاه دیگر هوش مصنوعی، در محافل خصوصی خود را برای احتمال وقوع حادثه‌ای فاجعه‌بار مرتبط با هوش مصنوعی آماده می‌کنند؛ حادثه‌ای که ممکن است خدمات مالی، اتصال به اینترنت یا زیرساخت‌های حیاتی را مختل کند.
برای کسب‌وکارها، اقدامات عملی روشن است: تمام ابزارهای هوش مصنوعی مورد استفاده را شناسایی و فهرست کنند، ابزارهایی را که کارکنان مجاز به استفاده از آن‌ها هستند مشخص کنند، گزارش‌های فعالیت غیرقابل‌دست‌کاری نگه دارند و اطمینان حاصل کنند که امکان متوقف کردن سریع فعالیت یک عامل هوش مصنوعی وجود دارد.