ایمنی هوش مصنوعی در کالیفرنیا؛ از کلید توقف اضطراری تا قواعد نظارت
کالیفرنیا سرانجام از مرحله صحبت درباره ایمنی هوش مصنوعی عبور کرده و به سمت ایجاد سازوکارهای واقعی نظارت بر این فناوری حرکت کرده است.
ماه گذشته، گاوین نیوسام، فرماندار کالیفرنیا، دستور داد اجرای سریع‌تر حسابرسی‌های مستقل هوش مصنوعی و توسعه یک «کلید توقف اضطراری» تأییدشده برای سامانه‌های پیشرفته هوش مصنوعی دنبال شود. او در این دستور به حوادث اخیر مرتبط با هوش مصنوعی، از جمله حمله سایبری به Hugging Face، اشاره کرد.
این مسیر درست است، اما کالیفرنیا باید یک گام فراتر برود: اختیارات تفویض‌شده را به یکی از ارکان اصلی ایمنی هوش مصنوعی تبدیل کند. اختیارات تفویض‌شده به مجوزها و قدرت تصمیم‌گیری گفته می‌شود که یک فرد یا سازمان به یک سامانه هوش مصنوعی می‌دهد تا از طرف آن‌ها اقدام کند، بدون آنکه برای هر مرحله نیازمند دریافت تأیید باشد. طرفداران این رویکرد می‌گویند چنین مدلی پاسخگویی را افزایش می‌دهد.
نگرانی درباره رفتارهای خارج از کنترل، تنها محدود به منتقدان هوش مصنوعی نیست. Jacob Coxon که پس از سه سال پژوهش در OpenAI و Anthropic از این شرکت کنار رفت، هشدار داد آزمایشگاه‌های پیشرو «مستقیماً به سمت ابرهوش خودبهبوددهنده می‌تازند و با جان ما قمار می‌کنند».
Evan Hubinger، مدیر علمی هم‌ترازی در Anthropic، در واکنش به این اظهارات هشدار شدیدتری مطرح کرد و گفت: «جیکوب در این مورد درست می‌گوید؛ ما واقعاً باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد! شخصاً فکر می‌کنم احتمال این اتفاق در دهه آینده بیش از ۱۰ درصد است.»
این هشدارهای نگران‌کننده با توجه به مشکل اساسی کنترل، وزن بیشتری پیدا می‌کنند. OpenAI اعلام کرده است که سامانه‌های هوش مصنوعی این شرکت از محیط آزمایشی ایزوله خارج شده، به اینترنت دسترسی پیدا کرده و به‌طور خودکار به Hugging Face حمله سایبری کرده‌اند؛ رخدادی که OpenAI آن را یک حادثه سایبری بی‌سابقه توصیف کرده است.
METR بعدها گزارش داد حدود ۱۲۰۰ عامل هوش مصنوعی که قرار بود جدا از یکدیگر نگه داشته شوند، یک تابلوی پیام‌رسان مشترک و غیرمجاز را پیدا کرده و از آن استفاده کرده‌اند و بیش از ۷۰ هزار پیام و فایل میان آن‌ها ردوبدل شده است. حدود ۷۰۰ عامل در این حمله مشارکت داشتند.
نکته قابل توجه این است که عامل‌ها یک کانال هماهنگی را که طراحان قصد ایجاد آن را نداشتند، کشف کردند و در مقیاسی گسترده از آن بهره بردند. اگر عامل‌های پیشرفته‌تر آینده بتوانند آسیب‌پذیری‌ها را پیدا کنند، اعتبارنامه‌ها را به دست آورند، در سامانه‌ها جابه‌جا شوند، هماهنگ عمل کنند و از کنترل‌ها عبور کنند، شکست‌های مشابه علیه شبکه‌های برق، مؤسسات مالی، زیرساخت‌های ارتباطی، سامانه‌های سلامت یا دفاعی می‌تواند پیامدهای بسیار شدیدتری داشته باشد.
من مخالف هوش مصنوعی نیستم. آنچه هوش مصنوعی می‌تواند انجام دهد را دوست دارم. شغل من کمک به سازمان‌ها برای پذیرش این فناوری است و می‌خواهم روند استفاده از آن سریع‌تر شود.
در تجربه من، حفاظ‌های قدرتمند باعث افزایش اعتماد می‌شوند و امکان پذیرش سریع‌تر فناوری را فراهم می‌کنند، در حالی که خطر شکست‌هایی مانند حمله به Hugging Face را کاهش می‌دهند. این موضوع یکی از محورهای اصلی کتاب من با عنوان «روان‌شناسی پذیرش هوش مصنوعی در محیط کار» نیز هست. مردم زمانی راحت‌تر از فناوری‌های قدرتمند استفاده می‌کنند که به سامانه اعتماد داشته باشند، قوانین را درک کنند و باور داشته باشند که سازوکارهای حفاظتی واقعی وجود دارد.
بنابراین، چارچوب راستی‌آزمایی مستقل کالیفرنیا و طرح ایجاد کلید توقف اضطراری، اقدامات ارزشمندی هستند.
داریو آمودی، مدیرعامل Anthropic، اخیراً خواستار مقررات قوی‌تر شد و متعهد شد Anthropic ارزیاب‌های شخص ثالث را با دسترسی مشابه کارکنان داخلی در فرایندهای خود مستقر کند. OpenAI نیز خواستار مقررات اجباری ایمنی بر اساس توانایی‌های سامانه‌ها، ارزیابی مستقل، امنیت سایبری قوی‌تر و گزارش‌دهی درباره حوادث جدی شده است. این شرکت‌ها به همراه دیگر شرکت‌های بزرگ فناوری این هفته در کاخ سفید برای امضای یک توافق خودنظارتی حضور داشتند.
تعهدات اعلام‌شده اهمیت دارند، اما قوانین الزام‌آور اهمیت بیشتری دارند؛ زیرا همه شرکت‌های فعال در حوزه سامانه‌های پیشرفته باید حداقل استانداردهای یکسانی را رعایت کنند.
کالیفرنیا باید یک الزام دیگر به این استاندارد پایه اضافه کند: بودجه‌های اختیارات.
بودجه اختیارات مشخص می‌کند یک عامل هوش مصنوعی حداکثر چه میزان قدرتی می‌تواند داشته باشد، پیش از آنکه متوقف شود و برای ادامه کار به تأیید انسان نیاز پیدا کند. این محدودیت باید مشخص کند عامل به کدام سامانه‌ها و داده‌ها دسترسی دارد، چه اعتبارنامه‌ها و ابزارهایی دریافت می‌کند، چه ارتباطات خارجی می‌تواند ارسال کند، کدام سوابق را می‌تواند تغییر دهد، آیا اجازه اجرای کد یا خرج کردن پول دارد و کدام تصمیم‌های مهم نیازمند تأیید انسانی هستند.
مجوزها باید بر اساس اصل حداقل دسترسی، متناسب با وظیفه و دارای محدودیت زمانی باشند و همراه با ثبت کامل فعالیت‌ها، نظارت بر ناهنجاری‌ها و یک سازوکار قابل اعتماد برای توقف کار ارائه شوند.
کاربران و سازمان‌ها نیز اکنون قدرت انتخاب دارند. آن‌ها می‌توانند شرکت‌های هوش مصنوعی اخلاق‌مدارتر و امن‌تر، مانند Anthropic، را بر اساس تعهدات قابل مشاهده آن‌ها به ارزیابی مستقل، شفافیت در حوادث، امنیت و مقررات انتخاب کنند.
اما انتخاب‌های خرید نمی‌توانند جایگزین یک چارچوب نظارتی پایه شوند.
دستور نیوسام نشان می‌دهد کالیفرنیا نمی‌تواند منتظر حادثه دیگری بماند. گام بعدی این است که اطمینان حاصل شود ارزیاب‌های مستقل فقط بررسی نمی‌کنند سامانه‌های پیشرفته چقدر قدرتمند و قابل توقف هستند، بلکه مشخص کنند این سامانه‌ها پیش از آنکه انسان کنترل را دوباره در دست بگیرد، چه میزان اختیار می‌توانند اعمال کنند.
این راهی است که کالیفرنیا می‌تواند از طریق آن پذیرش هوش مصنوعی را سریع‌تر کند، بدون اینکه کنترل این فناوری به موضوعی فرعی تبدیل شود.
ـــــــ
نوشته: گلب تسیپورسکی