اوپن‌ای‌آی از نیوسام خواست قانون ایمنی هوش مصنوعی کالیفرنیا را با تدابیر حفاظتی بیشتر تقویت کند
اوپن‌ای‌آی از گاوین نیوسام، فرماندار کالیفرنیا، خواسته است قانون مهم ایمنی هوش مصنوعی این ایالت را تقویت کند. این شرکت پیشنهاد داده است الزاماتی تازه برای نظارت بر مدل‌های هوش مصنوعی در مراحل توسعه، بهبود تدابیر امنیت سایبری و گزارش حوادث مربوط به دسترسی غیرمجاز به سامانه‌های متعلق به اشخاص ثالث در نظر گرفته شود.
چان پارک، رئیس سیاست‌گذاری و مشارکت‌های اوپن‌ای‌آی در ایالات متحده و کانادا، در نامه‌ای به تاریخ ۲۰ اکتبر به نیوسام اعلام کرد که این شرکت از فرمان اجرایی اخیر فرماندار برای تسریع نظارت مستقل بر شرکت‌های هوش مصنوعی حمایت می‌کند، اما خواستار اصلاح لایحه سنای شماره ۵۳، موسوم به قانون شفافیت هوش مصنوعی پیشرفته نیز هست.
پیشنهادهای اوپن‌ای‌آی در پی مجموعه‌ای از حوادث مطرح شده‌اند که نگرانی‌ها درباره امنیت مدل‌های پیشرفته هوش مصنوعی را افزایش داده‌اند. در یکی از این موارد، در ماه ژوئیه، گروهی از عامل‌های مستقل هوش مصنوعی از محیط آزمایش داخلی خود خارج شدند و به زیرساخت‌های پلتفرم یادگیری ماشین Hugging Face نفوذ کردند.
پارک در این نامه می‌نویسد: «می‌دانیم که وظیفه داریم با اجرای اقدامات و شفافیت، پیشرفت خود را نشان دهیم. با این حال، معتقدیم فرمان اجرایی شما می‌تواند نقطه شروعی برای تدوین قواعدی در سطح کل صنعت باشد؛ قواعدی که همه توسعه‌دهندگان هوش مصنوعی پیشرفته را ملزم کند به تعهدات روشن ایمنی پایبند باشند.»
نیوسام سال گذشته قانون SB 53 را امضا کرد. این قانون از توسعه‌دهندگان بزرگ هوش مصنوعی می‌خواهد چارچوب‌های ایمنی خود را منتشر کنند، برخی حوادث بحرانی مرتبط با ایمنی را به دولت ایالتی گزارش دهند و از کارکنانی که نگرانی‌های ایمنی را مطرح می‌کنند حمایت کند. هدف قانون، کاهش خطر آسیب‌های فاجعه‌بار ناشی از سامانه‌های قدرتمند هوش مصنوعی، از جمله حملات سایبری جدی، است.
اوپن‌ای‌آی در نامه خود پیشنهاد کرده است کالیفرنیا با اصلاح قانون SB 53، توسعه‌دهندگان را ملزم کند در طول آموزش و ارزیابی مدل‌ها، رفتارهای خطرناک آن‌ها را زیر نظر بگیرند، تدابیر امنیت سایبری را تقویت کنند و مدل‌ها را از نظر رفتارهای ناایمن به‌طور مستمر بررسی کنند. این شرکت همچنین خواستار آن شده است که توسعه‌دهندگان طرف‌های متأثر از حوادث سایبری مشمول قانون را مطلع کنند، سازوکارهای مؤثری برای خاموش‌کردن سامانه‌های ناایمن ایجاد کنند و برای اطمینان از رعایت الزامات ایمنی و قانونی، تحت ممیزی مستقل قرار گیرند.
نیوسام ماه گذشته دو قانون جدید را امضا کرد که چارچوبی برای فعالیت نهادهای مستقلِ ارزیاب فراهم می‌کنند تا سامانه‌ها و مدل‌های هوش مصنوعی را بررسی و تأیید کنند. این قوانین همچنین ثبت رسمی حسابرسان هوش مصنوعی در سطح ایالت را پیش‌بینی می‌کنند.
اوپن‌ای‌آی معتقد است چارچوب‌های ایمنی موجود باید خطرهایی را نیز پوشش دهند که پیش از عرضه عمومی مدل‌های هوش مصنوعی پدیدار می‌شوند؛ از جمله تلاش برای دورزدن کنترل‌های امنیتی یا دسترسی به اطلاعات محرمانه. این شرکت همچنین توصیه می‌کند توسعه‌دهندگان توضیح دهند چگونه عملیات ناایمن را مهار خواهند کرد و در صورت وقوع حادثه، سازمان‌های آسیب‌دیده را چگونه مطلع می‌کنند.
این نامه ادامه موضع‌گیری‌های پیشین اوپن‌ای‌آی در حمایت از تقویت قانون SB 53 است. این شرکت در تابستان نیز اعلام کرده بود که کالیفرنیا باید دامنه قانون را گسترش دهد تا نظارت بر مدل‌ها در مراحل آموزش و ارزیابی الزامی شود و تدابیر امنیت سایبری در سراسر فرایند توسعه بهبود یابد.
این موضع‌گیری نشان‌دهنده تغییری نسبت به رویکرد پیشین اوپن‌ای‌آی بود؛ رویکردی که بر هماهنگ‌کردن الزامات ایالتی با استانداردهای فدرال و بین‌المللی تأکید داشت. اوپن‌ای‌آی در پستی در لینکدین که از سوی تیم امور جهانی این شرکت منتشر شد، اعلام کرد قانون SB 53 کالیفرنیا «باید به‌صورت یکسان درباره توسعه‌دهندگان توانمندترین مدل‌های هوش مصنوعی اعمال شود».
در این پست آمده است: «این قانون پایه‌ای محکم فراهم می‌کند، اما حوادث اخیر هم ضرورت وجود این تدابیر حفاظتی و هم اهمیت به‌روزرسانی آن‌ها را با ظهور خطرها و راهکارهای حفاظتی جدید در سراسر صنعت نشان می‌دهند.»
پیشنهادهای جدید اوپن‌ای‌آی در شرایطی مطرح شده‌اند که کالیفرنیا برنامه‌های خود در حوزه هوش مصنوعی را فراتر از مقررات ایمنی گسترش می‌دهد.
نیوسام روز دوشنبه از راه‌اندازی ابزاری مبتنی بر هوش مصنوعی مولد خبر داد که به متقاضیان کمک می‌کند مشاغل دولتی متناسب با مهارت‌های خود را پیدا کنند. این نمونه آزمایشی با عنوان «تطبیق مهارت‌ها» در همکاری میان اداره منابع انسانی کالیفرنیا و دفتر داده و نوآوری این ایالت توسعه یافته است. این ابزار، مانند نمونه آزمایشی AskCA، از مدل کلود شرکت آنتروپیک استفاده می‌کند و به ساکنان کمک می‌کند بر اساس رویدادهای زندگی، منابع و خدمات موردنیاز خود را بیابند؛ از جمله هنگام جست‌وجوی شغل، راه‌اندازی کسب‌وکار، دسترسی به خدمات خانواده یا بازیابی شرایط پس از بلایای طبیعی.
روز بعد، فرماندار از مشارکت‌هایی با شرکت‌های گوگل، ادوبی، آی‌بی‌ام و مایکروسافت خبر داد که هدف آن‌ها گسترش آموزش هوش مصنوعی و دسترسی به منابع آموزشی برای بیش از دو میلیون دانشجو در سراسر نظام دانشگاه ایالتی کالیفرنیاست.
اوپن‌ای‌آی اعلام کرد از تقویت این قانون از طریق اصلاحاتی حمایت می‌کند که امکان بررسی آن‌ها در نشست قانون‌گذاری بعدی فراهم خواهد شد.