طرح ایمنی هوش مصنوعی آنتروپیک ممکن است به آمریکا اجازه دهد مدل‌های دارای خطرات فاجعه‌بار را متوقف کند
بر اساس اطلاعاتی که وب‌سایت پولیتیکو گزارش کرده و کوین بیورو آن را منتشر کرده است، طرح پیشنهادی شرکت آنتروپیک برای ایمنی هوش مصنوعی می‌تواند سازوکاری قانونی در اختیار ایالات متحده قرار دهد تا فعالیت مدل‌های هوش مصنوعی دارای خطرات فاجعه‌بار را متوقف کند. این پیش‌نویس به دولت اجازه می‌دهد در صورتی که یک مدل هوش مصنوعی تهدیدی «قابل پیش‌بینی و قریب‌الوقوع» ایجاد کند و احتمال داشته باشد دست‌کم یک میلیارد دلار خسارت به بار آورد یا موجب مرگ و جراحت بیش از ۵۰ نفر شود، از توقف فعالیت آن اقدام کند.
این پیشنهاد چارچوبی احتمالی برای مداخله دولت در شرایطی ترسیم می‌کند که یک سامانه هوش مصنوعی تهدیدی فوری و جدی ارزیابی شود. خطرات مورد اشاره شامل توسعه سلاح‌های زیستی، حملات سایبری و شرایطی است که در آن یک مدل هوش مصنوعی از کنترل توسعه‌دهنده خود خارج شود.
با وجود گستردگی احتمالی اختیارات پیش‌بینی‌شده، پیش‌نویس محدودیت‌های مشخصی برای نهادهای دولتی مجاز به آغاز این فرایند در نظر می‌گیرد. این طرح هنوز رسماً ارائه نشده است؛ بنابراین، مفاد آن همچنان در حد یک پیشنهاد باقی مانده‌اند و به قانون لازم‌الاجرا تبدیل نشده‌اند.
اختیار انحصاری وزارت بازرگانی
بر اساس پیش‌نویس، تنها وزارت بازرگانی ایالات متحده مجاز خواهد بود از یک قاضی فدرال درخواست کند فعالیت یک مدل هوش مصنوعی به دلیل خطرات تعیین‌شده متوقف شود. در چارچوب پیشنهادی، سایر نهادهای فدرال اجازه نخواهند داشت مستقلاً چنین درخواستی را مطرح کنند.
این بند، اختیار آغاز مداخله قضایی را در یک وزارتخانه متمرکز می‌کند. به‌جای آنکه چندین نهاد دولتی بتوانند به‌طور مستقل برای تعلیق یک مدل هوش مصنوعی اقدام کنند، وزارت بازرگانی تنها نهاد فدرالی خواهد بود که می‌تواند درخواست این اقدام را به قاضی ارائه دهد.
الزام به مراجعه به قاضی فدرال نیز یکی دیگر از عناصر اصلی این پیش‌نویس است. بنابراین، سازوکار پیشنهادی مستلزم طی شدن یک فرایند قضایی خواهد بود و بر اساس چارچوب تشریح‌شده در گزارش، به همه نهادهای فدرال اختیار مستقل برای تعلیق مدل‌ها نمی‌دهد.
مهلت ۷۲ ساعته برای ارزیابان مستقل
این پیشنهاد همچنین برای ارزیابی تهدیدهای احتمالی، زمان‌بندی مشخصی تعیین می‌کند. ارزیابان مستقل ۷۲ ساعت فرصت خواهند داشت خطراتی را که قریب‌الوقوع تشخیص داده می‌شوند گزارش کنند. به این ترتیب، برای شناسایی خطرات بالقوه فاجعه‌بار مرتبط با یک مدل هوش مصنوعی، مهلتی معین در نظر گرفته می‌شود.
مهلت ۷۲ ساعته یکی از جزئیات اجرایی مهم در پیش‌نویس است؛ بااین‌حال، اطلاعات منتشرشده روند کامل ارزیابی، معیارهای انتخاب ارزیابان یا مراحل دقیق پس از ثبت گزارشی درباره یک تهدید قریب‌الوقوع را مشخص نمی‌کند.
آستانه خطر تعیین‌شده در این پیشنهاد، خسارت مالی احتمالی و آسیب انسانی را در کنار یکدیگر در نظر می‌گیرد. بر این اساس، سناریوهایی شامل یک میلیارد دلار خسارت یا مرگ و جراحت بیش از ۵۰ نفر مطرح شده‌اند؛ ضمن آنکه خطر باید «قابل پیش‌بینی و قریب‌الوقوع» باشد. پیش‌نویس به‌طور مشخص از سلاح‌های زیستی، حملات سایبری و خروج سامانه‌های هوش مصنوعی از کنترل توسعه‌دهندگانشان به‌عنوان نمونه‌هایی از تهدیدهای مورد بررسی نام می‌برد.
طرح هنوز رسماً ارائه نشده است
به گزارش کوین بیورو به نقل از پولیتیکو، آنتروپیک این پیش‌نویس را به‌عنوان چارچوبی برای مقابله با خطرات فاجعه‌بار هوش مصنوعی پیشنهاد کرده است. مفاد آن می‌تواند مسیر مشخصی در اختیار دولت آمریکا قرار دهد تا درخواست تعلیق یک مدل خطرناک را مطرح کند و در عین حال، نهادهای مجاز به آغاز این فرایند را محدود سازد.
بااین‌حال، این طرح هنوز رسماً ارائه نشده است. بنابراین، اختیارات پیشنهادی، مهلت گزارش‌دهی و محدودیت‌های در نظر گرفته‌شده برای نهادهای فدرال را نباید الزامات قانونی موجود تلقی کرد. بر اساس اطلاعات منتشرشده، متن نهایی احتمالی طرح، روند پیشرفت آن در فرایند قانون‌گذاری و تغییرات احتمالی در مفادش هنوز مشخص نیست.
نویسنده: ویکتوریا هیل
نویسنده حوزه فناوری و بلاک‌چین
ویکتوریا هیل درباره فناوری بلاک‌چین، زیرساخت‌های دیجیتال و ارتباط فناوری‌های نوظهور با حوزه مالی می‌نویسد. مقالات او بررسی می‌کنند که پروتکل‌ها و سامانه‌های جدید چگونه اقتصاد دیجیتال در حال تحول را شکل می‌دهند.
او هنگام توضیح تحولات فنی برای مخاطبان عمومی، بر شفافیت و دقت تأکید دارد.