آنتروپیک طرح قانونی ایمنی هوش مصنوعی را به قانون‌گذاران آمریکا ارائه کرد؛ پیشنهاد محدودیت برای مدل‌های خطرناک
به گزارش بلومبرگ، شرکت آنتروپیک پیش‌نویس قانونی را برای تنظیم ایمنی و امنیت سامانه‌های پیشرفته هوش مصنوعی پیشنهاد کرده است. این طرح سازوکاری در اختیار دولت آمریکا قرار می‌دهد تا در صورت تهدید فوری این سامانه‌ها علیه جان انسان‌ها یا اموال، خواستار اعمال محدودیت بر آن‌ها شود.
بر اساس گزارش پولیتیکو که نخستین رسانه منتشرکننده جزئیات این پیش‌نویس بود، این پیشنهاد به مقام‌های آمریکایی اجازه می‌دهد در صورتی که یک مدل هوش مصنوعی خطر قابل پیش‌بینی و فوریِ مرگ یا آسیب جدی به بیش از ۵۰ نفر، یا خسارتی بیش از یک میلیارد دلار ایجاد کند، خواستار توقف انتشار یا استفاده از آن شوند. آنتروپیک این پیشنهاد را به قانون‌گذاران در کنگره آمریکا ارائه کرده است.
به گزارش این رسانه، این آستانه خطر شامل تهدیدهایی می‌شود که از تولید یا انتشار سلاح‌های زیستی، خارج شدن سامانه هوش مصنوعی از کنترل توسعه‌دهنده آن یا حملات سایبری ناشی شوند.
سخنگوی آنتروپیک به بلومبرگ گفت که پیش‌نویس قانون بازتاب‌دهنده توصیه‌های مطرح‌شده در چارچوب هوش مصنوعی پیشرفته این شرکت است؛ چارچوبی که آنتروپیک از ماه ژوئن تاکنون برای جلب حمایت قانون‌گذاران فدرال و ایالتی از آن دفاع کرده است.
طرح قانونی، ارزیابی مستقل مدل‌های هوش مصنوعی را پیشنهاد می‌کند
بر اساس این طرح، توسعه‌دهندگان مدل‌های پیشرفته و پیشرو هوش مصنوعی ملزم خواهند بود آزمایش‌های ایمنی انجام دهند و نتایج آن‌ها را به‌صورت عمومی منتشر کنند. به گفته سخنگوی شرکت، این توسعه‌دهندگان همچنین باید امکان ارزیابی مستقل مدل‌های خود را در فواصل زمانی منظم فراهم کنند.
ارزیابان مستقل در وزارت بازرگانی آمریکا ثبت‌نام خواهند کرد و به‌طور دوره‌ای توسعه‌دهندگان هوش مصنوعی و پیشرفته‌ترین مدل‌های آن‌ها را ارزیابی خواهند کرد. به گزارش پولیتیکو، پیش‌نویس اجازه می‌دهد شرکت‌ها هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه مبلغ پرداختی به نتیجه ارزیابی وابسته نباشد.
به گزارش این رسانه، اگر ارزیابان خطری فوری را شناسایی کنند که مشمول این قانون باشد، موظف خواهند بود حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را مطلع کنند.
پس از آن، این وزارتخانه می‌تواند از یک قاضی فدرال در ناحیه کلمبیا درخواست کند که فعالیت مدل را به حالت تعلیق درآورد. طبق گزارش‌ها، پیش‌نویس این سازوکار تعلیق را به فرایند مشخص‌شده در قانون محدود می‌کند و به سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های فدرال اجازه نمی‌دهد مستقلاً توسعه، استقرار یا استفاده داخلی از یک مدل را متوقف کنند.
آنتروپیک اعلام کرده است که چارچوب پیشنهادی به دولت فدرال اختیار می‌دهد از استقرار سامانه‌های قدرتمند هوش مصنوعی در شرایط خطرناک جلوگیری کند یا شرکت‌ها را از چنین اقدامی بازدارد. این شرکت از کنگره خواسته است برای اجرای این تدابیر اقدام کند.
این پیشنهاد در شرایطی مطرح شده است که نگرانی‌ها درباره خطرهای ناشی از توانمندی روزافزون سامانه‌های هوش مصنوعی افزایش یافته است. رخنه‌های امنیتی و هک‌های اخیر مرتبط با مدل‌های هوش مصنوعی، درخواست‌ها برای وضع تدابیر حفاظتی را تشدید کرده‌اند؛ با این حال، دولت دونالد ترامپ، رئیس‌جمهور آمریکا، تاکنون درخواست‌ها برای نظارت گسترده‌تر را نپذیرفته است.