آنتروپیک لایحه ایمنی هوش مصنوعی را به کنگره پیشنهاد می‌کند؛ شرط خسارت یک میلیارد دلاری یا آسیب به بیش از ۵۰ نفر برای توقف مدل‌ها
لایحه پیشنهادی آنتروپیک برای تنظیم مقررات هوش مصنوعی پیشرفته، ارزیابی مستقل مدل‌ها را الزامی می‌کند و در عین حال، اختیارات دولت برای متوقف کردن توسعه و عرضه آن‌ها را محدود می‌سازد.
نویسنده: بهاسواتی گوها ماجومدر
۱۷ اکتبر ۲۰۲۶، ساعت ۱۵:۳۸ به وقت سنگاپور (UTC+8)
شرکت آنتروپیک در اقدامی که چندان علنی نشده است، پیش‌نویس لایحه‌ای برای ایمنی هوش مصنوعی پیشرفته را به قانون‌گذاران آمریکا پیشنهاد داده است. بر اساس این طرح، دولت تنها زمانی می‌تواند مانع فعالیت یک مدل قدرتمند هوش مصنوعی شود که آن مدل خطری قریب‌الوقوع ایجاد کند و احتمال وارد آمدن خسارتی بیش از یک میلیارد دلار یا کشته یا به‌شدت مجروح شدن بیش از ۵۰ نفر وجود داشته باشد.
این پیشنهاد همچنین مقرر می‌کند که دستور تعلیق فعالیت یک مدل هوش مصنوعی را یک قاضی فدرال صادر کند، نه اینکه چنین تصمیمی صرفاً در اختیار نهادهای دولتی باشد.
تصمیم‌گیری درباره توقف فعالیت هوش مصنوعی
پیش‌نویس محرمانه این طرح که به دست نشریه پولیتیکو (POLITICO) رسیده است، تلاشی مهم از سوی این شرکت هوش مصنوعی برای تأثیرگذاری بر مقررات فدرال حاکم بر فناوری‌ای به شمار می‌رود که خود آن را توسعه می‌دهد؛ آن هم در شرایطی که کنگره در حال بررسی رویکردهای متفاوت برای تنظیم مقررات هوش مصنوعی پیشرفته است.
سخنگوی آنتروپیک به پولیتیکو گفت: «این لایحه بازتاب‌دهنده پیشنهادهایی است که در چارچوب هوش مصنوعی پیشرفته آنتروپیک مطرح کرده‌ایم و از ماه ژوئن تاکنون برای تصویب آن‌ها با قانون‌گذاران فدرال و ایالتی رایزنی کرده‌ایم.» او افزود: «ما معتقدیم این سیاست‌ها منطقی‌اند و کنگره باید برای اجرای آن‌ها اقدام کند.»
بر اساس این لایحه، مداخله دولت به مواردی محدود می‌شود که در آن‌ها تهدیدی قابل پیش‌بینی و قریب‌الوقوع وجود داشته باشد. این تهدیدها می‌توانند با ساخت یا انتشار یک سلاح زیستی، فرار یک مدل هوش مصنوعی از کنترل‌های تعیین‌شده توسط توسعه‌دهنده آن یا وقوع یک حمله سایبری مرتبط باشند.
در این طرح، آستانه مداخله به‌گونه‌ای تعیین شده است که خسارت باید بیش از یک میلیارد دلار باشد یا شمار افرادی که کشته یا به‌شدت مجروح می‌شوند از ۵۰ نفر فراتر برود.
این پیشنهاد پس از آن مطرح شده است که شرکت‌های پیشرو هوش مصنوعی در تابستان امسال از حوادثی خبر دادند که در آن‌ها عامل‌های هوش مصنوعی به بررسی امنیتی یا هک وب‌سایت‌ها و پلتفرم‌های دیجیتال پرداخته بودند. هیچ‌یک از حوادث گزارش‌شده به تلفات انسانی در این مقیاس یا خسارتی بیش از یک میلیارد دلار منجر نشده است.
ارزیابی مستقل هوش مصنوعی، همراه با محدودیت اختیارات دولت برای توقف مدل‌ها
چارچوب پیشنهادی آنتروپیک، توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی را ملزم می‌کند آزمون‌های ایمنی انجام دهند، گزارش‌های شفافیت منتشر کنند، از افشاگران حمایت کنند و حوادث مهم مرتبط با ایمنی را به وزارت بازرگانی آمریکا گزارش دهند.
همچنین ارزیابان مستقلی که در وزارت بازرگانی ثبت شده‌اند، باید مدل‌های پیشرفته را به‌صورت دوره‌ای بررسی کنند.
آزمایشگاه‌های هوش مصنوعی می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه پرداخت‌ها به نتیجه ارزیابی وابسته نباشد. اگر ارزیابان به وجود یکی از خطرهای مشخص‌شده و قریب‌الوقوع در قانون پی ببرند، موظف‌اند حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را مطلع کنند.
بر اساس این لایحه، وزارت بازرگانی می‌تواند از دادگاه منطقه‌ای فدرال ناحیه کلمبیا درخواست کند که مانع انتشار یک مدل شود. در مقابل، پیش‌نویس صراحتاً سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های دولت آمریکا را از تعلیق توسعه، عرضه یا استفاده داخلی از مدل منع می‌کند.
به گزارش رویترز، سخنگوی آنتروپیک گفته است این لایحه به دولت امکان می‌دهد «جلوی عرضه‌های خطرناک قدرتمندترین مدل‌ها را بگیرد یا از آن‌ها بازدارد» و در عین حال، توسعه‌دهندگان را ملزم می‌کند سامانه‌های پیشرفته هوش مصنوعی را آزمایش کنند، یافته‌های خود را افشا کنند و ارزیابی مستقل دریافت کنند.
این لایحه همچنین بر برخی قوانین ایالتی درباره افشای خطرهای هوش مصنوعی، ارزیابی‌های شخص ثالث و گزارش‌دهی حوادث مهم اولویت خواهد داشت و می‌تواند جای آن‌ها را بگیرد. این بند از نظر سیاسی مناقشه‌برانگیز است؛ زیرا قانون‌گذاران در حال بحث درباره این هستند که آیا مقررات فدرال باید بر قوانین ایالتی غلبه داشته باشند یا خیر.
این پیشنهاد در شرایطی مطرح می‌شود که خود آنتروپیک در تابستان امسال با محدودیت‌های گسترده صادراتی مواجه شد؛ محدودیت‌هایی که به توقف موقت فعالیت دو مدل پیشرفته این شرکت انجامید. این رویداد نگرانی‌هایی را در صنعت فناوری درباره مداخله دولت در حوزه هوش مصنوعی پیشرفته برانگیخت.
در همین حال، کنگره در حال بررسی طرح‌های دیگری برای ایمنی هوش مصنوعی است که از جمله آن‌ها می‌توان به قانون FRONTIER در مجلس نمایندگان و مذاکرات سنا با هدایت جان تون، رهبر اکثریت سنا، ایمی کلوبوچار و تد کروز اشاره کرد. با این حال، برخی قانون‌گذاران و مدافعان ایمنی هوش مصنوعی خواهان نقش بسیار پررنگ‌تر دولت در بررسی مدل‌های پیشرفته هستند.