آنتروپیک بی‌سروصدا طرحی برای قانون ایمنی هوش مصنوعی پیش می‌برد که اختیارات دولت برای متوقف کردن مدل‌های خطرناک را محدود می‌کند
شرکت آنتروپیک، سازنده چت‌بات هوش مصنوعی کلود، در گفت‌وگوهای خصوصی با قانون‌گذاران، طرح پیشنهادی خود برای قانون فدرال ایمنی هوش مصنوعی را مطرح کرده است. این طرح در عین ایجاد الزامات نظارتی جدید برای صنعت، شرایطی را که دولت می‌تواند بر اساس آن‌ها مانع فعالیت مدل‌های خطرناک هوش مصنوعی شود، محدود می‌کند.
بر اساس این پیشنهاد، مقام‌های فدرال تنها زمانی می‌توانند برای تعلیق یک مدل پیشرفته هوش مصنوعی اقدام کنند که آن مدل خطری قابل پیش‌بینی و قریب‌الوقوع ایجاد کند و احتمال داشته باشد بیش از یک میلیارد دلار خسارت به بار آورد یا موجب مرگ یا آسیب جدی به بیش از ۵۰ نفر شود. وب‌سایت پولیتیکو نخستین بار در ۱۶ اکتبر ۲۰۲۶، با استناد به گفته‌های سه فرد آگاه از مذاکرات، از این تلاش برای تدوین قانون خبر داد.
این آستانه‌های پیشنهادی سه دسته تهدید را در بر می‌گیرند: تولید یا انتشار سلاح‌های زیستی، حملات سایبری و خارج شدن سامانه‌های هوش مصنوعی از کنترل توسعه‌دهندگانشان. این قانون مدل‌های پیشرفته هوش مصنوعی را هدف قرار می‌دهد؛ اصطلاحی که معمولاً برای سامانه‌های بسیار پیشرفته‌ای به کار می‌رود که توانایی انجام وظایف هرچه پیچیده‌تر را دارند.
سخنگوی آنتروپیک تأیید کرده است که پیش‌نویس قانون بازتاب‌دهنده پیشنهادهایی است که این شرکت در چارچوب خود برای هوش مصنوعی پیشرفته، منتشرشده در اوایل سال جاری، مطرح کرده بود. به گفته شرکت، این رویکرد به دولت اجازه می‌دهد در برابر کاربردهای خطرناک مداخله کند و در عین حال، توسعه‌دهندگان را ملزم می‌کند قدرتمندترین سامانه‌های خود را آزمایش کنند، یافته‌های ایمنی را افشا کنند و آن‌ها را در معرض ارزیابی مستقل قرار دهند.
طبق پیش‌نویس، ارزیابان مستقلی که در وزارت بازرگانی ثبت شده‌اند، به‌طور دوره‌ای توسعه‌دهندگان هوش مصنوعی و مدل‌های پیشرفته آن‌ها را از نظر تهدیدهای احتمالی بررسی خواهند کرد. شرکت‌ها می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه دستمزد ارزیابان به نتایج بررسی‌هایشان وابسته نباشد.
اگر ارزیابی، تهدیدی قریب‌الوقوع را شناسایی کند که با معیارهای تعیین‌شده در قانون مطابقت داشته باشد، ارزیابان پس از تکمیل بررسی خود ۷۲ ساعت فرصت خواهند داشت تا یافته‌هایشان را به وزارت بازرگانی گزارش دهند.
پس از آن، مقام‌های فدرال می‌توانند از دادگاه درخواست صدور حکم برای تعلیق مدل کنند. قاضی دادگاه منطقه‌ای ایالات متحده در ناحیه کلمبیا تصمیم خواهد گرفت که آیا خطر شناسایی‌شده مداخله را توجیه می‌کند یا خیر. بنابراین، در فرایند پیشنهادی، تعلیق مدل منوط به کسب مجوز قضایی خواهد بود.
بر اساس این سازوکار، سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های فدرال اجازه نخواهند داشت به‌طور مستقل توسعه، استقرار یا استفاده داخلی از مدل‌های هوش مصنوعی مشمول قانون را متوقف کنند. این محدودیت، اختیار درخواست چنین اقدامی را در وزارت بازرگانی متمرکز می‌کند و تصمیم نهایی درباره صدور حکم را به قضات فدرال می‌سپارد.
گزارش‌ها حاکی از آن است که پیش‌نویس شامل مقرراتی نیز می‌شود که برخی قوانین ایالتی در زمینه ایمنی هوش مصنوعی را بی‌اثر می‌کنند؛ موضوعی که می‌تواند توانایی ایالت‌ها را برای وضع الزامات جداگانه درباره آزمایش، افشای اطلاعات و ایمنی توسعه‌دهندگان محدود کند. این سازوکار که در حقوق با عنوان تقدم قانون فدرال بر قانون ایالتی شناخته می‌شود، به قانون فدرال اجازه می‌دهد در حوزه‌هایی که کنگره تصمیم به قانون‌گذاری درباره آن‌ها گرفته است، جایگزین قوانین ایالتی شود. دامنه دقیق این محدودیت‌ها به متن نهایی قانون بستگی خواهد داشت.
تلاش آنتروپیک در شرایطی صورت می‌گیرد که قانون‌گذاران در حال پیگیری پیشنهادهای دیگری برای تنظیم مقررات فناوری هوش مصنوعی هستند؛ فناوری‌ای که با سرعت در حال پیشرفت است.
در ۲۹ سپتامبر ۲۰۲۶، سه سناتور دموکرات، مارک وارنر از ویرجینیا، برایان شاتز از هاوایی و اندی کیم از نیوجرسی، «قانون مدیریت ریسک و امنیت هوش مصنوعی ۲۰۲۶» را معرفی کردند. این طرح با شماره S. 5576، ایجاد یک هیئت فدرال ایمنی هوش مصنوعی و تدوین الزامات الزام‌آور ایمنی و امنیت برای مدل‌های پیشرفته را پیش‌بینی می‌کند.
بر اساس پیشنهاد سنا، توسعه‌دهندگان باید پیش از انتشار مدل‌ها آزمایش‌های ایمنی انجام دهند، تدابیر حفاظتی امنیت سایبری را حفظ کنند و حوادث مهم را گزارش دهند. وارنر در ۲۹ سپتامبر خواستار تصویب این طرح با رضایت همگانی شد، اما تد کروز، سناتور جمهوری‌خواه از تگزاس، با آن مخالفت کرد و مانع تصویب طرح از این مسیر شد. این پیشنهاد همچنان در کمیته بازرگانی، علوم و حمل‌ونقل سنای آمریکا در دست بررسی است.
آنتروپیک پیش‌تر از قوانین ایالتی ایمنی هوش مصنوعی، از جمله الزامات شفافیت کالیفرنیا برای مدل‌های پیشرفته، حمایت کرده بود. تلاش کنونی این شرکت برای تدوین مقررات ملی در شرایطی انجام می‌شود که قانون‌گذاران در حال بررسی نحوه تعامل نظارت فدرال با حمایت‌های قانونی ایالت‌ها و همچنین میزان اختیارات نهادهای ناظر بر قدرتمندترین سامانه‌های این صنعت هستند.
این شرکت همچنین در حال گسترش نظارت مستقل بر فناوری خود است. آنتروپیک در ۱۵ اکتبر اعلام کرد که به شش پژوهشگر از سازمان غیرانتفاعی «پژوهش درباره ارزیابی مدل و تهدیدها» (METR) دسترسی‌ای مشابه دسترسی کارکنان شرکت به سامانه‌های داخلی، تجهیزات شرکت و فضای اداری داده است. این توافق به پژوهشگران امکان می‌دهد رویه‌های ایمنی شرکت را بررسی کنند و خطرهای مرتبط با مدل‌های پیشرفته هوش مصنوعی را ارزیابی کنند.
سازمان METR می‌تواند یافته‌های خود را به‌طور مستقل منتشر کند، هرچند آنتروپیک حق محدودی برای درخواست حذف بخش‌هایی از اطلاعات حساس از گزارش‌ها دارد. این شرکت همچنین با SecureBio و Accenture برای انجام ارزیابی‌های بیرونی همکاری کرده است؛ اقدامی که نشان‌دهنده تلاش گسترده‌تر آن برای تبدیل ارزیابی‌های شخص ثالث به یکی از ارکان اصلی نظارت بر هوش مصنوعی است.
پیش‌نویس قانونی که به‌صورت خصوصی در اختیار افراد قرار گرفته، هنوز رسماً در کنگره ارائه نشده است. در صورت موافقت قانون‌گذاران با حمایت از این طرح، محدودیت‌های پیشنهادی آن درباره مداخله دولت فدرال و اختیارات نظارتی ایالت‌ها در کنگره بررسی خواهد شد. هر قانونی برای اجرایی شدن باید به تصویب هر دو مجلس کنگره برسد و رئیس‌جمهور نیز آن را امضا کند.