پیش‌نویس قانون آنتروپیک، توقف مدل‌های هوش مصنوعی را به خطرهای بیش از یک میلیارد دلار محدود می‌کند
به گزارش پولیتیکو در ۱۶ اکتبر ۲۰۲۶، نمایندگان شرکت آنتروپیک به‌طور غیرعلنی پیش‌نویس قانونی برای تنظیم ایمنی و امنیت هوش مصنوعی پیشرفته را به قانون‌گذاران کنگره آمریکا ارائه کرده‌اند. بر اساس این پیش‌نویس محرمانه که پولیتیکو به آن دست یافته است، دولت تنها زمانی می‌تواند مانع انتشار یا استفاده از یک مدل هوش مصنوعی شود که آن مدل خطر قریب‌الوقوع و قابل پیش‌بینیِ خسارتی بیش از یک میلیارد دلار، یا کشته شدن یا آسیب جسمی شدید بیش از ۵۰ نفر را ایجاد کند.
سخنگوی آنتروپیک به پولیتیکو گفت: «این لایحه منعکس‌کننده پیشنهادهایی است که در چارچوب هوش مصنوعی پیشرفته آنتروپیک مطرح شده‌اند؛ چارچوبی که از ماه ژوئن تاکنون برای تصویب آن‌ها با قانون‌گذاران فدرال و ایالتی رایزنی کرده‌ایم.» او افزود: «این سیاست‌ها معقول‌اند و معتقدیم کنگره باید برای اجرای آن‌ها اقدام کند.»
گزارش پولیتیکو چه می‌گوید؟
بر اساس گزارش اوون دالکمپ، خطر مورد نظر باید ناشی از تولید یا انتشار یک سلاح زیستی، خارج شدن مدل از کنترل‌های توسعه‌دهنده آن یا یک حمله سایبری باشد. پولیتیکو می‌گوید این عبارت‌بندی به مفاد قوانین هوش مصنوعی کالیفرنیا، از جمله قانون SB 53، شباهت دارد.
طبق پیش‌نویس، ارزیابان مستقلی که در وزارت بازرگانی ثبت شده‌اند، باید به‌صورت دوره‌ای آزمایشگاه‌های هوش مصنوعی و مدل‌های پیشرفته آن‌ها را ارزیابی کنند. آزمایشگاه‌ها می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر آنکه پرداخت به نتیجه ارزیابی وابسته نباشد. اگر ارزیابان به موردی از «خطر قریب‌الوقوعِ تعریف‌شده در قانون» برسند، باید حداکثر تا ۷۲ ساعت پس از پایان ارزیابی، موضوع را به وزارت بازرگانی گزارش دهند.
به نوشته پولیتیکو، وزارت بازرگانی می‌تواند از یک قاضی بخواهد فعالیت یک مدل را متوقف کند و قاضی فدرال دادگاه ناحیه کلمبیا می‌تواند دستور تعلیق آن را صادر کند. متن پیش‌نویس صراحتاً هرگونه اختیار سایر «وزارتخانه‌ها، نهادها یا مقام‌های» دولت آمریکا را برای متوقف کردن توسعه، استقرار یا استفاده داخلی از یک مدل ممنوع می‌کند.
واکنش‌ها در شبکه اجتماعی ایکس
Politico is reporting that Anthropic have written their own bill to to regulate frontier AI, and are pitching it to memebers of Congress.
— اندرو کوران (@AndrewCurran_)، ۱۶ اکتبر، ساعت ۲۲:۲۵
اندرو کوران در ۱۶ اکتبر ۲۰۲۶ گزارشی از پولیتیکو را در شبکه اجتماعی ایکس منتشر کرد و تصویری از ابتدای آن را به اشتراک گذاشت. مفاد پیش‌نویس که در این مقاله شرح داده شده‌اند، برگرفته از گزارش خود پولیتیکو هستند.
Big news. My take: Anthropic deserves some credit for actually proposing a pretty reasonable AI safety bill; that’s more than other frontier labs have done.
But they don’t deserve *too* much credit, IMO; this bill is weaker than the Trahan-Obernolte FRONTIER Act in some key ways, and since the political momentum has shifted significantly in the direction of safety since FRONTIER was introduced back in July, I think new bills introduced today should ideally go further than FRONTIER was able to go rather than regressing.
To be fair to Anthropic, the main places where this bill is significantly weaker than FRONTIER are (a) rulemaking (very strong in FRONTIER, almost nonexistent in Anthropic’s bill) and (b) the emergency shutdown authority. Even if you take safety seriously, it might make some sense to dial those authorities back if you didn’t trust the executive branch to wield them responsibly, because those are the easiest provisions for a hypothetical President who hypothetically might not like a certain frontier AI company to abuse.
There are some improvements over FRONTIER as well; for instance, this bill does specify that auditors are employed on a continuing basis and has better provisions regarding auditor access to information. Happy to see that from Anthropic (although I think their access provision is still a little undercooked and has Fourth Amendment problems).
Overall, I think the embedded auditor bills that get introduced in the coming months are going to be significantly better and more ambitious than this, and I hope Anthropic supports those bills instead of opposing anything that treats catastrophic risks like the serious national security issue they are. Still, it’s encouraging to see a frontier lab come this far.— چارلی بولاک (@CharlieBull0ck)، ۱۶ اکتبر، ساعت ۲۲:۴۷
چارلی بولاک با نقل گزارش پولیتیکو، از آنتروپیک به دلیل ارائه یک طرح قانونی تمجید کرد، اما آن را با قانون پیشنهادی FRONTIER از سوی لوری ترهان و جی اوبرنولت مقایسه کرد و گفت پیش‌نویس آنتروپیک در چند زمینه مهم، از جمله اختیار وضع مقررات و اختیار توقف اضطراری، ضعیف‌تر است. این ارزیابی دیدگاه شخصی اوست.
Charlie’s analysis is right but he is nicer than I am – I found myself viscerally angry at multiple points reading this bill. There are some good and sensible parts, but overall this legislation is not remotely close to meeting the moment and I overall think passing it would make us less protected against catastrophic risks than we are under existing law.
Two parts that stand out as particularly infuriating when taken together:
1. Some of the preemption provisions are remarkably far reaching and consequential, and in addition to preempting legislation like SB 53 would also remove general powers that state courts have to enjoin defendants and protect the public. Most outrageously, it has a provision that looks like its intended to stops states from enforcing laws or judicial decrees that “suspend the development, deployment, or internal use of an AI model” to protect their citizens from imminent catastrophic harms. Such powers to block and suspend model deployments would then only reside with the federal government.
2. The federal governments powers to restrict the development, deployment, or internal use of a frontier model has to meet an absurdly high bar.
First, there needs to be an imminent risk of a catastrophic harm (meaning killing more than 50 people or causing more than a billion dollars in damage). But thats not enough! The agency head needs to make a detailed determination with no deference given to show why no alternative would prevent the imminent catastrophe. Next the court is also explicitly told to consider the harms to the developer and other harms from restricting the model, but no considerations in the other direction.
This is absurd! For all of its warning about the potential for AI to cause a catastrophe that kills literally everyone on the planet, Anthropic’s proposed federal law likely makes it harder than under existing law for a court to get an order blocking or restricting the development of frontier models? WTF??
There are also a bunch of others things that I would like to see improved – the substantive details of the auditing section and the potential for rule-making on substantive safety standards both come to mind – but I think these stand out as particularly indefensible.— نیتن کالوین (@_NathanCalvin)، ۱۷ اکتبر، ساعت ۰۱:۰۶
نیتن کالوین نوشت که اگرچه بخش‌هایی از این لایحه مفید و معقول‌اند، تصویب آن به‌نظر او می‌تواند سطح حفاظت عمومی در برابر خطرهای فاجعه‌بار را در مقایسه با قوانین فعلی کاهش دهد. او به‌ویژه از مفاد مربوط به سلب اختیار ایالت‌ها و آستانه بسیار بالای لازم برای اقدام دولت فدرال انتقاد کرد. این ارزیابی بیانگر دیدگاه اوست.
Anthropic has quietly presented its own draft AI safety bill to US lawmakers with a plan for regulating artificial intelligence safety and security, according to a Politico report https://www.bloomberg.com/news/articles/2026-10-16/anthropic-pitches-ai-safety-bill-to-lawmakers-politico-says
— بلومبرگ (@business)، ۱۷ اکتبر، ساعت ۰۰:۲۵
حساب خبری بلومبرگ در ۱۷ اکتبر نوشت که آنتروپیک به‌طور غیرعلنی پیش‌نویس قانون ایمنی هوش مصنوعی خود را به قانون‌گذاران آمریکا ارائه کرده است و برای این خبر به گزارش پولیتیکو استناد کرد. اطلاعات تکمیلی بلومبرگ در به‌روزرسانی ۱۷ اکتبر این مقاله آمده است.
سلب اختیار ایالت‌ها و سایر الزامات
به گزارش پولیتیکو، این لایحه برخی قوانین ایالتی مربوط به افشای عمومی خطرها، ارزیابی توسط اشخاص ثالث و گزارش‌دهی درباره حوادث مهم را کنار خواهد زد. همچنین آزمایشگاه‌های سازنده مدل‌های پیشرفته هوش مصنوعی را ملزم می‌کند چارچوب‌های ایمنی تدوین کنند، گزارش‌های شفافیت درباره مدل‌های پیشرفته جدید منتشر کنند، از افشاگران حمایت کنند و حوادث مهم ایمنی را به وزارت بازرگانی گزارش دهند.
پولیتیکو می‌گوید آنتروپیک تاکنون به‌طور علنی از طرح‌های قانونی مشخصی در کنگره حمایت نکرده است، اما از برخی قوانین ایالتی ایمنی هوش مصنوعی، از جمله دو قانون در کالیفرنیا، پشتیبانی کرده است. این شرکت در سپتامبر ۲۰۲۵ از قانون SB 53 حمایت کرد و در ژوئیه همان سال نیز چارچوبی هدفمند برای شفافیت پیشنهاد داد که قابلیت اجرا در سطح فدرال، ایالتی یا بین‌المللی را دارد.
چارچوب آنتروپیک چه می‌گوید؟
سخنگوی شرکت به چارچوب هوش مصنوعی پیشرفته آنتروپیک اشاره کرد که در ژوئن ۲۰۲۶ منتشر شد. این چارچوب برای توسعه‌دهندگانی الزاماتی پیشنهاد می‌کند که مدل‌هایی با بیش از ۱۰ به توان ۲۵ عملیات ممیز شناور در مرحله آموزش (FLOP) آموزش می‌دهند و بیش از ۵۰۰ میلیون دلار درآمد سالانه از هوش مصنوعی دارند یا سالانه بیش از یک میلیارد دلار برای تحقیق و توسعه هوش مصنوعی هزینه می‌کنند.
این چارچوب برای جلوگیری از استفاده افراطی از اختیارات نظارتی، «اجرای قضایی» را به‌عنوان یکی از تضمین‌ها مطرح می‌کند؛ به این معنا که نهاد دولتی تنها با طرح دعوی در دادگاه می‌تواند خواستار اعمال اقدامات قانونی شود. درباره سلب اختیار ایالت‌ها نیز در این سند آمده است: «کنگره نباید قوانین ایالتی را کنار بزند، مگر آنکه نظام فدرالی سخت‌گیرانه‌ای تصویب کند که دست‌کم به‌اندازه قوی‌ترین تدابیر پیشنهادی در این چارچوب برای مقابله با خطرهای فاجعه‌بار هوش مصنوعی مؤثر باشد.»
گزارش پولیتیکو مشخص نمی‌کند که پیش‌نویس مورد بحث این معیار را برآورده می‌کند یا خیر؛ نویسندگان این مقاله نیز متن خود پیش‌نویس را مطالعه نکرده‌اند.
زمینه سیاسی در کنگره آمریکا
پولیتیکو اشاره می‌کند که آنتروپیک در تابستان گذشته مشمول محدودیت‌های گسترده صادراتی شد که به توقف فعالیت دو مدل پیشرفته این شرکت انجامید. این تصمیم‌ها پس از مجموعه‌ای از تماس‌های تلفنی میان مقام‌های دولت و مدیران شرکت اتخاذ شدند.
در مجلس نمایندگان، لوری ترهان و جی اوبرنولت هدایت طرح قانونی FRONTIER را بر عهده داشته‌اند؛ طرحی که به دولت امکان می‌دهد جلوی استقرار مدل‌های پرخطر را بگیرد و برخی قوانین ایالتی هوش مصنوعی را کنار بزند. در سنا نیز، به گفته پولیتیکو، جان تون، ایمی کلوبوچار و تد کروز درباره یک لایحه ایمنی هوش مصنوعی مذاکره کرده‌اند. جدا از این تلاش‌ها، طرح پیشنهادی وارنر خواستار ارائه وزن‌های مدل‌های پیشرفته هوش مصنوعی ۴۵ روز پیش از عرضه آن‌هاست؛ موضوعی که در گزارش ۱۰ اکتبر به آن پرداخته شد.
چارلی بولاک در شبکه ایکس نوشت که آنتروپیک «به‌دلیل ارائه واقعی یک لایحه نسبتاً معقول برای ایمنی هوش مصنوعی، تا حدی شایسته تقدیر است»، اما افزود که این طرح «در چند زمینه مهم از قانون FRONTIER ترهان و اوبرنولت ضعیف‌تر است». نیتن کالوین نیز نوشت که «تصویب آن، در مقایسه با قوانین فعلی، ما را در برابر خطرهای فاجعه‌بار کمتر محافظت خواهد کرد».
به‌روزرسانی ۱۷ اکتبر: اظهارات آنتروپیک به بلومبرگ
بلومبرگ در گزارشی درباره خبر پولیتیکو در ۱۶ اکتبر، اظهارات بیشتری از سخنگوی آنتروپیک منتشر کرد که در نسخه اولیه این مقاله نیامده بود. به گزارش بلومبرگ، سخنگوی شرکت گفت این لایحه سازندگان هوش مصنوعی را ملزم می‌کند مدل‌های خود را آزمایش کنند و یافته‌هایشان را با عموم مردم در میان بگذارند. همچنین شرکت‌های هوش مصنوعی باید به ارزیابان مستقل اجازه دهند مدل‌هایشان را به‌طور منظم بررسی کنند.
سخنگوی شرکت، به نقل از بلومبرگ، گفت: «پیشنهاد ما همچنین به دولت فدرال اختیار می‌دهد تا جلوی استقرارهای خطرناکِ قدرتمندترین مدل‌ها را بگیرد یا مانع آن‌ها شود.» بلومبرگ گزارش داد که آنتروپیک درباره دامنه رایزنی‌های خود برای معرفی این پیشنهاد و میزان استقبال از آن تاکنون اظهارنظری نکرده است.
بلومبرگ همچنین افزود که مجموعه‌ای از رخنه‌های امنیتی و حملات هکری مرتبط با مدل‌های هوش مصنوعی در ماه‌های اخیر نگرانی‌ها را درباره خطرهای بالقوه فاجعه‌بار این فناوری افزایش داده است. بااین‌حال، دولت دونالد ترامپ تاکنون درخواست‌ها برای نظارت بیشتر را نپذیرفته است.
ساختار طرح از چه حکایت دارد؟
بر اساس برداشت ما از گزارش، معیار اصلی برای توقف مدل بر پایه ارقام تعیین شده است: پولیتیکو می‌گوید چنین اقدامی مستلزم وجود خطر قریب‌الوقوع و قابل پیش‌بینیِ خسارتی بیش از یک میلیارد دلار یا کشته شدن یا آسیب جسمی شدید بیش از ۵۰ نفر است؛ خطری که باید از یکی از سه منشأ مشخص‌شده در طرح ناشی شود.
مسیر اعمال این اختیار نیز از دادگاه می‌گذرد. به گزارش پولیتیکو، وزارت بازرگانی می‌تواند از یک قاضی فدرال در واشینگتن دی‌سی درخواست توقف مدل را مطرح کند و هیچ وزارتخانه، نهاد یا مقام دیگری اختیار تعلیق آن را نخواهد داشت. این سازوکار با گزینه «اجرای قضایی» در چارچوب آنتروپیک که در ژوئن منتشر شد، هم‌خوانی دارد.
موضوع مهم دیگر برای مقایسه با چارچوب خود آنتروپیک، سلب اختیار ایالت‌هاست. پولیتیکو می‌گوید پیش‌نویس، برخی قوانین ایالتی درباره افشای اطلاعات، ارزیابی مستقل و گزارش حوادث را کنار می‌زند؛ درحالی‌که چارچوب آنتروپیک تصریح می‌کند کنگره نباید قوانین ایالتی را کنار بگذارد، مگر آنکه نظام فدرالی سخت‌گیرانه‌ای با استانداردهایی دست‌کم هم‌سطح قوی‌ترین تدابیر پیشنهادی آن چارچوب تصویب کند.
سخنگوی آنتروپیک در گفت‌وگو با پولیتیکو، ۱۶ اکتبر ۲۰۲۶:
«این سیاست‌ها معقول‌اند و معتقدیم کنگره باید برای اجرای آن‌ها اقدام کند.»
سه پیامد اصلی
آزمایشگاه‌های پیشرو هوش مصنوعی: به گزارش پولیتیکو، پیش‌نویس آن‌ها را ملزم می‌کند چارچوب‌های ایمنی داشته باشند، گزارش‌های شفافیت درباره مدل‌های پیشرفته جدید منتشر کنند، از افشاگران حمایت کنند و حوادث مهم ایمنی را به وزارت بازرگانی گزارش دهند.
ارزیابان مستقل: طبق گزارش پولیتیکو، ارزیابان باید در وزارت بازرگانی ثبت شوند. آزمایشگاه‌ها می‌توانند هزینه کار آن‌ها را بپردازند، به شرط آنکه پرداخت به نتیجه ارزیابی وابسته نباشد. ارزیابان نیز باید موارد خطر قریب‌الوقوعِ تعریف‌شده در قانون را ظرف ۷۲ ساعت گزارش دهند.
قانون‌گذاران ایالتی: به گفته پولیتیکو، این پیش‌نویس برخی قوانین ایالتی مرتبط با افشای عمومی خطرها، ارزیابی شخص ثالث و گزارش‌دهی حوادث مهم را کنار خواهد زد.
نگاه بیزنس انجینیر
این گزارش را می‌توان در چارچوب تحلیلی بیزنس انجینیر با عنوان «درون لایه مجوزدهی آنتروپیک» بررسی کرد.
در آن چارچوب درباره آنتروپیک آمده است: «این شرکت صرفاً در حال ساخت مدل‌ها نیست؛ بلکه به تعریف قواعد، مجوزها و مرزهای حاکم بر هوش مصنوعی پیشرفته نیز کمک می‌کند.»
از این منظر، ارائه پیش‌نویس قانونی از سوی خود یک آزمایشگاه هوش مصنوعی به قانون‌گذاران، آن‌گونه که پولیتیکو گزارش کرده، نمونه مستقیمی از این نقش است. بااین‌حال، چارچوب مذکور در ژوئن ۲۰۲۶ درباره سیاست‌های آنتروپیک در زمینه دسترسی به مدل‌هایش نوشته شده بود و به این پیش‌نویس خاص نمی‌پرداخت.
چه چیزهایی هنوز مشخص نیست؟
پیش‌نویس محرمانه است و اطلاعات مربوط به مفاد آن از گزارش پولیتیکو به دست آمده که به نقل از سه فرد آگاه از این تلاش‌ها تهیه شده است. گزارش پولیتیکو مشخص نمی‌کند که این متن به کدام قانون‌گذاران ارائه شده است.
ما در ۱۷ اکتبر ۲۰۲۶ نسخه بازنشرشده گزارش اختصاصی اوون دالکمپ در پولیتیکو، منتشرشده در ۱۶ اکتبر، را به‌طور کامل مطالعه کردیم و چارچوب آنتروپیک و مطالب سیاست‌گذاری پیشین شرکت را نیز بررسی کردیم. امکان دسترسی به متن پیش‌نویس که پولیتیکو آن را در وب‌سایت ویژه مشترکان حرفه‌ای خود پیوند داده است، فراهم نشد. همچنین با آنتروپیک یا وزارت بازرگانی تماس نگرفتیم.
جمع‌بندی
پولیتیکو در ۱۶ اکتبر ۲۰۲۶ گزارش داد که آنتروپیک پیش‌نویس قانونی برای تنظیم هوش مصنوعی پیشرفته را به‌طور غیرعلنی به قانون‌گذاران ارائه کرده است. طبق این طرح، توقف یک مدل تنها در صورت وجود خطر قریب‌الوقوع و قابل پیش‌بینیِ خسارتی بیش از یک میلیارد دلار یا کشته شدن یا آسیب جسمی شدید بیش از ۵۰ نفر امکان‌پذیر خواهد بود و دستور تعلیق باید از سوی قاضی فدرال در ناحیه کلمبیا صادر شود.
آنتروپیک می‌گوید این لایحه بازتاب چارچوب هوش مصنوعی پیشرفته این شرکت است. پیش‌نویس همچنین برخی قوانین ایالتی مربوط به افشای خطرها، ارزیابی مستقل و گزارش‌دهی حوادث را کنار خواهد زد.
منابع: پولیتیکو: آنتروپیک به‌طور غیرعلنی پیش‌نویس قانون ایمنی هوش مصنوعی خود را به قانون‌گذاران ارائه می‌کند (۱۶ اکتبر ۲۰۲۶)؛ آنتروپیک: چارچوب هوش مصنوعی پیشرفته (ژوئن ۲۰۲۶)؛ صفحه سیاست‌گذاری آنتروپیک.