آنتروپیک طرح قانونی یک میلیارد دلاری برای ایمنی هوش مصنوعی را به قانون‌گذاران آمریکا پیشنهاد کرد
بر اساس گزارشی از پولیتیکو، شرکت آنتروپیک بی‌سروصدا پیش‌نویس طرحی قانونی را در اختیار قانون‌گذاران آمریکا قرار داده است که به دولت فدرال اجازه می‌دهد تنها در موارد محدود و فاجعه‌بار مانع عرضه یک مدل پیشرفته هوش مصنوعی شود. پولیتیکو نخستین بار این خبر را در ۱۶ اکتبر ۲۰۲۶ منتشر کرد و در گزارش خود به گفته‌های سه فرد آگاه از مذاکرات محرمانه استناد کرد که به دلیل حساسیت موضوع خواستند نامشان فاش نشود. تا زمان انتشار این گزارش، پیش‌نویس هنوز رسماً در کنگره مطرح نشده بود و آنتروپیک آن را در گفت‌وگوهای خصوصی با کارکنان کنگره ارائه کرده بود، نه به‌عنوان قانونی نهایی و آماده تصویب.
این پیشنهاد آستانه بسیار بالایی برای مداخله دولت تعیین می‌کند. بر اساس پیش‌نویس، نهادهای ناظر تنها زمانی می‌توانند مانع استقرار یک مدل شوند که آن مدل خطر قابل پیش‌بینی و قریب‌الوقوعِ وارد کردن خسارتی بیش از یک میلیارد دلار را ایجاد کند یا احتمال داشته باشد باعث مرگ یا جراحت شدید بیش از ۵۰ نفر شود. این دو آستانه که رسانه‌های مختلف، از جمله روزنامه نیوز اند آبزرور رالی و د اِج مالزی، نیز به آن‌ها اشاره کرده‌اند، ستون اصلی چارچوب پیشنهادی هستند. سایر مفاد طرح، از ثبت ارزیابان مستقل گرفته تا مهلت ۷۲ ساعته گزارش‌دهی، برای فراهم کردن اطلاعات لازم جهت تصمیم‌گیری بر اساس همین آستانه‌ها در نظر گرفته شده‌اند.
پیش‌نویس قانون ایمنی هوش مصنوعی آنتروپیک دقیقاً چه می‌گوید؟
دامنه این پیش‌نویس در عمل محدودتر از چیزی است که ممکن است در نگاه نخست به نظر برسد. هدف آن تنظیم‌گری گسترده هوش مصنوعی، تعیین قواعد مربوط به محتوا یا کنترل رفتار معمول چت‌بات‌های مصرف‌کنندگان نیست. این طرح بر چیزی تمرکز دارد که در صنعت «مدل‌های پیشرفته هوش مصنوعی» یا مدل‌های مرزی نامیده می‌شود؛ شمار محدودی از سامانه‌ها که در خط مقدم توانمندی‌های این فناوری قرار دارند و شرکت‌هایی مانند آنتروپیک، اوپن‌ای‌آی و گوگل دیپ‌مایند آن‌ها را توسعه می‌دهند. خطرهای مشخص‌شده در متن شامل کمک یک مدل به ساخت یا انتشار سلاح زیستی، امکان‌پذیر کردن یا اجرای یک حمله سایبری گسترده و دور زدن سازوکارهای ایمنی‌ای است که توسعه‌دهنده خود در مدل تعبیه کرده است.
اهمیت این سه دسته خطر در آن است که مشخص می‌کنند سازوکار اجرایی قانون فقط در چه شرایطی می‌تواند فعال شود. اگر مدلی به شیوه دیگری عملکرد نامناسبی داشته باشد، اطلاعات نادرست تولید کند، خروجی‌های سوگیرانه ارائه دهد یا صرفاً ضعیف‌تر از حد انتظار عمل کند، این موارد اساساً خارج از دامنه طرح خواهند بود. این محدودسازی عمدی است. آنتروپیک در بخش عمده سال ۲۰۲۶ تلاش کرده است این دیدگاه را ترویج کند که مقررات هوش مصنوعی باید محدود و متناسب با خطرهای مشخص باشند، نه گسترده و مبتنی بر اصل احتیاط. این پیش‌نویس بیان قانونی همین رویکرد است.
سخنگوی آنتروپیک، طبق گزارش پولیتیکو، درباره منشأ این طرح توضیح داد که این پیش‌نویس «بازتاب‌دهنده پیشنهادهای مطرح‌شده در چارچوب هوش مصنوعی پیشرفته آنتروپیک است؛ چارچوبی که از ماه ژوئن برای جلب حمایت قانون‌گذاران فدرال و ایالتی پیگیری کرده‌ایم». این چارچوب که شرکت در تابستان منتشر و سپس به‌روزرسانی کرد، همان ساختار چهارگانه خطر و همان ترجیح برای آزمون و افشای اطلاعات به‌جای ممنوعیت‌های فراگیر را مطرح می‌کرد. سخنگو همچنین گفت این طرح «به دولت فدرال امکان می‌دهد از عرضه خطرناک قدرتمندترین مدل‌ها جلوگیری کند یا مانع آن شود». این توصیف، پیش‌نویس را ابزاری برای اقدام معرفی می‌کند، نه محدودسازی؛ هرچند بخش بزرگی از متن آن در عمل به تعیین محدودیت‌هایی درباره نهادهای مجاز به مداخله و شرایط انجام آن اختصاص دارد.
وزارت بازرگانی؛ تنها مرجع اجرای قانون
شاید مهم‌ترین انتخاب ساختاری در این پیش‌نویس، تعیین نهادی باشد که اختیار اجرای قانون را در دست می‌گیرد. تمام اختیارات اجرایی پیش‌بینی‌شده در طرح از مسیر وزارت بازرگانی آمریکا اعمال می‌شوند. ارزیابان مستقل باید در این وزارتخانه ثبت‌نام کنند و شرکت‌های هوش مصنوعی و مدل‌های پیشرفته آن‌ها را به‌صورت دوره‌ای بر اساس دسته‌های خطر تعیین‌شده ارزیابی کنند. اگر ارزیابی نشان دهد مدلی با «خطر قریب‌الوقوع از دسته‌های مشخص‌شده» روبه‌رو است، نتیجه باید حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی به وزارت بازرگانی گزارش شود. پس از آن، تصمیم درباره درخواست مداخله قضایی بر عهده این وزارتخانه خواهد بود، نه ارزیاب و نه هیچ نهاد فدرال دیگری.
الزام به طی کردن مسیر قضایی نیز اهمیت ویژه‌ای دارد. این طرح به وزارت بازرگانی اختیار نمی‌دهد که به‌تنهایی یک مدل را از دسترس خارج کند. در عوض، به این وزارتخانه اجازه می‌دهد پس از تشخیص وجود خطری واجد شرایط، به دادگاه فدرال مراجعه کند و از قاضی بخواهد عرضه یا استفاده از مدل را متوقف کند. این سازوکار در مقایسه با صدور دستور اداری، آستانه مداخله بالاتری ایجاد می‌کند و باعث می‌شود هر اقدام اجرایی در سوابق عمومی دادگاه ثبت شود. چنین روندی با مداخله‌های محرمانه و اختیاری تفاوت دارد؛ همان نوع مداخله‌ای که برخی شرکت‌های هوش مصنوعی از احتمال زیاده‌روی نهادهای ناظر در آن نگران‌اند.
پیش‌نویس در کنار محدود کردن مسیر مداخله، قید مهم دیگری نیز در نظر می‌گیرد: هیچ وزارتخانه، سازمان یا مقام فدرال دیگری نمی‌تواند مستقلاً توسعه، عرضه یا استفاده داخلی از یک مدل را متوقف کند. در عمل، این حکم نهادهایی مانند کمیسیون تجارت فدرال، وزارت دادگستری و نهادهای ناظر بخشی در وزارت خزانه‌داری یا وزارت بهداشت و خدمات انسانی را از تعلیق یک‌جانبه سامانه‌های هوش مصنوعی، حتی در حوزه‌های تحت نظارت خودشان، محروم می‌کند؛ مگر آنکه از روند تعیین‌شده برای وزارت بازرگانی پیروی کنند. برای شرکتی مانند آنتروپیک که طی سال گذشته هم‌زمان با نظارت چند نهاد فدرال روبه‌رو بوده است، از جمله اختلاف با پنتاگون که در گزارش چالش حقوقی آنتروپیک درباره تصمیم دوپاره پنتاگون در زمینه ارزیابی خطر تشریح شده، متمرکز کردن نظارت در یک مسیر مشخص و قابل پیش‌بینی مزیتی ملموس برای کسب‌وکار محسوب می‌شود، نه صرفاً ترجیحی در سیاست‌گذاری.
چرا آنتروپیک خودش در حال تدوین مقررات است؟
نکته قابل‌توجه این است که شرکتی در حال نوشتن مقرراتی است که مستقیماً محصولات خودش را تحت نظارت قرار خواهند داد. چنین وضعیتی در واشنگتن بی‌سابقه نیست؛ شرکت‌های خدمات عمومی و داروسازی مدت‌هاست در شکل دادن به مقررات حاکم بر فعالیت خود نقش دارند. بااین‌حال، چنین اقدامی برای صنعتی به جوانی و سرعت تحول هوش مصنوعی پیشرفته غیرمعمول است. به نظر می‌رسد آنتروپیک بر این باور است که اگر قانون‌گذاری فدرال در هر صورت انجام خواهد شد، بهتر است در شکل‌گیری نخستین پیش‌نویس آن نقش داشته باشد تا اینکه بعداً به مقرراتی واکنش نشان دهد که دیگران تدوین کرده‌اند.
این شرکت در بیشتر سال ۲۰۲۶ بر هویت عمومی خود به‌عنوان شرکتی متعهد به ایمنی هوش مصنوعی تأکید کرده است؛ رویکردی که گاهی نتیجه معکوس داشته است. هشدارهای آنتروپیک درباره احتمال خارج شدن سامانه‌های هوش مصنوعی از کنترل انسان پس از ماجرایی پرحاشیه درباره محیط‌های آزمایشی ایزوله، با تردید عمومی روبه‌رو شد. در گزارش واکنش تردیدآمیز منتقدان به ماجرای پانزده محفظه آزمایشی آنتروپیک، منتقدان استدلال کردند که شرکت برای توجیه دستورکار مقرراتی خود، خطرها را بیش از اندازه بزرگ جلوه می‌دهد. هشدار جداگانه آنتروپیک درباره احتمال تکثیر مدل‌های هوش مصنوعی روی سخت‌افزارهای مصرفی نیز، که در گزارش هشدار آنتروپیک درباره تکثیر هوش مصنوعی و نبود واکنش از سوی رقبا بررسی شده، تقریباً هیچ تأیید عمومی‌ای از سوی آزمایشگاه‌های رقیب دریافت نکرد. در نتیجه، آنتروپیک در مقایسه با شرکت‌هایی که سامانه‌هایی با توانمندی مشابه می‌سازند، در تأکید پررنگ بر خطرهای فاجعه‌بار تا حدی تنها به نظر رسیده است.
این سابقه برای درک درست طرح اهمیت دارد. شرکتی که علناً درباره تکثیر خودکار هوش مصنوعی و سناریوهای از دست رفتن کنترل هشدار می‌دهد، اکنون آستانه‌ای را برای مداخله دولت پیشنهاد می‌کند که مستلزم خطر خسارت یک میلیارد دلاری یا مرگ ۵۰ نفر است. این موضع بیانگر استدلال مشخصی است: خطرها واقعی‌اند، اما نادرند و سازوکار واکنش دولت نیز باید به همان اندازه محدود و کم‌تکرار باشد. اگر این پیش‌نویس روزی به طرح قانونی رسمی تبدیل شود، اینکه قانون‌گذاران این برداشت را بپذیرند یا خواهان آستانه پایین‌تری برای مداخله شوند، احتمالاً به مهم‌ترین محور اختلاف تبدیل خواهد شد.
آستانه‌های یک میلیارد دلار و ۵۰ نفر در چه مقیاسی قرار دارند؟
برای درک بزرگی این ارقام، خسارت یک میلیارد دلاری ناشی از یک رویداد مرتبط با هوش مصنوعی در نظر گرفته می‌شود؛ رقمی که آن رویداد را در میان پرهزینه‌ترین شکست‌های فناوری در تاریخ آمریکا قرار می‌دهد و با خسارت بلایای بزرگ صنعتی یا نشت‌های گسترده داده همراه با مسئولیت‌های حقوقی سنگین قابل مقایسه است. مرگ یا جراحت شدید ۵۰ نفر در یک رویداد مرتبط با هوش مصنوعی نیز به‌مراتب فراتر از هر حادثه ایمنی هوش مصنوعی است که تاکنون به‌صورت عمومی مستند شده است. به بیان دیگر، این آستانه‌ها به‌گونه‌ای تنظیم شده‌اند که تقریباً همه رخدادهای واقعی هوش مصنوعی تا امروز، از سوءاستفاده از چت‌بات‌ها و خروجی‌های سوگیرانه گرفته تا رخدادهای امنیت سایبری افشاشده از سوی شرکت‌های هوش مصنوعی، از شمول آن‌ها خارج شوند.
همین تعیین آستانه احتمالاً یکی از اصلی‌ترین اهداف انتقاد مخالفان خواهد بود. قانونی که تنها زمانی مداخله می‌کند که آسیب فاجعه‌بار از قبل قابل پیش‌بینی و قریب‌الوقوع شده باشد، برای مقابله با آسیب‌های تدریجی و انباشته‌ای که بخش مهمی از بحث‌های کنونی درباره ایمنی هوش مصنوعی را تشکیل می‌دهند، کار چندانی انجام نمی‌دهد. این آسیب‌ها شامل سوگیری الگوریتمی در استخدام یا اعطای وام و همچنین زیان‌های مصرف‌کنندگان می‌شوند؛ موضوعی که در دعاوی جاری علیه اوپن‌ای‌آی، از جمله پرونده تشریح‌شده در گزارش شکایت هشت ایالت از اوپن‌ای‌آی درباره آسیب‌های چت‌جی‌پی‌تی به افراد زیر سن قانونی، مطرح شده است. بر اساس اطلاعات منتشرشده، پیش‌نویس آنتروپیک ظاهراً هیچ‌یک از این دسته آسیب‌ها را پوشش نمی‌دهد.
| مفاد طرح | جزئیات پیش‌نویس آنتروپیک | اهمیت |
|---|---|---|
| آستانه خسارت | دولت فقط در صورت وجود خطر خسارتی بیش از یک میلیارد دلار می‌تواند مانع عرضه مدل شود. | آستانه‌ای بسیار بالا تعیین می‌کند و بیشتر رخدادهای مستند هوش مصنوعی تا امروز را کنار می‌گذارد. |
| آستانه تلفات | خطر مرگ یا جراحت شدید بیش از ۵۰ نفر. | مداخله را به سناریوهای تلفات گسترده محدود می‌کند. |
| دسته‌های خطر | سلاح‌های زیستی، حملات سایبری و دور زدن سازوکارهای ایمنی خود مدل. | دامنه محدود آن، سوگیری، اطلاعات نادرست و جابه‌جایی نیروی کار را پوشش نمی‌دهد. |
| ارزیابان | ثبت‌نام در وزارت بازرگانی و ارزیابی دوره‌ای شرکت‌ها و مدل‌های پیشرفته. | گروهی رسمی از حسابرسان و ارزیابان مورد تأیید دولت ایجاد می‌کند. |
| مهلت گزارش‌دهی | ۷۲ ساعت پس از تشخیص «خطر قریب‌الوقوع از دسته‌های مشخص‌شده». | مهلتی کوتاه برای تسریع افشای خطر تعیین می‌کند، نه بررسی طولانی‌مدت. |
| مسیر اجرا | وزارت بازرگانی از قاضی فدرال درخواست توقف عرضه یا استفاده از مدل می‌کند. | صدور حکم قضایی را الزامی می‌کند و اجازه تعطیلی صرفاً اداری نمی‌دهد. |
| سایر نهادهای دولتی | از تعلیق مستقل توسعه یا استفاده از مدل منع می‌شوند. | اختیارات اجرایی مربوط به هوش مصنوعی را در یک نهاد متمرکز می‌کند. |
| تعهدات شفافیت | چارچوب‌های ایمنی، گزارش‌های شفافیت و حمایت از افشاگران. | رویه‌هایی را که آنتروپیک از قبل به‌صورت داوطلبانه منتشر می‌کند، به الزام قانونی تبدیل می‌کند. |
آزمون، شفافیت و حمایت از افشاگران
فراتر از سازوکار اجرای قانون، پیش‌نویس مجموعه‌ای از تعهدات دائمی را برای شرکت‌های سازنده مدل‌های پیشرفته در نظر می‌گیرد؛ تعهداتی که مستقل از آن هستند که آیا یک مدل مشخص از آستانه یک میلیارد دلار یا ۵۰ نفر عبور می‌کند یا خیر. توسعه‌دهندگان باید چارچوب‌های رسمی ایمنی تدوین کنند، برای هر مدل پیشرفته جدید گزارش شفافیت منتشر کنند، مدل‌ها را پیش و پس از عرضه از نظر دسته‌های خطر تعیین‌شده بیازمایند، یافته‌های خود را افشا کنند، رخدادهای بحرانی ایمنی را به وزارت بازرگانی گزارش دهند و از کارکنانی که نگرانی‌های ایمنی را در داخل شرکت مطرح می‌کنند، در برابر اقدامات تلافی‌جویانه حمایت کنند.
هیچ‌یک از این اقدامات برای آنتروپیک تازگی ندارد. این شرکت هم‌اکنون نیز به‌صورت داوطلبانه شناسنامه مدل‌ها و ارزیابی‌های ایمنی را منتشر می‌کند و تدابیر داخلی‌ای برای مقابله با استخراج غیرمجاز دانش مدل‌هایش از سوی رقبا ایجاد کرده است؛ موضوعی که در گزارش کاهش تا ۹۹ درصدی سرقت از طریق تقطیر مدل‌های هوش مصنوعی به‌دست آنتروپیک بررسی شده است. این قانون رویه‌هایی را که آنتروپیک از قبل به‌عنوان سیاست شرکتی دنبال می‌کند، به حداقل الزامات قانونی تبدیل خواهد کرد که همه توسعه‌دهندگان مدل‌های پیشرفته، از جمله رقبا، ملزم به رعایت آن‌ها هستند. این رویکرد نمونه‌ای شناخته‌شده از تنظیم‌گری است: شرکتی رویه‌های فعلی خود را به استاندارد صنعت تبدیل می‌کند و رقبایی که زیرساخت مشابهی ندارند، ناگهان باید هزینه انطباقی را بپردازند که شرکت پیشنهاددهنده پیش‌تر متحمل شده است.
بخش مربوط به حمایت از افشاگران نیز اهمیت ویژه‌ای دارد، زیرا بسیاری از مشکلات ایمنی در آزمایشگاه‌های پیشرفته هوش مصنوعی از طریق اظهارات کارکنان فعلی یا سابق آشکار می‌شوند؛ افرادی که گاهی برای افشای نگرانی‌های خود با خطرهای حرفه‌ای جدی روبه‌رو هستند. ایجاد حمایت قانونی فدرال برای کسانی که مشخصاً درباره ایمنی هوش مصنوعی گزارش می‌دهند، به این افراد مبنای حقوقی روشنی می‌دهد تا بدون ترس از اقدامات تلافی‌جویانه نگرانی‌های خود را مطرح کنند. چنین حمایتی می‌تواند سرعت آشکار شدن مشکلات را در مقایسه با وضعیت کنونی، که به مجموعه‌ای پراکنده از قوانین ایالتی و سیاست‌های داخلی شرکت‌ها متکی است، به‌طور محسوسی تغییر دهد.
مقایسه با وضعیت قوانین ایالتی هوش مصنوعی
یکی از ویژگی‌هایی که این پیش‌نویس را از بیشتر تلاش‌های ایالت‌ها برای ایمنی هوش مصنوعی متمایز می‌کند، قصد ظاهری آن برای کنار زدن قوانین ایالتی است. این طرح با ایجاد یک استاندارد فدرال و سپردن اجرای آن به‌طور انحصاری به وزارت بازرگانی، عملاً می‌تواند مجموعه ناهمگون و رو به گسترش مقررات ایالتی هوش مصنوعی را که از سال ۲۰۲۵ شکل گرفته‌اند، تحت‌الشعاع قرار دهد. در آن سال، لایحه SB 1047 کالیفرنیا به شاخص‌ترین تلاش ایالتی برای نظارت بر مدل‌های پیشرفته هوش مصنوعی تبدیل شد، اما روند پیشبرد آن متوقف شد. از آن زمان، ایالت‌های دیگری نیز الزامات خاص خود را، عمدتاً در زمینه شفافیت هوش مصنوعی و افشای اطلاعات ایمنی، تصویب کرده‌اند که معمولاً دامنه محدودتری دارند.
برای صنعتی که بارها از هزینه رعایت ۵۰ مجموعه مقررات ایالتی متفاوت انتقاد کرده است، وجود یک استاندارد فدرال واحد که بر قوانین ایالتی اولویت داشته باشد، تقریباً با هر سطحی از آستانه‌های ماهوی جذاب است. این موضوع جدا از بحث درباره مناسب بودن آستانه‌های یک میلیارد دلار و ۵۰ نفر است. یک شرکت می‌تواند هم‌زمان معتقد باشد تنظیم‌گری جداگانه در هر ایالت عملی نیست و از آستانه‌های فدرالی حمایت کند که آن‌قدر بالا هستند که به‌ندرت، یا هرگز، محدودیت عملی ایجاد می‌کنند. پیش‌نویس آنتروپیک ظاهراً هر دو هدف را دنبال می‌کند. این رویکرد احتمالاً با انتقاد مقام‌های ایالتی روبه‌رو خواهد شد که برای ایجاد نظام‌های نظارتی خود سرمایه سیاسی صرف کرده‌اند و نمی‌خواهند قوانینشان با استانداردی فدرال و دارای آستانه‌ای چنین بالا کنار گذاشته شود.
قانون‌گذاران امسال از شرکت‌های هوش مصنوعی چه می‌شنوند؟
سناتور تد کروز، جمهوری‌خواه ایالت تگزاس و یکی از چهره‌های فعال در بحث‌های سیاست‌گذاری هوش مصنوعی، هنگام توضیح این تعارض گفت: «این موضوع ترسناک است، اما در عین حال نمی‌توانیم سرمان را زیر برف فرو کنیم و وانمود کنیم که فناوری در حال پیشرفت نیست.» این نقل‌قول در نکست‌گوو منتشر شده است. این اظهارنظر به‌خوبی دیدگاه بخش بزرگی از کنگره را خلاصه می‌کند: قانون‌گذاران می‌دانند هوش مصنوعی پیشرفته خطرهای واقعی دارد، اما نگران‌اند مقرراتی که توسعه این فناوری را کند می‌کند، توان رقابتی آمریکا در برابر چین را تضعیف کند؛ کشوری که رقابت با آن در حوزه فناوری برای ایالات متحده اهمیت راهبردی دارد.
سناتور ایمی کلوبوچار از ایالت مینه‌سوتا بر جنبه دیگری تأکید کرده و گفته است قوانین هوش مصنوعی باید «با کارشناسان دولتی همکاری کنند تا مدل‌ها را بررسی و آزمایش کنند و از ایمنی هوش مصنوعی مطمئن شوند». این اظهارات را رویترز گزارش کرده است. این رویکرد با ساختار ارزیابی و آزمون در پیش‌نویس آنتروپیک هم‌خوانی زیادی دارد و نشان می‌دهد ممکن است بر سر شیوه‌های نظارت، توافق دوحزبی بیشتری وجود داشته باشد تا بر سر سطح آستانه‌های مداخله. فاصله میان نگرانی کروز از مداخله بیش از حد و تأکید کلوبوچار بر آزمون‌های تأییدشده، تقریباً همان محدوده‌ای است که طرح آنتروپیک می‌خواهد در آن قرار گیرد: آزمون و شفافیت برای همه، اما مداخله دولت برای تقریباً هیچ‌کس.
ارزیابی احتمال پیشرفت سیاسی طرح
تا زمان نگارش این گزارش، هیچ قانون‌گذار مشخصی به‌صورت علنی از پیش‌نویس آنتروپیک حمایت یا آن را رد نکرده است. آنچه مستند شده، این است که شرکت به‌جای معرفی یک حامی رسمی برای طرح، در حال سنجش علاقه قانون‌گذاران از طریق گفت‌وگوهای خصوصی بوده است. این موضع با زمانی که یک شرکت علناً برای تصویب لایحه‌ای تبلیغ می‌کند و از پیش حامی مشخصی در کنگره دارد، تفاوت چشمگیری دارد. این وضعیت نشان می‌دهد آنتروپیک احتمالاً هنوز در مرحله بررسی این موضوع است که کدام آستانه‌ها و مفاد می‌توانند در فرایند واقعی قانون‌گذاری دوام بیاورند؛ فرایندی که اغلب متن طرح‌ها را از مرحله پیشنهاد اولیه صنعت تا زمان ارائه رسمی به‌طور قابل‌توجهی تغییر می‌دهد.
زمان‌بندی این اقدام نیز بی‌ارتباط نیست. آنتروپیک از نظر مالی خود را برای عرضه احتمالی سهام در بازار عمومی آماده می‌کند. در گزارش ارائه آنتروپیک به سرمایه‌گذاران پیش از عرضه اولیه سهام با درآمد سالانه‌شده ۱۱۰ میلیارد دلاری، به نقل از منابع منتشرشده، به رقم درآمد سالانه‌شده ۱۱۰ میلیارد دلار در جلسات سرمایه‌گذاران پیش از عرضه اولیه اشاره شده است. همچنین درآمد سه‌ماهه سوم شرکت، برابر با ۱۶٫۸ میلیارد دلار، در گزارش رسیدن درآمد سه‌ماهه سوم آنتروپیک به ۱۶٫۸ میلیارد دلار و رشد ۴۵ درصدی پیش از عرضه اولیه سهام مطرح شده است. شفافیت مقرراتی، حتی اگر آستانه مداخله دولت را بالا تعیین کند، معمولاً برای سرمایه‌گذارانی که شرکتی را پیش از ورود به بازار سهام ارزیابی می‌کنند، نشانه مثبتی است. یک چارچوب فدرال محدود و قابل پیش‌بینی، از نظر مالی آسان‌تر از مجموعه‌ای نامشخص از مقررات ۵۰ ایالت و چندین نهاد فدرال با ادعاهای هم‌پوشان درباره صلاحیت نظارتی قابل ارزیابی است.
تأثیر بر بازار و رقابت
اگر چارچوب آنتروپیک به الگوی قانون‌گذاری فدرال در حوزه هوش مصنوعی تبدیل شود، آثار رقابتی آن بسیار فراتر از خود این شرکت خواهد رفت. همه آزمایشگاه‌های پیشرفته، از جمله اوپن‌ای‌آی، گوگل دیپ‌مایند، متا و xAI، باید همان تعهدات مربوط به آزمون، شفافیت و گزارش‌دهی را رعایت کنند و در عین حال از همان آستانه بالای مداخله دولت بهره‌مند شوند. این وضعیت با دو سناریوی دیگر تفاوت معناداری دارد: نبود هرگونه مقررات فدرال یا اجرای چارچوب‌های احتیاطی گسترده‌تری که برخی مدافعان ایمنی هوش مصنوعی پیشنهاد کرده‌اند و معمولاً آستانه‌های پایین‌تری برای مداخله و اختیارات بیشتری برای اقدام پیشگیرانه نهادهای ناظر در نظر می‌گیرند.
شرکت‌های کوچک‌تر هوش مصنوعی و توسعه‌دهندگان مدل‌های متن‌باز ممکن است در مقایسه با درآمد خود با بار نامتناسبی از هزینه‌های انطباق روبه‌رو شوند، زیرا الزامات گزارش شفافیت و تدوین چارچوب ایمنی، برخلاف آستانه خسارت یک میلیارد دلاری، متناسب با اندازه شرکت کاهش نمی‌یابند. یک استارتاپ با درآمدی بسیار کمتر از آنتروپیک یا اوپن‌ای‌آی نیز ممکن است در دامنه مدل‌های پیشرفته این قانون قرار گیرد و به همان تعهدات گزارش‌دهی یک شرکت چندین برابر بزرگ‌تر ملزم شود. اگر این وضعیت در متن نهایی قانون نیز حفظ شود، احتمالاً به نفع شرکت‌های جاافتاده‌ای خواهد بود که از قبل زیرساخت‌های لازم برای رعایت مقررات را دارند؛ همان شرکت‌هایی که، نکته قابل‌توجه آن است، در تدوین پیشنهاد نیز نقش داشته‌اند.
| رویکرد به تنظیم‌گری هوش مصنوعی | سازوکار اصلی | آستانه مداخله | نهاد مجری |
|---|---|---|---|
| پیش‌نویس آنتروپیک در سال ۲۰۲۶ | ارزیابان ثبت‌شده نتایج را به وزارت بازرگانی گزارش می‌کنند و این وزارتخانه از دادگاه درخواست حکم می‌کند. | خسارت یک میلیارد دلاری یا مرگ و جراحت بیش از ۵۰ نفر، با خطر قابل پیش‌بینی و قریب‌الوقوع. | فقط وزارت بازرگانی، از طریق دادگاه فدرال. |
| لایحه SB 1047 کالیفرنیا؛ متوقف‌شده در سال ۲۰۲۵ | آزمون ایمنی و گزارش رخداد برای مدل‌های بزرگ، به‌صورت الزامی در سطح ایالت. | پایین‌تر و مبتنی بر تعریف گسترده‌تر «آسیب بحرانی». | دادستان کل کالیفرنیا. |
| مجموعه قوانین ایالتی هوش مصنوعی در سال‌های ۲۰۲۵ تا ۲۰۲۶ | الزامات متفاوت در هر ایالت که عمدتاً بر افشا و شفافیت متمرکزند. | بسته به ایالت متفاوت و عموماً پایین‌تر از پیشنهاد فدرال. | نهادهای ناظر هر ایالت. |
| الگوی مؤسسه ایمنی هوش مصنوعی بریتانیا | آزمون دولتی مدل‌های پیشرفته پیش و پس از عرضه. | اختیاری و مبتنی بر یافته‌های ارزیابی. | مؤسسه ایمنی هوش مصنوعی بریتانیا، به‌عنوان نهاد دولتی. |
این مقایسه همچنین توضیح می‌دهد که چرا پیش‌نویس آنتروپیک احتمالاً از سوی پژوهشگران ایمنی هوش مصنوعی با مخالفت روبه‌رو خواهد شد، حتی اگر قانون‌گذارانی که نگران محدود شدن رقابت‌پذیری آمریکا هستند، با احتیاط از آن استقبال کنند. رویکرد بریتانیا، که در گزارش آزمون بیش از ۵۵ مدل هوش مصنوعی از سوی مؤسسه ایمنی هوش مصنوعی بریتانیا و هشدار درباره خطر نفوذ تشریح شده، به ارزیابان دولتی اختیار بسیار بیشتری می‌دهد تا بدون نیاز به اثبات احتمال خسارت یک میلیارد دلاری، خطرها را مطرح کنند. در مقابل، طرح آنتروپیک مداخله دولت را به نادرترین و شدیدترین سناریوها محدود می‌کند و تصمیم‌گیری‌های روزمره درباره ایمنی مدل‌ها را عمدتاً به شرکت‌های سازنده آن‌ها می‌سپارد.
پیشینه: یک سال رقابت میان دیدگاه‌های مختلف درباره ایمنی هوش مصنوعی
این نخستین بار در سال ۲۰۲۶ نیست که یک آزمایشگاه بزرگ هوش مصنوعی می‌کوشد محیط مقرراتی فعالیت خود را شکل دهد. برد اسمیت از مایکروسافت نیز مجموعه‌ای از قواعد پیشنهادی برای ایمنی هوش مصنوعی را مطرح کرده و برای توضیح اهمیت آن‌ها به شکست‌های تاریخی در تنظیم‌گری اشاره کرده است؛ موضوعی که در گزارش پیشنهاد پنج قاعده ایمنی هوش مصنوعی از سوی مایکروسافت با اشاره به شکاف تاریخی نظارت بررسی شده است. وجه مشترک این تلاش‌ها آن است که بزرگ‌ترین و برخوردارترین شرکت‌های هوش مصنوعی بیش از پیش ترجیح می‌دهند قواعد مطلوب خود را تدوین کنند، به‌جای آنکه منتظر بمانند کنگره، مجالس ایالتی یا نهادهای بین‌المللی مقرراتی را تحمیل کنند که نویسندگانشان آشنایی فنی کمتری با نحوه بروز خطا در این سامانه‌ها دارند.
سابقه این الگو در دیگر بخش‌های صنعت فناوری نتایج متفاوتی داشته است. استانداردهایی که صنعت تدوین کرده، گاهی به قواعدی عملی و از نظر فنی معتبر منجر شده‌اند؛ برای مثال، ریشه برخی چارچوب‌های افشای رخدادهای امنیت سایبری به پیش‌نویس‌های تهیه‌شده در خود صنعت بازمی‌گردد. در موارد دیگر، از این استانداردها انتقاد شده است که آستانه‌ها را به‌گونه‌ای تعیین می‌کنند که رویه‌های فعلی شرکت پیشنهاددهنده به‌راحتی از شمول آن‌ها خارج بماند. منتقدان احتمالاً آستانه‌های یک میلیارد دلار و ۵۰ نفر در پیشنهاد آنتروپیک را نیز از همین زاویه بررسی خواهند کرد، صرف‌نظر از اینکه شرکت انگیزه‌های خود را چگونه توضیح دهد.
گام بعدی چیست؟
از آنجا که پیش‌نویس هنوز رسماً در کنگره مطرح نشده است، مراحل بعدی آن واقعاً نامشخص‌اند. ارائه خصوصی یک پیشنهاد به قانون‌گذاران و کارکنان کنگره معمولاً اقدامی اولیه برای سنجش میزان علاقه و یافتن حامی احتمالی است؛ پیش از آنکه متن به زبان رسمی قانون‌گذاری تدوین شود و با شماره مشخص به کنگره ارائه گردد. آنتروپیک احتمالاً گفت‌وگوهای مشابهی را با قانون‌گذاران فدرال و ایالتی ادامه خواهد داد؛ اقدامی که با اظهارات علنی شرکت درباره پیگیری این موضوع از ژوئن ۲۰۲۶ هم‌خوانی دارد.
پرسش اصلی این است که آیا این پیش‌نویس، به‌ویژه دو آستانه محوری آن، بدون تغییر از این فرایند عبور خواهد کرد یا خیر. قانون‌گذارانی که از مقررات احتیاطی حمایت بیشتری می‌کنند، در کنار مدافعان ایمنی هوش مصنوعی و برخی مقام‌های ایالتی که می‌خواهند قوانین موجود ایالت‌هایشان حفظ شود، احتمالاً خواستار پایین آمدن آستانه مداخله و گسترش دسته‌های خطر خواهند شد. در مقابل، قانون‌گذارانی که رقابت با توسعه هوش مصنوعی در چین را اولویت می‌دانند، ممکن است برای کاهش بیشتر تعهدات فشار بیاورند. پیش‌نویس فعلی در نقطه‌ای مشخص و حساب‌شده میان این دو دیدگاه قرار دارد: تعهدات واقعی برای همه توسعه‌دهندگان مدل‌های پیشرفته، اما فعال شدن اختیارات دولت فقط در افراطی‌ترین سناریوهای قابل تصور.
پنج پیش‌بینی درباره مسیر پیش رو
- اگر نسخه رسمی این طرح در اواخر سال ۲۰۲۶ یا اوایل ۲۰۲۷ ارائه شود، احتمالاً ساختار وزارت بازرگانی به‌عنوان تنها نهاد مجری را حفظ خواهد کرد، اما برای کاهش آستانه خسارت یک میلیارد دلاری تحت فشار قرار می‌گیرد؛ زیرا این رقم تقریباً همه رخدادهای گزارش‌شده هوش مصنوعی تا امروز را کنار می‌گذارد.
- آزمایشگاه‌های رقیب، از جمله اوپن‌ای‌آی و گوگل دیپ‌مایند، احتمالاً به‌صورت خصوصی با همان دفاتر کنگره‌ای وارد گفت‌وگو خواهند شد که آنتروپیک با آن‌ها مذاکره کرده است؛ آن‌ها ممکن است برای تغییر بیشتر متن یا پیشنهاد آستانه‌های جایگزین تلاش کنند، بی‌آنکه لزوماً علناً موضعی مخالف اعلام کنند.
- مقام‌های ایالت‌هایی که پیش‌تر قوانین شفافیت هوش مصنوعی تصویب کرده‌اند، به‌شدت با مفاد مربوط به تقدم قانون فدرال بر قوانین ایالتی مخالفت خواهند کرد و این موضوع در صورت پیشرفت طرح به یکی از بحث‌برانگیزترین بندهای آن تبدیل خواهد شد.
- پژوهشگران ایمنی هوش مصنوعی خارج از صنعت، آستانه‌های ۵۰ نفر و یک میلیارد دلار را علناً بیش از حد بالا خواهند دانست و استدلال خواهند کرد که این معیارها تقریباً همه رخدادهای مستند ایمنی هوش مصنوعی از سال ۲۰۲۴ تا ۲۰۲۶ را از شمول قانون خارج می‌کنند.
- صرف‌نظر از سرنوشت این پیش‌نویس، انتظار می‌رود آنتروپیک در گفت‌وگوهای سیاست‌گذاری آینده همچنان به چارچوب هوش مصنوعی پیشرفته خود استناد کند؛ زیرا از ژوئن ۲۰۲۶ پیام‌رسانی عمومی این شرکت درباره ایمنی و پیشنهاد قانونی آن هر دو بر همان چارچوب استوار بوده‌اند.
پرسش‌های متداول
آیا طرح ایمنی هوش مصنوعی آنتروپیک رسماً در کنگره مطرح شده است؟
خیر. بر اساس گزارش پولیتیکو، تا ۱۷ اکتبر ۲۰۲۶ این پیش‌نویس به‌صورت خصوصی در اختیار قانون‌گذاران و کارکنان کنگره قرار گرفته بود، اما هنوز رسماً به‌عنوان طرح قانونی ارائه نشده بود.
چه شرایطی باعث مداخله دولت بر اساس این طرح می‌شود؟
دولت تنها زمانی می‌تواند برای توقف عرضه یا استفاده از یک مدل اقدام کند که آن مدل در یکی از سه دسته خطر تعیین‌شده، یعنی سلاح‌های زیستی، حملات سایبری یا دور زدن سازوکارهای ایمنی خود، خطر قابل پیش‌بینی و قریب‌الوقوعِ خسارتی بیش از یک میلیارد دلار یا مرگ و جراحت شدید بیش از ۵۰ نفر را ایجاد کند.
کدام نهاد فدرال مسئول اجرای این طرح خواهد بود؟
وزارت بازرگانی تنها مرجع اجرای قانون خواهد بود. ارزیابان مستقل در این وزارتخانه ثبت‌نام می‌کنند، شرکت‌ها و مدل‌های پیشرفته هوش مصنوعی را بررسی می‌کنند و خطرهای قریب‌الوقوع را ظرف ۷۲ ساعت گزارش می‌دهند. سپس وزارت بازرگانی می‌تواند از یک قاضی فدرال درخواست کند عرضه مدل را متوقف کند.
آیا سایر نهادهای فدرال نیز می‌توانند بر هوش مصنوعی نظارت کنند؟
بر اساس متن فعلی، هیچ وزارتخانه، سازمان یا مقام فدرال دیگری نمی‌تواند مستقلاً توسعه، عرضه یا استفاده داخلی از یک مدل را تعلیق کند. در نتیجه، اختیار مربوط به چنین اقدامی در وزارت بازرگانی متمرکز خواهد شد.
آیا این طرح همه محصولات هوش مصنوعی، از جمله چت‌بات‌های مصرفی، را شامل می‌شود؟
خیر. پیش‌نویس مشخصاً بر مدل‌های پیشرفته‌ای تمرکز دارد که در مرز توانمندی‌های فعلی هوش مصنوعی قرار دارند، نه همه محصولات مصرفی. مسائل مربوط به رفتار معمول چت‌بات‌ها عموماً خارج از دامنه این طرح خواهند بود.
این طرح چه ارتباطی با لایحه SB 1047 کالیفرنیا دارد؟
لایحه SB 1047 طرحی ایالتی برای ایمنی هوش مصنوعی بود که روند تصویب آن در کالیفرنیا متوقف شد. به نظر می‌رسد پیش‌نویس فدرال آنتروپیک تا حدی با هدف جایگزین کردن مقررات پراکنده ایالتی با یک استاندارد ملی واحد تهیه شده است؛ هرچند جزئیات دقیق مفاد مربوط به تقدم قانون فدرال بر قوانین ایالتی در گزارش‌های عمومی به‌طور کامل تشریح نشده‌اند.
آیا اوپن‌ای‌آی، گوگل یا مایکروسافت طرح قانونی رقیبی پیشنهاد کرده‌اند؟
گزارش‌های عمومی درباره پیش‌نویس آنتروپیک از وجود طرح قانونی نهایی و مستقلاً رقیبی از سوی این شرکت‌ها خبر نمی‌دهند. مایکروسافت اصول پیشنهادی خود را برای ایمنی هوش مصنوعی به‌صورت عمومی مطرح کرده است، اما این اصول به‌عنوان متن قانونی معادل طرح آنتروپیک توصیف نشده‌اند.
چرا آنتروپیک خواهان نظارت دولت بر محصولات خودش است؟
سخنگوی آنتروپیک گفته است که این طرح «به دولت فدرال امکان می‌دهد از عرضه خطرناک قدرتمندترین مدل‌ها جلوگیری کند یا مانع آن شود». این شرکت پیشنهاد را هم اقدامی برای ایمنی و هم راهی برای ایجاد چارچوب مقرراتی فدرال و قابل پیش‌بینی معرفی می‌کند؛ موضوعی که پیش از عرضه احتمالی سهام شرکت در بازار عمومی می‌تواند اهمیت داشته باشد.