آنتروپیک پیش‌نویس قانون ایمنی هوش مصنوعی را با محدودیت‌هایی برای اختیارات دولت به کنگره آمریکا ارائه کرد
شرکت آنتروپیک پیش‌نویس یک قانون فدرال برای ایمنی مدل‌های پیشرفته هوش مصنوعی را به قانون‌گذاران آمریکا پیشنهاد کرده است. این طرح، اختیار دولت برای جلوگیری از عرضه این مدل‌ها را محدود می‌کند و برخی الزامات قانونی در سطح ایالت‌ها را کاهش می‌دهد.
به گزارش پولیتیکو در ۱۷ اکتبر ۲۰۲۶، بر اساس این سند، دولت تنها در صورت وجود خطرهای شدید و مشخص می‌تواند مداخله کند. همچنین، ارزیابی مستقل مدل‌ها و الزام توسعه‌دهندگان به گزارش‌دهی درباره خطرها در این پیشنهاد پیش‌بینی شده است.
شرایطی که دولت می‌تواند عرضه مدل‌های هوش مصنوعی را متوقف کند
به نوشته این رسانه، پیش‌نویس قانون به اعضای کنگره آمریکا ارائه شده است. هدف آن، تثبیت قواعد ایمنی برای مدل‌های پیشرفته هوش مصنوعی و در عین حال محدود کردن اختیار دولت برای مداخله در توسعه و استفاده از این فناوری‌هاست.
بر اساس این پیشنهاد، دولت تنها زمانی می‌تواند برای جلوگیری از عرضه یا استفاده از یک مدل اقدام کند که آن مدل خطر قابل پیش‌بینی و قریب‌الوقوعی ایجاد کند که به بیش از یک میلیارد دلار خسارت مالی یا مرگ یا آسیب جدی بیش از ۵۰ نفر منجر شود. خطرهای موردنظر شامل تهدیدهای مرتبط با تولید یا انتشار سلاح‌های زیستی، دور زدن سازوکارهای حفاظتی توسعه‌دهنده توسط مدل و انجام حملات سایبری است.
پیش‌نویس همچنین الزامات زیر را برای توسعه‌دهندگان مدل‌های پیشرفته تعیین می‌کند:
- ایجاد و حفظ سامانه‌های ایمنی؛
- انتشار گزارش‌های شفافیت درباره مدل‌های جدید؛
- حمایت از افشاگرانی که تخلفات را گزارش می‌کنند؛
- اطلاع‌رسانی به وزارت بازرگانی آمریکا درباره حوادث مهم مرتبط با ایمنی.
ارزیابان مستقلی که در وزارت بازرگانی ثبت شده‌اند، باید به‌صورت دوره‌ای توسعه‌دهندگان و مدل‌های آن‌ها را بررسی کنند. شرکت‌ها می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه دستمزد ارزیابان به نتیجه بررسی وابسته نباشد. اگر ارزیابی نشان دهد که خطری قریب‌الوقوع، مطابق تعریف پیش‌نویس، وجود دارد، ارزیابان موظف‌اند حداکثر تا ۷۲ ساعت پس از پایان ارزیابی، وزارتخانه را مطلع کنند.
اختلاف میان آنتروپیک و دولت دونالد ترامپ، رئیس‌جمهور آمریکا، در اوایل سال ۲۰۲۶ و بر سر استفاده نظامی از هوش مصنوعی شدت گرفت. در پی این اختلاف، مقام‌های آمریکایی نام آنتروپیک را در فهرست شرکت‌های دارای خطر برای زنجیره تأمین قرار دادند و همکاری نهادهای فدرال با این شرکت را محدود کردند.
پس از آن، دولت آمریکا خواستار محدود شدن دسترسی اتباع خارجی به مدل‌های Claude Fable 5 و Mythos 5 شد. این درخواست باعث شد آنتروپیک پشتیبانی از این دو مدل را برای همه مشتریان متوقف کند. در همین حال، ریتا لین، قاضی دادگاه فدرال، قرار دادن آنتروپیک در فهرست سیاه را غیرقانونی دانست. او اعلام کرد که مقام‌های دولتی وجود تهدیدی واقعی علیه امنیت ملی را اثبات نکرده‌اند و این محدودیت‌ها متمم‌های اول و پنجم قانون اساسی آمریکا را نقض کرده‌اند.
وزارت بازرگانی می‌تواند از دادگاه درخواست کند که عرضه یک مدل را متوقف کند. در مقابل، این سند صراحتاً به دیگر نهادها و مقام‌های فدرال اجازه نمی‌دهد که مستقلاً توسعه، به‌کارگیری یا استفاده داخلی از چنین سامانه‌هایی را متوقف کنند. تصمیم نهایی درباره توقف عرضه یک مدل بر عهده دادگاه فدرال در واشنگتن خواهد بود.
سخنگوی آنتروپیک تأیید کرد که این سند بر اساس چارچوب ایمنی هوش مصنوعی پیشرفته این شرکت تدوین شده است.
او گفت: «این لایحه پیشنهادهایی را در بر می‌گیرد که در چارچوب آنتروپیک برای ایمنی هوش مصنوعی پیشرفته مطرح شده‌اند؛ چارچوبی که از ماه ژوئن برای تصویب آن‌ها با قانون‌گذاران فدرال و ایالتی رایزنی کرده‌ایم. ما معتقدیم این سیاست‌ها منطقی‌اند و کنگره باید برای تصویب آن‌ها اقدام کند.»
آنتروپیک به دنبال محدود کردن برخی قوانین ایالتی است
این پیش‌نویس همچنین کاهش برخی الزامات ایالتی را در زمینه افشای عمومی خطرها، ارزیابی مستقل مدل‌ها و گزارش‌دهی درباره حوادث مهم پیشنهاد می‌کند. این موضوع همچنان در کنگره محل اختلاف است: برخی دموکرات‌ها نگران‌اند که تعیین یک استاندارد واحد فدرال، مقرراتی را که پیش‌تر در کالیفرنیا، ایلینوی و نیویورک تصویب شده‌اند، تضعیف کند. در مقابل، نمایندگان صنعت فناوری معتقدند تفاوت الزامات ایالت‌ها، رعایت مقررات را دشوارتر می‌کند.
در بحبوحه بحث‌ها درباره حدود نظارت دولت، آنتروپیک در تابستان با محدودیت‌های گسترده صادراتی روبه‌رو شد که دسترسی به دو مورد از پیشرفته‌ترین مدل‌های این شرکت را قطع کرد. تصمیم دولت نگرانی‌هایی را در صنعت فناوری برانگیخت؛ از جمله درباره اینکه مقام‌های دولتی تا چه اندازه می‌توانند بنا بر صلاحدید خود دسترسی به هوش مصنوعی را محدود کنند.
هم‌زمان، ابتکارهای دیگری نیز در کنگره در دست بررسی است. در مجلس نمایندگان، لوری ترهان و جی اوبرنولت در حال پیشبرد طرح موسوم به FRONTIER Act هستند که آن هم امکان توقف عرضه مدل‌های خطرناک را فراهم می‌کند و برخی قوانین ایالتی را کنار می‌زند. در سنا نیز جان تون، رهبر اکثریت، همراه با سناتورها ایمی کلوبوچار و تد کروز درباره قانونی برای مقابله با خطرهای فاجعه‌بار هوش مصنوعی مذاکره می‌کند.
در همین حال، برخی سیاستمداران و سازمان‌های مدافع ایمنی فناوری خواستار نظارت سخت‌گیرانه‌تر دولت هستند؛ در حالی که شماری از قانون‌گذاران ترقی‌خواه توقف موقت توسعه هوش مصنوعی پیشرفته را پیشنهاد می‌کنند.
دولت ترامپ همچنین از شرکت اوپن‌ای‌آی خواسته بود عرضه اولیه مدل GPT-5.6 را به گروه کوچکی از شرکای مورد تأیید دولت محدود کند تا این مدل پیش از انتشار عمومی، به دلایل مرتبط با امنیت ملی آزمایش شود. اوپن‌ای‌آی با این درخواست موافقت کرد.