لایحه پیشنهادی انتروپیک درباره ایمنی هوش مصنوعی تنها پس از مرگ ۵۰ نفر یا خسارت یک میلیارد دلاری فعال می‌شود
مرگ ۵۰ نفر یا یک میلیارد دلار خسارت؛ این‌ها آستانه‌هایی هستند که از نظر شرکت انتروپیک باید مداخله دولت فدرال در برابر یک مدل پیشرفته و خطرناک هوش مصنوعی را فعال کنند.
بر اساس گزارشی که پولیتیکو در ۱۶ اکتبر ۲۰۲۶ منتشر کرد، انتروپیک پیش‌نویس محرمانه لایحه‌ای فدرال درباره ایمنی هوش مصنوعی را در اختیار قانون‌گذاران آمریکا قرار داده است. مهم‌ترین ویژگی این طرح به ساختار اجرایی آن مربوط می‌شود: تمام اختیارات اجرایی در یک نهاد، یعنی وزارت بازرگانی آمریکا، متمرکز خواهد شد و طبق متن گزارش‌شده، سایر نهادهای فدرال از تعلیق مستقل فعالیت یک مدل منع می‌شوند.
چه شرایطی توقف یک مدل را ممکن می‌کند؟
این پیشنهاد پیش از آنکه دولت بتواند علیه یک مدل پیشرفته هوش مصنوعی اقدام کند، آستانه مشخصی برای وقوع آسیب فاجعه‌بار تعیین می‌کند.
طبق گزارش پولیتیکو، دولت تنها زمانی مجاز خواهد بود برای مداخله اقدام کند که یک مدل پیشرفته هوش مصنوعی خطر «قابل پیش‌بینی و قریب‌الوقوعی» برای وارد کردن بیش از یک میلیارد دلار خسارت یا کشتن یا مجروح کردن شدید بیش از ۵۰ نفر ایجاد کند.
سه سناریوی مشخص مشمول این شرایط می‌شوند: ساخت یا انتشار یک سلاح زیستی، انجام یک حمله سایبری با استفاده از هوش مصنوعی یا خارج شدن مدل از کنترل‌های اعمال‌شده از سوی توسعه‌دهنده آن.
این فهرست عمداً محدود تنظیم شده است. بر اساس پیشنهاد، برای حوادث زیان‌بار مرتبط با هوش مصنوعی که شدت آن‌ها به آستانه‌های تعیین‌شده نرسد یا در هیچ‌یک از این سه دسته قرار نگیرند، مسیر روشنی برای تعلیق مدل وجود نخواهد داشت.
یک نهاد، یک مرجع تصمیم‌گیر
وزارت بازرگانی تنها نهاد فدرالی خواهد بود که می‌تواند با تأیید قاضی فدرال، درخواست توقف یک مدل را مطرح کند.
طبق ساختار اجرایی پیشنهادی که پولیتیکو گزارش کرده است، ارزیابان مستقل شخص ثالث باید در وزارت بازرگانی ثبت‌نام کنند و به‌صورت دوره‌ای شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته و مدل‌های آن‌ها را ارزیابی کنند. آزمایشگاه‌های هوش مصنوعی می‌توانند مستقیماً هزینه این ارزیابان را بپردازند، مشروط بر اینکه پرداخت‌ها استقلال آن‌ها را تحت تأثیر قرار ندهد. اینکه چنین شرطی در عمل تا چه اندازه قابل اجرا و نظارت است، همچنان پرسشی ساختاری است و در متن پیشنهاد به‌عنوان نتیجه‌ای اثبات‌شده مطرح نشده است.
به گزارش پولیتیکو، اگر ارزیاب خطر قریب‌الوقوعی را شناسایی کند که در یکی از دسته‌های تعیین‌شده قرار می‌گیرد، باید حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را مطلع کند. سپس این وزارتخانه شواهد را به یک قاضی فدرال در دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا ارائه خواهد کرد و خواستار صدور حکم قضایی برای توقف انتشار یا استفاده از مدل می‌شود.
طبق متن گزارش‌شده، سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های فدرال اجازه نخواهند داشت به‌طور مستقل توسعه، استقرار یا استفاده داخلی از یک مدل هوش مصنوعی را متوقف کنند. متمرکز کردن این اختیار می‌تواند روند تصمیم‌گیری را قابل پیش‌بینی‌تر کند، اما در عین حال ریسک را نیز در یک نهاد متمرکز می‌سازد. اگر وزارت بازرگانی از اقدام خودداری کند یا نتواند تهدید را به‌سرعت ارزیابی کند، هیچ نهاد فدرال دیگری بر اساس این لایحه قادر نخواهد بود درخواست تعلیق مدل را مطرح کند؛ هرچند گزارش‌های موجود ثابت نمی‌کنند که همه اشکال دیگر مداخله فدرال نیز ممنوع خواهند شد. این موضوع پیامدی تحلیلی از ساختار اجرایی پیشنهادی است، نه نتیجه‌ای که در خود لایحه به‌عنوان یک یافته تصریح شده باشد.
موضع انتروپیک
این شرکت پیش‌نویس را ادامه چارچوب هوش مصنوعی پیشرفته خود می‌داند؛ چارچوبی که از ماه ژوئن آن را به قانون‌گذاران معرفی کرده است.
سخنگوی انتروپیک اعلام کرد که پیش‌نویس لایحه بازتاب‌دهنده چارچوب هوش مصنوعی پیشرفته این شرکت است؛ چارچوبی که انتروپیک از ماه ژوئن برای قانون‌گذاران فدرال و ایالتی تشریح کرده است. این شرکت اقدامات پیشنهادی را گام‌هایی معقول توصیف کرد که کنگره باید آن‌ها را به تصویب برساند.
به گزارش پولیتیکو، این پیشنهاد همچنین آزمایشگاه‌های فعال در حوزه هوش مصنوعی پیشرفته را ملزم می‌کند چارچوب‌های ایمنی تدوین کنند، برای مدل‌های جدید گزارش‌های شفافیت منتشر کنند، از افشاگران تخلف حمایت کنند و حوادث مهم مرتبط با ایمنی را به وزارت بازرگانی گزارش دهند.
نکته‌ای درباره اختیارات ایالت‌ها
مقررات پیشنهادی درباره تقدم قوانین فدرال می‌تواند نظارت ایالت‌ها بر هوش مصنوعی را در حوزه‌هایی که این لایحه پوشش می‌دهد، محدود کند.
طبق گزارش پولیتیکو، این پیشنهاد برخی از قوانین ایالتی مرتبط با هوش مصنوعی را که به افشای خطرات عمومی، ارزیابی‌های مستقل و گزارش حوادث مهم مربوط می‌شوند، تحت‌الشعاع قوانین فدرال قرار خواهد داد. این محدودیت قابل توجه است، زیرا در همین حوزه‌ها برخی ایالت‌ها به‌طور فعال در حال تدوین چارچوب‌های نظارتی خود هستند.
تا زمانی که کنگره این پیشنهاد را بررسی و تصویب نکند، لایحه هیچ اعتبار قانونی نخواهد داشت. بااین‌حال، این طرح دیدگاه روشن یکی از شرکت‌های بزرگ هوش مصنوعی را درباره ساختار نظارت فدرال نشان می‌دهد: تعیین آستانه‌های مبتنی بر وقوع فاجعه، سپردن اختیار اجرایی به یک نهاد واحد و الزام به بررسی قضایی؛ الزامی که در کنار افزایش پاسخ‌گویی، زمان مورد نیاز برای طی شدن فرایند قضایی را نیز به همراه دارد. اینکه این چارچوب به‌اندازه کافی محدودکننده و مؤثر هست یا نه، دقیقاً همان بحثی است که انتظار می‌رود در کنگره آمریکا مطرح شود.