آنتروپیک می‌خواهد توقف فعالیت مدل‌های هوش مصنوعی فقط در صورت خطر خسارت بیش از یک میلیارد دلار یا آسیب جدی به بیش از ۵۰ نفر ممکن باشد
بر اساس گزارشی اختصاصی از پولیتیکو در ۱۶ اکتبر ۲۰۲۶، شرکت آنتروپیک پیش‌نویس قانونی فدرال درباره ایمنی هوش مصنوعی پیشرفته را به قانون‌گذاران در واشنگتن پیشنهاد کرده است. بر اساس این طرح، دولت تنها زمانی می‌تواند مانع انتشار یا استفاده از یک مدل هوش مصنوعی شود که خطر خسارتی بیش از یک میلیارد دلار یا مرگ یا آسیب جدی به بیش از ۵۰ نفر، قریب‌الوقوع باشد.
آنتروپیک، شرکت مستقر در کالیفرنیا و سازنده دستیار هوش مصنوعی کلود است. پولیتیکو، رسانه آمریکایی فعال در حوزه سیاست و مقررات، این سند را از سه منبع آگاه از ارتباطات شرکت با کنگره به دست آورده که خواسته‌اند نامشان فاش نشود. پیش‌نویس محرمانه است و شرکت آن را منتشر نکرده است. سخنگوی آنتروپیک گفته است این متن، پیشنهادهای مطرح‌شده در چارچوب هوش مصنوعی پیشرفته این شرکت را به زبان حقوقی و قانونی تبدیل می‌کند. آنتروپیک از ماه ژوئن این چارچوب را به قانون‌گذاران فدرال و ایالتی ارائه کرده و سخنگوی شرکت اقدامات پیشنهادی آن را سیاست‌هایی معقول دانسته که کنگره باید برای اجرای آن‌ها اقدام کند.
پیش‌نویس چه می‌گوید؟
محور اصلی این طرح، تعیین آستانه‌ای مشخص برای مداخله دولت است. اختیار جلوگیری از انتشار یا استفاده از یک مدل فقط زمانی فعال می‌شود که خطر قابل پیش‌بینی و قریب‌الوقوعِ خسارتی بیش از یک میلیارد دلار یا مرگ یا آسیب جدی به بیش از ۵۰ نفر وجود داشته باشد. این خطر نیز باید ناشی از یکی از سه وضعیت باشد: ساخت یا انتشار سلاح زیستی، خارج شدن مدل از کنترل توسعه‌دهنده آن یا وقوع یک حمله سایبری.
اگر خطر از این آستانه پایین‌تر باشد، اختیار تعلیق مدل اعمال نمی‌شود. برای مثال، خطر خسارتی معادل ۹۰۰ میلیون دلار یا آسیب جدی به ۴۰ نفر برای توقف مدل کافی نخواهد بود. این مقررات درباره مدل‌های پیشرو هوش مصنوعی است؛ یعنی قدرتمندترین مدل‌های موجود. ارائه این پیش‌نویس در شرایطی صورت می‌گیرد که کنگره در حال بررسی نحوه مواجهه با صنعتی است که سرعت پیشرفت آن از سرعت تدوین مقررات بیشتر است.
چه نهادی می‌تواند فعالیت یک مدل هوش مصنوعی را متوقف کند؟
بر اساس پیش‌نویس، تنها وزارت بازرگانی آمریکا می‌تواند درخواست صدور حکم توقف یک مدل را مطرح کند و تصمیم نهایی با یک قاضی فدرال در واشنگتن خواهد بود. این وزارتخانه که مسئولیت‌هایی در حوزه تجارت و صنعت دارد، شواهد خود را به دادگاه منطقه‌ای فدرال در پایتخت ارائه می‌کند و دادگاه می‌تواند حکم تعلیق مدل را صادر کند.
در متن پیش‌نویس صراحتاً آمده است که هیچ «وزارتخانه، سازمان یا مقام» دیگری حق ندارد توسعه، انتشار یا استفاده داخلی از یک مدل را متوقف کند. شناسایی خطر بر عهده ارزیابان مستقلی خواهد بود که در وزارت بازرگانی ثبت‌نام می‌کنند و در فواصل زمانی منظم، آزمایشگاه هوش مصنوعی و مدل‌های آن را بررسی می‌کنند. خود آزمایشگاه نیز می‌تواند هزینه ارزیابی را بپردازد، مشروط بر آنکه حق‌الزحمه ارزیاب به نتیجه بررسی وابسته نباشد. اگر ارزیابان با «خطری مشخص و قریب‌الوقوع» از انواعی که در پیش‌نویس فهرست شده‌اند روبه‌رو شوند، باید حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، وزارتخانه را مطلع کنند.
تأکید بر تشریفات قانونی، با توجه به رویدادی در ماه‌های اخیر قابل درک است. در ماه ژوئن، محدودیت‌های صادراتی علیه آنتروپیک اعمال شد که به توقف دو مدل پیشرفته این شرکت انجامید. این تصمیم پس از مجموعه‌ای از تماس‌های تلفنی میان مقام‌های دولت و مدیران شرکت گرفته شد (توقف فِیبل ۵ و مایتوس ۵ به دستور دولت آمریکا). پولیتیکو گزارش می‌دهد که این اتفاق بخشی از صنعت را نگران کرد، زیرا ممکن است دسترسی به یک فناوری صرفاً به تصمیم و صلاحدید یک مقام محدود شود.
اعداد ۵۰ نفر و یک میلیارد دلار از کجا آمده‌اند؟
هیچ‌یک از این دو عدد تازه نیست. به نوشته پولیتیکو، عبارت‌بندی پیش‌نویس با قوانین کالیفرنیا در حوزه هوش مصنوعی، از جمله قانون SB 53 درباره شفافیت مدل‌های پیشرو که در سال ۲۰۲۵ امضا شد، شباهت دارد. بر اساس خلاصه ارائه‌شده از سوی مجمع آینده حریم خصوصی، اندیشکده‌ای آمریکایی در حوزه داده و فناوری، قانون SB 53 «خطر فاجعه‌بار» را وضعیتی تعریف می‌کند که در آن یک مدل در مرگ یا آسیب جدی به دست‌کم ۵۰ نفر یا خسارتی معادل یک میلیارد دلار یا بیشتر نقش داشته باشد. در آن قانون، این آستانه تعیین می‌کند شرکت‌ها چه مواردی را باید در پروتکل‌های ایمنی خود شرح دهند و کدام حوادث را گزارش کنند. جریمه هر تخلف نیز می‌تواند به یک میلیون دلار برسد.
آنتروپیک در پیش‌نویس خود از همین ارقام برای هدفی متفاوت استفاده می‌کند: تعیین سطح خطری که پس از عبور از آن، دولت می‌تواند مانع انتشار یک مدل شود. به این ترتیب، آستانه‌ای که در قانون کالیفرنیا برای تعیین تعهدات شفافیت به کار می‌رود، در پیشنهاد آنتروپیک به معیاری برای اعمال اختیار وتو تبدیل می‌شود.
مقایسه پیش‌نویس گزارش‌شده با چارچوبی که آنتروپیک در وب‌سایت خود منتشر کرده است، نشان می‌دهد که دامنه طرح قانونی ظاهراً محدودتر شده است.
| موضوع | چارچوب ماه ژوئن | پیش‌نویس بر اساس گزارش پولیتیکو |
|---|---|---|
| خطرهای تحت پوشش | سلاح‌های زیستی، عملیات سایبری تهاجمی، از دست رفتن کنترل و پژوهش و توسعه خودکار | سلاح زیستی، خارج شدن مدل از کنترل و حمله سایبری |
| توقف یک مدل | اختیار قانونی برای جلوگیری از انتشار یا منصرف کردن شرکت از انتشار مدل، فراتر از قوانین موجود و پیشنهادهای مطرح‌شده در کنگره، بدون تعیین آستانه عددی برای خسارت | فقط در صورت خطر قریب‌الوقوع خسارتی بیش از یک میلیارد دلار یا آسیب به بیش از ۵۰ نفر، به درخواست وزارت بازرگانی و با حکم دادگاه |
| قوانین ایالتی | جلوگیری از تقدم قانون فدرال بر قوانین ایالتی، مگر آنکه قانون فدرال دست‌کم به همان اندازه سخت‌گیرانه باشد | جایگزین شدن مقررات فدرال به‌جای قوانین ایالتی در زمینه افشای خطرها، ارزیابی‌های مستقل و گزارش حوادث |
| مجازات‌ها | جریمه‌های مدنی متناسب با درآمد جهانی شرکت که در صورت تکرار تخلف افزایش می‌یابند | نامشخص |
محدودیت‌هایی که باید در نظر گرفت
- متن پیش‌نویس منتشر نشده است. تمام اطلاعات موجود از گزارش پولیتیکو، مبتنی بر سندی محرمانه و اظهارات سه منبع ناشناس، به دست آمده است. تعریف‌ها، دامنه شمول و پیوست‌های طرح هنوز مشخص نیستند؛ بنابراین نمی‌توان با قطعیت گفت کدام شرکت‌ها مشمول آن خواهند شد یا مجازات‌ها چه اندازه سنگین خواهند بود.
- طبق گزارش، آستانه‌ها «بیش از» ۵۰ نفر و «بیش از» یک میلیارد دلار هستند؛ اما در خلاصه قانون SB 53 که به‌عنوان الگوی این پیشنهاد مطرح شده، عبارت‌های «۵۰ نفر یا بیشتر» و «یک میلیارد دلار یا بیشتر» به کار رفته‌اند. تا زمانی که متن پیش‌نویس در دسترس نباشد، مرز دقیق این آستانه‌ها روشن نیست. با چنین معیاری، تفاوت حتی یک نفر می‌تواند تعیین کند که اختیار توقف مدل قابل اعمال است یا نه.
- چارچوب علنی آنتروپیک گسترده‌تر از پیش‌نویس گزارش‌شده است: چهار دسته خطر را در بر می‌گیرد، در حالی که پیش‌نویس سه دسته دارد؛ همچنین شامل جریمه‌های متناسب با درآمد است و آستانه مشخصی برای خسارت تعیین نمی‌کند. هنوز معلوم نیست کدام‌یک از این عناصر در متن پیشنهادی قانون باقی مانده‌اند. تا روشن شدن این موضوع، نمی‌توان گفت پیش‌نویس تمام چارچوب را، آن‌گونه که شرکت ادعا می‌کند، به قانون تبدیل کرده است.
قوانین ایالتی
این پیش‌نویس بخشی از مقررات ایالتی، از جمله قواعد مربوط به افشای عمومی خطرها، ارزیابی‌های مستقل و گزارش حوادث ایمنی مهم، را در بر می‌گیرد. تقدم قانون فدرال بر قوانین ایالتی یکی از مناقشه‌برانگیزترین موضوعات در کنگره است. دموکرات‌ها پیشنهادهایی را رد کرده‌اند که به باور آن‌ها می‌تواند قوانین کالیفرنیا، ایلینوی و نیویورک را تضعیف کند؛ در مقابل، بسیاری از گروه‌های صنعتی همچنان استدلال می‌کنند که رعایت مجموعه‌ای پراکنده از قوانین ایالتی دشوارتر از پیروی از یک استاندارد ملی واحد است.
آنتروپیک تاکنون از قوانین ایالتی ایمنی هوش مصنوعی، از جمله دو قانون در کالیفرنیا، حمایت کرده است، اما از هیچ متن قانونی فدرال مشخصی پشتیبانی نکرده بود. مسئول روابط دولت‌های ایالتی و محلی این شرکت به پولیتیکو گفته است که امیدوار است ایالت‌ها همچنان قوانین سخت‌گیرانه‌تری تصویب کنند. چارچوب منتشرشده آنتروپیک نیز همین رویکرد را دنبال می‌کند، زیرا تنها زمانی اجازه می‌دهد قانون فدرال جایگزین قوانین ایالتی شود که دست‌کم به همان اندازه سخت‌گیرانه باشد. اینکه پیش‌نویس جدید این شرط را برآورده می‌کند یا نه، به متن آن بستگی دارد؛ متنی که هنوز در دسترس عموم قرار نگرفته است.
دیگر طرح‌های مطرح در کنگره
آنتروپیک در فضایی وارد این بحث شده که چندین پیشنهاد قانونی دیگر نیز در حال بررسی هستند. در مجلس نمایندگان، لوری ترهان، نماینده دموکرات ایالت ماساچوست، و جی اوبرنولته، نماینده جمهوری‌خواه کالیفرنیا، طرحی با عنوان قانون FRONTIER تدوین کرده‌اند که به دولت اختیار می‌دهد استفاده از مدل‌های پرخطر را متوقف کند و برخی قوانین ایالتی را کنار بزند. در سنا نیز جان تون، رهبر اکثریت جمهوری‌خواه، ایمی کلوبوچار، سناتور دموکرات، و تد کروز، سناتور جمهوری‌خواه، در حال مذاکره درباره طرحی برای مقابله با خطرهای فاجعه‌بار هستند. این تلاش با مخالفت برخی گروه‌های فعال در حوزه ایمنی هوش مصنوعی و همچنین ماریا کانتول، ارشدترین عضو دموکرات کمیته بازرگانی سنا که ریاست آن را کروز بر عهده دارد، روبه‌رو است. کانتول خواهان نقش گسترده‌تر دولت در بررسی و تأیید مدل‌هاست.
در جناح چپ‌تر، گرگ کاسار، نماینده مجلس نمایندگان، و برنی سندرز، سناتور، خواسته‌هایی بسیار فراتر از پیشنهادهای همکاران خود مطرح کرده‌اند: توقف موقت توسعه هوش مصنوعی پیشرفته و ممنوعیت ابرهوش مصنوعی (طرح قانونی سندرز). رویکرد آمریکا با رویکرد اروپا تفاوت چشمگیری دارد؛ این تفاوت در مقایسه قانون بزرگ هوش مصنوعی آمریکا با قانون هوش مصنوعی اتحادیه اروپا نیز دیده می‌شود. به نوشته بلومبرگ، دولت دونالد ترامپ تاکنون درخواست‌ها برای نظارت بیشتر را رد کرده است؛ همان‌طور که پیش‌تر با درخواست توقف یا کند کردن روند توسعه هوش مصنوعی از سوی آمودی، آلتمن و ماسک مخالفت کرده بود.
آستانه‌ای بالا برای اعمال اختیار توقف
در کوتاه‌مدت، تعیین چنین آستانه‌ای هزینه‌ای برای آنتروپیک ندارد. حوادثی که آزمایشگاه‌های هوش مصنوعی در تابستان گزارش کردند و طی آن‌ها عامل‌های هوش مصنوعی به وب‌سایت‌ها و پلتفرم‌ها نفوذ کردند یا امنیت آن‌ها را آزمودند (درخواست توضیح اتحادیه اروپا از اوپن‌ای‌آی و آنتروپیک)، ظاهراً نه به تلفات گسترده منجر شدند و نه خسارتی در مقیاس میلیارد دلار ایجاد کردند. وقتی آستانه مداخله تا این اندازه بالاست، رسیدگی به تمام خطرهای پایین‌تر از آن عملاً به سازوکارهای شفافیت واگذار می‌شود.
جنبه مربوط به رعایت تشریفات قانونی نیز اهمیت دارد: یک نهاد، یک قاضی و یک معیار مکتوب. برای شرکتی که در ماه ژوئن شاهد توقف فعالیت دو مدل خود پس از چند تماس تلفنی بود، تفاوت میان وجود یک قاعده روشن و تصمیم‌گیری سلیقه‌ای در همین نکته نهفته است. به نظر می‌رسد عرضه اولیه سهام آنتروپیک که برای ماه نوامبر انتظار می‌رود نیز ممکن است در این میان نقش داشته باشد؛ به‌ویژه پس از آنکه درآمد شرکت در سه‌ماهه سوم به ۱۶٫۸ میلیارد دلار رسید. شرکتی که در آستانه ورود به بازار سهام و پاسخ‌گویی به سرمایه‌گذاران قرار دارد، احتمالاً ترجیح می‌دهد خطرهای مقرراتی از پیش و به‌صورت مکتوب مشخص شوند، نه اینکه تصمیم‌ها موردی و بدون قاعده گرفته شوند. البته این صرفاً یک برداشت تحلیلی است و شرکت چنین دلیلی را اعلام نکرده است.
هزینه این رویکرد را طرف دیگر ماجرا می‌پردازد. سازوکاری که تنها پس از عبور شمار قربانیان از ۵۰ نفر فعال می‌شود، برای مقابله با آسیب‌های متعارف‌تر، یعنی خسارت‌هایی در حد صدها میلیون دلار یا آسیب به چند ده نفر، ابزار چندانی در اختیار نمی‌گذارد. چنین طرحی از سازندگان مدل‌ها محافظت می‌کند، اما حمایت کمتری از کسانی به عمل می‌آورد که از این فناوری‌ها آسیب می‌بینند، مشروط بر اینکه خسارت زیر آستانه تعیین‌شده باقی بماند.
پرسش‌های متداول
۱. آیا پیش‌نویس آنتروپیک هم‌اکنون در کنگره در حال بررسی است؟
خیر؛ فعلاً این پیشنهاد به‌صورت محرمانه در حال گردش است. پولیتیکو گزارش داده است که آنتروپیک این طرح را به‌طور خصوصی به قانون‌گذاران ارائه کرده است. به گزارش بلومبرگ در ۱۹ اکتبر، آنتروپیک حاضر نشده است بگوید پیش‌نویس را به چند قانون‌گذار نشان داده است (گزارش بلومبرگ). ظاهراً هیچ قانون‌گذاری این پیشنهاد را به‌عنوان یک طرح قانونی رسمی ارائه نکرده است؛ در همین حال، روند پیشبرد قانون FRONTIER در مجلس نمایندگان و مذاکرات سنا به‌طور مستقل ادامه دارد.
۲. این طرح در کوتاه‌مدت چه تغییری برای کاربران کلود در خارج از آمریکا ایجاد می‌کند؟
در کوتاه‌مدت تغییری ایجاد نمی‌کند. پیش‌نویس فقط به ایالات متحده مربوط است و هنوز قانون نشده است. اتحادیه اروپا نیز از قبل قانون هوش مصنوعی خود را دارد. کمیسیون اروپا قواعد مربوط به جریمه ارائه‌دهندگان مدل‌هایی مانند چت‌جی‌پی‌تی و جمینای را منتشر کرده است.
۳. چارچوب آنتروپیک شامل کدام شرکت‌ها می‌شود؟
این چارچوب فقط توسعه‌دهندگانی را در بر می‌گیرد که از دو آستانه تعیین‌شده عبور کنند. بر اساس چارچوب، مدل باید با بیش از ۱۰ به توان ۲۵ عملیات ممیز شناور (FLOPs) آموزش داده شده باشد؛ این عملیات معیاری برای سنجش حجم محاسبات است. همچنین شرکت باید بیش از ۵۰۰ میلیون دلار درآمد حاصل از هوش مصنوعی داشته باشد یا هزینه تحقیق و توسعه هوش مصنوعی آن از یک میلیارد دلار بیشتر باشد. مشخص نیست همین آستانه‌ها در پیش‌نویس قانون نیز گنجانده شده باشند یا نه.
۴. آیا برای خطرهای پایین‌تر از یک میلیارد دلار خسارت و ۵۰ قربانی هیچ مقرراتی وجود ندارد؟
تعهدات مربوط به شفافیت همچنان برقرار می‌مانند. به گزارش پولیتیکو، آزمایشگاه‌ها همچنان باید چارچوب‌های ایمنی تدوین کنند، برای هر مدل پیشرو جدید گزارش شفافیت منتشر کنند، از افشاگران تخلف حمایت کنند و حوادث مهم ایمنی را به وزارت بازرگانی گزارش دهند. فقط اختیار تعلیق یک مدل به خطرهایی محدود می‌شود که از آستانه تعیین‌شده فراتر بروند.