پیشنهاد آنتروپیک برای قانون ایمنی هوش مصنوعی با آستانه یک میلیارد دلاری با انتقاد روبه‌رو شد
شرکت آنتروپیک پیش‌نویس قانونی درباره ایمنی هوش مصنوعی را در اختیار قانون‌گذاران آمریکا قرار داده است؛ اما آستانه تعیین‌شده برای مداخله دولت در این پیشنهاد، بیش از خود طرح توجه‌ها را جلب کرده است. بر اساس گزارش پولیتیکو که به نسخه پیش‌نویس دست یافته، دولت تنها زمانی می‌تواند مانع عرضه یا استفاده از یک مدل پیشرفته هوش مصنوعی شود که آن مدل خطر «قابل پیش‌بینی و قریب‌الوقوعی» ایجاد کند که به بیش از یک میلیارد دلار خسارت مالی یا مرگ یا آسیب جدی بیش از ۵۰ نفر منجر شود. برای شرکتی که سال‌ها درباره خطرهای فاجعه‌بار هوش مصنوعی هشدار داده است، تعیین چنین آستانه بالایی برای مداخله دولت اکنون به محور اصلی بحث تبدیل شده، نه موضوعی حاشیه‌ای.
نشریه مادر جونز در گزارش ۱۷ اکتبر خود، این مسئله را صریح مطرح کرد و عنوان «پیش‌نویس قانون ایمنی هوش مصنوعی آنتروپیک آستانه نگران‌کننده‌ای برای اقدام دولت دارد» را برای گزارشش برگزید. فرست‌پست نیز روز بعد همین موضوع را پی گرفت و پرسید آیا تعیین آستانه‌ای بر اساس تعداد افرادی که ممکن است آسیب ببینند، روش مناسبی برای قانون‌گذاری در حوزه هوش مصنوعی است یا نه. بلومبرگ، مانی‌کنترل، مشبل و بیزنس‌تودی نیز در گزارش‌های ۱۶ و ۱۷ اکتبر، چارچوب کلی پیش‌نویس را تأیید کردند و پولیتیکو را نخستین رسانه‌ای دانستند که به سند دست یافته است. تا ۱۸ اکتبر ۲۰۲۶، آنتروپیک متن خود پیش‌نویس را منتشر نکرده و هیچ‌یک از اعضای کنگره نیز آن را به‌عنوان طرح قانونی رسمی ارائه نداده است.
پیش‌نویس قانون ایمنی هوش مصنوعی آنتروپیک دقیقاً چه پیشنهادی دارد؟
سندی که آنتروپیک در اختیار قانون‌گذاران قرار داده، لایحه‌ای نهایی و آماده رأی‌گیری در صحن کنگره نیست؛ بلکه چارچوبی پیشنهادی است که این شرکت برای اثرگذاری بر نحوه قانون‌گذاری آینده واشنگتن درباره قدرتمندترین سامانه‌های هوش مصنوعی تدوین کرده است. مدل‌های کلود آنتروپیک رقیب مستقیم خانواده GPT شرکت اوپن‌ای‌آی و مدل‌های جمینای گوگل هستند. بر اساس گزارش پولیتیکو، آنتروپیک این چارچوب را بدون رونمایی عمومی و پرسر‌وصدایی که معمولاً برای عرضه مدل‌های خود برگزار می‌کند، به قانون‌گذاران پیشنهاد داده است.
سازوکار اصلی این طرح عمداً محدود طراحی شده است. به‌جای آنکه نهاد ناظر اختیار دائمی و مستقلی برای خارج کردن یک مدل از بازار داشته باشد، پیش‌نویس دولت را ملزم می‌کند پیش از تعلیق فعالیت هر مدل، از یک قاضی فدرال حکم بگیرد. همین انتخاب، بیش از ارقام مشخص‌شده در طرح، آن را از الگوهای الزام‌آور تأیید پیش از عرضه متمایز می‌کند؛ الگوهایی که برخی مدافعان ایمنی هوش مصنوعی از سال ۲۰۲۳ خواهان اجرای آن‌ها بوده‌اند. آنتروپیک، در بیانیه‌ای که از طریق سخنگوی شرکت منتشر شده، این چارچوب را سازوکاری معرفی می‌کند که «به دولت فدرال اختیار می‌دهد جلوی استقرارهای خطرناک قدرتمندترین مدل‌ها را بگیرد یا از آن‌ها بازدارد».
اهمیت این نقل‌قول در آن است که نشان می‌دهد آنتروپیک می‌خواهد پیشنهادش به‌عنوان گسترش اختیارات دولت برای اقدام، نه محدود کردن آن‌ها، درک شود. بااین‌حال، منتقدانی که متن مربوط به آستانه مداخله را بررسی کرده‌اند، برداشت تقریباً معکوسی دارند: از نظر آنان، این پیش‌نویس عملاً محدودیتی برای شرایطی تعیین می‌کند که دولت اصلاً اجازه استفاده از چنین اختیاراتی را خواهد داشت.
آستانه یک میلیارد دلار و ۵۰ نفر به چه معناست؟
اگر اصطلاحات حقوقی را کنار بگذاریم، قاعده اصلی پیش‌نویس ساده است: جلوگیری از عرضه یا ادامه استفاده از یک مدل تنها زمانی امکان‌پذیر خواهد بود که نهادهای ناظر بتوانند نشان دهند مدل با خطری قابل پیش‌بینی و قریب‌الوقوع برای یکی از دو پیامد روبه‌روست؛ خسارت مالی بیش از یک میلیارد دلار، یا مرگ یا آسیب جدی بیش از ۵۰ نفر. این دو رقم مستقیماً در متن پیش‌نویس توصیف‌شده در گزارش ۱۷ اکتبر مادر جونز آمده‌اند و همه رسانه‌هایی که سند را بررسی کرده‌اند، همین ارقام را گزارش کرده‌اند.
هیچ‌یک از این دو آستانه پایین نیست. خسارت یک میلیارد دلاری معمولاً با فروپاشی زیرساخت‌های بزرگ یا کلاهبرداری مالی گسترده مرتبط است، نه با یک پاسخ نامناسب از سوی چت‌بات. مرگ یا آسیب جدی ۵۰ نفر نیز به رویدادی با تلفات انبوه اشاره دارد. تعیین چنین آستانه‌ای به این معناست که یک مدل می‌تواند خسارتی واقعی و مستند ایجاد کند، اما اگر میزان خسارت یا تعداد قربانیان به این ارقام نرسد، همچنان مشمول معیار قانونی مداخله دولت در این چارچوب نشود.
این دقیقاً همان شکافی است که فرست‌پست در گزارش ۱۸ اکتبر خود بر آن تأکید کرد. این رسانه در تیتر گزارشش عبارت «آسیب رساندن به بیش از ۵۰ نفر» را برجسته کرد و پرسید آیا تعیین تعداد مشخصی از قربانیان، مبنای مناسبی برای قانون‌گذاری درباره ایمنی هوش مصنوعی است یا خیر. فرست‌پست همچنین عبارت اصلی اوون دالکمپ، خبرنگار پولیتیکو، را درباره این سازوکار نقل کرد تا روشن شود که این عدد برآورد یا بازگویی آزادانه خبرنگار نیست، بلکه عیناً در متن مورد بحث آمده است.
سه دسته خطر که این بند را فعال می‌کنند
این آستانه برای همه انواع آسیب‌های ناشی از هوش مصنوعی اعمال نمی‌شود. بر اساس پیش‌نویسی که پولیتیکو گزارش کرده، معیار یک میلیارد دلار یا ۵۰ نفر فقط زمانی مطرح می‌شود که خطر از یکی از سه دسته مشخص ناشی شده باشد:
- ساخت یا انتشار سلاح زیستی؛
- خارج شدن مدل از کنترل‌های تعیین‌شده توسط سازنده آن؛
- حمله سایبری.
این فهرست عمداً محدود است. در نتیجه، دسته‌هایی از آسیب که در سال‌های ۲۰۲۵ و ۲۰۲۶ بخش مهمی از بحث‌های سیاست‌گذاری هوش مصنوعی را تشکیل داده‌اند، از جمله کلاهبرداری با استفاده از دیپ‌فیک، انتشار اطلاعات نادرست انتخاباتی، حذف مشاغل و تبعیض الگوریتمی در استخدام یا اعطای وام، در این فهرست قرار نمی‌گیرند. صرف‌نظر از میزان خسارت مالی یا اجتماعی چنین مواردی، هیچ‌یک از آن‌ها به‌تنهایی اختیار دولت برای جلوگیری از عرضه مدل را فعال نمی‌کند؛ مگر آنکه بتوان آسیب را به سلاح زیستی، رویداد خروج مدل از کنترل سازنده یا حمله سایبری نیز مرتبط دانست.
محدود بودن این فهرست با نحوه صحبت آنتروپیک درباره خطرهای فاجعه‌بار در اسناد عمومی دو سال گذشته‌اش همخوانی دارد. این شرکت در کارت‌های معرفی مدل‌ها و تعهدات مربوط به توسعه مسئولانه، همواره سلاح‌های زیستی، از دست رفتن کنترل بر مدل و توانایی انجام حملات سایبری را در زمره مهم‌ترین خطرها قرار داده است. تعیین آستانه قانونی بر اساس همین سه دسته نشان می‌دهد که آنتروپیک احتمالاً می‌خواهد طبقه‌بندی داخلی خود از خطرها را در قانون فدرال تثبیت کند، نه اینکه برای این پیش‌نویس طبقه‌بندی تازه‌ای بسازد.
چرا این آستانه نگرانی ایجاد کرده است؟
بر اساس گزارش‌های چند رسانه، نگرانی اصلی کمتر به خود سه دسته خطر و بیشتر به بزرگی ارقام تعیین‌شده برای آن‌ها مربوط است. آنتروپیک بخش مهمی از هویت عمومی خود را بر جدی گرفتن خطرهای فاجعه‌بار هوش مصنوعی بنا کرده است. داریو آمودی، مدیرعامل شرکت، نیز سال‌ها درباره نگرانی‌های مرتبط با تهدیدهای وجودی ناشی از مدل‌های پیشرفته صحبت کرده است. از دید منتقدان، قانونی که فقط پس از رسیدن خسارت به یک میلیارد دلار یا شمار قربانیان به بیش از ۵۰ نفر اجازه مداخله دولت را بدهد، آستانه اقدام را بسیار بالاتر از نقطه‌ای قرار می‌دهد که در آن آسیب جدی از قبل رخ داده است.
در طراحی این سازوکار، مشکل دیگری نیز به ترتیب زمانی مربوط می‌شود. از آنجا که معیار قانونی بر خطر قابل پیش‌بینی و قریب‌الوقوع تکیه دارد، نه آسیبی که وقوع آن اثبات شده باشد، نهادهای ناظر باید پیش از تحقق خسارت، شواهد کافی برای مراجعه به قاضی فدرال در اختیار داشته باشند. بااین‌حال، پیش‌بینی خسارتی در مقیاس یک میلیارد دلار یا آسیب دیدن ۵۰ نفر، صرفاً بر اساس رفتار یک مدل هنگام آزمایش، دشوار است. ترکیب این آستانه بالا با الزام به پیش‌بینی خطر پیش از وقوع آن، به گفته چند رسانه‌ای که موضوع را بررسی کرده‌اند، ممکن است استفاده عملی از این بند را حتی در شرایطی که نهادهای ناظر واقعاً خطری جدی تشخیص می‌دهند، دشوار کند.
نظارت قضایی: وزارت بازرگانی در برابر قاضی فدرال
سازوکار حقوقی این پیشنهاد به اندازه آستانه‌های عددی آن اهمیت دارد. بر اساس پیش‌نویس، وزارت بازرگانی نمی‌تواند به‌تنهایی فعالیت یک مدل را تعلیق کند. این وزارتخانه باید از یک قاضی فدرال درخواست صدور حکم کند؛ بنا بر گزارش‌ها، مرجع مورد نظر دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا است. انتخاب این دادگاه به آن معناست که اقدامات اجرایی در حوزه هوش مصنوعی در همان مرجعی پیگیری خواهند شد که هم‌اکنون نیز بخش قابل توجهی از اختلافات حقوقی فدرال درباره مقررات‌گذاری و اقدامات نهادهای اجرایی را بررسی می‌کند.
الزام به دریافت تأیید قضایی، تفاوت مهمی با نحوه اجرای برخی اختیارات اضطراری در بخش فناوری دارد. برای مثال، اقدامات مربوط به کنترل صادرات را اغلب می‌توان مستقیماً از سوی یک نهاد دولتی اجرا کرد و شرکت نیز در صورت اعتراض، بعداً از مسیر قضایی پیگیر موضوع شود. پیش‌نویس آنتروپیک این ترتیب را معکوس می‌کند: دادگاه باید پیش از اقدام دولت موافقت کند، نه پس از آن. این طراحی با توصیف عمومی آنتروپیک از پیشنهادش به‌عنوان ابزاری برای «جلوگیری از استقرارهای خطرناک یا بازداشتن از آن‌ها» سازگار است؛ عبارتی که بر پیشگیری از طریق فرایند قانونی تأکید دارد، نه مجازات پس از وقوع حادثه.
حامیان این سازوکار می‌توانند استدلال کنند که چنین ترتیبی مانع زیاده‌روی نهادهای ناظر می‌شود، زیرا اجازه نمی‌دهد یک سازمان دولتی صرفاً با اتکا به اختیار خود محصولی پرکاربرد را از بازار خارج کند. در مقابل، منتقدان می‌گویند افزودن مرحله قضایی به آستانه اثباتی از پیش دشوار، دو مانع جداگانه میان شناسایی خطر و واکنش عملی دولت قرار می‌دهد.
مهلت ۷۲ ساعته گزارش‌دهی برای ارزیابان
یکی از بخش‌های پیش‌نویس که کمتر از آستانه جنجالی آن مورد توجه قرار گرفته، الزام به گزارش‌دهی است. بر اساس متن بررسی‌شده از سوی پولیتیکو، ارزیابان مستقلی که هنگام ارزیابی یک مدل، خطری را شناسایی کنند که در پیش‌نویس «خطر قریب‌الوقوعِ مشمول فهرست مشخص» نامیده شده است، موظف‌اند حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، یافته خود را به وزارت بازرگانی گزارش دهند.
این بند در کنار الزام گسترده‌تری قرار دارد که بر اساس آن، توسعه‌دهندگان هوش مصنوعی باید مدل‌های خود را آزمایش کنند و نتایج را منتشر سازند. همچنین، ارزیابان مستقل مجاز خواهند بود به‌طور منظم و مستمر مدل‌ها را بررسی کنند، نه اینکه تنها پس از ثبت شکایت یا وقوع حادثه وارد عمل شوند. این الزام آزمایش و مهلت ۷۲ ساعته، در کنار هم زنجیره اطلاعاتی لازم را فراهم می‌کنند تا در صورت لزوم، درخواست مداخله قضایی مطرح شود. اگر خطر شناسایی‌شده در این بازه به وزارت بازرگانی گزارش نشود، اساساً فرایندی برای ارائه درخواست به دادگاه آغاز نخواهد شد.
از نظر ساختاری، این بخش از پیشنهاد بیش از سایر قسمت‌ها به سازوکارهای افشای اطلاعات در مقررات فناوری شباهت دارد؛ برای مثال، قوانینی که شرکت‌ها را ملزم می‌کنند رخدادهای امنیتی را ظرف مهلتی مشخص گزارش دهند. تفاوت اینجاست که در پیشنهاد آنتروپیک، مسئولیت گزارش بر عهده ارزیابان شخص ثالث و مستقلی است که بررسی را انجام می‌دهند، نه خود توسعه‌دهنده هوش مصنوعی. این یکی از معدود بخش‌های پیش‌نویس است که بخشی از ابتکار عمل را از آزمایشگاهی که تحت نظارت قرار می‌گیرد، به طرفی مستقل منتقل می‌کند.
دفاع آنتروپیک از پیشنهاد خود
آنتروپیک پس از علنی شدن خبر پیش‌نویس، دفاعی کوتاه و حساب‌شده از چارچوب پیشنهادی خود ارائه کرده است. سخنگوی شرکت گفت این پیشنهاد «همچنین به دولت فدرال اختیار می‌دهد جلوی استقرارهای خطرناک قدرتمندترین مدل‌ها را بگیرد یا از آن‌ها بازدارد». واژه «همچنین» در این جمله اهمیت دارد؛ این واژه طرح را به‌عنوان اختیاری تازه برای دولت معرفی می‌کند که در کنار تعهدات داوطلبانه ایمنی شرکت قرار می‌گیرد، نه جایگزینی برای مقررات سخت‌گیرانه‌تری که برخی مدافعان ایمنی خواهان آن هستند.
این موضع‌گیری با رویکرد آنتروپیک در سال‌های ۲۰۲۵ و ۲۰۲۶ همخوانی دارد: آزمایشگاهی که هم‌زمان با توسعه سامانه‌هایی که مشمول مقررات خواهند شد، از ایجاد حفاظ‌های دولتی نیز حمایت می‌کند. این شرکت بارها تأکید کرده است که تعهدات داوطلبانه صنعت به‌تنهایی کافی نیست و باید اختیارات فدرال به‌عنوان پشتوانه‌ای برای اجرای ایمنی وجود داشته باشد. منتقدان در مقابل می‌گویند آستانه‌های تعیین‌شده در این پیش‌نویس چنان بالاست که ممکن است این پشتوانه به‌ندرت فعال شود.
مقایسه با دیگر پیشنهادهای ایمنی هوش مصنوعی
آنتروپیک نخستین آزمایشگاه هوش مصنوعی نیست که چارچوبی با هدف اثرگذاری بر نحوه تنظیم مقررات این صنعت در واشنگتن ارائه می‌کند. مقایسه مواضع عمومی دیگر شرکت‌ها کمک می‌کند روشن شود چرا توجه به این پیش‌نویس بیش از آنکه به اصل ارائه پیشنهاد مربوط باشد، بر آستانه‌های تعیین‌شده در آن متمرکز شده است.
اوپن‌ای‌آی و پیام‌های متفاوت صنعت
اوپن‌ای‌آی و آنتروپیک در مقاطع مختلف سال ۲۰۲۶ ایده‌هایی برای کند کردن یا چارچوب‌بندی روند توسعه هوش مصنوعی مطرح کرده‌اند؛ از جمله پیشنهادهای مشترکی که بر توقف‌های مرحله‌ای در توسعه تأکید داشتند. آن بحث‌های قبلی عمدتاً در سطح اصول کلی باقی ماندند و خواستار هماهنگی و احتیاط بودند، بی‌آنکه مبالغ مشخص یا شمار معینی از قربانیان را به‌عنوان شرط قانونی مداخله تعیین کنند. ویژگی متمایز پیش‌نویس جدید آنتروپیک دقیقاً این است که به‌جای واگذار کردن معیارها به تشخیص نهادهای اجرایی، ارقام مشخصی را وارد متن می‌کند. این دقت هم مزیت دارد و هم هزینه: قانون‌گذاران با معیاری روشن برای بحث روبه‌رو می‌شوند، اما منتقدان نیز می‌توانند دقیقاً همان ارقام را هدف انتقاد قرار دهند.
تفاوت با رویکرد اتحادیه اروپا
رویکرد اتحادیه اروپا در تنظیم مقررات سامانه‌های پرخطر هوش مصنوعی، عموماً بر الزامات انطباق پیش از عرضه و طبقه‌بندی خطر در سطوح مختلف تکیه دارد، نه بر یک معیار واحد برای آسیب فاجعه‌بار که به تأیید دادگاه وابسته باشد. در مقابل، پیش‌نویس آنتروپیک نمی‌کوشد سامانه‌های هوش مصنوعی را پیش از استقرار، بر اساس نوع کاربردشان طبقه‌بندی کند. این پیشنهاد به‌جای آن، یک سازوکار اضطراری محدود ایجاد می‌کند که تنها پس از ورود مدل به عرصه استفاده عمومی و فقط در مورد سه دسته خطر مشخص قابل استفاده است. این رویکرد نسبت به الزام دریافت تأییدیه پیش از عرضه، مداخله کمتری دارد و همین ویژگی به آنتروپیک اجازه می‌دهد ادعا کند که این طرح با ادامه عرضه سریع مدل‌های خود سازگار است.
پیشینه: از فرمان‌های اجرایی تا پیش‌نویس‌های تهیه‌شده در صنعت
اینکه یک شرکت هوش مصنوعی خود متن مقررات پیشنهادی را تدوین کند، در سال ۲۰۲۶ پدیده تازه‌ای نیست؛ بااین‌حال، چنین اقدامی نشان‌دهنده تغییری در روند شکل‌گیری سیاست هوش مصنوعی آمریکا از زمان نخستین تعهدات ایمنی مربوط به مدل‌های پیشرفته در سال ۲۰۲۳ است. سیاست‌گذاری اولیه ایمنی هوش مصنوعی در ایالات متحده تا حد زیادی بر تعهدات داوطلبانه، دستورالعمل‌های قوه مجریه و چارچوب‌های تدوین‌شده در سطح نهادهای دولتی متکی بود، نه قوانین الزام‌آور. در سال ۲۰۲۵ و سپس در سال ۲۰۲۶، آزمایشگاه‌های هوش مصنوعی بیش از گذشته مستقیماً وارد فرایند تدوین مقررات شدند و به‌جای طرح اصول کلی، متن‌های قانونی مشخصی را به قانون‌گذاران و افکار عمومی پیشنهاد کردند.
این تغییر بازتاب واقعیتی عملی است: تا اکتبر ۲۰۲۶، هنوز قانون جامع فدرال درباره هوش مصنوعی تصویب نشده است. بنابراین، شرکت‌هایی که قدرتمندترین مدل‌ها را می‌سازند، انگیزه روشنی دارند که در شکل‌گیری مقررات آینده نقش داشته باشند، نه اینکه این کار را به‌طور کامل به کنگره یا نهادهای فدرالی واگذار کنند که بدون مشارکت مستقیم صنعت فعالیت می‌کنند. تصمیم آنتروپیک برای ارائه آستانه‌ای عددی مشخص، به‌جای استفاده از عباراتی مبهم مانند «آسیب جدی»، ادامه همین روند است؛ رویکردی که بسته به موضع افراد در بحث تعیین آستانه، می‌تواند مثبت یا منفی ارزیابی شود.
تأثیر بر بازار و صنعت
تأثیر فوری پیش‌نویس قانونی که هنوز به کنگره ارائه نشده، محدود است. رأی‌گیری‌ای در دستور کار قرار نگرفته، بررسی رسمی متن در کمیته‌ای تأیید نشده و نشانه‌ای وجود ندارد که قانون‌گذاران متن پیشنهادی آنتروپیک را مبنای اولیه کار خود قرار داده باشند. بااین‌حال، این خبر به چند دلیل مشخص برای کل صنعت هوش مصنوعی اهمیت دارد.
نخست، این پیشنهاد نشان می‌دهد آنتروپیک انتظار دارد قانون‌گذاری درباره ایمنی هوش مصنوعی به موضوعی جدی در دستور کار کنگره تبدیل شود و به همین دلیل ترجیح می‌دهد از هم‌اکنون برای رایزنی و تدوین متن قانونی منابع اختصاص دهد. دوم، آستانه‌های عددی مشخصی که شرکت انتخاب کرده است، احتمالاً به نقطه مرجع بحث‌های آینده تبدیل خواهند شد و دیگر آزمایشگاه‌ها و گروه‌های مدافع یا از معیارهای مشابه حمایت خواهند کرد یا گزینه‌های سخت‌گیرانه‌تری پیشنهاد می‌دهند. در نتیجه، این ارقام می‌توانند موضع اولیه مذاکرات احتمالی در کنگره را شکل دهند. سوم، فهرست محدود سه‌گانه خطرها، شامل سلاح‌های زیستی، خروج مدل از کنترل و حملات سایبری، نشان می‌دهد آزمایشگاهی که از جدی‌ترین مدافعان ایمنی در صنعت شناخته می‌شود، کدام آسیب‌های هوش مصنوعی را شایسته سازوکار فدرال برای جلوگیری از عرضه می‌داند و کدام موارد را در این چارچوب نمی‌گنجاند.
برای شرکت‌ها و توسعه‌دهندگانی که محصولات خود را بر پایه مدل‌های پیشرفته می‌سازند، وجود این پیش‌نویس یادآور آن است که با نزدیک شدن به سال ۲۰۲۷، وضعیت مقررات مربوط به سامانه‌های قدرتمند هوش مصنوعی همچنان نامشخص است و پیشنهادهای تدوین‌شده از سوی خود شرکت‌های فناوری، اکنون فعالانه برای اثرگذاری بر چارچوب آینده با یکدیگر رقابت می‌کنند.
مروری بر مفاد پیش‌نویس قانون
| مفاد | آستانه یا الزام | منبع گزارش |
|---|---|---|
| آستانه خسارت مالی | خسارت بیش از یک میلیارد دلار | پولیتیکو، مادر جونز |
| آستانه تلفات انسانی | مرگ یا آسیب جدی بیش از ۵۰ نفر | پولیتیکو، فرست‌پست |
| دسته‌های خطر مشمول | ساخت یا انتشار سلاح زیستی، خروج مدل از کنترل و حمله سایبری | پولیتیکو |
| مرجع اقدام | وزارت بازرگانی، از طریق درخواست حکم از قاضی فدرال | پولیتیکو، بیزنس‌تودی |
| دادگاه تعیین‌شده | دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا | گراند نیوز |
| مهلت گزارش‌دهی ارزیابان | حداکثر ۷۲ ساعت پس از تکمیل ارزیابی | پولیتیکو |
| الزام آزمایش | توسعه‌دهندگان باید مدل‌ها را آزمایش و یافته‌ها را منتشر کنند | مانی‌کنترل |
| وضعیت طرح در ۱۸ اکتبر ۲۰۲۶ | پیش‌نویس به قانون‌گذاران پیشنهاد شده، اما رسماً ارائه نشده است | پولیتیکو، بلومبرگ |
خطرهای تعیین آستانه بیش از حد بالا
استدلال مخالفان آستانه پیشنهادی آنتروپیک، آن‌گونه که در گزارش‌های مادر جونز و فرست‌پست مطرح شده، عمدتاً به مشکل زمان‌بندی مربوط است. اگر دولت فقط زمانی بتواند مداخله کند که خطر یک مدل به‌طور قابل پیش‌بینی با خسارت یک میلیارد دلاری یا ۵۰ قربانی مرتبط باشد، ممکن است اثبات این معیار پیش از وقوع آسیب عملاً ناممکن شود. ارزیابی حقوقیِ قابل اتکا از خطری که هم قابل پیش‌بینی و هم قریب‌الوقوع باشد، در چنین مقیاس بزرگی دشوار است.
نکته دیگر، نامتقارن بودن این سازوکار است. حمله سایبری موفقی که ۵۰ میلیون دلار خسارت وارد کند، یا رویدادی مرتبط با خطر زیستی که به آسیب دیدن ۱۲ نفر منجر شود، کاملاً خارج از محدوده این سازوکار باقی می‌ماند؛ با آنکه هر دو می‌توانند شکست‌های جدی و واقعی در ایمنی مدل باشند. در این پیش‌نویس، راهکار حقوقی فقط زمانی فعال می‌شود که خسارت به سطحی برسد که از نظر بسیاری از ناظران، خود به‌تنهایی رویدادی بزرگ و خبرساز محسوب می‌شود.
خطرهای تعیین آستانه بیش از حد پایین
استدلال مقابل، که در موضع‌گیری عمومی آنتروپیک نیز بازتاب دارد، این است که تعیین آستانه‌ای پایین‌تر یا مبهم‌تر مشکلات خاص خود را ایجاد می‌کند. اگر دولت بتواند بر اساس آسیب‌هایی کوچک‌تر یا دشوارتر برای تعریف مداخله کند، ممکن است وزارت بازرگانی اختیار گسترده‌ای برای جلوگیری از عرضه مدل‌ها بر پایه ارزیابی‌های مورد اختلاف یا فرضیه‌های اثبات‌نشده پیدا کند. صنعت هوش مصنوعی از زمان مطرح شدن نخستین پیشنهادهای قانونی درباره ایمنی این فناوری در سال‌های ۲۰۲۳ و ۲۰۲۴، با چنین اختیاراتی مخالفت کرده است.
از این منظر، ارقام یک میلیارد دلار و ۵۰ نفر نه‌فقط در برابر آسیب‌های هوش مصنوعی، بلکه در برابر مداخله بیش از حد دولت نیز نقش حفاظ دارند. این ارقام آن‌قدر بزرگ‌اند که استفاده از این بند باید مستلزم وجود شرایطی واقعاً افراطی باشد؛ در نتیجه، احتمال آنکه به‌روزرسانی معمول یک مدل یا حادثه‌ای مبهم وارد فرایند اضطراری قضایی شود، کاهش می‌یابد. اینکه این بده‌بستان میان ایمنی و محدود کردن اختیارات دولت انتخاب درستی است یا نه، دقیقاً همان بحثی است که در گزارش‌های رسانه‌ای درباره این پیشنهاد جریان دارد.
مقایسه سازوکارهای پیشنهادی ایمنی هوش مصنوعی
| سازوکار | چه کسی ابتدا اقدام می‌کند؟ | آیا حکم دادگاه لازم است؟ | وضعیت در ۱۸ اکتبر ۲۰۲۶ |
|---|---|---|---|
| پیش‌نویس آنتروپیک | وزارت بازرگانی | بله، دادگاه منطقه‌ای ناحیه کلمبیا | پیشنهادشده به قانون‌گذاران |
| تعهدات داوطلبانه ایمنی آزمایشگاه‌ها | خود توسعه‌دهنده هوش مصنوعی | خیر | در حال اجرا، اما غیرالزام‌آور |
| پیشنهادهای مشترک قبلی برای «توقف توسعه» | هماهنگی میان شرکت‌های صنعت | مشخص نشده است | پیشنهادشده، اما به قانون تبدیل نشده است |
| طبقه‌بندی خطر پیش از عرضه به سبک اتحادیه اروپا | نهاد ناظر، پیش از استقرار | بسته به سطح خطر متفاوت است | الگوی مورد استفاده در این پیش‌نویس نیست |
این جدول مقایسه‌ای ناگزیر کلی است؛ زیرا به‌جز پیش‌نویس خود آنتروپیک، متن قانونی مشخصی برای سایر موارد جدول نهایی نشده یا با جزئیات عمومی در دسترس قرار نگرفته است. هدف از این مقایسه، نشان دادن تفاوت ساختاری است: پیشنهاد آنتروپیک واکنشی است و مداخله را به تأیید قضایی مشروط می‌کند، درحالی‌که نظام‌های طبقه‌بندی پیش از عرضه در برخی حوزه‌های دیگر، پیش از رسیدن مدل به دست عموم وارد عمل می‌شوند و تعهدات داوطلبانه نیز کاملاً به اجرای خودخواسته شرکت‌ها وابسته‌اند.
در کنگره آمریکا چه اتفاقی خواهد افتاد؟
هیچ‌یک از مفاد این پیش‌نویس قطعی نیست. تا زمان نگارش این گزارش در ۱۸ اکتبر ۲۰۲۶، هیچ تأیید عمومی‌ای مبنی بر موافقت یکی از اعضای کنگره با حمایت رسمی از طرح منتشر نشده، هیچ کمیته‌ای جلسه‌ای برای بررسی متن مشخص آن تعیین نکرده و آنتروپیک نیز نسخه کامل سند را برای بررسی عمومی منتشر نکرده است. اطلاعات موجود تاکنون عمدتاً بر سندی استوار است که پولیتیکو به دست آورده و رسانه‌هایی از جمله بلومبرگ، بیزنس‌تودی و فرست‌پست نیز کلیات آن را تأیید کرده‌اند.
پس از انتشار چنین پیش‌نویسی از سوی یک شرکت فناوری، معمولاً دوره‌ای از رایزنی‌های غیررسمی آغاز می‌شود. احتمال دارد تیم سیاست‌گذاری آنتروپیک همچنان متن پیشنهادی را با قانون‌گذاران کمیته‌های مرتبط در میان بگذارد، گروه‌های مدافع ایمنی سخت‌گیرانه‌تر و طرفداران اولویت دادن به نوآوری مواضع خود را اعلام کنند و شرکت‌های رقیب تصمیم بگیرند سکوت کنند، چارچوب جایگزینی ارائه دهند یا از طریق کانال‌های ارتباطی خود با دولت، بی‌سروصدا با برخی مفاد مخالفت کنند. بااین‌حال، هیچ‌یک از این اقدامات تضمین نمی‌کند که این طرح، حتی با تغییرات گسترده، در نهایت به رأی‌گیری در صحن کنگره برسد.
پیش‌بینی‌ها: ادامه این بحث به کجا می‌رسد؟
با توجه به روند پیشنهادهای تدوین‌شده از سوی صنعت در سال‌های ۲۰۲۵ و ۲۰۲۶، در ماه‌های آینده چند نتیجه از سایر گزینه‌ها محتمل‌تر به نظر می‌رسد:
- ارقام یک میلیارد دلار و ۵۰ نفر به معیار مرجع بحث تبدیل می‌شوند. حتی اگر همین پیش‌نویس پیش نرود، این ارقام اکنون مشخص‌ترین معیارهایی هستند که یک آزمایشگاه بزرگ هوش مصنوعی به‌صورت علنی برای فعال شدن اختیار مداخله دولت مطرح کرده است.
- گروه‌های مدافع ایمنی خواهان آستانه‌های پایین‌تر یا دسته‌های خطر گسترده‌تر می‌شوند. احتمالاً پیشنهاد خواهند کرد که کلاهبرداری مالی، انتشار اطلاعات نادرست یا تبعیض نیز در این بند قرار بگیرند، نه اینکه دامنه آن فقط به سلاح‌های زیستی، خروج مدل از کنترل و حملات سایبری محدود باشد.
- شرکت‌های رقیب در کوتاه‌مدت از اظهارنظر علنی خودداری می‌کنند. این رفتار با رویکرد کلی شرکت‌های هوش مصنوعی در سال ۲۰۲۶، یعنی پرهیز از مخالفت یا حمایت مستقیم و علنی از پیشنهادهای سیاستی یکدیگر، همخوانی دارد.
- در سال ۲۰۲۶ رأی‌گیری در صحن کنگره انجام نمی‌شود. تا ۱۸ اکتبر، طرح هنوز رسماً ارائه نشده و روند پیشبرد قوانین فدرال هوش مصنوعی در طول سال نیز کند بوده است.
- الگوی تأیید قضایی به نمونه‌ای برای پیشنهادهای دیگر صنعت تبدیل می‌شود. الزام به دریافت حکم قاضی فدرال، به‌جای واگذاری اختیار مستقل به نهاد اجرایی، می‌تواند به الگویی تبدیل شود که سایر پیشنهادها نیز از آن پیروی کنند؛ حتی اگر آستانه‌های عددی نهایی متفاوت باشند.
این موارد پیش‌بینی‌های تحلیلی بر پایه روند شکل‌گیری پیشنهادهای سیاستی هوش مصنوعی در سال جاری‌اند، نه نتایجی که وقوع آن‌ها تأیید شده باشد. واقعیت‌های تأییدشده همچنان به اطلاعاتی محدود می‌شوند که گزارش اولیه پولیتیکو منتشر کرده و اظهارات رسمی سخنگوی آنتروپیک آن‌ها را تأیید می‌کند.
تصویر بزرگ‌تر از حکمرانی هوش مصنوعی
اگر ارقام مشخص مربوط به خسارت مالی و شمار قربانیان را کنار بگذاریم، پیش‌نویس آنتروپیک در واقع بر نوع خاصی از مقررات‌گذاری هوش مصنوعی تکیه دارد: مداخله‌ای محدود، مبتنی بر آستانه‌های عددی مشخص و مشروط به تأیید دادگاه که مستقیماً خطرهای نادر اما فاجعه‌بار را هدف قرار می‌دهد، نه اختیار گسترده نهادهای دولتی برای نظارت بر انواع آسیب‌های هوش مصنوعی هم‌زمان با بروز آن‌ها. این موضع برای شرکتی که می‌کوشد نگرانی‌های اعلام‌شده خود درباره ایمنی را با واقعیت تجاری عرضه مدل‌های پیشرفته در رقابت با اوپن‌ای‌آی، گوگل و متا متوازن کند، قابل دفاع است.
اینکه یک میلیارد دلار و ۵۰ نفر ارقام مناسبی هستند یا نه، در نهایت پرسشی سیاسی و تجربی است، نه صرفاً فنی. قانون‌گذاران، آزمایشگاه‌های رقیب و پژوهشگران ایمنی احتمالاً مدت‌ها پس از فروکش کردن توجه رسانه‌ای به این پیش‌نویس نیز درباره آن بحث خواهند کرد. در حال حاضر، روشن‌ترین واقعیت همان چیزی است که پولیتیکو برای نخستین بار گزارش کرده است: آنتروپیک می‌خواهد اختیار قانونی توصیف‌شده در این طرح وجود داشته باشد، اما این اختیار فقط در شدیدترین شرایطی فعال شود که شرکت برای آن‌ها تعریف مشخصی ارائه کرده است.
پرسش‌های متداول
آیا پیشنهاد قانون ایمنی هوش مصنوعی آنتروپیک اکنون قانون محسوب می‌شود؟
خیر. تا ۱۸ اکتبر ۲۰۲۶، این سند صرفاً پیش‌نویسی است که آنتروپیک به قانون‌گذاران پیشنهاد کرده است. طرح هنوز رسماً در کنگره ارائه نشده، جلسه‌ای برای بررسی آن در کمیته برگزار نشده و بخشی از قوانین جاری نیست.
برای آنکه دولت بر اساس این پیش‌نویس جلوی فعالیت یک مدل هوش مصنوعی را بگیرد، چه شرایطی باید برقرار باشد؟
مدل باید خطر قابل پیش‌بینی و قریب‌الوقوعی برای ایجاد بیش از یک میلیارد دلار خسارت یا مرگ یا آسیب جدی بیش از ۵۰ نفر داشته باشد. این خطر نیز باید ناشی از سلاح زیستی، خروج مدل از کنترل‌های سازنده یا حمله سایبری باشد.
چه نهادی اختیار جلوگیری از عرضه یک مدل را خواهد داشت؟
بر اساس پیش‌نویس، وزارت بازرگانی نمی‌تواند به‌تنهایی اقدام کند و باید از یک قاضی فدرال درخواست صدور حکم کند. طبق گزارش‌ها، مرجع قضایی مورد نظر دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا است.
قاعده ۷۲ ساعته در این پیش‌نویس چیست؟
ارزیابان مستقلی که هنگام آزمایش مدل، خطری قریب‌الوقوع از دسته‌های مشخص‌شده را شناسایی کنند، موظف‌اند حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، یافته خود را به وزارت بازرگانی گزارش دهند.
چرا منتقدان این آستانه را نگران‌کننده می‌دانند؟
زیرا خسارت یک میلیارد دلاری و مرگ یا آسیب جدی ۵۰ نفر، هر دو نشان‌دهنده آسیب‌هایی در مقیاس بزرگ‌اند. منتقدان می‌گویند اگر دولت فقط در چنین شرایطی بتواند مداخله کند، ممکن است آسیب‌های ناشی از هوش مصنوعی که کوچک‌تر اما همچنان جدی‌اند، در چارچوب این سازوکار خاص راهکار حقوقی نداشته باشند.
آنتروپیک در پاسخ به انتقادها چه گفته است؟
سخنگوی شرکت گفته است که این پیشنهاد «همچنین به دولت فدرال اختیار می‌دهد جلوی استقرارهای خطرناک قدرتمندترین مدل‌ها را بگیرد یا از آن‌ها بازدارد». این موضع، طرح را گسترش اختیارات دولت معرفی می‌کند، نه محدود کردن آن‌ها.
آیا این طرح آسیب‌هایی مانند دیپ‌فیک یا اطلاعات نادرست تولیدشده با هوش مصنوعی را پوشش می‌دهد؟
نه به‌طور مستقیم. سازوکار جلوگیری از عرضه در این پیش‌نویس فقط خطرهای مرتبط با سلاح‌های زیستی، خروج مدل از کنترل سازنده یا حملات سایبری را در بر می‌گیرد؛ بنابراین، سایر انواع آسیب ناشی از هوش مصنوعی خارج از محدوده این بند مشخص قرار می‌گیرند.
این خبر نخستین بار از کجا منتشر شد؟
پولیتیکو نخستین رسانه‌ای بود که به پیش‌نویس دست یافت و درباره آن گزارش داد. پس از آن، مادر جونز، بلومبرگ، فرست‌پست، مانی‌کنترل، مشبل، بیزنس‌تودی و گراند نیوز نیز در فاصله ۱۶ تا ۱۸ اکتبر ۲۰۲۶ گزارش‌هایی منتشر کردند که مفاد اصلی پیش‌نویس را تأیید می‌کردند.