پیشنهاد قانون ایمنی هوش مصنوعی آنتروپیک به‌دلیل آستانه محاسباتی مدل‌های پیشرفته با انتقاد روبه‌رو شد
شرکت آنتروپیک پیش‌نویس یک قانون فدرال برای ایمنی هوش مصنوعی را در اختیار قانون‌گذاران ایالات متحده قرار داده است. نخستین اختلاف بر سر یک عدد شکل گرفته است: ۱۰²⁵ عملیات ممیز شناور (FLOPs).
این عدد تعیین می‌کند که بر اساس پیشنهاد آنتروپیک، کدام مدل‌های هوش مصنوعی در دسته مدل‌های پیشرفته یا «مرزی» (Frontier) قرار می‌گیرند. منتقدان معتقدند این آستانه متعلق به دوره‌ای قدیمی‌تر از توسعه هوش مصنوعی است و اکنون بخش عمده مدل‌های مورد استفاده در کسب‌وکارها را نیز در بر می‌گیرد.
پیش‌نویس قانون دقیقاً چه می‌گوید؟
این پیشنهاد بر چارچوب آنتروپیک برای هوش مصنوعی پیشرفته تکیه دارد؛ چارچوبی که این شرکت در ژوئن ۲۰۲۶ معرفی کرد. پیش‌نویس قانون نیز در اکتبر ۲۰۲۶ تدوین شده است.
مفهوم محوری این طرح، «توسعه‌دهنده مشمول مقررات» است. برای قرار گرفتن در این دسته، یک شرکت باید مدلی را آموزش دهد که میزان محاسبات آن از ۱۰²⁵ عملیات ممیز شناور فراتر برود. افزون بر این، شرکت باید دست‌کم یکی از دو شرط مالی را نیز برآورده کند.
شرط نخست، کسب درآمد سالانه بیش از ۵۰۰ میلیون دلار از فعالیت‌های مرتبط با هوش مصنوعی است. شرط دوم، هزینه‌کرد بیش از یک میلیارد دلار در سال برای تحقیق و توسعه هوش مصنوعی است.
شرکت‌هایی که این تعریف را برآورده کنند، با مجموعه‌ای از الزامات شفافیت روبه‌رو خواهند شد، از جمله:
- اجرای چارچوب‌های رسمی ایمنی
- انتشار مستندات سامانه (System Cards) که نحوه عملکرد مدل‌ها و چگونگی آزمایش آن‌ها را شرح می‌دهند
- فراهم کردن امکان ارزیابی مستقل مدل‌ها
- گزارش دادن حوادث مرتبط با ایمنی
این لایحه همچنین برای اختیارات دولت محدودیت‌هایی تعیین می‌کند. وزارت بازرگانی می‌تواند استقرار یک مدل را محدود کند، اما فقط در شرایطی که خطرهای فاجعه‌بار قابل پیش‌بینی باشند. در پیش‌نویس، رویدادهای فاجعه‌بار به مواردی گفته می‌شود که بیش از یک میلیارد دلار خسارت مالی به بار آورند یا به مرگ بیش از ۵۰ نفر منجر شوند.
سایر نهادهای دولتی از متوقف کردن کامل استقرار مدل‌ها منع خواهند شد.
چرا آستانه ۱۰²⁵ به نقطه اختلاف تبدیل شده است؟
تا ژوئن ۲۰۲۵، دست‌کم ۳۳ مدل متعلق به ۱۲ توسعه‌دهنده از مرز ۱۰²⁵ عملیات ممیز شناور عبور کرده بودند. پیش‌بینی می‌شود این تعداد همچنان افزایش یابد.
مقایسه این پیشنهاد با مقررات دیگر، اهمیت اختلاف بر سر این عدد را روشن‌تر می‌کند. قانون SB 53 کالیفرنیا آستانه خود را ۱۰²⁶ عملیات ممیز شناور تعیین کرده است؛ یعنی ده برابر بیشتر از عدد پیشنهادی آنتروپیک. در نمادگذاری توان‌ها، افزایش یک واحد در توان به معنای ده برابر شدن مقدار است؛ بنابراین، فاصله میان این دو آستانه قابل‌توجه است.
قانون هوش مصنوعی اتحادیه اروپا به پیشنهاد آنتروپیک نزدیک‌تر است. در این قانون، آستانه ۱۰²⁵ عملیات ممیز شناور به‌عنوان اماره‌ای قابل رد در نظر گرفته می‌شود؛ به این معنا که فرض بر این است مدل‌هایی که به این سطح می‌رسند، خطر نظام‌مند دارند، مگر آنکه توسعه‌دهنده خلاف آن را اثبات کند. اما در پیشنهاد آنتروپیک، این آستانه بیشتر نقش یک معیار قطعی برای آغاز الزام به رعایت مقررات را دارد.
دسته دیگری از انتقادها در جهت مخالف مطرح شده است. برخی منتقدان می‌گویند این پیش‌نویس در مقایسه با پیشنهادهای رقیب، از جمله قانون FRONTIER (لایحه H.R. 9925)، دامنه محدودتری دارد و ممکن است ضعیف‌تر باشد؛ به‌ویژه از نظر اختیارات نهادهای ناظر برای تدوین مقررات.
پیامدهای پیشنهاد برای استارتاپ‌ها، شرکت‌های باسابقه و قانون‌گذاران
مهم‌ترین انتقاد مطرح‌شده این است که این پیشنهاد می‌تواند به سود شرکت‌های بزرگ و جاافتاده تمام شود. اجرای الزاماتی مانند تدوین چارچوب‌های ایمنی، تهیه مستندات سامانه و فراهم کردن ارزیابی‌های مستقل، به پول و نیروی انسانی نیاز دارد. آزمایشگاه‌های بزرگ هوش مصنوعی از پیش برای بخش قابل‌توجهی از این فعالیت‌ها تیم‌های تخصصی دارند، اما شرکت‌های کوچک‌تر معمولاً از چنین امکاناتی برخوردار نیستند.
با این حال، در اینجا باید به دو شرطی بودن معیار تعیین‌شده در لایحه توجه کرد. عبور از آستانه ۱۰²⁵ عملیات ممیز شناور به‌تنهایی برای قرار گرفتن یک شرکت در دسته توسعه‌دهندگان مشمول مقررات کافی نیست. شرکت باید علاوه بر آن، بیش از ۵۰۰ میلیون دلار درآمد سالانه از هوش مصنوعی داشته باشد یا بیش از یک میلیارد دلار در سال برای تحقیق و توسعه این فناوری هزینه کند.
برای قانون‌گذاران، بحث بر سر این آستانه، مشکلی ساختاری را در مقررات مبتنی بر توان محاسباتی آشکار می‌کند. هر عدد ثابتی که بر اساس تعداد عملیات ممیز شناور تعیین شود، با پیشرفت سخت‌افزارها و افزایش حجم محاسبات مورد استفاده در فرایند آموزش مدل‌ها، به‌سرعت اعتبار خود را از دست می‌دهد. آستانه‌ای که امروز تعیین می‌شود، ممکن است فردا ده‌ها مدل را در بر بگیرد؛ وضعیتی که آمار مربوط به ژوئن ۲۰۲۵ نیز تا حدی آن را نشان می‌دهد.
محدود بودن اختیارات وزارت بازرگانی نیز شایسته توجه است. محدود کردن مداخله این وزارتخانه به شرایط فاجعه‌بار، با معیارهایی مانند خسارت یک میلیارد دلاری یا مرگ بیش از ۵۰ نفر، برای توسعه‌دهندگان پیش‌بینی‌پذیری بیشتری فراهم می‌کند. در مقابل، این محدودیت فضای مانور نهادهای ناظر را برای رسیدگی به آسیب‌هایی که به سطح فاجعه نمی‌رسند، کاهش می‌دهد. این موازنه یکی از محورهای اصلی مقایسه این پیشنهاد با قانون FRONTIER است.
شفاف‌سازی: این مقاله به‌دست دیه‌گو آلمادا لوپز ویرایش شده است. برای کسب اطلاعات بیشتر درباره نحوه تولید و بازبینی محتوا، به سیاست تحریریه مراجعه کنید.