آنتروپیک برای توقف هوش مصنوعی، قواعد پیشنهادی خود را تدوین می‌کند
نویسنده: PYMNTS | ۲۱ اکتبر ۲۰۲۶
یک مدل هوش مصنوعی ممکن است خطر قابل پیش‌بینیِ وارد کردن ۹۰۰ میلیون دلار خسارت را ایجاد کند، اما همچنان به آستانه لازم برای مداخله دولت فدرال نرسد. این وضعیت بر اساس پیش‌نویس قانونی امکان‌پذیر است که شرکت آنتروپیک، توسعه‌دهنده مدل هوش مصنوعی کلود، آن را به قانون‌گذاران پیشنهاد کرده است؛ موضوعی که پایگاه خبری PYMNTS پیش‌تر گزارش داده بود.
طبق این پیش‌نویس، دولت تنها زمانی می‌تواند مانع فعالیت یک مدل پیشرفته هوش مصنوعی شود که آن مدل خطر قابل پیش‌بینی و قریب‌الوقوعِ وارد کردن بیش از یک میلیارد دلار خسارت یا کشتن یا مجروح کردن شدید بیش از ۵۰ نفر را ایجاد کند. این آسیب باید ناشی از یک سلاح زیستی، حمله سایبری یا مدلی باشد که از کنترل توسعه‌دهنده خود خارج می‌شود.
وزارت بازرگانی تنها مرجع پیگیری خواهد بود و صدور حکم به دادگاه نیاز دارد
آنتروپیک پیشنهاد می‌کند که وزارت بازرگانی آمریکا مسئول پیشبرد این فرایند باشد، اما تصمیم نهایی برای توقف مدل را دادگاه می‌گیرد. وزارت بازرگانی باید یک قاضی فدرال در دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا را متقاعد کند که مدل موردنظر خطری فاجعه‌بار، قابل پیش‌بینی و قریب‌الوقوع ایجاد می‌کند. تنها پس از آن، قاضی می‌تواند دستور تعلیق مدل را صادر کند. در این پیش‌نویس تصریح شده است که هیچ وزارتخانه، سازمان یا مقام فدرال دیگری نمی‌تواند از طریق این سازوکار، توسعه، استقرار یا استفاده داخلی از یک مدل را متوقف کند؛ موضوعی که PYMNTS گزارش کرده است.
آغاز این فرایند لزوماً به اقدام دولت محدود نمی‌شود. ارزیابان مستقل می‌توانند در وزارت بازرگانی ثبت‌نام کنند و به‌طور دوره‌ای، رویه‌های ایمنی هر توسعه‌دهنده مدل‌های پیشرفته و توانایی‌های هر مدل را بررسی کنند. توسعه‌دهندگان می‌توانند هزینه این ارزیابی‌ها را بپردازند، اما حق‌الزحمه ارزیابان نباید به نتایج بررسی‌هایشان وابسته باشد.
اگر ارزیابی نشان دهد که یک مدل خطر قریب‌الوقوعِ ساخت سلاح زیستی، انجام حمله سایبری یا خارج شدن از کنترل توسعه‌دهنده را ایجاد می‌کند، ارزیاب موظف است حداکثر ظرف ۷۲ ساعت پس از پایان بررسی، موضوع را به وزارت بازرگانی گزارش دهد. سپس این وزارتخانه تصمیم می‌گیرد که آیا پرونده را به دادگاه ارجاع کند یا خیر. در نهایت، قاضی تشخیص می‌دهد که آیا شواهد ارائه‌شده از آستانه تعیین‌شده، یعنی بیش از یک میلیارد دلار خسارت یا آسیب جدی به بیش از ۵۰ نفر، عبور می‌کند یا نه.
نهادهای ناظر باید پیش از وقوع حمله، خسارت یک میلیارد دلاری آن را برآورد کنند
معیار مداخله در این طرح به پیش‌بینی‌ای وابسته است که باید رقمی مشخص برای خسارت احتمالی ارائه دهد. ابتدا ارزیاب، سپس وزارت بازرگانی و در نهایت قاضی باید به این نتیجه برسند که توانایی‌های مدل، با در نظر گرفتن تدابیر حفاظتی آن، خطر وارد کردن خسارتی به ارزش بیش از یک میلیارد دلار را در آینده‌ای نزدیک ایجاد می‌کند. در گزارش مربوط به این پیش‌نویس، هیچ روش مشخصی برای محاسبه این رقم ارائه نشده است.
در عمل، چنین ارزیابی‌ای مستلزم آن است که پیش از وقوع حادثه برآورد شود مدل می‌تواند به چند سامانه نفوذ کند، این سامانه‌ها چه مدت از کار خواهند افتاد و اختلال در فعالیت آن‌ها چه هزینه‌ای به بار خواهد آورد.
معیار مربوط به شمار قربانیان نیز با انتقاد مشابهی روبه‌رو شده است. سنهـا روانور، بنیان‌گذار و رئیس گروه فعال در حوزه ایمنی هوش مصنوعی Encode، این پرسش را مطرح کرده است که چرا دولت باید پیش از اقدام ثابت کند یک مدل می‌تواند به ۵۰ نفر آسیب برساند؛ چرا این عدد ۴۹ نفر یا کمتر نیست؟ روزنامه واشنگتن‌پست این انتقاد را گزارش کرده است.
در پیش‌نویس هیچ سطح پایین‌تری برای مداخله در نظر گرفته نشده است. بنابراین، بر اساس این طرح، خطری که ۱۰ نفر را تهدید کند یا خسارتی معادل ۲۰۰ میلیون دلار به بار آورد، به‌تنهایی موجب اقدام دولت فدرال نخواهد شد.
حملات منفرد هوش مصنوعی به‌ندرت به یک میلیارد دلار خسارت می‌زنند، اما زیان‌ها انباشته می‌شوند
بر اساس گزارش سال ۲۰۲۶ شرکت IBM با عنوان «هزینه نشت داده»، میانگین خسارت هر رخنه امنیتی با کمک هوش مصنوعی به ۶ میلیون دلار رسیده است. در یک مورد از هر چهار رخنه مخرب بررسی‌شده در این مطالعه نیز هوش مصنوعی نقش داشته است. گزارش IBM این یافته‌ها را منتشر کرده است.
اداره تحقیقات فدرال آمریکا (FBI) در سال ۲۰۲۵ تعداد ۲۲٬۳۶۴ شکایت مرتبط با هوش مصنوعی ثبت کرد که مجموع خسارت گزارش‌شده در آن‌ها به ۸۹۳ میلیون دلار رسید؛ آماری که PYMNTS گزارش داده است. اگر یک مدل باعث وقوع هزاران رخنه امنیتی شود که هرکدام به‌طور متوسط ۶ میلیون دلار خسارت دارند، باز هم ممکن است معیار مداخله در پیش‌نویس محقق نشود؛ زیرا هیچ رویداد منفرد و قابل پیش‌بینی از آستانه تعیین‌شده عبور نمی‌کند.
حتی تعیین میزان خسارت یک حادثه واقعی نیز می‌تواند دشوار باشد. همان‌طور که PYMNTS گزارش کرده است، مدل‌های شرکت OpenAI در جریان آزمایش‌های امنیت سایبری در ماه ژوئیه به سامانه‌های شرکت Hugging Face نفوذ کردند، اما تاکنون برآورد عمومی‌ای از میزان خسارت این حادثه منتشر نشده است.
حملات سایبری ممکن است در میان شرکت‌ها و صنایع مختلف گسترش پیدا کنند و خسارت آن‌ها به‌جای آنکه در قالب یک رویداد فاجعه‌بار واحد ظاهر شود، به‌مرور انباشته شود. پیش‌نویس به‌روشنی توضیح نمی‌دهد که ارزیابان یا قاضی چگونه باید این خسارت‌های تجمعی را در محاسبه آستانه یک میلیارد دلاری لحاظ کنند. بر اساس متن فعلی طرح، قدرتمندترین ابزار اضطراری دولت برای متوقف کردن یک مدل هوش مصنوعی تا زمانی قابل استفاده نخواهد بود که آسیب قابل پیش‌بینی ناشی از آن در یک رویداد منفرد از این آستانه فراتر برود و یک قاضی فدرال نیز این ارزیابی را تأیید کند.