آنتروپیک پیشنهاد می‌کند عرضه مدل‌های هوش مصنوعی با خطر مرگ بیش از ۵۰ نفر یا خسارت یک میلیارد دلاری محدود شود
میز هوش مصنوعی سازمانی ET
۲۱ اکتبر ۲۰۲۶، ساعت ۱۲:۴۹ به وقت هند
شرکت آنتروپیک پیش‌نویس قانونی برای تنظیم مقررات هوش مصنوعی پیشرفته پیشنهاد کرده است. بر اساس گزارش پولیتیکو، این طرح شرایطی را مشخص می‌کند که در آن دولت آمریکا می‌تواند برای جلوگیری از عرضه یا استفاده از یک مدل هوش مصنوعی که تهدیدی فاجعه‌بار تلقی می‌شود، اقدام کند.
این شرکت در حال ارائه این پیشنهاد به قانون‌گذاران آمریکایی است و می‌کوشد چارچوبی در سطح فدرال برای ارزیابی و رسیدگی به خطرات ایمنی ناشی از سیستم‌های هوش مصنوعی هرچه قدرتمندتر ایجاد کند.
طبق این پیشنهاد، اگر یک مدل هوش مصنوعی خطری قابل پیش‌بینی و قریب‌الوقوع ایجاد کند که ممکن است به مرگ یا جراحت شدید بیش از ۵۰ نفر یا خسارت مالی بیش از یک میلیارد دلار منجر شود، می‌توان محدودیت‌هایی علیه آن اعمال کرد. این خطر باید ناشی از تولید یا انتشار یک سلاح زیستی، فرار مدل هوش مصنوعی از کنترل‌های توسعه‌دهنده خود یا انجام یک حمله سایبری باشد.
پیش‌نویس، فرایندی را برای ارزیابی مستقل شرکت‌های هوش مصنوعی و مدل‌های پیشرفته آن‌ها تعیین می‌کند. این ارزیابان باید در وزارت بازرگانی آمریکا ثبت شده باشند. شرکت‌هایی که مورد ارزیابی قرار می‌گیرند نیز می‌توانند هزینه خدمات آن‌ها را بپردازند، مشروط بر اینکه میزان پرداخت به نتیجه ارزیابی وابسته نباشد.
اگر ارزیابان پس از تکمیل بررسی خود خطری فاجعه‌بار و قریب‌الوقوع شناسایی کنند، ۷۲ ساعت فرصت خواهند داشت تا وزارت بازرگانی را مطلع کنند. این وزارتخانه سپس می‌تواند از یک قاضی فدرال در واشنگتن دی‌سی درخواست کند که عرضه یا استفاده از مدل را به حالت تعلیق درآورد.
بر اساس این طرح، سایر نهادهای فدرال اجازه نخواهند داشت مستقلاً و در چارچوب این قانون دستور تعلیق چنین مدلی را صادر کنند.
این چارچوب پیشنهادی می‌کوشد نقش ارزیابان مستقل را در شناسایی خطرات احتمالی، پیش از به‌کارگیری مدل‌های پیشرفته هوش مصنوعی، به‌صورت رسمی تعریف کند.
با این حال، اجازه پرداخت هزینه ارزیابی از سوی شرکت‌های هوش مصنوعی، پرسش‌هایی درباره چگونگی تضمین استقلال ارزیابان ایجاد می‌کند. هرچند پیش‌نویس تصریح می‌کند که پرداخت‌ها نباید به نتیجه ارزیابی وابسته باشند، هنوز مشخص نیست این سازوکار چگونه مانع تأثیرگذاری روابط مالی بر ارزیابی‌ها خواهد شد.
این پیشنهاد در شرایطی مطرح شده است که نگرانی‌ها درباره ایمنی هوش مصنوعی افزایش یافته است؛ به‌ویژه با توجه به اینکه عامل‌های هوش مصنوعی توانایی انجام وظایف پیچیده‌تر را با نظارت محدود انسانی پیدا می‌کنند.
گزارش‌های اخیر درباره حوادثی که در آن‌ها سیستم‌های هوش مصنوعی ظاهراً از دستورهای انسانی عبور کرده و برای هک‌کردن وب‌سایت‌ها تلاش کرده‌اند، نظارت بر سازوکارهای امنیتی و کنترلی این مدل‌ها را تشدید کرده است.
با این حال، چنین حوادثی لزوماً به آستانه‌های خطر فاجعه‌باری که در پیش‌نویس آنتروپیک تعریف شده‌اند، نمی‌رسند.
آنتروپیک تأیید کرده است که این پیش‌نویس بازتاب پیشنهادهایی است که در چارچوب پیشرفته هوش مصنوعی این شرکت مطرح شده‌اند؛ چارچوبی که آنتروپیک از ماه ژوئن تاکنون برای جلب حمایت قانون‌گذاران فدرال و ایالتی از آن دفاع کرده است.