آنتروپیک پیشنهاد می‌کند مداخله دولت در هوش مصنوعی به خسارت بیش از یک میلیارد دلار یا دست‌کم ۵۰ کشته یا مجروح شدید مشروط شود
به گزارش پولیتیکو، شرکت آنتروپیک در حال گفت‌وگو با قانون‌گذاران آمریکایی درباره پیش‌نویس منتشرنشده قانونی است که آستانه‌های مشخصی برای مداخله دولت در زمینه سامانه‌های پیشرفته هوش مصنوعی تعیین می‌کند. بر اساس این طرح، خطر قابل پیش‌بینی و قریب‌الوقوعِ خسارت بیش از یک میلیارد دلار یا دست‌کم ۵۰ کشته یا مجروح شدید می‌تواند زمینه مداخله دولت را فراهم کند. وب‌سایت وو بلاک‌چین نیز این گزارش را منتشر کرده است.
این پیشنهاد شرایطی را مشخص می‌کند که در آن دولت آمریکا می‌تواند برای محدود کردن عرضه یا استفاده از یک مدل پیشرفته هوش مصنوعی اقدام کند. برخلاف رویکردی که مداخله را به ارزیابی کلی از خطرات احتمالی واگذار می‌کند، این پیش‌نویس چنین اقدامی را به سطوح معینی از آسیب پیش‌بینی‌شده پیوند می‌دهد.
آستانه‌های پیشنهادی برای مداخله دولت
طبق پیش‌نویس، اگر یک مدل پیشرفته هوش مصنوعی خطر قابل پیش‌بینی و قریب‌الوقوعِ ایجاد خسارتی بیش از یک میلیارد دلار یا دست‌کم ۵۰ کشته یا مجروح شدید را به همراه داشته باشد، دولت می‌تواند برای مداخله اقدام کند. هر یک از این دو آستانه به‌عنوان مبنایی احتمالی برای محدود کردن عرضه یا استفاده از مدل مطرح شده است.
در این پیشنهاد، چند دسته از خطرات احتمالی نیز مشخص شده‌اند که می‌توانند مشمول این چارچوب شوند؛ از جمله سلاح‌های زیستی، از دست رفتن کنترل توسعه‌دهنده بر سامانه هوش مصنوعی و حملات سایبری. این نمونه‌ها خطرات مرتبط با آسیب‌های فیزیکی، کنترل مدل‌های پیشرفته و امنیت سایبری را در بر می‌گیرند.
استفاده از اصطلاح‌های «قابل پیش‌بینی» و «قریب‌الوقوع» در پیش‌نویس به این معناست که امکان پیش‌بینی آسیب و زمان وقوع احتمالی آن، از عناصر اصلی معیار مداخله خواهد بود. با این حال، اطلاعات منتشرشده روشن نمی‌کند که این اصطلاح‌ها از نظر حقوقی چگونه تعریف خواهند شد یا مقام‌های مسئول بر چه اساسی تشخیص خواهند داد که آستانه خسارت مالی یا شمار قربانیان محقق شده است.
ارزیابی‌های مستقل و نظارت فدرال
فراتر از تعیین آستانه‌های مداخله، پیشنهاد آنتروپیک ارزیابی‌های مستقل و منظم مدل‌های پیشرفته هوش مصنوعی را نیز الزامی می‌کند. این ارزیابی‌ها به معنای بررسی مستمر سامانه‌های پیشرفته خواهد بود؛ هرچند گزارش منتشرشده جزئیاتی درباره ارزیابان، روش‌های آزمایش یا فاصله زمانی میان بررسی‌ها ارائه نمی‌دهد.
این پیش‌نویس همچنین قرار گرفتن بخشی از مقررات ایالتی ایمنی هوش مصنوعی زیر چارچوبی فدرال را در نظر می‌گیرد. این بند می‌تواند رویکردی متمرکزتر برای برخی الزامات ایمنی هوش مصنوعی ایجاد کند، اما اطلاعات موجود مشخص نمی‌کند کدام مقررات ایالتی تحت تأثیر قرار خواهند گرفت یا با الزامات فعلی ایالت‌ها چگونه برخورد خواهد شد.
ترکیب آستانه‌های مداخله، ارزیابی‌های مستقل و چارچوب فدرال، سه جنبه جداگانه از نظارت بر هوش مصنوعی را پوشش می‌دهد: زمان امکان درخواست محدودیت از سوی دولت، شیوه ارزیابی مدل‌های پیشرفته و نحوه جای گرفتن برخی مقررات ایالتی در سیاست‌گذاری فدرال.
پیشنهاد همچنان در مرحله پیش‌نویس منتشرنشده است
قانونی که پولیتیکو درباره آن گزارش داده، همچنان پیش‌نویسی منتشرنشده است که آنتروپیک آن را به قانون‌گذاران آمریکایی پیشنهاد کرده است. گزارش موجود به این معنا نیست که این لایحه رسماً ارائه شده، به تصویب رسیده یا به سیاست رسمی دولت تبدیل شده باشد.
آستانه‌های اصلی مطرح‌شده در پیش‌نویس عبارت‌اند از خسارت بیش از یک میلیارد دلار یا دست‌کم ۵۰ کشته یا مجروح شدید؛ مشروط بر اینکه خطر موردنظر قابل پیش‌بینی و قریب‌الوقوع باشد. این پیشنهاد همچنین سلاح‌های زیستی، از دست رفتن کنترل توسعه‌دهنده بر سامانه و حملات سایبری را در میان خطرات مورد بررسی قرار می‌دهد و ارزیابی‌های مستقل منظم و نظارت فدرال بر بخشی از مقررات ایالتی ایمنی هوش مصنوعی را نیز شامل می‌شود.