آنتروپیک: آمریکا فقط در شرایط بسیار بحرانی باید مانع فعالیت هوش مصنوعی شود

شرکت آنتروپیک، سازنده دستیار هوش مصنوعی کلود، پیشنهاد کرده است که دولت آمریکا فقط در شرایط بسیار بحرانی بتواند مانع فعالیت مدل‌های پیشرفته هوش مصنوعی شود. این پیشنهاد در قالب پیش‌نویس لایحه‌ای به قانون‌گذاران آمریکایی ارائه شده است. بر اساس آن، توقف فعالیت یک مدل هوش مصنوعی تنها زمانی مجاز خواهد بود که این مدل تهدیدی قریب‌الوقوع ایجاد کند که احتمال خسارت مالی بیش از یک میلیارد دلار یا مرگ یا جراحت جدی بیش از ۵۰ نفر را در پی داشته باشد.

یکپارچه‌سازی مقررات

پیش‌نویس لایحه با هدف تعیین استانداردهای فدرال ایمنی هوش مصنوعی تدوین شده است

هدف اصلی پیش‌نویس لایحه آنتروپیک، ایجاد مجموعه‌ای یکپارچه از استانداردهای فدرال ایمنی برای مدل‌های پیشرفته هوش مصنوعی است.

این رویکرد مانع از آن می‌شود که شرکت‌ها ناچار باشند مقررات متفاوتی را در ایالت‌های مختلف رعایت کنند.

آنتروپیک تأیید کرده است که این پیشنهاد با چارچوب هوش مصنوعی پیشرفته این شرکت همسو است؛ چارچوبی که از ماه ژوئن از آن حمایت کرده است.

سخنگوی آنتروپیک این اقدامات را «سیاست‌های معقولی توصیف کرد که معتقدیم کنگره باید برای تصویب آن‌ها اقدام کند».

معیارهای مداخله

شرایط مشخصی که به دولت اجازه مداخله می‌دهد

در پیش‌نویس لایحه، شرایط مشخصی نیز تعریف شده است که در آن‌ها دولت آمریکا می‌تواند برای متوقف کردن یک مدل پیشرفته هوش مصنوعی مداخله کند.

این شرایط شامل استفاده از هوش مصنوعی برای ساخت سلاح‌های زیستی، نقض تدابیر ایمنی تعیین‌شده از سوی توسعه‌دهنده مدل و استفاده از یک سامانه هوش مصنوعی برای انجام حمله سایبری است.

آستانه‌های پیشنهادی از نظر کلی به معیارهای پیش‌بینی‌شده در قوانین هوش مصنوعی کالیفرنیا، از جمله قانون SB 53، شباهت دارند.

فرایند ارزیابی

ارزیابی‌های مستقل و منظم مدل‌های پیشرفته هوش مصنوعی

این لایحه همچنین خواستار ارزیابی مستقل و منظم مدل‌های پیشرفته هوش مصنوعی است.

هزینه این ارزیابی‌ها را شرکت‌های هوش مصنوعی پرداخت خواهند کرد، اما پرداخت‌ها نباید به نتیجه ارزیابی وابسته باشند.

اگر ارزیابان دولتی تشخیص دهند که یک مدل، مطابق تعریف مندرج در لایحه، خطر فوری ایجاد می‌کند، موظف خواهند بود حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، وزارت بازرگانی آمریکا را مطلع کنند.

فرایند توقف فعالیت

محدودیت‌های پیشنهادی برای مداخله دولت

وزارت بازرگانی پس از دریافت چنین گزارشی می‌تواند از یک قاضی فدرال در واشنگتن دی‌سی درخواست کند که فعالیت مدل را متوقف کند.

بر اساس پیش‌نویس لایحه، سایر وزارتخانه‌ها، سازمان‌های دولتی و مقام‌های رسمی اجازه نخواهند داشت به‌طور مستقل مانع توسعه، عرضه یا استفاده داخلی از آن مدل شوند.

علاوه بر این محدودیت‌ها، شرکت‌های هوش مصنوعی باید برنامه‌های ایمنی خود را به‌تفصیل ارائه کنند، گزارش‌هایی درباره خطرات مدل‌های پیشرفته جدید منتشر کنند و از کارکنانی که نگرانی‌های ایمنی را مطرح می‌کنند، حمایت کنند.

برتری قوانین فدرال بر قوانین ایالتی

این پیشنهاد برخی قوانین ایالتی را نیز کنار می‌زند

این پیشنهاد همچنین برخی قوانین ایالتی را بی‌اثر خواهد کرد؛ قوانینی که شرکت‌ها را ملزم می‌کنند خطرات هوش مصنوعی را افشا کنند، تحت ارزیابی مستقل قرار بگیرند و حوادث مرتبط را گزارش دهند.

آنتروپیک پیش‌تر از قوانین ایمنی هوش مصنوعی در کالیفرنیا حمایت کرده بود، اما پیشنهاد جدید این شرکت در صورت اجرایی شدن مقررات فدرال، دامنه برخی الزامات ایالتی را محدود خواهد کرد.

در مجموع، آنتروپیک خواهان اجرای بررسی‌های ایمنی و افزایش شفافیت است و هم‌زمان می‌خواهد حدود اختیارات دولت برای مداخله و متوقف کردن فعالیت مدل‌های هوش مصنوعی روشن‌تر و محدودتر شود.