آنتروپیک لایحه‌ای برای ایمنی هوش مصنوعی با آستانه مرگ ۵۰ نفر پیشنهاد کرد
کازابلانکا – شرکت آنتروپیک پیش‌نویس قانونی فدرال را پیشنهاد کرده است که به مقام‌های ایالات متحده اجازه می‌دهد در صورت وجود تهدیدی قریب‌الوقوع مبنی بر کشته شدن یا آسیب جدی دیدن بیش از ۵۰ نفر، یا وارد آمدن خسارت مالی بیش از یک میلیارد دلار، برای جلوگیری از عرضه یک مدل هوش مصنوعی اقدام کنند.
به گزارش پولیتیکو، این پیش‌نویس که شرکت آنتروپیک آن را به قانون‌گذاران آمریکایی ارائه کرده، شرایط مشخصی را برای مداخله دولت در توسعه و به‌کارگیری سامانه‌های پیشرفته هوش مصنوعی تعیین می‌کند. تک‌کرانچ نیز در ۲۰ اکتبر، با استناد به گزارش پیشین پولیتیکو، به این موضوع پرداخت.
بر اساس این پیشنهاد، مداخله دولت به خطرهایی محدود می‌شود که با ساخت یا عرضه سلاح زیستی، خارج شدن یک مدل هوش مصنوعی از کنترل‌های تعیین‌شده توسط توسعه‌دهنده آن، یا انجام حمله سایبری ارتباط دارند. خطر باید معیارهای تعیین‌شده در لایحه را برای یک تهدید فاجعه‌بارِ قابل پیش‌بینی و قریب‌الوقوع برآورده کند.
طبق پیش‌نویس، ارزیابان مستقل مسئول بررسی شرکت‌های هوش مصنوعی و پیشرفته‌ترین مدل‌های آن‌ها خواهند بود. این ارزیابان باید در وزارت بازرگانی آمریکا ثبت‌نام کنند و به‌طور دوره‌ای خطرهای احتمالی مرتبط با ایمنی را ارزیابی کنند.
شرکت‌های هوش مصنوعی می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه پرداخت‌ها را به نتایج ارزیابی‌ها مشروط نکنند. اگر ارزیابان خطری قریب‌الوقوع را شناسایی کنند که مشمول مفاد لایحه باشد، باید حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، موضوع را به وزارت بازرگانی گزارش دهند.
پس از آن، وزارت بازرگانی موظف خواهد بود از یک قاضی فدرال در واشنگتن دی‌سی درخواست کند که عرضه یا استفاده از مدل را متوقف کند. این پیش‌نویس صراحتاً مانع از آن می‌شود که سایر نهادهای فدرال یا مقام‌های دولتی به‌طور مستقل توسعه، استقرار یا استفاده داخلی از یک مدل را متوقف کنند.
یکی از سخنگویان آنتروپیک به پولیتیکو گفت که این پیش‌نویس، پیشنهادهای مطرح‌شده در چارچوب پیشرفته هوش مصنوعی این شرکت را به قانون تبدیل می‌کند. آنتروپیک از ماه ژوئن این چارچوب را به قانون‌گذاران فدرال و ایالتی معرفی کرده است.
آستانه‌های تعیین‌شده در این پیشنهاد به مفاد لایحه شماره ۵۳ سنای کالیفرنیا شباهت دارد؛ قانونی که قانون‌گذاران این ایالت اخیراً تصویب کرده‌اند. آن قانون نیز به خطرهای فاجعه‌بار ناشی از سامانه‌های پیشرفته هوش مصنوعی می‌پردازد.
این پیشنهاد در شرایطی مطرح شده است که شرکت‌های فناوری با نظارت و پرسشگری فزاینده درباره امنیت هوش مصنوعی روبه‌رو هستند. حوادث اخیر، از جمله مواردی که در آن‌ها گفته شده برنامه‌های هوش مصنوعی برخلاف دستور گردانندگان خود عمل کرده و برای هک کردن وب‌سایت‌ها تلاش کرده‌اند، نگرانی‌ها را درباره کافی بودن تدابیر حفاظتی توسعه‌دهندگان افزایش داده است.
طرح آنتروپیک همچنین بازتاب‌دهنده بحث گسترده‌تری درباره میزان اختیارات دولت‌ها در نظارت بر توسعه هوش مصنوعی است. شرکت‌های فناوری اغلب به‌جای نظارت اجباری دولت، از اقدامات داوطلبانه برای ایمنی و ارزیابی‌های مستقل حمایت کرده‌اند.
با این حال، برخی دیگر از رهبران صنعت فناوری دیدگاه متفاوتی درباره مقررات دارند. به گزارش تک‌کرانچ، جنسن هوانگ، مدیرعامل انویدیا، اخیراً استدلال کرده است که صنعت هوش مصنوعی به قوانین جدید نیاز ندارد.
پیش‌نویس آنتروپیک یک روند قانونی رسمی برای محدود کردن به‌کارگیری مدل‌های خطرناک هوش مصنوعی ایجاد می‌کند، اما در عین حال مشخص می‌سازد که دولت فدرال در چه شرایطی و از چه طریقی می‌تواند مداخله کند.