آنتروپیک خواستار تصویب قانون ایمنی هوش مصنوعی برای جلوگیری از عرضه مدل‌های مرگبار شد

شرکت هوش مصنوعی آنتروپیک پیش‌نویس قانونی را به قانون‌گذاران آمریکا ارائه کرده است که هدف آن تشدید مقررات ایمنی برای سامانه‌های پیشرفته هوش مصنوعی است. این طرح به دولت اختیار می‌دهد از عرضه مدل‌هایی جلوگیری کند که توانایی ایجاد خسارات فاجعه‌بار را دارند.

بر اساس گزارشی از پولیتیکو، این قانون پیشنهادی به مقام‌های فدرال اجازه می‌دهد مانع انتشار یک مدل هوش مصنوعی شوند، اگر آن مدل تهدیدی فوری برای کشتن یا مجروح کردن بیش از ۵۰ نفر ایجاد کند یا خسارتی بالغ بر یک میلیارد دلار به بار آورد.

با این حال، این اختیارات فقط در مورد خطرات مشخصی اعمال خواهند شد؛ از جمله سلاح‌های زیستی، حملات سایبری و سامانه‌های هوش مصنوعی که از کنترل انسان خارج می‌شوند.

این پیشنهاد در شرایطی مطرح شده است که نگرانی‌ها درباره خطرات احتمالی فناوری‌های هوش مصنوعی، هم‌زمان با پیشرفت سریع آن‌ها، رو به افزایش است.

الزام به آزمایش ایمنی هوش مصنوعی و ارزیابی مستقل

چارچوب پیشنهادی آنتروپیک، توسعه‌دهندگان هوش مصنوعی را ملزم می‌کند پیش از عرضه مدل‌های پیشرفته، ارزیابی‌های ایمنی انجام دهند.

شرکت‌ها همچنین باید نتایج این آزمایش‌ها را به‌صورت عمومی منتشر کنند و امکان بررسی‌های منظم از سوی ارزیابان مستقل را فراهم آورند.

یکی از سخنگویان آنتروپیک گفت پیش‌نویس این قانون بر اساس توصیه‌های مطرح‌شده در چارچوب هوش مصنوعی پیشرفته این شرکت تهیه شده است.

این شرکت از ماه ژوئن این اقدامات را در میان قانون‌گذاران فدرال و ایالتی پیگیری کرده است.

به گفته این سخنگو، پیشنهاد یادشده به دولت فدرال اختیار می‌دهد از عرضه مدل‌های هوش مصنوعی به‌ویژه خطرناک جلوگیری کند یا شرکت‌ها را از انتشار آن‌ها بازدارد.

آنتروپیک معتقد است کنگره باید تدابیر حفاظتی‌ای وضع کند که هم با تهدیدهای فناورانه نوظهور مقابله کنند و هم مسئولیت‌پذیری توسعه‌دهندگان هوش مصنوعی را شفاف‌تر سازند.

با این حال، این شرکت حاضر نشد اعلام کند پیش‌نویس قانون را تا چه اندازه در اختیار دیگران قرار داده یا آیا قانون‌گذاران از آن استقبال کرده‌اند.

افزایش تهدیدهای امنیت سایبری و تشدید درخواست‌ها برای قانون‌گذاری

این پیشنهاد در پی افزایش نگرانی‌ها درباره رخدادهای امنیتی مرتبط با هوش مصنوعی مطرح شده است؛ از جمله گزارش‌هایی درباره نقض امنیت و فعالیت‌های هکری مرتبط با سامانه‌های هوش مصنوعی.

این تحولات بحث میان سیاست‌گذاران و شرکت‌های فناوری را درباره ضرورت تقویت تدابیر حفاظتی intensify کرده است.

در پیش‌نویس این قانون، سلاح‌های زیستی، رفتار کنترل‌نشده هوش مصنوعی و حملات سایبری به‌عنوان عواملی مشخص شده‌اند که می‌توانند زمینه مداخله دولت فدرال را فراهم کنند.

این خطرات باید به آستانه شدت تعیین‌شده در پیشنهاد برسند تا مقام‌ها بتوانند عرضه یک مدل را محدود کنند.

با وجود افزایش درخواست‌ها برای نظارت بیشتر، دولت دونالد ترامپ در برابر پیشنهادهای مربوط به وضع مقررات گسترده‌تر برای هوش مصنوعی مقاومت کرده است.

از این رو، ابتکار آنتروپیک تفاوت دیدگاه‌ها درباره چگونگی ایجاد تعادل میان نوآوری فناورانه و ایمنی عمومی را برجسته می‌کند.

این طرح همچنان پیشنهادی مورد حمایت یک شرکت است و هنوز به قانون تبدیل نشده است.

سرنوشت آن به این بستگی دارد که قانون‌گذاران آمریکا تصمیم بگیرند این تدابیر را در کنگره مطرح کنند و روند تصویب آن‌ها را پیش ببرند یا نه.