آنتروپیک پیشنهادهای خود برای ایمنی هوش مصنوعی را به کنگره آمریکا ارائه می‌کند
شرکت آنتروپیک بنا بر گزارش‌ها، در حال رایزنی با قانون‌گذاران آمریکایی درباره پیش‌نویس قانونی برای ایمنی هوش مصنوعی است.
این خبر را وب‌سایت پولیتیکو روز جمعه، ۱۶ اکتبر، منتشر کرد و این تلاش را اقدامی قابل توجه از سوی این شرکت فعال در حوزه هوش مصنوعی برای تأثیرگذاری بر مقررات حاکم بر فناوری خود دانست.
سخنگوی آنتروپیک به این رسانه گفت: «این لایحه بازتاب‌دهنده پیشنهادهایی است که در چارچوب آنتروپیک برای هوش مصنوعی پیشرفته مطرح کرده‌ایم؛ چارچوبی که از ماه ژوئن تاکنون برای پیشبرد آن با قانون‌گذاران فدرال و ایالتی رایزنی کرده‌ایم. ما این سیاست‌ها را معقول می‌دانیم و معتقدیم کنگره باید برای تصویب آن‌ها اقدام کند.»
بر اساس پیش‌نویس پیشنهادی که پولیتیکو به آن دست یافته است، دولت تنها زمانی می‌تواند از عرضه یا استفاده از یک مدل هوش مصنوعی جلوگیری کند که آن مدل خطر قریب‌الوقوع و قابل پیش‌بینیِ وارد آمدن خسارتی بیش از یک میلیارد دلار، یا کشته شدن یا آسیب جدی دیدن بیش از ۵۰ نفر را به همراه داشته باشد.
در این لایحه آمده است که خطرهای مورد نظر باید با ایجاد یا عرضه سلاح زیستی، خارج شدن یک مدل هوش مصنوعی از کنترل‌های اعمال‌شده توسط توسعه‌دهنده آن، یا حمله سایبری مرتبط باشند. افزون بر این، لایحه خواستار آن است که ارزیابی‌های مستقل، پس از ثبت نزد وزارت بازرگانی آمریکا، به‌صورت دوره‌ای عملکرد شرکت‌های فعال در این حوزه و مدل‌های پیشرفته هوش مصنوعی آن‌ها را بررسی کنند.
پولیتیکو همچنین گزارش داد که اگر ارزیابان به این نتیجه برسند که مدل‌های پیشرفته یک شرکت خطر مشخص‌شده و قریب‌الوقوعی ایجاد می‌کنند، باید حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، موضوع را به وزارت بازرگانی گزارش دهند.
به گزارش این رسانه، با وجود آنکه شرکت‌های فعال در حوزه هوش مصنوعی مواردی از هک شدن وب‌سایت‌های دیگر توسط عامل‌های هوش مصنوعی خود را گزارش کرده‌اند، تاکنون هیچ‌یک از این حوادث به مرگ‌ومیر گسترده یا خسارتی بیش از یک میلیارد دلار منجر نشده است. گزارش‌هایی درباره این حوادث پیش‌تر منتشر شده‌اند.
پیشنهاد آنتروپیک برای انجام ارزیابی‌های هوش مصنوعی زیر نظر وزارت بازرگانی با رویکرد مطرح‌شده در «قانون مدیریت ریسک و امنیت هوش مصنوعی» مصوب سال ۲۰۲۶ هم‌راستاست؛ لایحه‌ای که سه سناتور دموکرات آن را ارائه کرده‌اند.
این طرح در کنار لایحه دیگری قرار می‌گیرد که ماریا کانتول، سناتور دموکرات ایالت واشینگتن، ارائه کرده است. بر اساس آن، مؤسسه ملی استانداردها و فناوری آمریکا (NIST) باید استانداردهایی برای محافظت در برابر آسیب‌های فاجعه‌بار ناشی از مدل‌های هوش مصنوعی تدوین کند.
در همین حال، جاش هاولی، سناتور جمهوری‌خواه ایالت میزوری، در قالب «قانون ارزیابی ریسک هوش مصنوعی» پیشنهاد داده است که وزارت انرژی آمریکا مسئولیت آزمون فشار سامانه‌های هوش مصنوعی قدرتمند را پیش از عرضه عمومی آن‌ها بر عهده بگیرد.
در گزارش یادشده آمده است: «صرف‌نظر از اینکه در ماه ژانویه کدام حزب کنترل سنا یا مجلس نمایندگان را در دست داشته باشد، هر لایحه‌ای درباره ایمنی هوش مصنوعی احتمالاً با مخالفت کاخ سفید روبه‌رو خواهد شد.»
در ادامه گزارش آمده است: «دولت ترامپ همچنان قاطعانه با مقررات اجباری هوش مصنوعی مخالف است و رویکردی داوطلبانه را ترجیح می‌دهد که بر استانداردهای تدوین‌شده از سوی صنعت متکی باشد. با این حال، از آنجا که فعالان صنعت، افکار عمومی و بسیاری از مجالس قانون‌گذاری ایالتی همگی خواستار اقدام هستند، مخالفت کاخ سفید ممکن است برای متوقف کردن تلاش‌ها در زمینه ایمنی هوش مصنوعی کافی نباشد.»