آنتروپیک طرح قانونی ایمنی هوش مصنوعی را پیشنهاد کرد؛ طرحی که به دولت آمریکا اجازه می‌دهد مدل‌های خطرناک را متوقف کند
شرکت آنتروپیک، سازنده چت‌بات هوش مصنوعی کلود، پیش‌نویس قانونی فدرال را پیشنهاد کرده است که به دولت آمریکا اجازه می‌دهد انتشار یا استفاده از مدل‌های پیشرفته هوش مصنوعی را در صورت ایجاد خطرات فاجعه‌بار متوقف کند. این پیش‌نویس که میان قانون‌گذاران آمریکایی توزیع شده، با هدف تعیین الزامات رسمی ایمنی برای سامانه‌های قدرتمند هوش مصنوعی تدوین شده است و در عین حال، شرایط مداخله مقام‌های دولتی را محدود می‌کند.
بر اساس گزارشی که پولیتیکو در ۱۶ اکتبر منتشر کرد، این پیشنهاد به دولت اجازه می‌دهد در صورتی مداخله کند که یک مدل هوش مصنوعی خطر قریب‌الوقوع خسارتی بیش از یک میلیارد دلار یا مرگ یا آسیب جدی به بیش از ۵۰ نفر را ایجاد کند. پیش‌نویس همچنین ارزیابی‌های مستقل ایمنی، شفافیت بیشتر توسعه‌دهندگان هوش مصنوعی و تدابیر امنیتی قوی‌تر را الزامی می‌کند.
آنتروپیک تأیید کرده است که این پیشنهاد بازتاب‌دهنده چارچوب گسترده‌تر این شرکت برای هوش مصنوعی پیشرفته است؛ چارچوبی که رویکرد آن را در قبال تنظیم مقررات قدرتمندترین سامانه‌های هوش مصنوعی تشریح می‌کند. با این حال، این متن همچنان در مرحله پیش‌نویس است و به قانون تبدیل نشده است.
دولت در چه شرایطی می‌تواند یک مدل هوش مصنوعی را متوقف کند؟
بر اساس پیشنهاد آنتروپیک، مقام‌های دولتی تنها زمانی می‌توانند برای اعمال محدودیت بر یک مدل پیشرفته هوش مصنوعی اقدام کنند که خطرهای مشخص و جدی، به آستانه‌های تعیین‌شده در پیش‌نویس قانون برسند.
این خطرها شامل استفاده از سامانه‌های هوش مصنوعی برای ساخت یا انتشار سلاح‌های زیستی، خارج شدن مدل‌ها از کنترل‌های ایمنی تعیین‌شده از سوی توسعه‌دهندگانشان و حملات سایبری مبتنی بر هوش مصنوعی است که می‌توانند خسارت‌های فاجعه‌بار به بار آورند.
در این پیش‌نویس، آستانه خطر به‌صورت احتمال خسارتی بیش از یک میلیارد دلار یا مرگ یا آسیب جدی به بیش از ۵۰ نفر تعریف شده است. همچنین، خطر باید قابل پیش‌بینی و قریب‌الوقوع باشد.
فرایند پیشنهادی، وزارت بازرگانی آمریکا و دستگاه قضایی فدرال را درگیر می‌کند. ارزیابان مستقل باید سامانه‌های پیشرفته هوش مصنوعی را بررسی کنند و حداکثر تا ۷۲ ساعت پس از تکمیل ارزیابی، خطرهای قریب‌الوقوعی را که واجد شرایط تعیین‌شده هستند، به وزارتخانه گزارش دهند.
پس از آن، وزارت بازرگانی می‌تواند از یک قاضی فدرال در واشینگتن دی‌سی درخواست کند انتشار یا استفاده از یک مدل را به حالت تعلیق درآورد. بر اساس این چارچوب پیشنهادی، سایر نهادها و مقام‌های فدرال اجازه نخواهند داشت مستقلاً مانع فعالیت یک مدل شوند.
این رویکرد سازوکاری حقوقی و رسمی برای واکنش به استقرار خطرناک سامانه‌های هوش مصنوعی ایجاد می‌کند و در عین حال، دولت را ملزم می‌سازد که برای مداخله از فرایندی مشخص پیروی کند.
الزامات جدید ایمنی برای شرکت‌های هوش مصنوعی
قانون پیشنهادی چند تعهد جدید برای توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی در نظر می‌گیرد.
شرکت‌ها باید ارزیابی‌های ایمنی را به‌طور منظم انجام دهند، گزارش‌هایی درباره خطرهای مرتبط با قدرتمندترین سامانه‌های خود منتشر کنند، برنامه‌های امنیتی مستحکمی داشته باشند و حوادث جدی را گزارش دهند. این پیش‌نویس همچنین حمایت‌هایی را برای کارکنانی پیش‌بینی می‌کند که نگرانی‌های خود را درباره ایمنی هوش مصنوعی مطرح می‌کنند.
ارزیابان مستقلی که در وزارت بازرگانی ثبت شده‌اند، به‌صورت دوره‌ای توسعه‌دهندگان هوش مصنوعی و مدل‌های آن‌ها را بررسی خواهند کرد. شرکت‌ها می‌توانند هزینه این ارزیابی‌ها را بپردازند، اما میزان پرداخت نباید به مثبت یا منفی بودن نتایج ارزیابی وابسته باشد.
آنتروپیک معتقد است با افزایش توانایی سامانه‌های هوش مصنوعی و بیشتر شدن پیامدهای احتمالی عملکرد آن‌ها، ارزیابی‌های مستقل و گزارش‌دهی شفاف ضرورت دارند.
این پیشنهاد همچنین بازتاب‌دهنده بحث گسترده‌تری درباره این موضوع است که آیا تعهدات داوطلبانه شرکت‌های فناوری برای تأمین ایمنی کافی هستند یا باید الزاماتی قانونی و قابل اجرا در نظر گرفته شوند.
این پیشنهاد ممکن است برخی قوانین ایالتی هوش مصنوعی را کنار بزند
یکی دیگر از بخش‌های مهم این پیش‌نویس، به رابطه میان مقررات فدرال و قوانین ایالتی مربوط می‌شود.
بر اساس این پیشنهاد، برخی الزامات ایالتی در زمینه افشای خطرهای هوش مصنوعی، ارزیابی‌های مستقل و گزارش‌دهی حوادث تحت‌الشعاع مقررات فدرال قرار خواهند گرفت. هدف این اقدام، ایجاد چارچوبی یکپارچه‌تر در سطح کشور و محدود کردن امکان وضع مقررات هم‌پوشان در این حوزه‌ها از سوی ایالت‌های مختلف است.
طرفداران رویکرد ملی استدلال می‌کنند که استانداردهای یکسان می‌توانند رعایت مقررات را برای شرکت‌هایی که در سراسر آمریکا فعالیت می‌کنند، ساده‌تر و شفاف‌تر سازند. با این حال، محدود کردن الزامات ایالتی ممکن است اختیار ایالت‌ها را برای وضع تدابیر حفاظتی سخت‌گیرانه‌تر نیز کاهش دهد.
با ادامه بررسی راه‌های ایجاد توازن میان نوآوری، ایمنی عمومی و اختیارات نهادهای قانون‌گذار، این موضوع احتمالاً همچنان محل اختلاف خواهد بود.
پیشنهاد آنتروپیک چه معنایی برای تنظیم مقررات هوش مصنوعی دارد؟
پیش‌نویس آنتروپیک در شرایطی مطرح شده است که نگرانی‌ها درباره خطرهای ناشی از سامانه‌های هوش مصنوعی با قابلیت‌های فزاینده بیشتر شده و بحث‌ها در واشینگتن درباره نحوه نظارت بر این فناوری ادامه دارد.
این شرکت به دنبال ایجاد چارچوبی است که آزمایش و نظارت مستقل را الزامی کند و در عین حال، محدودیت‌های روشنی برای شرایطی تعیین کند که دولت می‌تواند یک مدل هوش مصنوعی را متوقف سازد. به این ترتیب، هم مسئولیت‌پذیری توسعه‌دهندگان و هم محدود کردن مداخله نهادهای نظارتی در مرکز این پیشنهاد قرار دارند.
این پیش‌نویس هنوز رسماً تصویب نشده است و سرنوشت آن به این بستگی دارد که قانون‌گذاران تصمیم بگیرند قانونی مبتنی بر مفاد آن ارائه کنند و روند تصویبش را پیش ببرند یا خیر.
در حال حاضر، پیشنهاد آنتروپیک گام تازه‌ای در بحث درباره تدوین مقررات فدرال ایمنی هوش مصنوعی به شمار می‌رود. در صورت تصویب، این طرح می‌تواند فرایندی شفاف‌تر برای محدود کردن سامانه‌های خطرناک هوش مصنوعی ایجاد کند و نحوه تقسیم مسئولیت میان شرکت‌های فناوری، ارزیابان مستقل، نهادهای نظارتی فدرال و دادگاه‌ها را تغییر دهد.