آنتروپیک طرح قانونی ایمنی هوش مصنوعی را پیشنهاد می‌کند؛ طرحی که به دولت آمریکا اختیار توقف مدل‌های پرخطر را می‌دهد
شرکت آنتروپیک در گفت‌وگوهای خصوصی با قانون‌گذاران آمریکا، پیش‌نویس قانونی را پیشنهاد داده است که با هدف ایجاد سازوکارهای حفاظتی فدرال برای سامانه‌های قدرتمند هوش مصنوعی تدوین شده است. این طرح سازوکاری را پیش‌بینی می‌کند که به کمک آن بتوان از استقرار مدل‌هایی جلوگیری کرد که توانایی ایجاد آسیب‌های شدید را دارند.
این ابتکار نخستین بار در ۱۶ اکتبر در نشریه پولیتیکو گزارش شد و سپس رویترز نیز به آن پرداخت. بر اساس این گزارش‌ها، طرح به مقام‌های فدرال اختیار محدودی می‌دهد تا در شرایطی که سامانه‌های پیشرفته هوش مصنوعی تهدیدی فوری و قابل پیش‌بینی برای امنیت عمومی ایجاد می‌کنند، مداخله کنند. پولیتیکو این اطلاعات را به نقل از سه فرد آگاه از گفت‌وگوهای شرکت با قانون‌گذاران در کنگره آمریکا منتشر کرده است.
بر اساس پیش‌نویس قانون، دولت تنها زمانی مجاز به مداخله خواهد بود که یک مدل هوش مصنوعی تهدیدی متوجه بیش از یک میلیارد دلار خسارت مالی کند یا احتمال کشته شدن یا آسیب‌دیدگی شدید بیش از ۵۰ نفر را به همراه داشته باشد. این جزئیات در گزارش رویترز از گزارش پولیتیکو آمده است. گزارش رویترز
این پیشنهاد سه دسته تهدید را مشخص می‌کند که می‌توانند مداخله دولت را توجیه کنند: تولید یا انتشار سلاح‌های زیستی، فعالیت سامانه‌های هوش مصنوعی خارج از کنترل توسعه‌دهندگانشان و حملات سایبری.
تعریف محدود این شرایط، آستانه بالایی برای مداخله فدرال ایجاد می‌کند. چنین رویکردی می‌تواند به شرکت‌های هوش مصنوعی اجازه دهد توسعه سامانه‌های هرچه پیشرفته‌تر را ادامه دهند، در حالی که توانمندی‌های خطرناک‌تر آن‌ها با نظارت و بررسی بیشتری روبه‌رو می‌شود.
نظارت مستقل، محور اصلی پیشنهاد
یکی از ویژگی‌های محوری پیشنهاد آنتروپیک، ایجاد فرایندی مستقل برای ارزیابی توسعه‌دهندگان هوش مصنوعی پیشرفته است.
طبق گزارش پولیتیکو که رویترز به آن استناد کرده است، ارزیابان مستقلی که در وزارت بازرگانی آمریکا ثبت شده‌اند، به‌طور دوره‌ای شرکت‌ها و پیشرفته‌ترین مدل‌های هوش مصنوعی آن‌ها را بررسی خواهند کرد تا تهدیدهای احتمالی علیه امنیت و ایمنی را شناسایی کنند.
توسعه‌دهندگان هوش مصنوعی می‌توانند هزینه این ارزیابی‌ها را تأمین کنند، مشروط بر آنکه نحوه پرداخت دستمزد ارزیابان به نتایج بررسی‌هایشان وابسته نباشد.
این پیش‌نویس همچنین شرکت‌ها را ملزم می‌کند در صورت شناسایی خطرهای جدی، آن‌ها را گزارش دهند.
بر اساس گزارش رویترز، ارزیابانی که خطرهایی منطبق با معیارهای تعیین‌شده در قانون پیشنهادی شناسایی کنند، باید حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را در جریان بگذارند.
این سازوکار یک مسیر رسمی برای شناسایی و ارجاع خطرهای بالقوه فاجعه‌بار هوش مصنوعی فراهم می‌کند تا پیش از وقوع خسارت گسترده، امکان رسیدگی به آن‌ها وجود داشته باشد.
اختیار نهایی در دست دادگاه‌ها خواهد بود
پیش‌نویس آنتروپیک محدودیت‌های قابل‌توجهی برای نحوه واکنش نهادهای فدرال به تهدیدهای شناسایی‌شده در نظر می‌گیرد.
وزارت بازرگانی مجاز خواهد بود در صورت عبور یک مدل هوش مصنوعی از آستانه خطر تعیین‌شده، از دادگاه درخواست مداخله کند. با این حال، این وزارتخانه اختیار نامحدودی نخواهد داشت که مستقلاً فعالیت آن فناوری را متوقف کند.
در عوض، یک قاضی فدرال در دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا می‌تواند پس از احراز شرایط مربوط، حکم توقف فعالیت مدل را صادر کند.
بر اساس گزارش پولیتیکو، این پیشنهاد همچنین سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های فدرال را از آن منع می‌کند که خارج از چارچوب تعیین‌شده، مستقلاً مانع توسعه، استقرار یا بهره‌برداری داخلی از مدل‌های هوش مصنوعی شوند.
این ساختار، اختیار اجرای محدودیت‌ها را در چارچوبی مشخص از فرایندهای نظارتی و قضایی متمرکز می‌کند و توانایی نهادهای منفرد برای اعمال محدودیت خارج از رویه‌های پیش‌بینی‌شده در قانون را کاهش می‌دهد.
صنعت هوش مصنوعی به دنبال ایفای نقش در تنظیم مقررات فدرال است
ابتکار آنتروپیک نشان می‌دهد که توسعه‌دهندگان بزرگ هوش مصنوعی بیش از پیش در شکل‌دهی به مقرراتی مشارکت می‌کنند که قرار است بر فناوری خودشان حاکم باشد.
این پیشنهاد در شرایطی مطرح شده است که در واشنگتن بحث‌های گسترده‌تری درباره چگونگی مقابله با خطرهای احتمالی هوش مصنوعی پیشرفته، بدون ایجاد محدودیت‌های غیرضروری بر توسعه فناوری، جریان دارد.
تأکید این طرح بر تهدیدهای شدید و دقیقاً تعریف‌شده، بازتاب رویکردی است که بر اساس آن، شدیدترین مداخلات دولت باید به موقعیت‌هایی محدود شوند که پیامدهای بالقوه فاجعه‌بار دارند.
از سوی دیگر، الزام به ارزیابی مستقل، نظام نظارتی رسمی‌تری را برای توسعه‌دهندگان مدل‌های مرزی هوش مصنوعی ایجاد می‌کند؛ اصطلاحی که معمولاً برای پیشرفته‌ترین و توانمندترین سامانه‌های هوش مصنوعی به کار می‌رود.
این پیش‌نویس صرفاً یک پیشنهاد است و هنوز به قانون تبدیل نشده است. برای لازم‌الاجرا شدن مفاد آن به‌عنوان قانون فدرال، اقدام کنگره ضروری خواهد بود.
چشم‌انداز تصویب قانون همچنان نامشخص است
میزان حمایت قانون‌گذاران کنگره از پیشنهاد آنتروپیک هنوز روشن نیست. رویترز گزارش داده است که نمایندگان این شرکت درباره پیش‌نویس با قانون‌گذاران گفت‌وگو کرده‌اند، اما گزارش منتشرشده مشخص نمی‌کند که آیا قانون‌گذاران قصد دارند این طرح را به‌طور رسمی ارائه کنند یا خیر.
رویترز در گزارش ۱۶ اکتبر خود اعلام کرد که آنتروپیک و وزارت بازرگانی آمریکا در آن زمان هنوز به درخواست‌ها برای اظهارنظر پاسخ نداده بودند.
با وجود این ابهام‌ها، طرح پیشنهادی نمونه‌ای نسبتاً دقیق از دیدگاه یک توسعه‌دهنده هوش مصنوعی درباره نحوه نظارت فدرال بر قدرتمندترین سامانه‌های این فناوری ارائه می‌دهد.
این چارچوب با ترکیب ارزیابی‌های فنی مستقل، مهلت‌های الزامی برای گزارش‌دهی و اجرای مقررات تحت نظارت دادگاه، می‌کوشد در برابر خطرهای بسیار شدید تدابیر حفاظتی ایجاد کند و در عین حال، شرایطی را که دولت آمریکا می‌تواند در آن‌ها مانع استفاده از یک مدل هوش مصنوعی شود، محدود نگه دارد.
منبع: رویترز