گزارش‌ها: انتروپیک طرح قانون اختصاصی خود برای ایمنی هوش مصنوعی را به کنگره ارائه می‌کند
شرکت انتروپیک به‌طور خصوصی در حال رایزنی با قانون‌گذاران آمریکایی درباره پیش‌نویس قانونی برای تنظیم ایمنی و امنیت هوش مصنوعی پیشرفته است. وب‌سایت پولیتیکو روز جمعه این خبر را منتشر کرد. این رسانه به نقل از سه فرد آگاه به این تلاش گزارش داد که نسخه‌ای از پیش‌نویس محرمانه را نیز به دست آورده است.
سخنگوی انتروپیک به پولیتیکو گفت این طرح بازتاب‌دهنده چارچوب هوش مصنوعی پیشرفته این شرکت است؛ چارچوبی که انتروپیک از ماه ژوئن آن را به قانون‌گذاران معرفی کرده است. او پیشنهادهای مطرح‌شده در این طرح را «سیاست‌هایی معقول» برای کنگره توصیف کرد.
این طرح چه تغییراتی ایجاد می‌کند؟
این پیش‌نویس آستانه بسیار بالایی برای مداخله دولت تعیین می‌کند. به گزارش پولیتیکو، مقام‌های فدرال تنها زمانی می‌توانند مانع عرضه یا استفاده از یک مدل هوش مصنوعی شوند که آن مدل «خطری قابل پیش‌بینی و قریب‌الوقوع» ایجاد کند که به بیش از یک میلیارد دلار خسارت بینجامد یا موجب مرگ یا جراحت شدید بیش از ۵۰ نفر شود. همچنین، خطر باید از یکی از سه منشأ مشخص ناشی شود: سلاح زیستی، خارج شدن مدل از کنترل توسعه‌دهنده آن، یا حمله سایبری. متن این بخش از طرح شباهت زیادی به قانون SB 53 کالیفرنیا دارد.
پولیتیکو خاطرنشان کرد که آزمایشگاه‌های هوش مصنوعی در تابستان امسال از چند حادثه خبر دادند که در آن‌ها عامل‌های هوش مصنوعی به پلتفرم‌های آنلاین نفوذ کردند یا سامانه‌های دفاعی آن‌ها را آزمایش کردند. به نظر نمی‌رسد هیچ‌یک از این حوادث خسارتی در مقیاس تعیین‌شده در پیش‌نویس ایجاد کرده باشد. این موضوع شامل حادثه مربوط به OpenAI و Hugging Face نیز می‌شود؛ حادثه‌ای که در آن عامل‌های سرکش از یک محیط ایزوله و امن خارج شدند و به سامانه‌ای متعلق به شخص ثالث حمله کردند.
این طرح همچنین ارزیابان مستقلی را برای بررسی مدل‌ها در نظر می‌گیرد، وزارت بازرگانی آمریکا را تنها نهاد دولتی مجاز به درخواست توقف یک مدل معرفی می‌کند، وظایف جدیدی بر عهده آزمایشگاه‌های هوش مصنوعی می‌گذارد و امکان بی‌اثر کردن برخی قوانین ایالتی را فراهم می‌کند.
انتروپیک تاکنون به‌صورت علنی از هیچ طرح قانونی فدرالی حمایت نکرده است، هرچند از دو قانون ایالت کالیفرنیا در زمینه ایمنی هوش مصنوعی پشتیبانی کرده است. به نوشته پولیتیکو، در مجلس نمایندگان، لوری ترهان، نماینده دموکرات ایالت ماساچوست، و جی اوبرنولته، نماینده جمهوری‌خواه کالیفرنیا، هدایت طرحی با عنوان قانون FRONTIER را بر عهده دارند که آن هم برخی قوانین ایالتی را بی‌اثر خواهد کرد.
در سنا، جان تون، رهبر اکثریت، به همراه ایمی کلوبوچار، سناتور دموکرات ایالت مینه‌سوتا، و تد کروز، سناتور جمهوری‌خواه ایالت تگزاس، در حال مذاکره درباره طرحی برای مقابله با خطرهای فاجعه‌بار هوش مصنوعی هستند. در مقابل، گرگ کاسار، نماینده دموکرات تگزاس، و برنی سندرز، سناتور مستقل ایالت ورمانت، خواستار توقف کامل توسعه هوش مصنوعی پیشرفته شده‌اند.
در مجموع، تلاش انتروپیک برای پیشبرد طرح قانونی خود تازه‌ترین نمونه از اقدام شرکت‌های هوش مصنوعی برای مشارکت در تدوین قواعد حاکم بر فعالیت خودشان است. ماه گذشته، داریو آمودی، مدیرعامل انتروپیک، از این صنعت خواست سرعت پیشرفت هوش مصنوعی پیشرفته را مدیریت کند و از جمله بر سر استانداردهای مشترک ایمنی به توافق برسد. سم آلتمن، مدیرعامل OpenAI، نیز به‌سرعت از این ایده حمایت کرد. چند هفته بعد، آمودی، گرگ براکمن، جنسن هوانگ، ایلان ماسک، سوندار پیچای و مارک زاکربرگ توافق‌نامه کاخ سفید درباره ابرهوش را امضا کردند.
همان‌طور که مَشِیبل پیش‌تر گزارش داده بود، این توافق داوطلبانه هیچ سازوکار اجرایی یا مجازاتی برای نقض مفاد خود ندارد.