لایحه ایمنی هوش مصنوعی آنتروپیک: توقف مدل‌ها در صورت احتمال مرگ بیش از ۵۰ نفر
با افزایش نگرانی‌ها درباره خطرات هوش مصنوعی، تنظیم مقررات این فناوری به یکی از موضوعات داغ در سیلیکون‌ولی و واشنگتن دی‌سی تبدیل شده است.
آنتروپیک، غول هوش مصنوعی و سازنده کلود، مجموعه‌ای از مقررات پیشنهادی خود برای ایمنی هوش مصنوعی را به قانون‌گذاران ارائه کرده است. وب‌سایت پولیتیکو به‌تازگی به پیش‌نویس محرمانه این پیشنهادها دست یافته است.
اما لایحه پیشنهادی آنتروپیک برای ایمنی هوش مصنوعی چه مفادی دارد؟ برخی از پیشنهادهای این شرکت دست‌کم در نگاه نخست بسیار تأمل‌برانگیزند.
بر اساس سندی که پولیتیکو به آن دست یافته است، دولت تنها زمانی می‌تواند مانع انتشار یک مدل هوش مصنوعی شود که آن مدل خطر قابل پیش‌بینی و قریب‌الوقوعی برای وارد کردن بیش از یک میلیارد دلار خسارت، یا مرگ یا آسیب جدی به بیش از ۵۰ نفر ایجاد کند.
علاوه بر این، خطر ناشی از مدل باید مشخصاً به یکی از این موارد مربوط باشد: حمله سایبری، از دست رفتن کنترل مدل از سوی توسعه‌دهنده، یا ساخت و انتشار یک سلاح زیستی.
اما این خطرها چگونه تشخیص داده می‌شوند؟
بر اساس پیش‌نویسی که پولیتیکو بررسی کرده است، ارزیابان مستقل باید به‌صورت دوره‌ای آزمایشگاه‌های هوش مصنوعی و مدل‌های آن‌ها را ارزیابی کنند. اگر این ارزیابان تشخیص دهند که یک مدل خطر قریب‌الوقوعی از انواع مشخص‌شده در طرح ایجاد می‌کند، باید ظرف ۷۲ ساعت موضوع را به وزارت بازرگانی ایالات متحده گزارش دهند. سپس این وزارتخانه تصمیم می‌گیرد که آیا خطر شناسایی‌شده به‌اندازه‌ای جدی است که درخواست صدور حکم قضایی برای جلوگیری از انتشار مدل را مطرح کند یا خیر.
طبق لایحه آنتروپیک، تنها یک قاضی فدرال در واشنگتن دی‌سی اختیار تعلیق یک مدل هوش مصنوعی را خواهد داشت. این لایحه به‌صراحت هرگونه اختیار برای تعلیق مدل‌های هوش مصنوعی را از سایر «وزارتخانه‌ها، نهادها یا مقام‌ها» سلب می‌کند.
نکته جالب این است که این پیشنهاد مشخص نمی‌کند چه کسانی نباید هزینه ارزیابان مستقل را تأمین کنند. در واقع، طبق گزارش پولیتیکو، آنتروپیک صراحتاً اعلام کرده است که آزمایشگاه‌های هوش مصنوعی می‌توانند به ارزیابان دستمزد بپردازند، مشروط بر اینکه این پرداخت‌ها بر نتایج ارزیابی تأثیر نگذارند.
این موضوع پرسشی بدیهی را مطرح می‌کند: چگونه می‌توان ثابت کرد که منبع تأمین مالی بر ارزیابی فرد تأثیر نگذاشته است؟ افزون بر این، بر اساس مفاد گزارش‌شده از این لایحه، خسارتی معادل ۹۹۹ میلیون و ۹۹۹ هزار و ۹۹۹ دلار یا مرگ ۴۹ نفر، به‌تنهایی فرایند لازم برای توقف یک مدل را فعال نخواهد کرد.
چنان‌که رسانه‌های متعددی اشاره کرده‌اند، لایحه پیشنهادی آنتروپیک شباهت زیادی به قوانینی دارد که اخیراً در کالیفرنیا تصویب شده‌اند؛ از جمله لایحه SB 53. با این حال، شرکت‌های هوش مصنوعی، از جمله آنتروپیک، در ارائه پیشنهادهایی که به تدوین نسخه نهایی این قانون انجامید، نقش داشتند.
با توجه به اینکه به نظر می‌رسد موارد مربوط به خارج شدن عامل‌های هوش مصنوعی از کنترل رو به افزایش است، وضع قوانین و مقررات ایمنی برای این فناوری ضروری به نظر می‌رسد. با این حال، هنوز مشخص نیست که خود شرکت‌های هوش مصنوعی تا چه اندازه باید در تدوین این قوانین نقش داشته باشند؛ به‌ویژه وقتی پیشنهادهایی مطرح می‌شوند که بر اساس آن‌ها، نهادهای ناظرِ ظاهراً بی‌طرف می‌توانند از همان شرکت‌هایی بودجه دریافت کنند که قرار است بر فعالیتشان نظارت کنند.