آنتروپیک طرح قانونی برای جلوگیری از انتشار مدل‌های هوش مصنوعیِ دارای خطر فاجعه‌بار پیشنهاد کرد
شرکت آنتروپیک در حال پیشبرد پیش‌نویس قانونی است که به دادگاه‌های آمریکا اجازه می‌دهد در صورت شناسایی تهدیدی قریب‌الوقوع برای جان شمار زیادی از افراد یا خطر خسارت گسترده به اموال، از انتشار مدل‌های هوش مصنوعی جلوگیری کنند. این پیشنهاد فرایندی رسمی برای بررسی خطرها تعیین می‌کند و تصمیم نهایی را به قاضی می‌سپارد، نه یک نهاد فدرال.
آنتروپیک خواهان آن است که دولت آمریکا نقش رسمی‌تری در ارزیابی خطرهای هوش مصنوعی پیشرفته بر عهده بگیرد. این شرکت قانونی پیشنهاد کرده است که بر اساس آن، انتشار مدل‌هایی که بالقوه قادر به ایجاد خسارت فاجعه‌بار هستند، قابل جلوگیری باشد.
به گزارش پولیتیکو، این پیش‌نویس فرایندی برای ارزیابی مستقل سامانه‌های هوش مصنوعی ایجاد می‌کند و به وزارت بازرگانی آمریکا اجازه می‌دهد هنگامی که ارزیابان تهدیدی قریب‌الوقوع را شناسایی می‌کنند، از دادگاه حکم توقف توزیع یک مدل را درخواست کند. این پیشنهاد در شرایطی مطرح شده است که شرکت‌های هوش مصنوعی با بررسی‌های فزاینده‌ای درباره کفایت تدابیر حفاظتی سامانه‌هایشان در برابر سوءاستفاده و رفتارهای ناخواسته روبه‌رو هستند.
برخلاف درخواست‌ها برای اعمال محدودیت‌های فراگیر بر سامانه‌های قدرتمند هوش مصنوعی، پیشنهاد آنتروپیک بر شرایط مشخصی تمرکز دارد که در آن‌ها یک مدل می‌تواند خطری جدی و فوری ایجاد کند. این طرح همچنین می‌کوشد مشخص کند چه کسانی صلاحیت ارزیابی این خطرها را دارند و دولت چگونه می‌تواند پیش از عرضه عمومی یک مدل مداخله کند.
آنتروپیک اعلام کرده است که این پیش‌نویس بر اساس چارچوب هوش مصنوعی پیشرفته این شرکت تدوین شده است؛ مجموعه‌ای از پیشنهادها که از ماه ژوئن در گفت‌وگو با قانون‌گذاران فدرال و ایالتی مطرح شده‌اند. با این حال، این متن همچنان صرفاً یک پیشنهاد است و به قانون فدرال تبدیل نشده است. چشم‌انداز تصویب آن در کنگره نیز هنوز مشخص نیست.
قانون پیشنهادی آنتروپیک برای ایمنی هوش مصنوعی چگونه اجرا می‌شود؟
بر اساس پیش‌نویس این قانون، اگر ارزیابی‌ها از وجود تهدیدی قابل پیش‌بینی و قریب‌الوقوع خبر دهند که احتمال بیش از ۵۰ کشته یا خسارت مالی بیش از یک میلیارد دلار را در پی داشته باشد، ممکن است محدودیت‌هایی برای یک مدل اعمال شود. این خطر باید ناشی از سناریوهایی مانند ساخت یا انتشار سلاح زیستی، خارج شدن یک مدل هوش مصنوعی از کنترل سازنده‌اش یا وقوع حمله سایبری باشد.
این آستانه‌ها به معیارهای مورد استفاده برای تعریف خطرهای فاجعه‌بار در لایحه شماره ۵۳ سنای کالیفرنیا شباهت دارند؛ لایحه‌ای که اخیراً به قانون تبدیل شده است. این شباهت از شکل‌گیری تلاشی برای تعیین معیارهای قابل اندازه‌گیری جهت شناسایی تهدیدهای بسیار جدی مرتبط با هوش مصنوعی حکایت دارد؛ رویکردی که به‌جای اتکای کامل به ارزیابی‌های کلی از توانایی‌های یک سامانه، بر شاخص‌های مشخص تأکید می‌کند.
در فرایند بررسی پیشنهادی، ارزیابان مستقلی مشارکت خواهند داشت که در وزارت بازرگانی ثبت شده‌اند. به گزارش پولیتیکو، شرکت‌های توسعه‌دهنده هوش مصنوعی می‌توانند هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه دستمزد ارزیابان به مثبت یا منفی بودن نتیجه بررسی وابسته نباشد.
با این حال، این سازوکار پرسش‌هایی درباره چگونگی حفظ استقلال ارزیابان مطرح می‌کند؛ به‌ویژه زمانی که آن‌ها از شرکت‌هایی بودجه دریافت می‌کنند که مدل‌هایشان را بررسی می‌کنند. شرط پرداخت هزینه با هدف کاهش یکی از تعارض‌های احتمالی منافع در نظر گرفته شده است، اما جزئیات موجود مشخص نمی‌کند که این سازوکار چگونه از سایر شکل‌های اعمال نفوذ جلوگیری خواهد کرد.
اگر ارزیابان به این نتیجه برسند که یک مدل تهدیدی فاجعه‌بار و قریب‌الوقوع ایجاد می‌کند، ۷۲ ساعت فرصت خواهند داشت تا وزارت بازرگانی را مطلع کنند. این وزارتخانه نیز باید از یک قاضی در واشنگتن دی‌سی درخواست کند که حکم توقف انتشار مدل را صادر کند.
یکی از ویژگی‌های اصلی این پیشنهاد آن است که نهادهای فدرال اجازه نخواهند داشت رأساً و با اتکا به اختیار خود مانع توزیع یک مدل شوند. در عوض، مداخله قضایی برای این کار ضروری خواهد بود؛ سازوکاری که محدودیتی حقوقی بر اختیار دولت برای جلوگیری از عرضه یک سامانه هوش مصنوعی ایجاد می‌کند.
شرکت‌های هوش مصنوعی با پرسش‌هایی درباره تدابیر حفاظتی و نظارت روبه‌رو هستند
این پیشنهاد در شرایطی مطرح شده است که نگرانی‌ها درباره ایمنی هوش مصنوعی بیش از پیش از سناریوهای فرضی و بدترین حالت‌ها فراتر رفته‌اند. رویدادهای اخیر مرتبط با عامل‌های هوش مصنوعی و امنیت سایبری، این پرسش را مطرح کرده‌اند که آیا مدل‌ها می‌توانند دستورهای انسان را به‌طور قابل اتکا دنبال کنند و در محدوده تعیین‌شده از سوی توسعه‌دهندگان خود باقی بمانند یا خیر.
گزارش‌هایی درباره انجام فعالیت‌های هکری غیرمجاز به دست سامانه‌های هوش مصنوعی یا اقدام آن‌ها فراتر از محدودیت‌های تعیین‌شده، بحث‌ها درباره تدابیر امنیتی لازم پیش از عرضه مدل‌های هرچه توانمندتر را تشدید کرده است. معیارهای پیشنهادی آنتروپیک به‌صراحت شامل خارج شدن مدل‌ها از کنترل توسعه‌دهندگان و حملات سایبری می‌شوند و به این ترتیب، برخی از این نگرانی‌ها را در چارچوب قانون پیشنهادی قرار می‌دهند.
آنتروپیک تنها شرکتی نیست که از افزایش نقش ارزیابی‌های بیرونی حمایت می‌کند. توسعه‌دهندگان هوش مصنوعی سازوکارهایی را بررسی کرده‌اند که در آن‌ها کارشناسان مستقل، توانایی‌های خطرناک یا موارد سوءاستفاده از سامانه‌ها را زیر نظر می‌گیرند. با این حال، همچنان اختلاف‌نظر وجود دارد که این ارزیابی‌ها باید داوطلبانه باشند، به‌طور مستقل مدیریت شوند یا با اختیارات الزام‌آور دولتی پشتیبانی شوند.
دمیس هاسابیس، رئیس گوگل دیپ‌مایند، پیش‌تر پیشنهاد کرده بود که یک نهاد ناظر بر هوش مصنوعی می‌تواند از الگوی سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) الهام بگیرد؛ نهادی که بر بخش‌هایی از صنعت اوراق بهادار آمریکا نظارت می‌کند. چنین پیشنهادهایی بازتاب تلاش‌ها برای یافتن سازوکاری هستند که تخصص فنی را با نظارت مستقل و معتبر ترکیب کند.
با این حال، پیش‌نویس آنتروپیک از مواضع برخی فعالان صنعت فراتر می‌رود، زیرا سازوکاری حقوقی برای متوقف کردن انتشار یک مدل پیشنهاد می‌کند. در مقابل، جنسن هوانگ، مدیرعامل انویدیا، استدلال کرده است که صنعت هوش مصنوعی به قوانین بیشتری نیاز ندارد.
میزان حمایت قانون‌گذاران از رویکرد آنتروپیک به این بستگی خواهد داشت که آن‌ها چگونه میان ایمنی عمومی و چالش‌های عملی و حقوقی محدود کردن توسعه هوش مصنوعی توازن برقرار کنند. این پیش‌نویس چارچوبی احتمالی ارائه می‌دهد، اما استقلال ارزیابان، تعریف خطر قریب‌الوقوع و دامنه مداخله قضایی همچنان از مسائل اصلی این بحث هستند.