طرح ایمنی هوش مصنوعی آنتروپیک؛ محدودیتی که اختیار مسدودسازی مدل‌ها را به قضات می‌سپارد
آنتروپیک به‌تازگی طرحی برای قانون ایمنی هوش مصنوعی به قانون‌گذاران فدرال آمریکا ارائه کرده که در ظاهر با هدف حفاظت از مردم تدوین شده، اما شرطی بحث‌برانگیز در دل خود دارد. بر اساس این پیشنهاد، نهادهای دولتی تنها زمانی می‌توانند مانع عرضه یک مدل هوش مصنوعی شوند که آن مدل خطر معتبر مرگ دست‌کم ۵۰ نفر را ایجاد کند؛ حتی در این صورت نیز توقف عرضه به اجازه قاضی نیاز خواهد داشت. این چارچوب سیاست‌گذاری در شرایطی مطرح شده که آنتروپیک پیش از عرضه اولیه احتمالی سهام خود با شرکای ابری‌اش با تنش‌هایی روبه‌روست و می‌کوشد پیش از آنکه کنگره قواعد را تعیین کند، بر شکل‌گیری مقررات تأثیر بگذارد.
شرکت سازنده هوش مصنوعی کلود می‌خواهد پیش از آنکه واشنگتن برایش قانون‌گذاری کند، در تدوین قواعد نقش داشته باشد. این شرکت به‌تازگی پیشنهادی سیاستی منتشر کرده که آن را اقدامی برای ایمنی هوش مصنوعی معرفی می‌کند، اما در عمل اختیارات نهادهای فدرال را برای مقابله با مدل‌های خطرناک محدود می‌سازد.
این طرح آستانه‌ای مشخص تعیین می‌کند: نهادهای دولتی تنها زمانی می‌توانند بررسی توقف یک مدل هوش مصنوعی را در دستور کار قرار دهند که آن مدل خطر معتبر مرگ ۵۰ نفر یا بیشتر را ایجاد کند. بااین‌حال، رسیدن به این آستانه نیز برای متوقف کردن عرضه کافی نیست؛ نهادهای فدرال باید ابتدا قاضی را متقاعد کنند که صدور دستور توقف ضروری است.
لزوم دریافت مجوز قضایی صرفاً یک مانع اداری کوچک نیست. این شرط عملاً بخشی از قدرت را از نهادهای نظارتی متخصص، که با خطرهای هوش مصنوعی آشنایی دارند، می‌گیرد و به قضاتی واگذار می‌کند که ممکن است از تخصص فنی لازم برخوردار نباشند. در عمل، شرکت‌ها می‌توانند به عرضه مدل‌هایی که احتمالاً خطرناک‌اند ادامه دهند، درحالی‌که چالش‌های حقوقی مسیر خود را در دادگاه‌ها طی می‌کنند.
زمان‌بندی این تلاش سیاستی آنتروپیک قابل‌توجه است. این شرکت در حال مدیریت روابط پیچیده‌ترش با شرکای زیرساخت ابری، از جمله آمازون و گوگل است؛ شرکت‌هایی که اکنون آنتروپیک را نه صرفاً مشتری، بلکه رقیب خود می‌بینند. آنتروپیک همچنین در شرایطی که با کمبود ظرفیت محاسباتی روبه‌روست، درباره انعقاد دومین قرارداد ۴۵ میلیارد دلاری تأمین زیرساخت محاسباتی با شرکت زیرساختی ان‌اسکیل گفت‌وگو کرده است.
این پیشنهاد در فضایی مطرح می‌شود که مقررات هوش مصنوعی در آمریکا از پیش پراکنده و چندپاره است. هفته گذشته، کاخ سفید در بحبوحه افزایش تنش‌های فناوری با پکن، استفاده از مدل هوش مصنوعی چینی دیپ‌سیک را در نهادهای فدرال ممنوع کرد. در همین حال، جنسن هوانگ، مدیرعامل انویدیا، خواستار همکاری با چین در زمینه ایمنی هوش مصنوعی شده است؛ موضوعی که پیچیدگی‌های ژئوپلیتیکی تنظیم مقررات این فناوری را برجسته می‌کند.
آنتروپیک خود را به‌عنوان گزینه‌ای ایمنی‌محور در رقابت هوش مصنوعی معرفی کرده است. این شرکت اخیراً متعهد شده است ۵ درصد از سهام خود را به صندوقی برای منافع عمومی اختصاص دهد و امکان ارزیابی سامانه‌هایش به دست حسابرسان مستقل را فراهم کرده است؛ ارزیابی‌هایی که با هدف بررسی ایمنی و در مقیاسی کم‌سابقه انجام می‌شوند. بااین‌حال، پیشنهاد تازه این شرکت رویکردی پیچیده‌تر را نشان می‌دهد: حمایت از نظارت در سطح اصول، همراه با محدود کردن آن در عمل.
خودِ تعیین آستانه مرگ ۵۰ نفر نیز پرسش‌هایی درباره نحوه ارزیابی خطر پیش از عرضه مدل ایجاد می‌کند. پژوهشگران ایمنی هوش مصنوعی مدت‌هاست درباره سناریوهای فاجعه‌بار هشدار می‌دهند؛ از کمک به طراحی سلاح‌های زیستی گرفته تا حمله به زیرساخت‌های حیاتی. اما برآورد شمار قربانیان پیش از عرضه یک مدل مستلزم گمانه‌زنی درباره این است که افراد بدخواه چگونه ممکن است از آن برای مقاصد مخرب استفاده کنند.
برای آنتروپیک، پیش‌دستی در شکل‌دهی به مقررات از نظر تجاری منطقی است. گفته می‌شود این شرکت در حال آماده‌سازی برای عرضه اولیه سهام است و ابهام‌های قانونی می‌توانند بر ارزش‌گذاری آن اثر بگذارند. چارچوبی که در ظاهر بر ایمنی تأکید دارد، اما استقلال عمل شرکت‌ها را حفظ می‌کند، ممکن است هم سرمایه‌گذاران را راضی کند و هم به قانون‌گذارانی اطمینان دهد که در حال رسیدگی به خطرهای هوش مصنوعی هستند.
این سیاست همچنین بازتاب‌دهنده نگرانی گسترده‌تر صنعت از گسترش مقرراتی مشابه قوانین کالیفرنیا به سراسر آمریکا است. صنعت هوش مصنوعی پیش‌تر با موفقیت علیه لایحه ۱۰۴۷ کالیفرنیا لابی کرده بود؛ طرحی که قرار بود الزامات سخت‌گیرانه‌ای برای ایمنی مدل‌های پیشرفته هوش مصنوعی وضع کند. پیشنهاد فدرال آنتروپیک نیز ظاهراً با هدف پیشگیری از تلاش‌های مشابه در سطح ملی طراحی شده است.
شرط تأیید قضایی به‌ویژه به‌عنوان مانعی جدی در برابر مقررات‌گذاری سخت‌گیرانه مطرح است. دادگاه‌ها معمولاً در مسائل فنی به تخصص نهادهای دولتی اتکا می‌کنند، اما الزام به دریافت تأیید قضایی برای مسدود کردن هر مدل می‌تواند تأخیر و ابهام حقوقی ایجاد کند. چنین وضعی ممکن است حتی زمانی که خطرها روشن‌اند، اجرای مقررات را دشوار سازد.
رقبای آنتروپیک نیز این تحولات را از نزدیک دنبال می‌کنند. اوپن‌ای‌آی و گوگل راهبردهای نظارتی خاص خود را دارند؛ در همین حال، استارتاپ‌هایی مانند رپلیت درباره انتخاب ارائه‌دهندگان هوش مصنوعی، بر اساس هزینه تصمیم‌های عملی می‌گیرند، نه صرفاً نمایش ظاهری تعهد به ایمنی.
این پیشنهاد همچنین هم‌زمان با اقدام انویدیا برای اختصاص ۲۵۰ میلیون دلار به زیرساخت ایمنی هوش مصنوعی در بریتانیا مطرح شده است؛ اقدامی که نشان می‌دهد شرکت‌ها در حوزه‌های قضایی مختلف راهبردهای متفاوتی برای مواجهه با مقررات در پیش می‌گیرند. رویکردی که در وست‌مینستر پذیرفته می‌شود، لزوماً در کنگره آمریکا نیز پذیرفتنی نخواهد بود.
در حال حاضر، لایحه پیشنهادی آنتروپیک صرفاً یک طرح است. بااین‌حال، این پیشنهاد دیدگاه شرکت را درباره شکل مطلوب مقررات هوش مصنوعی آشکار می‌کند: مقررات باید به‌اندازه‌ای قابل‌مشاهده باشند که به مردم اطمینان دهند، به‌اندازه‌ای محدود بمانند که انعطاف‌پذیری صنعت حفظ شود و به‌گونه‌ای تنظیم شوند که اختیار نهایی به‌جای نهادهای دولتی در دست دادگاه‌ها باشد.
پیشنهاد قانون ایمنی آنتروپیک قماری حساب‌شده بر این فرض است که کنگره چارچوبی را می‌پذیرد که در ظاهر از مردم محافظت می‌کند، اما در عمل محدودیت چندانی بر صنعت تحمیل نمی‌کند. شرط مرگ دست‌کم ۵۰ نفر توجه‌ها را جلب می‌کند، اما مسئله اصلی الزام به تأیید قضایی است؛ شرطی که می‌تواند فرایند مسدود کردن مدل‌های خطرناک را آن‌قدر پیچیده کند که نهادهای دولتی از پیگیری آن منصرف شوند. با شتاب گرفتن رقابت شرکت‌ها برای ساخت سامانه‌های هوش مصنوعی توانمندتر، پرسش اصلی دیگر این نیست که آیا مقرراتی وضع خواهد شد یا نه، بلکه این است که آیا این مقررات قدرت اجرایی واقعی خواهند داشت یا فقط ظاهر نظارت را حفظ می‌کنند. آنتروپیک شرط بسته است که واشنگتن گزینه دوم را انتخاب خواهد کرد.