لایحه ضعیف آنتروپیک، ادعای «ایمنی در اولویت» این شرکت را زیر سؤال می‌برد
لایحه ضعیف آنتروپیک، ادعای «ایمنی در اولویت» این شرکت را زیر سؤال می‌برد
زیرعنوان: پیش‌نویس افشاشده این لایحه از قانون FRONTIER ضعیف‌تر است و ادعای آنتروپیک درباره اولویت دادن به ایمنی را بی‌اعتبار می‌کند.
نویسنده: شکیل هاشیم
آنتروپیک همواره خود را شرکتی معرفی کرده است که ایمنی هوش مصنوعی را در اولویت قرار می‌دهد؛ شرکتی که حاضر است حتی به زیان منافع خودش، هزینه‌های سنگین بپردازد و برای وضع مقررات سخت‌گیرانه‌تر در حوزه هوش مصنوعی تلاش کند. این شرکت سال‌ها بر این ایده تأکید داشته که پیشتازی در زمینه هوش مصنوعی، امکان حضور در مراکز تصمیم‌گیری در واشنگتن را فراهم می‌کند؛ جایگاهی که می‌توان از آن برای حمایت از سیاست‌هایی استفاده کرد که توان مقابله با خطرات فاجعه‌بار این فناوری را دارند.
اما پیش‌نویس افشاشده یک لایحه فدرال درباره هوش مصنوعی که آنتروپیک آن را میان قانون‌گذاران توزیع کرده و روز جمعه در نشریه پولیتیکو منتشر شد، ادعای این شرکت درباره اولویت دادن به ایمنی را توخالی جلوه می‌دهد. این لایحه که انتقادهای گسترده‌ای از سوی مدافعان ایمنی هوش مصنوعی برانگیخته، در مقایسه با لایحه FRONTIER ارائه‌شده از سوی اوبرنولته و ترهان بسیار ضعیف‌تر است. حتی می‌توان گفت که این پیشنهاد، از نظر حقوقی، جلوگیری از عرضه یک مدل هوش مصنوعی خطرناک را دشوارتر از وضعیت کنونی می‌کند. متن لایحه این تصور را ایجاد می‌کند که منافع تجاری آنتروپیک بر نگرانی‌های اعلام‌شده این شرکت درباره ایمنی غلبه کرده است. در شرایطی که فرصت برای پیشبرد سیاست‌گذاری هوش مصنوعی بیش از هر زمان دیگری فراهم به نظر می‌رسد، این لایحه ممکن است راه را بر مقررات سخت‌گیرانه‌تر در آینده ببندد؛ آن هم در حالی که بنا بر اذعان خود آنتروپیک، خطرات هوش مصنوعی روزبه‌روز بزرگ‌تر می‌شوند.
سه بخش از این لایحه که متن کامل آن را می‌توان در اینجا خواند، به‌ویژه قابل توجه‌اند. این طرح نیز مانند قانون FRONTIER، شرکت‌های هوش مصنوعی را ملزم می‌کند مدل‌ها و رویه‌های خود را از نظر خطرات فاجعه‌بار به ارزیابی نهادهای مستقل بسپارند. اما برخلاف قانون FRONTIER، برای ارزیابان هیچ استاندارد یا مجوز اجباری در نظر گرفته نشده است و آن‌ها می‌توانند صلاحیت خود را شخصاً تأیید کنند. چارلی بولاک از مؤسسه LawAI در توضیح خود هشدار می‌دهد که در چنین شرایطی، «ارزیابان ناگزیر با یکدیگر رقابت خواهند کرد تا ممیزی‌هایی را با کمترین دردسر و پایین‌ترین قیمت ممکن ارائه دهند.»
این لایحه همچنین سد کردن راه عرضه یک مدل خطرناک را بسیار دشوار می‌کند. اگر وزارت بازرگانی آمریکا، که طبق پیشنهاد آنتروپیک مسئول این کار خواهد بود، بخواهد جلوی عرضه چنین مدلی را بگیرد، باید به دادگاه فدرال مراجعه کند و با ارائه استدلالی مفصل، خطرناک بودن مدل را اثبات کند. این استدلال باید مستقل از هرگونه نظر ارزیاب بیرونی باشد. دادگاه نیز باید تمام مسائل را بدون اعطای وزن یا اولویت ویژه به نظر وزارت بازرگانی یا ارزیابان مستقل بررسی کند. افزون بر این، دادگاه موظف است «آسیبی را که دستور منع عرضه به توسعه‌دهنده مدل‌های پیشرفته، کاربران و عموم مردم وارد می‌کند» در نظر بگیرد. ناتان کالوین از شرکت Encode که گفته است این لایحه او را از شدت خشم به واکنشی عمیق و غریزی واداشته، یادآوری می‌کند که در متن از دادگاه خواسته نشده است آسیب‌های احتمالی در جهت مخالف را نیز بررسی کند؛ برای مثال، زیانی که در صورت جلوگیری نکردن از عرضه مدل ممکن است به عموم مردم وارد شود.
این مسائل در کنار موضوع همواره مناقشه‌برانگیزِ تقدم قوانین فدرال بر قوانین ایالتی قرار می‌گیرند. آنتروپیک در بیشتر موارد، رویکردی مشابه قانون FRONTIER در پیش گرفته است: قوانینی مانند SB 53 کالیفرنیا، RAISE نیویورک و SB 315 ایلینوی که برای تنظیم‌گری هوش مصنوعی پیشرفته تدوین شده‌اند، بی‌اثر خواهند شد؛ هرچند قوانین مربوط به ایمنی کودکان و برخی حوزه‌های دیگر صراحتاً از این محدودیت مستثنا شده‌اند. بااین‌حال، برخلاف قانون FRONTIER، متن پیشنهادی آنتروپیک به‌گونه‌ای تنظیم شده است که مجالس قانون‌گذاری ایالت‌ها و دادگاه‌های آن‌ها نتوانند به دلیل خطرات فاجعه‌بار، فعالیت مربوط به یک مدل را متوقف کنند. کالوین می‌گوید این بند «احتمالاً باعث می‌شود صدور حکم قضایی برای متوقف کردن یا محدود کردن توسعه مدل‌های پیشرفته، از نظر حقوقی دشوارتر از قوانین فعلی شود.»
مشکل دیگر، انعطاف‌ناپذیری چشمگیر این لایحه است. این طرح به وزارت بازرگانی اجازه نمی‌دهد در آینده برای ارزیابان هوش مصنوعی استاندارد تعیین کند یا مشخص سازد که چه معیاری یک مدل هوش مصنوعی را واقعاً «ایمن» می‌کند. از سوی دیگر، با کنار گذاشته شدن قوانین ایالتی، تنها راه وضع مقررات سخت‌گیرانه‌تر، اقدام کنگره خواهد بود. با توجه به دیدگاه آنتروپیک درباره سرعت پیشرفت هوش مصنوعی، چنین رویکردی قابل دفاع نیست. جک کلارک، از بنیان‌گذاران شرکت، اخیراً گفته است که به باور او، ممکن است هوش مصنوعی تا سال آینده به خودبهبوددهی بازگشتی کامل برسد؛ فرایندی که در آن سامانه با بهبود توانایی‌های خود، زمینه بهبودهای بعدی را نیز فراهم می‌کند. نات پورسر از AVERI در همین زمینه می‌گوید: «اگر قرار است بسیاری از قوانین ایالتی مربوط به ایمنی را بی‌اثر کنید، دست‌کم باید نظامی فدرال برای تنظیم‌گری ایجاد کنید که بتواند به‌مرور زمان تکامل یابد.»
البته این لایحه کاملاً فاقد نکات مثبت نیست. در برخی زمینه‌ها پیشرفت‌های معناداری نسبت به قانون FRONTIER دارد؛ از جمله مقررات مناسبی درباره پروتکل‌های امنیتی شرکت‌های هوش مصنوعی و سازوکارهایی برای رسیدگی به شکست تدابیر مهار خطر و ریسک‌های ناشی از تحقیق‌وتوسعه خودکار هوش مصنوعی. اما یک گام رو به جلو با دو گام بزرگ به عقب خنثی می‌شود. زمان ارائه این پیشنهاد نیز انتقادها را جدی‌تر می‌کند. قانون FRONTIER در ماه ژوئیه معرفی شد؛ پیش‌نویس اولیه آن در ماه ژوئن مطرح شده بود، زمانی که ایمنی هوش مصنوعی اهمیت سیاسی کمتری داشت. از آن زمان، پس از تابستانی همراه با حوادث مربوط به رفتارهای کنترل‌نشده هوش مصنوعی و هشدار کارکنان درباره احتمال وقوع فاجعه، شرایط تغییر کرده است. انتظار می‌رود قوانین ایالتی سخت‌گیرانه‌تری به‌زودی تصویب شوند. اکنون زمان ارائه قوانین فدرال قوی‌تر است، نه طرح‌هایی ضعیف‌تر.
دلیل شکل‌گیری این لایحه چندان دشوار نیست. به‌وضوح به نظر می‌رسد که این پیشنهاد از سوی شرکتی تدوین شده که هدف اقدامات غیرقابل‌پیش‌بینی قوه مجریه قرار گرفته و اکنون بر حفاظت از خود متمرکز شده است. زوی موشویتز، نویسنده، در این باره می‌گوید: «آنتروپیک بیشتر از این می‌ترسد که دولت مقررات را علیه خود این شرکت اجرا کند تا اینکه نگران باشد دولت نتواند مقررات را علیه همه شرکت‌ها اجرا کند.»
بااین‌حال، هنوز می‌توان امیدوار بود که متن لایحه اصلاح شود. پس از آنکه پیش‌نویس افشاشده با موج انتقادها روبه‌رو شد، آنتونی چیمینو، مسئول امور فدرال آنتروپیک، اعلام کرد که عبارت‌بندی مربوط به تقدم قوانین فدرال بر قوانین ایالتی «به‌اندازه کافی دقیق نیست» و بازنگری خواهد شد. او همچنین اشاره کرد که برخی مشکلات دیگر لایحه ممکن است در پیشنهادهای سیاستی آینده مورد رسیدگی قرار گیرند.
اما نباید برای تدوین لایحه‌ای مناسب از سوی شرکتی که مدعی تعهد به ایمنی هوش مصنوعی است، به فشار و اعتراض عمومی نیاز باشد. واکنش شدید و خشمگینانه جامعه ایمنی هوش مصنوعی را می‌توان تا حدی نشانه احساس خیانت دانست: این تصور که شرکتی که قرار بود به این آرمان پایبند بماند، درست مانند دیگر شرکت‌ها، منافع تجاری خود را در اولویت قرار داده است.