آنتروپیک پیش‌نویس قانون ایمنی هوش مصنوعی را به قانون‌گذاران ارائه کرد
پیش‌نویس قانون ایمنی هوش مصنوعی آنتروپیک
بر اساس پیش‌نویس قانون فدرال هوش مصنوعی که شرکت آنتروپیک تهیه کرده است، دولت آمریکا تنها زمانی می‌تواند با توقف یک مدل پیشرفته هوش مصنوعی موافقت کند که قاضی تشخیص دهد این مدل خطری قریب‌الوقوع و قابل پیش‌بینی برای جان بیش از ۵۰ نفر یا خسارتی بیش از یک میلیارد دلار ایجاد می‌کند. آنتروپیک این پیش‌نویس محرمانه را به‌طور غیرعلنی به قانون‌گذاران ارائه کرده است و پس از چند روز انتقاد، اکنون می‌گوید برخی بخش‌های متن را تغییر خواهد داد.
نکات کلیدی
- بر اساس این پیش‌نویس، وزارت بازرگانی می‌تواند از قاضی بخواهد مدلی را متوقف کند که خطر آن برای مرگ یا جراحت جدی بیش از ۵۰ نفر، یا ایجاد خسارتی بیش از یک میلیارد دلار، قریب‌الوقوع و قابل پیش‌بینی باشد.
- ارزیابان مستقل ثبت‌شده نزد وزارت بازرگانی، مدل‌های آزمایشگاه‌های هوش مصنوعی را بررسی می‌کنند. آزمایشگاه‌ها می‌توانند هزینه این ارزیابی‌ها را بپردازند، اما پرداخت نباید به نتیجه ارزیابی وابسته باشد. ارزیابان نیز برای گزارش خطر قریب‌الوقوع ۷۲ ساعت فرصت خواهند داشت.
- پس از آنکه مدافعان ایمنی هوش مصنوعی پیش‌نویس را ضعیف خواندند، مسئول امور فدرال آنتروپیک اعلام کرد که این شرکت متن مربوط به تقدم قوانین فدرال بر قوانین ایالتی را اصلاح و مقرراتی برای ارزیابان تدوین خواهد کرد.
در چه شرایطی می‌توان یک مدل را متوقف کرد؟
این پیش‌نویس که نخستین بار در ۱۶ اکتبر گزارش شد، شرایط محدودی را برای مداخله تعیین می‌کند. خطر باید هم قابل پیش‌بینی باشد و هم در آستانه وقوع قرار داشته باشد. همچنین، منشأ آن باید تولید یا انتشار یک سلاح زیستی، گریز مدل از سازوکارهای کنترلی توسعه‌دهنده‌اش یا انجام یک حمله سایبری باشد.
آستانه‌های تعیین‌شده برای خسارت، یعنی مرگ یا جراحت جدی بیش از ۵۰ نفر یا خسارتی بیش از یک میلیارد دلار، با تعاریف خطر فاجعه‌بار در لایحه شماره ۵۳ سنای کالیفرنیا مطابقت دارند.
تنها وزارت بازرگانی اختیار اقدام خواهد داشت و این اختیار نیز فقط از طریق دادگاه قابل اعمال است. متن پیش‌نویس صراحتاً هرگونه اختیار دیگر وزارتخانه‌ها، سازمان‌ها یا مقام‌های دولت آمریکا را برای تعلیق توسعه، استقرار یا استفاده داخلی از یک مدل منع می‌کند.
چه نهادی آزمایشگاه‌های هوش مصنوعی را ارزیابی می‌کند؟
ارزیابان مستقل باید نزد وزارت بازرگانی ثبت‌نام کنند و به‌طور دوره‌ای آزمایشگاه‌های پیشرو هوش مصنوعی و توانمندترین مدل‌های آن‌ها را بررسی کنند. آزمایشگاه‌ها مجاز خواهند بود هزینه این ارزیابی‌ها را بپردازند، مشروط بر اینکه میزان پرداخت به نتیجه بررسی وابسته نباشد.
اگر ارزیابی نشان دهد خطری وجود دارد که در پیش‌نویس از آن با عنوان «خطر قریب‌الوقوع از انواع مشخص‌شده» یاد شده است، ارزیاب موظف خواهد بود حداکثر ظرف ۷۲ ساعت پس از پایان ارزیابی، وزارت بازرگانی را مطلع کند.
این لایحه همچنین آزمایشگاه‌ها را ملزم می‌کند چارچوب‌های ایمنی داشته باشند، گزارش‌های شفافیت درباره مدل‌های پیشرفته جدید منتشر کنند، از افشاگران تخلف حمایت کنند و حوادث مهم ایمنی را به وزارت بازرگانی گزارش دهند. این طرح برخی قوانین ایالتی درباره افشای عمومی خطرها، ارزیابی‌های شخص ثالث و گزارش‌دهی حوادث را کنار می‌زند، اما قوانین مربوط به ایمنی کودکان و حقوق مدنی را دست‌نخورده باقی می‌گذارد.
سخنگوی آنتروپیک گفت: «این لایحه پیشنهادهایی را در قالب چارچوب هوش مصنوعی پیشرفته آنتروپیک منعکس می‌کند؛ چارچوبی که از ماه ژوئن تاکنون برای پیشبرد آن نزد قانون‌گذاران فدرال و ایالتی تلاش کرده‌ایم.» او افزود: «ما معتقدیم این سیاست‌ها منطقی‌اند و کنگره باید آن‌ها را تصویب کند.»
انتقاد از دو سوی طیف
مدافعان ایمنی هوش مصنوعی، پیش‌نویس آنتروپیک را با لایحه دوحزبی مجلس نمایندگان موسوم به قانون FRONTIER مقایسه کرده‌اند؛ طرحی که نمایندگان جِی اوبرنولته و لوری ترهان در ماه ژوئیه ارائه کردند. شکیل هاشم در خبرنامه ترنسفورمر استدلال کرد که نسخه آنتروپیک هیچ استاندارد یا نظام صدور مجوزی برای ارزیابان تعیین نمی‌کند و حتی ممکن است به آن‌ها اجازه دهد صلاحیت خود را تأیید کنند. به گفته او، این پیش‌نویس همچنین متوقف کردن یک مدل را بسیار دشوارتر می‌کند.
چارلی بولاک از مؤسسه حقوق و هوش مصنوعی هشدار داد که در نبود نظام صدور مجوز، حسابرسان برای ارائه ارزان‌ترین و آسان‌گیرانه‌ترین بررسی‌ها با یکدیگر رقابت خواهند کرد. ناتان کالوین، مشاور حقوقی ارشد گروه مدافع حقوق و ایمنی هوش مصنوعی «انکود»، گفت این پیش‌نویس او را «از نظر غریزی به‌شدت خشمگین» کرده است.
اسکات وینر، سناتور ایالت کالیفرنیا و نویسنده لایحه SB 53، نیز در پیامی نوشت: «پیشنهاد ایمنی هوش مصنوعی آنتروپیک بسیار پایین‌تر از حد لازم برای حفاظت از سلامت و ایمنی عمومی است. کنگره باید فراتر از این برود.»
در سوی دیگر، مخالفان مقررات سخت‌گیرانه‌تر نیز به این پیش‌نویس اعتراض کردند. دیوید ساکس، که تا همین اواخر مسئول سیاست‌گذاری هوش مصنوعی در کاخ سفید بود، گفت آستانه پایین‌تر تعیین‌شده برای اندازه مدل‌های پیشرفته، «بخش عمده سیلیکون‌ولی را دربر خواهد گرفت» و به شرکت‌های نوپا آسیب می‌زند.
پاسخ آنتروپیک
آنتونی سیمینو، رئیس امور فدرال آنتروپیک، در ۱۸ اکتبر در شبکه اجتماعی ایکس به انتقادها پاسخ داد. او گفت این پیش‌نویس برای تعداد محدودی از دفاتر کنگره تهیه شده تا چارچوب شرکت به زبان قانون‌گذاری تبدیل شود. سیمینو همچنین پذیرفت که عبارت‌بندی مربوط به تقدم قوانین فدرال بر قوانین ایالتی به‌اندازه کافی دقیق نیست و باید اصلاح شود.
سیمینو نوشت: «هدف ما این است که وزارت بازرگانی بتواند با اتکا به ارزیابی یک ارزیاب مستقل، از دادگاه فدرال بخواهد مدلی را متوقف کند که قابلیت‌های خطرناک و تدابیر حفاظتی ناکافی دارد. اما نباید آستانه استفاده از این اختیار آن‌قدر بالا باشد که وقتی واقعاً به آن نیاز است، هرگز از آن استفاده نشود.»
او گفت آستانه‌های تعیین‌شده از قوانین کالیفرنیا گرفته شده‌اند، اما ممکن است لازم باشد دوباره بررسی شوند. به گفته او، آنتروپیک به‌زودی پیشنهادهایی درباره الزامات ارزیابان منتشر خواهد کرد؛ پیشنهادهایی که از جمله راه‌هایی برای جلوگیری از «ارزیاب‌گزینی» یا انتخاب ارزیاب بر اساس آسان‌گیری او را دربر می‌گیرد.
وضعیت بحث گسترده‌تر درباره مقررات هوش مصنوعی
رهبران صنعت هوش مصنوعی همچنان اختلاف‌نظر زیادی دارند. دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، در ماه ژوئیه پیشنهاد تشکیل نهادی برای تدوین استانداردها با تأمین مالی صنعت را مطرح کرد؛ نهادی که الگوبرداری از سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) را در نظر داشت. او پس از آن، حملات اخیر به عامل‌های هوش مصنوعی را هشدارهایی اولیه توصیف کرد. در سوی مقابل، جنسن هوانگ، مدیرعامل انویدیا، در ماه سپتامبر استدلال کرد که صنعت به قوانین یا مقررات جدید هوش مصنوعی نیازی ندارد و نیروهای بازار شرکت‌ها را وادار خواهند کرد که ایمنی را رعایت کنند. مجموعه‌ای از حوادث مربوط به عامل‌های خودسر هوش مصنوعی در سال جاری، از جمله حمله سایبری ماه ژوئیه به هاجینگ‌فیس با استفاده از عامل‌های آزمایشی اوپن‌ای‌آی، فشار بر قانون‌گذاران را برای انتخاب رویکردی مشخص افزایش داده است.
کنگره چند گزینه پیش رو دارد و متن پیشنهادی آنتروپیک تنها یکی از ورودی‌های این فرایند است. بسیاری از مدافعان ایمنی، آن را با قانون FRONTIER مقایسه می‌کنند و سناتورها، جان تون، ایمی کلوبوچار و تد کروز نیز در حال مذاکره درباره طرح خود هستند. منتقدان می‌گویند پیش‌نویس آنتروپیک متوقف کردن یک مدل خطرناک را دشوارتر می‌کند، در حالی که این شرکت تأکید دارد خواهان قوی‌ترین استاندارد پیشنهادی است. کاخ سفید نیز گروه ویژه‌ای با عنوان «هوش فوق‌پیشرفته» تشکیل داده که بررسی ۱۲۰روزه خود را دنبال می‌کند. در اروپا نیز نهادهای ناظر نخستین پرونده اجرای قانون هوش مصنوعی اتحادیه اروپا علیه اوپن‌ای‌آی و آنتروپیک را گشوده‌اند.
نویسنده: آلیوس نوریکا