آنتروپیک پیش‌نویس قانون هوش مصنوعی را با امکان تعلیق قضایی محدود پیشنهاد می‌کند
نمایندگان شرکت آنتروپیک پیش‌نویس قانونی را به قانون‌گذاران آمریکا پیشنهاد کرده‌اند که به دولت فدرال اجازه می‌دهد فقط در مواجهه با خطرهای فاجعه‌بار، قریب‌الوقوع و به‌دقت تعریف‌شده، از دادگاه درخواست کند عرضه یا استفاده از مدل‌های پیشرفته هوش مصنوعی را به‌طور موقت متوقف کند. به گزارش رویترز، این پیشنهاد هنوز به قانون تبدیل نشده است.
آستانه بالای مداخله دولت
رویترز در ۱۶ اکتبر گزارش داد که نمایندگان آنتروپیک این پیش‌نویس را به قانون‌گذاران ارائه کرده‌اند. این گزارش به مطلبی از پولیتیکو استناد می‌کرد که بر پایه اطلاعات سه فرد آگاه از این تلاش تهیه شده بود. بر اساس مفاد گزارش‌شده، مداخله دولت زمانی توجیه‌پذیر خواهد بود که خطر قابل پیش‌بینی و قریب‌الوقوع، بیش از یک میلیارد دلار خسارت مالی ایجاد کند یا به کشته‌شدن یا آسیب جدی بیش از ۵۰ نفر بینجامد. این خطر باید ناشی از یکی از سه وضعیت باشد: سلاح زیستی، فرار مدل از کنترل‌های توسعه‌دهنده آن یا حمله سایبری.
این آستانه‌ها به اقدام دولت برای جلوگیری از عرضه یا استفاده از یک مدل مربوط می‌شوند؛ بر اساس اطلاعات منتشرشده، نمی‌توان آن‌ها را تعریف جامعی از تمام الزامات پیشنهادی برای آزمایش یا افشای اطلاعات دانست. سه دسته خطر گزارش‌شده عبارت‌اند از:
- ساخت یا انتشار سلاح زیستی؛
- فرار یک مدل از کنترل‌های توسعه‌دهنده آن؛
- حمله سایبری منتسب به مدل.
طبق مفاد گزارش‌شده پیش‌نویس، توسعه‌دهندگان هوش مصنوعی پیشرفته باید به‌صورت دوره‌ای تحت ارزیابی ارزیابان مستقلی قرار گیرند که در وزارت بازرگانی آمریکا ثبت شده‌اند. شرکت‌ها می‌توانند هزینه این ارزیابی‌ها را بپردازند، اما پرداخت نباید به نتیجه بررسی وابسته باشد. اگر ارزیاب در یکی از دسته‌های مشخص‌شده خطری قریب‌الوقوع تشخیص دهد، موظف است حداکثر تا ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را مطلع کند.
سازوکار اجرای قانون نیز به‌طور مشخص تعریف شده است. وزارت بازرگانی می‌تواند از یک قاضی فدرال در ناحیه کلمبیا درخواست کند فعالیت یک مدل را به حالت تعلیق درآورد. بر اساس متن گزارش‌شده، سایر نهادها یا مقام‌های فدرال اجازه نخواهند داشت مستقلاً توسعه، استقرار یا استفاده داخلی از مدل را متوقف کنند. در نتیجه، تأیید قضایی محور مداخله اضطراری خواهد بود و اختیار توقف یک‌جانبه در دست یک نهاد نظارتی قرار نمی‌گیرد.
آنتروپیک این پیشنهاد را به چارچوب عمومی خود پیوند می‌دهد
سخنگوی آنتروپیک به رویترز گفت که این پیش‌نویس بازتاب‌دهنده پیشنهادهای مطرح‌شده در «چارچوب هوش مصنوعی پیشرفته» این شرکت است که در سال ۲۰۲۶ منتشر شد. این چارچوب از توسعه‌دهندگان مدل‌های پیشرفته می‌خواهد مدل‌های خود را آزمایش کنند، یافته‌هایشان را منتشر سازند، ارزیابی مستقل دریافت کنند و برنامه‌های امنیتی داشته باشند. سوءاستفاده زیستی، توانایی‌های سایبری، ازدست‌رفتن کنترل و استفاده از سامانه‌های هوش مصنوعی برای تسریع پژوهش در همین حوزه، از جمله زمینه‌های نگرانی تعیین‌شده در این چارچوب هستند.
چارچوب عمومی آنتروپیک برای تعیین شرکت‌ها و مدل‌های مشمول، هم به میزان محاسبات مورد استفاده در آموزش مدل و هم به ابعاد فعالیت شرکت توجه می‌کند. بر این اساس، آستانه محاسباتی بیش از ۱۰ به توان ۲۵ عملیات ممیز شناور است و شرکت باید علاوه بر آن، بیش از ۵۰۰ میلیون دلار درآمد مرتبط با هوش مصنوعی یا بیش از یک میلیارد دلار هزینه تحقیق‌وتوسعه در این حوزه داشته باشد. آستانه خطر فاجعه‌بار در پیش‌نویس گزارش‌شده را نباید با این معیارهای شمول اشتباه گرفت: معیارهای نخست مشخص می‌کنند کدام شرکت‌ها یا سامانه‌ها مشمول تعهدات می‌شوند، در حالی که معیار دوم شرطی را تعیین می‌کند که دولت برای درخواست توقف فعالیت یک مدل باید به آن استناد کند.
آنتروپیک همچنین پیش‌تر اعلام کرده بود که اعطای اختیار به دولت فدرال نباید به‌طور خودکار قوانین ایالتی را بی‌اثر کند. این شرکت در چارچوبی که در ژوئن منتشر کرد، گفته است کنگره فقط در صورتی باید قوانین ایالتی را کنار بزند که نظام فدرالی دست‌کم به‌اندازه پیشنهاد آنتروپیک سخت‌گیرانه باشد. به گفته شرکت، چنین اقدامی نیز باید به حوزه‌های ایمنی‌ای محدود شود که قانون فدرال پوشش می‌دهد. روزنامه استریتس تایمز گزارش داد که پیش‌نویس تازه منتشرشده برخی قوانین ایالتی را بی‌اثر می‌کند؛ مسئله‌ای مهم که این پرسش را مطرح می‌سازد که چنین بندی چگونه با موضع قبلی آنتروپیک سازگار است.
کنگره پیش‌تر طرح رقیبی ارائه کرده است
این پیش‌نویس هم‌زمان با لایحه H.R. 9925، موسوم به قانون FRONTIER، مطرح شده است. این لایحه را جی اوبرنولته، نماینده مجلس نمایندگان آمریکا، در ۲۳ ژوئیه با حمایت مشترک نمایندگانی از هر دو حزب ارائه کرد. متن آن از طریق دفتر انتشارات دولت آمریکا در دسترس عموم است و برای بررسی به کمیته‌های انرژی و بازرگانی و علوم، فضا و فناوری مجلس نمایندگان ارجاع شده است. این لایحه هنوز به قانون تبدیل نشده است.
لایحه H.R. 9925 نیز برای تعریف خطر فاجعه‌بار، به احتمال آسیب‌دیدن بیش از ۵۰ نفر یا خسارت مالی بیش از یک میلیارد دلار اشاره می‌کند؛ با این حال، چارچوب قانونی گسترده‌تری برای کاهش خطر، راستی‌آزمایی مستقل، گزارش‌دهی رخدادها و نظارت فدرال در نظر گرفته است. در این لایحه، یک مدل پیشرفته با آستانه محاسباتی بیش از ۱۰ به توان ۲۶ عملیات در فرایند آموزش تعریف می‌شود. در مقابل، مفاد پیشنهادی آنتروپیک تاکنون از طریق گزارش‌های رسانه‌ای منتشر شده‌اند و متن آن به‌عنوان یک لایحه رسمی در کنگره ثبت نشده است؛ بنابراین، هنوز امکان مقایسه بندبه‌بند دو طرح وجود ندارد.
این تفاوت اهمیت دارد: یکسان‌بودن برخی اعداد به معنای یکسان‌بودن دو رویکرد نیست. دامنه توسعه‌دهندگان مشمول، انواع خطرهایی که باید گزارش شوند، نقش نهادهای دولتی، استقلال ارزیابان و تضمین‌های قضایی، همگی تعیین می‌کنند که دولت و شرکت‌ها در عمل تا چه اندازه اختیار خواهند داشت.
سیاست فدرال هنوز به ثبات نرسیده است
رویکرد کنونی آمریکا ترکیبی از اقدامات قوه مجریه و پیشنهادهای قانونی کنگره است. فرمان کاخ سفید در ۲ ژوئن، فرایندی داوطلبانه ایجاد کرد که بر اساس آن، برخی توسعه‌دهندگان مدل‌های پیشرفته می‌توانند دسترسی زودهنگام دولت به تعدادی از سامانه‌های خود را برای بررسی امنیت سایبری فراهم کنند. در متن این فرمان به‌صراحت آمده است که این اقدام، نظام صدور مجوز اجباری دولتی یا دریافت تأییدیه پیش از عرضه مدل‌های جدید را ایجاد نمی‌کند.
پیش‌نویس آنتروپیک بحث را به سمت تعهدات قانونی سوق می‌دهد، اما برای مداخله محدودکننده‌تر، یعنی توقف عرضه یا استفاده از یک مدل، آستانه بالایی تعیین می‌کند. چارلی بولاک از مؤسسه حقوق و هوش مصنوعی که استریتس تایمز از او نقل‌قول کرده، این پیشنهاد را معقول، اما ضعیف‌تر از قانون FRONTIER دانسته است. این ارزیابی تعارض میان دو ملاحظه سیاست‌گذاری را نشان می‌دهد: محدودکردن دامنه مداخله می‌تواند مانع گسترش بیش از حد کنترل دولت شود، اما در عین حال ممکن است توانایی مقام‌ها برای اقدام پیش از رسیدن خطر به آستانه تعیین‌شده را کاهش دهد.
رویترز گزارش داد که وزارت بازرگانی آمریکا بلافاصله به درخواست این خبرگزاری برای اظهارنظر پاسخ نداده است. گام بعدی در بحث سیاست‌گذاری این است که آیا قانون‌گذاران این پیشنهاد را بررسی خواهند کرد و چگونه میان ایمنی مدل‌ها، اختیارات ایالت‌ها، نوآوری و نظارت قضایی توازن برقرار می‌کنند.