آنتروپیک لایحه‌ای برای ایمنی هوش مصنوعی پیشنهاد می‌کند؛ با آستانه‌های سخت‌گیرانه برای مداخله دولت
نکات مهم
- بر اساس گزارش چند رسانه خبری، آنتروپیک پیش‌نویس لایحه‌ای درباره ایمنی هوش مصنوعی را در اختیار قانون‌گذاران آمریکایی قرار داده است.
- این پیشنهاد آستانه‌هایی مشخص می‌کند که شامل احتمال مرگ یا آسیب جدی به بیش از ۵۰ نفر یا خسارت مالی بیش از یک میلیارد دلار است.
- خطرهای مشمول این طرح شامل سلاح‌های زیستی، حملات سایبری و مدل‌های هوش مصنوعی‌ای است که از کنترل سازندگان خود خارج می‌شوند.
- ارزیابان مستقل خطرها را بررسی می‌کنند و نگرانی‌های واجد شرایط را به وزارت بازرگانی آمریکا گزارش می‌دهند.
- بر اساس این پیشنهاد، توقف عرضه یک مدل از طریق این فرایند مستلزم دخالت دستگاه قضایی خواهد بود.
آنتروپیک چارچوبی برای نظارت فدرال بر ایمنی هوش مصنوعی پیشنهاد می‌کند
آنتروپیک از ایجاد چارچوبی فدرال حمایت می‌کند که مشخص کند دولت آمریکا در چه شرایطی می‌تواند برای جلوگیری از عرضه یا استفاده از یک مدل پیشرفته هوش مصنوعی مداخله کند. پیش‌نویس این لایحه که در اختیار قانون‌گذاران قرار گرفته، بر موقعیت‌هایی محدود و دقیق تمرکز دارد که ممکن است به آسیب‌هایی فاجعه‌بار منجر شوند.
این پیشنهاد در شرایطی مطرح شده است که سیاست‌گذاران درباره نحوه تنظیم مقررات برای سامانه‌های هرچه توانمندتر هوش مصنوعی بحث می‌کنند؛ به‌گونه‌ای که نه مانع غیرضروری توسعه این فناوری شوند و نه تدابیر محافظتی در برابر خطرهای جدی را تضعیف کنند. توسعه‌دهندگان هوش مصنوعی بارها درباره تهدیدهای احتمالی در حوزه امنیت سایبری، سلاح‌های زیستی و سامانه‌هایی هشدار داده‌اند که ممکن است برخلاف کنترل‌های موردنظر سازندگانشان عمل کنند. چالش اصلی سیاست‌گذاری این است که این خطرها چگونه ارزیابی شوند و در چه نقطه‌ای مداخله دولت توجیه‌پذیر باشد.
بر اساس پیشنهاد آنتروپیک، اگر یک مدل خطری قابل پیش‌بینی و قریب‌الوقوع ایجاد کند که به خسارت مالی بیش از یک میلیارد دلار یا مرگ یا آسیب جدی به بیش از ۵۰ نفر منجر شود، ممکن است با محدودیت روبه‌رو شود. این خطر همچنین باید ناشی از یکی از سه عامل مشخص باشد: ایجاد یا انتشار سلاح زیستی، خارج شدن مدل از کنترل سازنده یا وقوع حمله سایبری.
این موارد آستانه‌های حقوقی پیشنهادی هستند و هنوز به الزامات قانونی در یک قانون فدرال مصوب درباره ایمنی هوش مصنوعی تبدیل نشده‌اند. پیش‌نویس می‌خواهد فرایندی مشخص برای ارزیابی خطرهای شدید و پیگیری محدودیت‌های مربوط به استقرار مدل‌ها ایجاد کند.
آستانه‌های بالا، شرایط مداخله را مشخص می‌کنند
آستانه‌های پیشنهادی یکی از ویژگی‌های اصلی این لایحه‌اند. این چارچوب به‌جای آنکه اختیار گسترده‌ای برای متوقف کردن مدل‌های هوش مصنوعی در هر شرایطی که مقام‌ها نگرانی ایمنی مطرح کنند به دولت بدهد، مداخله را به موقعیت‌هایی محدود می‌کند که احتمال وقوع آسیب جدی و قریب‌الوقوع در آن‌ها وجود دارد.
این تمایز اهمیت دارد، زیرا سامانه‌های هوش مصنوعی می‌توانند انواع مختلفی از خطر را ایجاد کنند. برخی نگرانی‌ها به خطاهای معمول، خروجی‌های غیرقابل اتکا یا سوءاستفاده مربوط می‌شوند که ممکن است بتوان با تدابیر ایمنی محصولات و سازوکارهای حقوقی موجود به آن‌ها رسیدگی کرد. اما سناریوهای مطرح‌شده در پیش‌نویس آنتروپیک بر پیامدهای بسیار شدیدتر تمرکز دارند؛ از جمله آسیب‌های جسمی گسترده، حملات سایبری جدی یا تولید سلاح‌های زیستی.
تعیین آستانه خسارت مالی بیش از یک میلیارد دلار نیز معیار دیگری برای تشخیص خطرهای مشمول این طرح است. بااین‌حال، اهمیت عملی چنین آستانه‌هایی به این بستگی دارد که قانون چگونه مفاهیم قابل پیش‌بینی بودن و قریب‌الوقوع بودن خطر، شواهد لازم و رابطه میان توانایی‌های یک مدل و پیامد زیان‌بار احتمالی را تعریف کند.
گزارش‌های ارائه‌شده مشخص نمی‌کنند که همه موارد مرزی چگونه تعیین تکلیف خواهند شد یا در صورت اختلاف میان ارزیابی‌های خطر چه رویکردی در پیش گرفته می‌شود. پاسخ به این پرسش‌ها برای سنجش توانایی چارچوب پیشنهادی در مقابله مؤثر با تهدیدهای نوظهور، بدون ایجاد ابهام بیش از حد برای توسعه‌دهندگان هوش مصنوعی، اهمیت خواهد داشت.
بنابراین، این پیشنهاد پرسشی گسترده‌تر را پیش روی نهادهای تنظیم‌گر قرار می‌دهد: قانون چگونه می‌تواند میان یک احتمال نظری و تهدیدی به‌اندازه کافی معتبر و نزدیک تمایز بگذارد تا توقف عرضه یک مدل را توجیه کند؟
ارزیابان مستقل، خطرهای هوش مصنوعی پیشرفته را بررسی می‌کنند
یکی از عناصر اصلی این پیشنهاد، ایجاد نظامی از ارزیابان مستقل است که در وزارت بازرگانی آمریکا ثبت شده باشند. این ارزیابان قرار است توسعه‌دهندگان هوش مصنوعی و مدل‌های پیشرفته آن‌ها را از نظر خطرهای مشخص‌شده بررسی کنند.
بر اساس پیش‌نویسی که رسانه‌ها گزارش کرده‌اند، اگر ارزیابی نشان دهد خطری قریب‌الوقوع و واجد شرایط وجود دارد، ارزیاب باید حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را مطلع کند. سپس این وزارتخانه باید از طریق فرایند پیشنهادی، از دستگاه قضایی درخواست کند که عرضه مدل را متوقف کند.
هدف این چارچوب آن است که ارزیابی بیرونی را جایگزین وضعیتی کند که در آن تصمیم‌های حیاتی درباره ایمنی کاملاً در اختیار شرکت‌های سازنده سامانه‌ها قرار دارند. ارزیابی مستقل می‌تواند مبنایی منسجم‌تر برای بررسی توانایی مدل‌ها، تدابیر کنترلی ایمنی و خطرهای فاجعه‌بار احتمالی فراهم کند.
بااین‌حال، شیوه تأمین مالی پیشنهادی پرسش‌هایی درباره استقلال ارزیابان ایجاد می‌کند. شرکت‌های توسعه‌دهنده هوش مصنوعی می‌توانند هزینه ارزیابی را بپردازند، مشروط بر آنکه حق‌الزحمه ارزیاب به نتیجه بررسی وابسته نباشد. این محدودیت می‌تواند انگیزه مالی مستقیم برای ارائه نتیجه مطلوب را کاهش دهد، اما لزوماً همه تعارض‌های منافع احتمالی را از میان نمی‌برد.
تدابیر دیگری نیز می‌توانند بر اعتبار این نظام اثر بگذارند؛ از جمله نحوه انتخاب ارزیابان، شیوه سنجش صلاحیت آن‌ها، امکان اعتراض به یافته‌هایشان و چگونگی افشای روابط مالی.
چارچوب منتشرشده آنتروپیک برای هوش مصنوعی پیشرفته، معیارهای ارزیابان، تدابیر تضمین استقلال و روش‌هایی برای کاهش احتمال انتخاب ارزیابانی را بررسی می‌کند که ممکن است به شرکت‌ها نتایج مطلوب ارائه دهند. این چارچوب گسترده‌تر، گزینه‌هایی مانند تأمین مالی مشترک و تخصیص تصادفی ارزیابان برای بررسی‌های حساس و مهم را نیز در نظر می‌گیرد.
اثربخشی هر نظامی که در نهایت ایجاد شود، به این بستگی خواهد داشت که این تدابیر چگونه به قواعد الزام‌آور و قابل اجرا تبدیل شوند.
نظارت قضایی، مداخله مستقیم دولت را محدود می‌کند
این لایحه پیشنهادی محدودیت رویه‌ای مهمی بر اختیار دولت برای متوقف کردن یک مدل هوش مصنوعی اعمال می‌کند. بر اساس گزارش‌ها، اگر شرایط تعیین‌شده برای وجود خطر برقرار باشد، وزارت بازرگانی باید از یک قاضی فدرال در واشنگتن دی‌سی درخواست کند که عرضه مدل را متوقف کند.
در پیش‌نویس تصریح شده است که دیگر نهادها یا مقام‌های فدرال نمی‌توانند از طریق این فرایند، مستقلاً از همان اختیار برای تعلیق توزیع یک مدل استفاده کنند.
این ساختار مسیری مشخص از ارزیابی بیرونی تا بررسی دولتی و تصمیم‌گیری قضایی ایجاد می‌کند. حامیان چنین رویکردی ممکن است استدلال کنند که دخالت دادگاه مانعی در برابر مداخله خودسرانه ایجاد می‌کند و دولت را ملزم می‌سازد برای محدود کردن عرضه مدل، دلایل خود را ارائه دهد.
در عین حال، این سازوکار پرسش‌هایی درباره سرعت رسیدگی و تقسیم مسئولیت میان نهادها مطرح می‌کند. نظامی که برای مقابله با خطرهای قریب‌الوقوع طراحی شده است، باید روشن کند شواهد با چه سرعتی بررسی می‌شوند، چه اطلاعاتی باید افشا شود و پرونده‌های فوری چگونه رسیدگی خواهند شد.
مهلت گزارش‌دهی ۷۲ ساعته‌ای که در پیش‌نویس گزارش شده، یکی از ضرب‌الاجل‌های رویه‌ای برای ارزیابان را تعیین می‌کند. اما این مهلت به‌تنهایی مشخص نمی‌کند که دادگاه با چه سرعتی اقدام خواهد کرد یا برای صدور حکم چه شواهدی لازم است.
اگر قانون‌گذاران بخواهند این پیشنهاد را مبنایی برای قانون‌گذاری فدرال قرار دهند، تعیین تکلیف این جزئیات اهمیت زیادی خواهد داشت.
بحث گسترده‌تر درباره خودتنظیمی صنعت هوش مصنوعی
پیشنهاد آنتروپیک وارد بحثی اختلاف‌برانگیز شده است: آیا شرکت‌های هوش مصنوعی باید عمدتاً خود مسئول تنظیم رویه‌های ایمنی‌شان باشند یا فعالیت آن‌ها به نظارت اجباری و قوی‌تر دولت نیاز دارد؟
توسعه‌دهندگان هوش مصنوعی برای بهبود ایمنی انگیزه‌هایی دارند؛ به‌ویژه در شرایطی که خرابی سامانه‌ها می‌تواند به مشتریان آسیب برساند، اعتماد عمومی را کاهش دهد یا مسئولیت حقوقی ایجاد کند. بااین‌حال، شرکت‌ها هم‌زمان برای عرضه محصولات توانمندتر و رقابت در بازارهایی که به‌سرعت تغییر می‌کنند، تحت فشار تجاری قرار دارند. همین وضعیت این پرسش سیاستی را مطرح می‌کند که آیا تعهدات داوطلبانه به‌تنهایی می‌توانند برای اطمینان از مدیریت خطرهایی که ممکن است کل جامعه را تحت تأثیر قرار دهند، کافی باشند یا نه.
این پیش‌نویس می‌کوشد فرایندی رسمی برای مداخله دولت تعریف کند و در عین حال، آستانه بالایی برای استفاده از آن در نظر بگیرد. حامیان ممکن است این ساختار را راهی برای مقابله با خطرهای فاجعه‌بار بدانند، بی‌آنکه اختیار نامحدودی درباره توسعه هوش مصنوعی به نهادهای دولتی داده شود. منتقدان نیز ممکن است بپرسند آیا آستانه‌ها بیش از حد محدودکننده‌اند یا چارچوبی که بر سناریوهای بسیار شدید تمرکز دارد، می‌تواند دیگر شکل‌های مهم آسیب ناشی از هوش مصنوعی را نیز به‌اندازه کافی پوشش دهد.
استفاده از ارزیابانی که هزینه کارشان را شرکت‌های تحت ارزیابی می‌پردازند، موضوع دیگری برای بحث است. حتی اگر پرداخت‌ها به نتیجه ارزیابی وابسته نباشند، اعتبار نظارت مستقل به حکمرانی شفاف، تدابیر مؤثر برای مدیریت تعارض منافع و توانایی ارائه نتایجی بستگی دارد که ممکن است به مذاق شرکت‌ها خوش نیاید.
این چارچوب همچنین بازتاب‌دهنده بحث گسترده‌تری درباره میزان مسئولیتی است که باید بر عهده توسعه‌دهندگان هوش مصنوعی، ارزیابان فنی بیرونی و نهادهای دولتی قرار گیرد.
این پیشنهاد چه معنایی برای مقررات هوش مصنوعی در آمریکا دارد؟
آنتروپیک اعلام کرده است که پیش‌نویس پیشنهادی بازتاب‌دهنده راهکارهای مطرح‌شده در چارچوب این شرکت برای هوش مصنوعی پیشرفته است؛ چارچوبی که آنتروپیک تلاش کرده حمایت قانون‌گذاران فدرال و ایالتی را برای آن جلب کند. بنابراین، این شرکت می‌کوشد موضع سیاستی خود را به طرحی بالقوه برای قانون‌گذاری تبدیل کند، نه اینکه صرفاً اصول داوطلبانه ایمنی را منتشر کند.
بر اساس گزارش‌ها، این پیشنهاد با آستانه‌های مربوط به خطرهای فاجعه‌بار در لایحه شماره ۵۳ سنای کالیفرنیا شباهت‌هایی دارد. این شباهت‌ها، پیش‌نویس آنتروپیک را در چارچوب بحث گسترده‌تری قرار می‌دهد که درباره نحوه تعریف خطرهای جدی هوش مصنوعی و ایجاد سازوکارهایی برای واکنش به آن‌ها در جریان است.
بااین‌حال، پیشنهاد فدرال همچنان در مرحله پیش‌نویس قرار دارد. مفاد آن ممکن است در جریان گفت‌وگو با قانون‌گذاران تغییر کند و گزارش‌ها نشان نمی‌دهند که کنگره با تصویب آن موافقت کرده باشد.
تحولات مهم بعدی این خواهد بود که آیا قانون‌گذاران رسماً این پیش‌نویس را بررسی می‌کنند، سایر ذی‌نفعان چه واکنشی به آستانه‌های پیشنهادی نشان می‌دهند و آیا هر قانون احتمالی، توازن موردنظر میان ارزیابی مستقل، نظارت قضایی و محدود کردن اختیارات نهادهای دولتی را حفظ خواهد کرد یا خیر.
برای توسعه‌دهندگان هوش مصنوعی، این بحث می‌تواند انتظارات آینده درباره آزمایش مدل‌ها، مستندسازی، مدیریت ایمنی و تصمیم‌گیری درباره عرضه محصولات را شکل دهد. برای سیاست‌گذاران نیز چالش اصلی طراحی مقرراتی معتبر و قابل اجراست که بتوانند هم‌زمان با تغییرات سریع توانایی‌های فنی این فناوری سازگار شوند.
پیشنهاد آنتروپیک این چالش را روشن‌تر می‌کند: این طرح سازوکاری مشخص برای مداخله در برابر خطرهای فاجعه‌بار با دامنه‌ای محدود ارائه می‌دهد، اما پرسش‌های مهمی درباره استقلال ارزیابان، معیارهای اثبات خطر و حدود نظارت دولت را برای تصمیم‌گیری قانون‌گذاران باقی می‌گذارد.