آنتروپیک طرح قانونی برای جلوگیری از عرضه مدل‌های هوش مصنوعی پرخطر در آمریکا پیشنهاد کرد
شرکت آنتروپیک، سازنده دستیار هوش مصنوعی کلود، پیش‌نویس قانونی را میان قانون‌گذاران آمریکا توزیع کرده است که هدف آن ایجاد تدابیر حفاظتی در سطح فدرال برای مقابله با خطرات بالقوه فاجعه‌بار ناشی از سیستم‌های هوش مصنوعی هرچه قدرتمندتر است.
این شرکت روز جمعه ارائه این پیشنهاد را تأیید کرد. طرح مذکور در شرایطی مطرح شده است که آمریکا هنوز قانون جامع فدرالی برای تنظیم هوش مصنوعی ندارد و تلاش‌های نظارتی در این کشور عمدتاً به تعهدات داوطلبانه شرکت‌های فناوری و فرمان‌های اجرایی متکی بوده است.
بر اساس پیش‌نویسی که نخستین بار روز جمعه وب‌سایت پولیتیکو از آن گزارش داد، دولت فدرال می‌تواند در صورت وجود خطر قریب‌الوقوع مرگ یا آسیب جدی به بیش از ۵۰ نفر، یا احتمال وارد آمدن خسارتی بیش از یک میلیارد دلار، برای جلوگیری از عرضه یا استفاده از یک مدل هوش مصنوعی اقدام کند. اعمال هرگونه محدودیت در این زمینه مستلزم تأیید قضایی خواهد بود.
سخنگوی آنتروپیک در گفت‌وگو با خبرگزاری فرانسه (AFP) گفت این پیشنهاد «به دولت فدرال اختیار می‌دهد از به‌کارگیری‌های خطرناکِ قدرتمندترین مدل‌ها جلوگیری کند یا مانع آن‌ها شود».
او افزود: «این طرح توسعه‌دهندگان پیشرفته‌ترین مدل‌ها را ملزم می‌کند قدرتمندترین مدل‌های خود را آزمایش کنند، یافته‌هایشان را به‌صورت شفاف در اختیار عموم قرار دهند، مدل‌ها را برای ارزیابی مستقل ارائه کنند و یک برنامه امنیتی مستحکم داشته باشند.»
این لایحه پیشنهادی در پی آن است که تعهدات روشن‌تری برای توسعه‌دهندگان سیستم‌های پیشرفته هوش مصنوعی تعیین کند؛ به‌ویژه برای سیستم‌هایی که توان فعالیت در مقیاسی را دارند که ممکن است خطرهای قابل‌توجهی برای ایمنی عمومی، زیرساخت‌های حیاتی و اقتصاد گسترده‌تر ایجاد کند.
ارائه این طرح هم‌زمان با افزایش فشار بر واشنگتن برای تدوین چارچوبی یکپارچه به‌منظور تنظیم فناوری هوش مصنوعی، که با سرعت زیادی در حال پیشرفت است، صورت می‌گیرد.
سیاست آمریکا در حوزه هوش مصنوعی در دوران ریاست‌جمهوری دونالد ترامپ عمدتاً بر تعهدات داوطلبانه شرکت‌های این صنعت و فرمان‌های اجرایی متمرکز بوده است؛ اقداماتی که با هدف تسریع توسعه این فناوری و حفظ جایگاه رقابتی آمریکا در رقابت جهانی هوش مصنوعی دنبال می‌شوند. مدیران شرکت‌های فناوری استدلال کرده‌اند که این صنعت به یکی از محرک‌های فزاینده رشد اقتصادی تبدیل شده است.
با این حال، کنگره آمریکا هنوز قانون جامع فدرالی برای هوش مصنوعی تصویب نکرده است. اختلاف‌های سیاسی و لابی‌گری شرکت‌های بزرگ فناوری، تلاش‌ها برای دستیابی به توافق را دشوار کرده‌اند. قانون‌گذاران نیز تا پس از انتخابات میان‌دوره‌ای ماه آینده در تعطیلات کاری کنگره به سر می‌برند؛ وضعیتی که ممکن است تصویب قوانین را به تأخیر بیندازد.
نگرانی‌های امنیتی پس از انتشار گزارش‌هایی درباره رویدادهای اخیر مرتبط با عامل‌های هوش مصنوعی افزایش یافته است. این عامل‌ها سیستم‌های نرم‌افزاری خودمختاری هستند که می‌توانند بدون نظارت مستمر انسان وظایف مختلفی را انجام دهند و بنا بر گزارش‌ها، در مواردی از کنترل توسعه‌دهندگان خود خارج شده‌اند.
این رویدادها بحث‌ها را درباره کافی بودن تدابیر حفاظتی موجود برای مدیریت خطرهای ناشی از سیستم‌های هوش مصنوعی هرچه توانمندتر، تشدید کرده‌اند.
خود آنتروپیک نیز با دولت ترامپ دچار تنش‌هایی شده است. بنا بر گزارش منتشرشده، این شرکت در ماه فوریه از همکاری با پنتاگون منع شد و واشنگتن متعاقباً در ماه ژوئن آن را وادار کرد پیشرفته‌ترین مدل‌های خود را برای نزدیک به سه هفته به حالت تعلیق درآورد.
داریو آمودی، مدیرعامل آنتروپیک، نیز از صنعت هوش مصنوعی خواسته است روند توسعه این فناوری را آهسته‌تر کند. او ماه گذشته هشدار داد که گروه‌هایی از عامل‌های هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه کنترل «کل اینترنت» را در دست بگیرند.
ترامپ، در مقابل، درخواست‌ها برای کند کردن توسعه این فناوری را رد کرده و کسانی را که خواهان چنین محدودیتی هستند، «نیروهای منفی» توصیف کرده است.
پیشنهاد آنتروپیک علاوه بر تعیین الزامات ایمنی در سطح فدرال، برخی قوانین ایالتی هوش مصنوعی، از جمله مقررات کالیفرنیا، را نیز بی‌اثر خواهد کرد. این بند می‌تواند بار دیگر بحث درباره تقسیم اختیارات نظارتی میان دولت فدرال در واشنگتن و دولت‌های ایالتی را داغ کند.
موضع این شرکت تحول قابل‌توجهی در بحث نظارت فدرال و ایالتی بر هوش مصنوعی به شمار می‌رود. آنتروپیک در ماه ژوئن استدلال کرده بود که «در نبود یک قانون فدرال قدرتمند، ایالت‌ها باید اختیار کامل قانون‌گذاری را حفظ کنند».
برخی متخصصان سیاست‌گذاری هوش مصنوعی از چارچوب پیشنهادی حمایت کرده‌اند، هرچند همچنان این پرسش مطرح است که آیا این طرح برای مقابله با خطرهای مدل‌های پیشرفته به اندازه کافی جامع و مؤثر خواهد بود یا خیر.
چارلی بولاک، از اندیشکده مؤسسه حقوق و هوش مصنوعی، این پیشنهاد را «نسبتاً معقول» توصیف کرد و افزود که این اقدام «فراتر از کاری است که سایر آزمایشگاه‌های پیشرو انجام داده‌اند».
با این حال، بولاک در شبکه اجتماعی ایکس نوشت که پیش‌نویس آنتروپیک را در مقایسه با قانون پیشنهادی رقیب، موسوم به «قانون فرانتیر» (FRONTIER Act)، ضعیف‌تر می‌داند. این لایحه رقیب در تابستان در مجلس نمایندگان آمریکا ارائه شده بود.
این پیشنهادهای رقیب اختلاف‌نظر گسترده‌تری را درباره نحوه تنظیم هوش مصنوعی پیشرفته در آمریکا آشکار می‌کنند: آیا باید توسعه سریع فناوری در اولویت قرار گیرد، توسعه‌دهندگان به رعایت تعهدات الزام‌آور ایمنی ملزم شوند، یا چارچوبی ایجاد شود که میان نوآوری و حفاظت از عموم مردم تعادل برقرار کند؟
با افزایش توانایی و خودمختاری سیستم‌های هوش مصنوعی، انتظار می‌رود بحث درباره نظارت فدرال شدت بگیرد. قانون‌گذاران با فشار فزاینده‌ای روبه‌رو هستند تا مشخص کنند مداخله دولت تا چه اندازه باید گسترده باشد و پیش از به‌کارگیری قدرتمندترین مدل‌ها، رعایت چه تدابیر حفاظتی‌ای باید الزامی شود.