آنتروپیک پیش‌نویس قانون ایمنی هوش مصنوعی را با آستانه خسارت یک میلیارد دلاری به کنگره آمریکا ارائه کرد
- بر اساس طرح آنتروپیک، دولت آمریکا می‌تواند در صورت وجود خطر مرگ دست‌کم ۵۰ نفر یا خسارت مالی یک میلیارد دلاری، مانع عرضه یک مدل هوش مصنوعی شود.
- این طرح همچنین ارزیابان مستقل را ملزم می‌کند هرگونه کشف «خطر مشخص و قریب‌الوقوع» را حداکثر ظرف ۷۲ ساعت به مقام‌های فدرال گزارش دهند.
- کمیسیون تجارت فدرال آمریکا برای اوپن‌ای‌آی و آنتروپیک احضاریه صادر کرده است.
به گفته سه فرد آگاه از مذاکرات خصوصی، شرکت آنتروپیک در حال ارائه پیش‌نویس قانونی درباره ایمنی هوش مصنوعی پیشرفته به قانون‌گذاران کنگره آمریکاست. طبق گزارش‌ها، این طرح به دولت آمریکا اجازه می‌دهد در صورت تشخیص خطر روشن و قریب‌الوقوعی که ممکن است به مرگ دست‌کم ۵۰ نفر یا خسارت مالی یک میلیارد دلاری منجر شود، از عرضه یک مدل هوش مصنوعی جلوگیری کند.
این خطر باید مشخصاً به یکی از موارد حمله سایبری، ساخت یا به‌کارگیری سلاح‌های زیستی، یا مدلی مربوط باشد که توانسته است از محدودیت‌های ایمنی تعیین‌شده توسط توسعه‌دهنده خود عبور کند.
در چند ماه گذشته، توسعه‌دهندگان پیشرو هوش مصنوعی به موارد متعددی اذعان کرده‌اند که در آن‌ها عامل‌های هوش مصنوعی به سامانه‌های آنلاین نفوذ کرده یا دفاع امنیتی این پلتفرم‌ها را آزمایش کرده‌اند. خوشبختانه، هیچ‌یک از این رخنه‌های اولیه به تلفات گسترده یا زیان‌های مالی فاجعه‌بار منجر نشده است.
محدودیت‌های پیشنهادی بیش از آنکه صرفاً بر تعهدات اعلام‌شده شرکت‌ها درباره ایمنی تکیه کنند، بر توانایی واقعی سامانه‌های پیشرفته هوش مصنوعی در محیط‌های عملیاتی تمرکز دارند. با افزایش توانایی این مدل‌ها در نوشتن کد، شناسایی آسیب‌پذیری‌های نرم‌افزاری و انجام مستقل وظایف پیچیده، نهادهای ناظر باید مشخص کنند که قابلیت‌های یک سامانه از چه نقطه‌ای به سطحی از خطر می‌رسد که دیگر قابل‌قبول نیست.
آزمایش‌های مستقل می‌توانند پیش از آنکه یک مدل در دسترس شمار بیشتری از کاربران قرار گیرد، مشخص کنند که آیا قادر است از سازوکارهای حفاظتی عبور کند یا برای فعالیت‌های زیان‌بار مورد سوءاستفاده قرار گیرد. بااین‌حال، تعریف دقیق یک تهدید قریب‌الوقوع همچنان دشوار است؛ به‌ویژه از آن رو که همان قابلیت‌هایی که خطرهای امنیتی ایجاد می‌کنند، می‌توانند به پژوهشگران برای شناسایی و رفع آسیب‌پذیری‌ها نیز کمک کنند.
پیش‌نویس آنتروپیک به قاضی فدرال اجازه می‌دهد خواستار تعلیق یک مدل شود
سخنگوی آنتروپیک در دفاع از این طرح گفت که پیش‌نویس قانون با توصیه‌های امنیتی مطرح‌شده در چارچوب هوش مصنوعی پیشرفته این شرکت شباهت دارد؛ چارچوبی که در ماه ژوئن منتشر شد.
آنتروپیک در آن چارچوب اشاره کرده بود که مدل Claude Mythos Preview این شرکت پیش‌تر هزاران آسیب‌پذیری امنیتی جدی را در تمام سیستم‌عامل‌های اصلی و مرورگرهای وب شناسایی کرده است. این شرکت در آن زمان تأکید کرد که روند پیشرفت قابلیت‌های هوش مصنوعی احتمالاً شتاب خواهد گرفت و خطر آسیب‌های فاجعه‌بار در دنیای واقعی را افزایش خواهد داد.
این شرکت همچنین خواستار رویکردی متوازن در تنظیم مقررات شد؛ رویکردی که ضمن فراهم کردن امکان مداخله دولت، مانع نوآوری نشود. بااین‌حال، آنتروپیک همچنان بر این موضع تأکید داشته است که اگر یک مدل هوش مصنوعی خطرهای شدیدی ایجاد کند، نهادهای ناظر باید اختیار قانونی ویژه‌ای برای متوقف کردن آن یا اعمال جریمه‌های سنگین متناسب با درآمد جهانی شرکت داشته باشند؛ جریمه‌هایی که در صورت تکرار تخلف افزایش پیدا کنند.
آنتروپیک تاکنون به‌طور علنی از هیچ لایحه فدرال مشخصی در کنگره حمایت نکرده بود، اما پشتیبانی خود را از چند قانون ایالتی مرتبط با ایمنی هوش مصنوعی اعلام کرده است. از جمله این موارد، دو طرح در کالیفرنیا و به‌ویژه لایحه SB 53 هستند که این شرکت حمایت خود را از آن اعلام کرده است.
این لایحه که سال گذشته به قانون تبدیل شد، شرکت‌ها را ملزم می‌کند چارچوب‌های ایمنی خود را تدوین و منتشر کنند و برای کاهش خطرهای عمده اقداماتی انجام دهند. همچنین، شرکت‌ها باید هرگونه حادثه جدی مرتبط با ایمنی را حداکثر ظرف ۱۵ روز به مقام‌های ایالتی گزارش دهند.
طبق پیشنهاد آنتروپیک، ارزیابان شخص ثالث که در وزارت بازرگانی ثبت شده‌اند، به‌طور منظم آزمایش‌هایی روی آزمایشگاه‌های شرکت‌ها و مدل‌های آن‌ها انجام خواهند داد. شرکت‌های توسعه‌دهنده می‌توانند هزینه این ارزیابی‌ها را تأمین کنند، اما پرداخت دستمزد ارزیاب نباید به نتیجه بررسی او وابسته باشد. افزون بر این، هرگونه کشف «خطر مشخص و قریب‌الوقوع» باید حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی به مقام‌های فدرال گزارش شود.
در مرحله بعد، اگر وزارت بازرگانی تشخیص دهد که یک مدل خطرآفرین است، می‌تواند از قاضی درخواست کند مانع عرضه آن شود. بااین‌حال، این بند به هیچ وزارتخانه، سازمان یا مقام دیگری در دولت آمریکا اجازه نمی‌دهد که توسعه، استقرار یا استفاده داخلی از مدل را متوقف کند. با وجود این محدودیت، قاضی فدرال در ناحیه کلمبیا همچنان اختیار دارد حکم تعلیق چنین مدلی را صادر کند.
کمیسیون تجارت فدرال برای اوپن‌ای‌آی و آنتروپیک احضاریه فرستاده است
روز چهارشنبه، کمیسیون تجارت فدرال آمریکا (FTC) برای اوپن‌ای‌آی و آنتروپیک احضاریه‌های مدنی صادر کرد و خواستار دریافت اسناد مربوط به حوادث ایمنی شد؛ حوادثی که به بحرانی فزاینده برای صنعت هوش مصنوعی تبدیل شده‌اند. اوپن‌ای‌آی در پاسخ به این احضاریه اعلام کرد: «با بهبود مدل‌های خود و افزایش نقش آن‌ها در زندگی روزمره مردم، ایمنی همچنان یکی از اولویت‌های اصلی ماست. ما به‌صورت سازنده با کمیسیون تجارت فدرال همکاری خواهیم کرد.»
یک منبع آگاه فاش کرد که این نهاد قصد دارد در آینده نزدیک دامنه اختیارات خود برای صدور احضاریه را به اشخاص و نهادهای ثالث نیز گسترش دهد. این نهاد ناظر ممکن است مدیران ارشد اوپن‌ای‌آی و آنتروپیک را وادار کند در جلسات علنی شهادت دهند؛ اقدامی که فرصتی در اختیار قانون‌گذاران قرار می‌دهد تا در شرایط افزایش نگرانی عمومی درباره پیامدهای احتمالی هوش مصنوعی، شرکت‌های بزرگ فناوری را درباره مسائل ایمنی به چالش بکشند.
بر اساس نظرسنجی اخیر مرکز پژوهش افکار عمومی آسوشیتدپرس و NORC، نزدیک به دو سوم بزرگسالان آمریکایی معتقدند هوش مصنوعی با سرعتی بیش از حد در حال توسعه است. همچنین، از هر ۱۰ پاسخ‌دهنده، هشت نفر بر اهمیت تلاش دولت برای حفظ کنترل انسانی بر این فناوری تأکید کرده‌اند.
دونالد ترامپ، رئیس‌جمهور آمریکا، تاکنون همچنان با درخواست‌ها برای کاهش سرعت توسعه هوش مصنوعی مخالفت کرده و اهمیت این فناوری را برای منافع راهبردی ایالات متحده دلیل موضع خود دانسته است. او اخیراً از تشکیل نهادی با عنوان «نیروی ابرهوش» (Super Intelligence Force) خبر داده است تا هماهنگی تلاش‌های دولت فدرال در حوزه هوش مصنوعی را تقویت کند و در عین حال، ارتباط با مصرف‌کنندگان، سازمان‌های مدافع منافع عمومی و دیگر ذی‌نفعان را حفظ کند.