آنتروپیک پیش‌نویس قانونی را تهیه کرده است که توقف مدل‌های هوش مصنوعی از سوی دولت را فقط در شرایط بحرانی مجاز می‌داند
شرکت آنتروپیک به‌صورت غیرعلنی در کنگره آمریکا پیش‌نویس قانونی را مطرح کرده است که به دولت این کشور اختیار می‌دهد عرضه یا استفاده از یک مدل پیشرفته هوش مصنوعی را متوقف کند؛ اما این مداخله فقط در شرایط محدودی مجاز خواهد بود که خطر آسیب‌های فاجعه‌بار در میان باشد.
بر اساس گزارشی از پولیتیکو که روز جمعه منتشر شد و به نقل از سه فرد آگاه از این تلاش تهیه شده است، نمایندگان این شرکت توسعه‌دهنده هوش مصنوعی پیش‌نویس قانون را به قانون‌گذاران ارائه کرده‌اند. این پیشنهاد یکی از مشخص‌ترین تلاش‌های یک شرکت بزرگ هوش مصنوعی برای شکل دادن به مقررات ایمنی فدرال بر اساس رویکرد و اولویت‌های خود به شمار می‌رود.
طبق پیش‌نویس، دولت تنها زمانی مجاز به مداخله خواهد بود که یک مدل هوش مصنوعی خطر قابل پیش‌بینی و قریب‌الوقوعی ایجاد کند که به خسارتی بیش از یک میلیارد دلار یا مرگ یا جراحت جدی بیش از ۵۰ نفر منجر شود. این خطر نیز باید مشخصاً ناشی از یکی از سه سناریو باشد: ایجاد یا انتشار یک سلاح زیستی، خارج شدن مدل از کنترل‌های اعمال‌شده از سوی توسعه‌دهنده آن، یا وقوع یک حمله سایبری.
این آستانه‌های تعیین‌شده شباهت زیادی به مفاد قوانین ایمنی هوش مصنوعی کالیفرنیا، از جمله قانون SB 53، دارد که سال گذشته به تصویب رسید. آنتروپیک با پیوند دادن پیشنهاد فدرال به معیارهایی که پیش‌تر در سطح ایالت تصویب شده‌اند، ظاهراً می‌کوشد این طرح را به‌عنوان راه‌حلی عملی و مصالحه‌آمیز میان صنعت و نهادهای ناظر مطرح کند.
این قانون همچنین نظامی برای ثبت‌نام ارزیابان مستقل زیر نظر وزارت بازرگانی آمریکا ایجاد خواهد کرد. این ارزیابان مسئول انجام ارزیابی‌های دوره‌ای از آزمایشگاه‌های هوش مصنوعی و مدل‌های پیشرفته آن‌ها خواهند بود. شرکت‌ها می‌توانند در ازای دریافت خدمات به ارزیابان پول بپردازند، اما میزان پرداختی نباید به نتیجه ارزیابی وابسته باشد؛ تضمینی که هدف آن حفظ استقلال ارزیابان است.
اگر ارزیابی‌کننده تشخیص دهد که مدل پیشرفته یک شرکت با «خطر مشخص‌شده و قریب‌الوقوع» طبق تعریف قانون روبه‌رو است، موظف خواهد بود حداکثر تا ۷۲ ساعت پس از تکمیل ارزیابی، وزارت بازرگانی را مطلع کند. پس از آن، این وزارتخانه می‌تواند از یک قاضی فدرال درخواست کند که عرضه یا استفاده از مدل را به حالت تعلیق درآورد.
نکته مهم این است که اختیار تعلیق، طبق این پیش‌نویس، منحصراً در دست یک قاضی فدرال در دادگاه منطقه‌ای ایالات متحده برای ناحیه کلمبیا خواهد بود. متن قانون صراحتاً هرگونه اقدام مستقل سایر وزارتخانه‌ها، سازمان‌های دولتی یا مقام‌های رسمی برای متوقف کردن توسعه، استقرار یا استفاده داخلی از یک مدل هوش مصنوعی را ممنوع می‌کند. به نظر می‌رسد متمرکز کردن این اختیار با هدف جلوگیری از اقدامات مقرراتی پراکنده و ناهماهنگ میان نهادهای فدرال انجام شده است.
سخنگوی آنتروپیک گفت این پیشنهاد بازتاب‌دهنده توصیه‌هایی است که شرکت پیش‌تر در چارچوب «چارچوب هوش مصنوعی پیشرفته» خود مطرح کرده بود. این شرکت از ماه ژوئن تاکنون از قانون‌گذاران فدرال و ایالتی خواسته است این توصیه‌ها را بپذیرند.
سخنگوی شرکت گفت: «این لایحه بازتاب‌دهنده توصیه‌هایی است که در چارچوب هوش مصنوعی پیشرفته خود ارائه کرده‌ایم. از ماه ژوئن تاکنون از قانون‌گذاران فدرال و ایالتی خواسته‌ایم این توصیه‌ها را بپذیرند. این سیاست‌ها منطقی و قابل اجرا هستند و معتقدیم کنگره باید اقدام کند.»
وزارت بازرگانی آمریکا بلافاصله به درخواست اظهارنظر پاسخ نداد.
این پیشنهاد در شرایطی مطرح شده است که توجه به رخدادهای مرتبط با ایمنی هوش مصنوعی افزایش یافته است. در طول تابستان، چند آزمایشگاه پیشرو هوش مصنوعی از مواردی خبر دادند که در آن‌ها عامل‌های هوش مصنوعی وب‌سایت‌ها و پلتفرم‌ها را بررسی کرده یا به آن‌ها نفوذ کرده بودند. بر اساس گزارش یادشده، هیچ‌یک از این رخدادهای گزارش‌شده تاکنون ظاهراً به تلفات گسترده یا خسارتی بیش از یک میلیارد دلار منجر نشده است.
تلاش آنتروپیک برای پیشبرد این قانون، تنش گسترده‌تری را بازتاب می‌دهد که بر بحث‌های مربوط به سیاست‌گذاری هوش مصنوعی در واشنگتن سایه انداخته است. قانون‌گذاران به ایجاد نظارت فدرال بر سامانه‌های هرچه قدرتمندتر علاقه نشان داده‌اند، در حالی که فعالان صنعت با اقداماتی مخالفت کرده‌اند که به گفته آن‌ها ممکن است مانع نوآوری شوند یا هزینه‌های سنگینی برای رعایت مقررات به شرکت‌ها تحمیل کنند.
آنتروپیک با پیشنهاد آستانه‌هایی بالا، یعنی خسارت یک میلیارد دلاری یا بیشتر، یا مرگ و جراحت جدی بیش از ۵۰ نفر، عملاً مرزی روشن میان خطرهای معمول هوش مصنوعی و سناریوهای فاجعه‌باری ترسیم می‌کند که مداخله دولت را توجیه می‌کنند. دامنه محدود این لایحه ممکن است برای قانون‌گذارانی که نگران مقررات‌گذاری بیش از حد هستند جذاب باشد و در عین حال، سازوکاری رسمی برای واکنش به بدترین پیامدهای احتمالی فراهم کند.
با این حال، اتکای پیشنهاد به ارزیابان مستقلی که هزینه خدماتشان را خود آزمایشگاه‌های هوش مصنوعی می‌پردازند، ممکن است با انتقاد روبه‌رو شود. منتقدان خودتنظیمی در صنعت فناوری مدت‌هاست استدلال می‌کنند که تأمین مالی نهادهای ناظر از سوی شرکت‌هایی که تحت نظارت قرار دارند، حتی اگر پرداخت‌ها به نتیجه ارزیابی وابسته نباشد، تعارض منافع ذاتی ایجاد می‌کند.
به نظر می‌رسد این پیشنهاد همچنین با هدف پیشگیری از رویکردهای مقرراتی سخت‌گیرانه‌تر تدوین شده است. ممنوع کردن صریح اختیار سایر نهادهای فدرال برای متوقف کردن توسعه یا استقرار هوش مصنوعی، اختیار تصمیم‌گیری را در یک مرجع قضایی متمرکز می‌کند و توانایی نهادهای ناظر برای اقدام یک‌جانبه را محدود می‌سازد.
آنتروپیک در میان توسعه‌دهندگان بزرگ هوش مصنوعی به یکی از صریح‌ترین حامیان مقررات ایمنی این فناوری تبدیل شده است؛ هرچند این شرکت هم‌زمان با جدیت در بازار تجاری هوش مصنوعی رقابت می‌کند. چارچوب هوش مصنوعی پیشرفته این شرکت که اوایل سال جاری منتشر شد، رویکردی چندسطحی برای نظارت بر مدل‌ها پیشنهاد می‌کرد که بر آستانه‌های توانایی و ارزیابی خطر استوار است.
رایزنی‌های این شرکت با قانون‌گذاران نشان می‌دهد که آنتروپیک می‌خواهد پیش از آنکه کنگره قانون‌گذاری مستقل خود را در حوزه هوش مصنوعی تدوین کند، این اصول را به قوانین الزام‌آور فدرال تبدیل کند. طی سال‌های اخیر چندین لایحه مرتبط با هوش مصنوعی در کنگره مطرح شده است، اما هیچ‌یک تاکنون به تصویب هر دو مجلس نرسیده‌اند.
هنوز مشخص نیست پیش‌نویس آنتروپیک تا چه اندازه مورد استقبال قرار خواهد گرفت. برای طرح رسمی این پیشنهاد، یک قانون‌گذار باید حمایت از آن را بر عهده بگیرد و هر لایحه‌ای درباره ایمنی هوش مصنوعی احتمالاً با بحث‌های جدی بر سر ایجاد توازن مناسب میان نوآوری و نظارت روبه‌رو خواهد شد.
در گزارش پولیتیکو مشخص نشده است نمایندگان آنتروپیک با کدام قانون‌گذاران دیدار کرده‌اند یا آیا کسی متعهد شده است این پیشنهاد را پیش ببرد. محرمانه بودن این رایزنی‌ها و انجام آن‌ها به‌جای اعلام عمومی، نشان می‌دهد که شرکت پیش از آغاز یک تلاش رسمی، در حال سنجیدن میزان استقبال از طرح خود است.