آنتروپیک به قانون‌گذاران آمریکا پیشنهاد داد امکان توقف مدل‌های خطرناک هوش مصنوعی فراهم شود
شرکت آنتروپیک بی‌سروصدا پیش‌نویس قانونی را در اختیار قانون‌گذاران آمریکا قرار داده است که بر اساس آن، دولت فدرال می‌تواند در صورت وجود خطر قریب‌الوقوعِ تلفات گسترده یا خسارتی بیش از یک میلیارد دلار، از دادگاه درخواست کند فعالیت مدل‌های پیشرفته هوش مصنوعی متوقف شود.
این پیشنهاد یکی از روشن‌ترین سازوکارهای فدرال برای مداخله پیش از عرضه یک مدل قدرتمند هوش مصنوعی یا ادامه فعالیت آن به شمار می‌رود.
بر اساس پیش‌نویس، اقدام دولت به موارد مشخصی از خطرهای فاجعه‌بار محدود خواهد بود؛ از جمله سلاح‌های زیستی، حملات سایبری گسترده یا خارج شدن یک سامانه هوش مصنوعی از کنترل توسعه‌دهنده آن.
آنتروپیک می‌گوید این پیشنهاد بر چارچوب گسترده‌تر خود برای هوش مصنوعی پیشرفته استوار است؛ چارچوبی که خواستار نظارت قوی‌تر دولت بر مدل‌های پیشرو هوش مصنوعی است.
دولت می‌تواند برای توقف مدل‌های خطرناک از دادگاه درخواست کند
قانون پیشنهادی به مقام‌های دولتی اجازه نمی‌دهد صرفاً به این دلیل که یک سامانه هوش مصنوعی را ناایمن می‌دانند، فعالیت آن را متوقف کنند.
بر اساس پیش‌نویس گزارش‌شده، مداخله تنها زمانی امکان‌پذیر است که خطر وقوع خسارتی بیش از یک میلیارد دلار یا مرگ یا جراحت جدی بیش از ۵۰ نفر، قابل پیش‌بینی و قریب‌الوقوع باشد.
این تهدید همچنین باید در یکی از دسته‌های مشخص‌شده در قانون قرار بگیرد.
این موارد شامل کمک یک سامانه هوش مصنوعی به ساخت یا انتشار سلاح زیستی، فراهم کردن امکان انجام یک حمله سایبری جدی یا خارج شدن سامانه از محدودیت‌هایی است که توسعه‌دهنده آن اعمال کرده است.
اگر وزارت بازرگانی آمریکا تشخیص دهد که چنین خطری وجود دارد، می‌تواند از یک قاضی فدرال در واشنگتن درخواست کند توسعه، عرضه یا استفاده از مدل را به حالت تعلیق درآورد.
پیش‌بینی این مرحله قضایی اهمیت دارد.
این پیشنهاد صراحتاً اختیارات سایر سازمان‌ها و مقام‌های فدرال را برای صدور مستقل دستور توقف یک مدل محدود می‌کند.
به نظر می‌رسد آنتروپیک در تلاش است میان اختیارات دولت و تدابیری برای جلوگیری از مداخله بیش از حد، تعادل برقرار کند.
ارزیابان مستقل نقش رسمی خواهند داشت
این لایحه همچنین نظام قوی‌تری برای ارزیابی ایمنی هوش مصنوعی به دست نهادهای مستقل ایجاد می‌کند.
ارزیابان مستقل باید در وزارت بازرگانی ثبت‌نام کنند و به‌صورت دوره‌ای شرکت‌های فعال در حوزه مدل‌های پیشرو هوش مصنوعی و قدرتمندترین مدل‌های آن‌ها را بررسی کنند.
آن‌ها ارزیابی خواهند کرد که آیا توسعه‌دهندگان خطرهای فاجعه‌بار را به‌درستی آزمایش می‌کنند و آیا تدابیر ایمنی آن‌ها کافی است یا خیر.
شرکت‌های هوش مصنوعی می‌توانند مستقیماً به ارزیابان دستمزد بپردازند، اما پرداخت نباید به مثبت یا منفی بودن نتیجه ارزیابی وابسته باشد.
اگر ارزیاب به موردی برسد که لایحه آن را «خطر قریب‌الوقوع از انواع مشخص‌شده» تعریف می‌کند، باید حداکثر تا ۷۲ ساعت پس از پایان ارزیابی، وزارت بازرگانی را مطلع کند.
آنتروپیک استدلال کرده است که شرکت‌های توسعه‌دهنده هوش مصنوعی پیشرو نباید به‌تنهایی مسئول تصمیم‌گیری درباره ایمنی سامانه‌های خود باشند.
چارچوب این شرکت خواستار آزمایش‌های اجباری، انتشار عمومی یافته‌های ایمنی و بررسی‌های مستقل منظم است.
این شرکت اخیراً دسترسی ارزیابان بیرونی، از جمله مؤسسه غیرانتفاعی METR، را برای بررسی دقیق‌تر مدل‌های خود گسترش داده است.
چرا آنتروپیک خواستار مقرراتی فراتر از شفافیت است؟
چندین ایالت آمریکا قوانینی را تصویب کرده‌اند یا پیشنهاد داده‌اند که توسعه‌دهندگان مدل‌های پیشرو هوش مصنوعی را ملزم به افشای رویه‌های ایمنی خود می‌کند.
آنتروپیک از برخی از این اقدامات حمایت کرده است.
با این حال، این شرکت اکنون استدلال می‌کند که اگر مدل‌ها به توانایی ایجاد آسیب‌های فاجعه‌بار برسند، شفافیت به‌تنهایی ممکن است کافی نباشد.
در چارچوب هوش مصنوعی پیشرفته آنتروپیک آمده است که دولت‌ها باید اختیار قانونی داشته باشند تا در صورت عبور خطرهای جدی از آستانه‌های تعیین‌شده، مانع عرضه سامانه‌های خطرناک شوند یا از آن جلوگیری کنند.
این پیشنهاد تنها توسعه‌دهندگان پیشرفته‌ترین مدل‌ها را شامل می‌شود.
چارچوب آنتروپیک مدل‌هایی را هدف قرار می‌دهد که با بیش از ۱۰²⁵ عملیات ممیز شناور آموزش داده شده‌اند و شرکت‌هایی را در بر می‌گیرد که بیش از ۵۰۰ میلیون دلار درآمد سالانه مرتبط با هوش مصنوعی دارند یا بیش از یک میلیارد دلار صرف تحقیق و توسعه هوش مصنوعی می‌کنند.
بنابراین، تمرکز این مقررات عمدتاً بر آزمایشگاه‌های بزرگ و پیشرو هوش مصنوعی خواهد بود، نه استارتاپ‌های کوچک‌تر این حوزه.
این رویکرد بازتاب‌دهنده بحث گسترده‌تری درباره تنظیم‌گری در واشنگتن است.
قانون‌گذاران در تلاش‌اند مقرراتی طراحی کنند که برای مقابله با هوش مصنوعی بسیار توانمند به‌اندازه کافی قوی باشد، اما الزامات آن مانع رقابت شرکت‌های کوچک‌تر نشود.
این پیشنهاد هم‌زمان با تشدید بحث‌ها درباره ایمنی هوش مصنوعی مطرح شده است
تلاش آنتروپیک برای جلب حمایت قانون‌گذاران در شرایطی صورت می‌گیرد که شرکت‌های فعال در حوزه مدل‌های پیشرو هوش مصنوعی با پرسش‌های فزاینده‌ای درباره کافی بودن تعهدات داوطلبانه ایمنی روبه‌رو هستند.
پژوهش‌های اخیر آنتروپیک مواردی را آشکار کرده‌اند که در آن‌ها مدل‌های کلود (Claude) هنگام آزمایش‌های داخلی اقداماتی ناخواسته انجام داده‌اند؛ از جمله تعامل با وب‌سایت‌های فعال و دور زدن محدودیت‌ها.
هم‌زمان، مدل‌های قدرتمند به‌تدریج در شناسایی آسیب‌پذیری‌های نرم‌افزاری، نوشتن کد و انجام وظایف چندمرحله‌ای با نظارت محدود، توانمندتر می‌شوند.
این تحولات درخواست‌ها برای وضع مقررات دولتی درباره ارزیابی و عرضه مدل‌ها را تقویت کرده‌اند.
با این حال، نگرانی‌هایی نیز درباره اعطای اختیارات بیش از حد به نهادهای ناظر برای تصمیم‌گیری درباره فناوری‌های قابل عرضه ایجاد شده است.
پیشنهاد آنتروپیک می‌کوشد با تعیین آستانه‌های صریح برای خسارت مالی و تلفات انسانی و الزام به دریافت حکم دادگاه پیش از تعلیق یک مدل، دامنه این اختیارات را محدود کند.
این پیش‌نویس هنوز به‌عنوان یک لایحه رسمی در کنگره مطرح نشده و هیچ تضمینی وجود ندارد که کنگره متن پیشنهادی آنتروپیک را تصویب کند.
با این حال، این اقدام نشان‌دهنده تغییری در رویکرد شرکت‌های هوش مصنوعی است: آن‌ها از حمایت کلی از اصول ایمنی فراتر رفته‌اند و اکنون فعالانه سازوکارهای قانونی لازم برای نظارت بر قدرتمندترین سامانه‌های خود را پیشنهاد می‌کنند.
این موضوع برای شما چه معنایی دارد؟ مقررات ایمنی هوش مصنوعی در حال فاصله گرفتن از وعده‌های داوطلبانه و حرکت به‌سوی کنترل‌های قانونی احتمالی بر قدرتمندترین مدل‌هاست. اگر کنگره مقرراتی مشابه پیشنهاد آنتروپیک تصویب کند، آزمایش مستقل ایمنی و امکان مداخله با حکم دادگاه ممکن است پیش از دسترسی عموم به سامانه‌های خطرناک الزامی شود.