آنتروپیک خواستار توقف هوش مصنوعی سرکش تنها در صورت تهدید جان دست‌کم ۵۰ نفر است
آنتروپیک خواستار تنظیم مقررات برای مدل‌های سرکش هوش مصنوعی است، اما تنها در صورتی که جان دست‌کم ۵۰ نفر در معرض خطر باشد.
شرکت آنتروپیک در حال تلاش برای تصویب قانونی است که به دولت ایالات متحده اجازه دهد یک مدل هوش مصنوعی خارج از کنترل را متوقف کند؛ با این حال، این مداخله تنها زمانی مجاز خواهد بود که دست‌کم ۵۰ نفر در معرض خطر قریب‌الوقوع آسیب جدی یا مرگ قرار داشته باشند.
این شرکت فعال در حوزه هوش مصنوعی، پشت صحنه و به‌صورت غیرعلنی برای جلب حمایت کنگره از پیش‌نویس قانونی لابی کرده است. نسخه‌ای از این طرح که به دست پولیتیکو رسیده، سازوکاری با عنوان «دستور مسدودسازی» پیش‌بینی می‌کند که ایالت‌ها بتوانند در صورت وجود خطر وارد شدن دست‌کم یک میلیارد دلار خسارت مالی ناشی از عملکرد یک مدل هوش مصنوعی، آن را فعال کنند.
این پیش‌نویس در ادامه مانع اجرای قوانین ایالتی سخت‌گیرانه‌تر در زمینه ایمنی می‌شود و در نتیجه، امکان صدور حکم قضایی برای متوقف کردن سامانه‌های خطرناک و خارج از کنترل هوش مصنوعی را محدودتر می‌کند.
این طرح همچنین آستانه بسیار بالایی برای مداخله دولت فدرال در شرایطی تعیین می‌کند که احتمال بروز «آسیب فاجعه‌بار» وجود داشته باشد. برای نمونه، مقام‌های فدرال باید ثابت کنند که تهدید ناشی از عامل هوش مصنوعی قریب‌الوقوع است و هیچ راه جایگزینی برای جلوگیری از فاجعه وجود ندارد تا بتوانند مداخله کنند.
زوی موشوویتز، نویسنده‌ای که بر حوزه هوش مصنوعی تمرکز دارد، از جمله منتقدانی است که آستانه تعیین‌شده در این پیش‌نویس را به‌شدت افراطی توصیف کرده و آن را «معیاری به‌طرز مضحکی دشوار» خوانده است.
در متن پیش‌نویس آمده است: «منظور از خطر فاجعه‌بار، خطری قابل پیش‌بینی و قابل‌توجه است که در آن، توسعه، ذخیره‌سازی، استفاده یا به‌کارگیری یک مدل پیشرفته از سوی توسعه‌دهنده آن، به‌طور قابل‌توجهی در مرگ یا آسیب جدی به بیش از ۵۰ نفر، یا وارد آمدن بیش از یک میلیارد دلار خسارت به اموال در نتیجه یک حادثه واحد، نقش داشته باشد.»
به گزارش نووارا مدیا، ناتان کالوین، نات پرسر و نیت سوارس، کارشناسان ایمنی هوش مصنوعی، هشدار داده‌اند که تصویب قانونی از این نوع، تدابیر حفاظتی موجود در برابر خطرات هوش مصنوعی را تضعیف می‌کند و هم‌زمان دامنه نظارت دولت فدرال را محدود خواهد کرد.
موشوویتز گفت این طرح ممکن است مردم را در مقایسه با شرایطی که قانون‌گذاران هیچ اقدامی نکنند، در وضعیت ناامن‌تری قرار دهد. به گفته او، به نظر می‌رسد آنتروپیک بیش از آنکه نگران اطمینان از برخورداری دولت از اختیارات لازم برای پاسخ‌گو کردن کل صنعت هوش مصنوعی باشد، نگران اجرای مقررات ایمنی از سوی دولت است.
آنتونی سیمینو، رئیس امور فدرال آنتروپیک، در شبکه اجتماعی ایکس نوشت که عبارت‌بندی مربوط به آستانه‌های خطر در پیش‌نویس قانون، «مستقیماً از استانداردهای موجود در قوانین کالیفرنیا گرفته شده است».
او افزود که این طرح شرکت‌ها را از مسئولیت حقوقی مبرا نمی‌کند و مانع استفاده دولت از ابزارهای دیگر در اختیارش برای حفاظت از عموم مردم نیز نمی‌شود.
با این حال، سیمینو اذعان کرد که ممکن است «زمان بازنگری در آستانه‌های تعیین‌شده فرا رسیده باشد تا اطمینان حاصل شود استاندارد ملی تا حد امکان قوی است».
جیکوب کاکسون، از کارکنان سابق آنتروپیک، ماه گذشته هشدار داده بود که هوش مصنوعی ممکن است ظرف یک دهه به نابودی بشریت منجر شود. اظهارات او موجی از هشدارهای مشابه را از سوی دیگر همکاران فعال در حوزه هوش مصنوعی به دنبال داشت.
با این حال، برخی ناظران درباره این ادعاها ابراز تردید کرده‌اند. جرمی کان، سردبیر بخش هوش مصنوعی نشریه فورچون، گفت برخی این هشدارها را «ترفندی بدبینانه ... می‌دانند که هدفش منحرف کردن توجه نهادهای ناظر و افکار عمومی از خطرات واقعی و ملموسی است که همین حالا وجود دارند».