پیشنهاد آنتروپیک برای قانون هوش مصنوعی؛ توقف مدل‌ها تنها در صورت خطر مرگ ۵۰ نفر یا خسارت یک میلیارد دلاری
شرکت آنتروپیک از ابتدای تابستان ظاهراً با قانون‌گذاران برای تدوین الگویی سهل‌گیرانه در زمینه تنظیم مقررات هوش مصنوعی همکاری کرده است.
تاریخ انتشار: ۲۰ اکتبر ۲۰۲۶
شرکت آنتروپیک، یکی از بازیگران اصلی صنعت هوش مصنوعی، طرح قانونی‌ای را به کنگره آمریکا پیشنهاد کرده است که چارچوبی برای تنظیم مقررات این فناوری تعیین می‌کند. این طرح محدودیت‌های سخت‌گیرانه‌ای برای نهادهای دولتیِ مجاز به متوقف کردن مدل‌های هوش مصنوعی در نظر می‌گیرد و شرایط مداخله قانونی را نیز به مواردی مشخص و محدود منحصر می‌کند.
جزئیات این پیشنهاد که در ابتدا علنی نشده بود، روز جمعه در پولیتیکو منتشر شد.
بر اساس این طرح، دولت فدرال تنها زمانی می‌تواند مانع انتشار یک مدل هوش مصنوعی شود یا فعالیت آن را متوقف کند که مدل یادشده خطری قریب‌الوقوع ایجاد کند. در این پیشنهاد تأکید شده است که میزان خطر باید دست‌کم معادل یکی از دو حالت باشد: خسارت مالی یک میلیارد دلاری یا احتمال کشته شدن یا وارد آمدن آسیب جدی به دست‌کم ۵۰ نفر بر اثر عملکرد مدل هوش مصنوعی.
علاوه بر این، خطر باید مشخصاً به یکی از موارد زیر مربوط باشد: ساخت سلاح زیستی، خارج شدن مدل از کنترل توسعه‌دهندگانش یا نوعی حمله سایبری.
ارزیابان مستقل که زیر نظر وزارت بازرگانی فعالیت می‌کنند، تعیین خواهند کرد که آیا شرایط لازم برای توقف یک مدل هوش مصنوعی وجود دارد یا خیر. با این حال، ممکن است آزمایشگاه‌های هوش مصنوعی خودشان هزینه حقوق این ارزیابان را تأمین کنند؛ مسئله‌ای که می‌تواند در روند ارزیابی تعارض منافع ایجاد کند.
توقف تهدیدی که از سوی یک مدل هوش مصنوعی متوجه جامعه باشد، تنها با حکم قضات فدرال در دادگاه منطقه‌ای ناحیه کلمبیا امکان‌پذیر خواهد بود. فقط وزارت بازرگانی و نه هیچ وزارتخانه یا نهاد فدرال دیگری، می‌تواند پرونده‌ای را برای رسیدگی به دادگاه تجدیدنظر ارائه کند.
پس از افشای جزئیات پیشنهاد، آنتروپیک در بیانیه‌ای از آن دفاع کرد و اعلام کرد:
این لایحه بازتاب پیشنهادهایی است که در چارچوب «چارچوب هوش مصنوعی پیشرفته» آنتروپیک مطرح کرده‌ایم و از ماه ژوئن برای تصویب آن‌ها با قانون‌گذاران فدرال و ایالتی رایزنی کرده‌ایم. ما این سیاست‌ها را منطقی می‌دانیم و معتقدیم کنگره باید آن‌ها را تصویب کند.
با این حال، کارشناسان صنعت هشدار داده‌اند که بدون تعیین استانداردهای سخت‌گیرانه‌تر، نمی‌توان مقرراتی وضع کرد که واقعاً از مردم محافظت کند.
میراندا بوگن از مرکز دموکراسی و فناوری، اوایل تابستان امسال در گفت‌وگو با مادر جونز گفت: «اگر مداخلات واقعاً قدرتمندی در کار نباشد که انگیزه‌های شرکت‌ها را در زمینه آزمایش‌هایی که انجام می‌دهند و اقداماتی که برای رفع مشکلات در پیش می‌گیرند تغییر دهد، فکر نمی‌کنم بتوانیم خطرهایی را که در حال ظهورند مهار کنیم.»
الکس ترنر، دانشمند پژوهشی سابق در گوگل دیپ‌مایند، نیز در ماه سپتامبر یادداشتی در روزنامه گاردین منتشر کرد و خواستار اعمال کنترل‌های قوی‌تر شد.
ترنر گفت: «ما می‌توانیم و باید از دولت‌هایمان بخواهیم که از ما در برابر فاجعه ناشی از هوش مصنوعیِ خارج از کنترل محافظت کنند. ... به نظر می‌رسد هوش مصنوعی‌های امروزی گاهی دروغ می‌گویند یا تقلب می‌کنند، حتی زمانی که می‌دانند نباید چنین کنند.»
با وجود حمایت گسترده افکار عمومی از تنظیم مقررات هوش مصنوعی، دونالد ترامپ، رئیس‌جمهور آمریکا، تلاش‌ها برای وضع چنین مقرراتی را رد کرده و درخواست‌ها برای نظارت دولتی بر این صنعت را «فریب» خوانده است. ترامپ در چندین پست در شبکه اجتماعی تروث سوشال نشان داده که باور ندارد هوش مصنوعی تهدیدی ایجاد کند؛ این موضع در حالی مطرح شده که آنتروپیک با ارائه طرح قانونی خود در اوایل سال جاری، چندین خطر احتمالی این فناوری را به رسمیت شناخته است.
ترامپ ماه گذشته در یکی از این پست‌ها نوشت: «من افشاگر فریب‌ها هستم و همین حالا دارم فریب دیگری را برملا می‌کنم؛ این ادعا که هوش مصنوعی قرار است کنترل جهان را به دست بگیرد، آن را ببلعد و نابود کند و ربات‌ها به شهرهای ما سرازیر شوند و همه ما را از میان بردارند.»
ترامپ در پستی جداگانه در ماه سپتامبر نیز مدعی شد که تنها عامل نظارتی موردنیاز، خود اوست.
او نوشت: «تنها عامل کنترل یا «محافظی» که هوش مصنوعی به آن نیاز دارد، رئیس‌جمهوری قدرتمند و باهوش (با بهره هوشی بالا!) است؛ و ایالات متحده چنین رئیس‌جمهوری‌ای را به‌وفور در اختیار دارد!»