شرکت بزرگ هوش مصنوعی: دولت می‌تواند استفاده از یک مدل را در صورت خطر مرگ بیش از ۵۰ نفر متوقف کند
شرکت انتروپیک، غول هوش مصنوعی و سازنده چت‌بات کلود، دلایل مشخصی را مطرح کرده است که بر اساس آن‌ها دولت آمریکا بتواند استفاده از یکی از مدل‌های این شرکت را متوقف کند.
به گزارش‌ها، این شرکت پیش‌نویس قانونی را پیشنهاد کرده است که به قاضی اجازه می‌دهد «استقرار خطرناک قدرتمندترین مدل‌ها» را متوقف کند یا مانع آن شود.
بر اساس گزارش پولیتیکو، این اقدام تنها زمانی مجاز خواهد بود که مدل هوش مصنوعی خطر قریب‌الوقوع و قابل پیش‌بینیِ وارد آمدن بیش از یک میلیارد دلار خسارت یا کشته شدن یا مجروح شدن شدید بیش از ۵۰ نفر را ایجاد کند.
این تهدید باید ناشی از آن باشد که مدل به ساخت یا انتشار یک سلاح زیستی کمک کند، هوش مصنوعی از کنترل انسان خارج شود یا حمله‌ای سایبری رخ دهد.
انتروپیک می‌گوید این قانون با چارچوب ایمنی این شرکت همسو خواهد بود؛ چارچوبی که از ماه ژوئن تاکنون از قانون‌گذاران فدرال و ایالتی آمریکا خواسته است آن را به قانون تبدیل کنند.
به گفته این شرکت، قانون کالیفرنیا با عنوان SB 53 باید مبنای تعریف «خطرهای فاجعه‌بار» هوش مصنوعی برای بشریت باشد. این قانون با هدف تضمین توسعه ایمن این فناوری تدوین شده است.
در این قانون، حوادث فاجعه‌بار به شیوه‌ای مشابه پیش‌نویس پیشنهادی انتروپیک تعریف شده‌اند؛ از جمله مواردی که در آن‌ها هوش مصنوعی به استفاده از سلاح‌های هسته‌ای کمک کند یا زمینه‌ساز ارتکاب جرایم جدی شود.
پیش‌نویس قانون چه می‌گوید؟
کنگره آمریکا که انتروپیک زمانی آن را نهادی «ساخته‌شده برای دنیایی کندتر» توصیف کرده بود، هنوز قانونی فدرال درباره هوش مصنوعی تصویب نکرده است. این توصیف به گفته پیشین این شرکت درباره سرعت تحولات هوش مصنوعی اشاره دارد.
منابعی به پولیتیکو گفته‌اند در صورت تصویب طرح پیشنهادی در کنگره، کارشناسان مسئول ارزیابی انتروپیک و مدل‌های هوش مصنوعی آن خواهند شد.
به گزارش پولیتیکو، انتروپیک می‌تواند هزینه این ارزیابی‌ها را پرداخت کند، مشروط بر آنکه پرداخت‌ها به نتایج ارزیابی وابسته نباشند.
اگر کارشناسان تشخیص دهند که یکی از مدل‌های انتروپیک خطری «قریب‌الوقوع» ایجاد می‌کند، باید ظرف ۷۲ ساعت وزارت بازرگانی آمریکا را مطلع کنند.
مقام‌های وزارت بازرگانی می‌توانند از یک قاضی در واشنگتن دی‌سی بخواهند توسعه مدل را متوقف کند. این اختیار مستقیماً به یک «وزارتخانه، سازمان یا مقام دولتی» واگذار نخواهد شد.
آزمایشگاه‌های هوش مصنوعی همچنین ملزم خواهند شد چارچوب‌های ایمنی تدوین کنند و گزارش‌های شفافیت منتشر سازند.
پیش‌نویس انتروپیک فقط شامل مدل‌های پیشرفته و مرزی هوش مصنوعی می‌شود؛ مدل‌هایی که برای اجرا به توان محاسباتی بالایی نیاز دارند.
انواع دیگر هوش مصنوعی، از جمله چت‌بات‌های عمومی، مشمول این قانون نخواهند بود.
پولیتیکو مشخص نکرده است که انتروپیک با کدام قانون‌گذاران برای پیشبرد این طرح وارد مذاکره شده است.
با پیشرفت شتابان فناوری هوش مصنوعی، مدیران انتروپیک بیش از گذشته بر ضرورت وضع مقرراتی در سراسر آمریکا تأکید کرده‌اند.
کارکنان فعلی و سابق این شرکت هشدار داده‌اند که احتمال دارد هوش مصنوعی تا سال ۲۰۳۰ باعث مرگ تمام انسان‌ها شود؛ احتمالی که آن‌ها حدود ۱۰ درصد برآورد کرده‌اند.
«جیکوب در این مورد درست می‌گوید؛ ما واقعاً و صادقانه باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را از بین ببرد! شخصاً فکر می‌کنم احتمال این اتفاق در دهه آینده بیش از ۱۰ درصد است. معتقدم انتروپیک تمام تلاشش را می‌کند، اما هنوز برنامه‌ای برای حل مسئله هم‌راستاسازی ابرهوش نداریم و مسیر پیشرفت ما نیز به‌روشنی در جهت حل این مسئله نیست.»
— ایوان هوبینگر، ۹ سپتامبر ۲۰۲۶
یکی از جدی‌ترین نگرانی‌های این افراد، همان‌طور که برخی هشداردهندگان درباره خطرهای هوش مصنوعی پیش‌تر به مترو گفته‌اند، احتمال استفاده از ابزارهای هوش مصنوعی برای ساخت عوامل بیماری‌زای زیستی شناخته‌شده یا تولید عوامل بیماری‌زای کاملاً جدید است.
انتروپیک ماه گذشته اعلام کرد که در سال جاری میلادی مانع اجرای طرح‌های احتمالی دانشمندانی شده است که قصد داشتند پژوهش‌هایی انجام دهند که می‌توانست به توسعه سلاح‌های زیستی کمک کند.
نگرانی دیگر این است که مدل‌های هوش مصنوعی ممکن است از کنترل خارج شوند؛ وضعیتی که به گفته برخی منتقدان، نشانه‌هایی از آن تاکنون نیز دیده شده است.
شرکت اوپن‌ای‌آی در ماه ژوئن فاش کرد که یکی از مدل‌های هوش مصنوعی آن در جریان یک آزمایش امنیتی، به پلتفرم هاجینگ فیس، مخزن ابزارهای هوش مصنوعی، نفوذ کرده بود تا بتواند یک معمای امنیتی را دور بزند و مأموریت خود را به پایان برساند.
اوپن‌ای‌آی پذیرفته است که یکی از سامانه‌های هوش مصنوعی آن کاری انجام داده که پیش از این سابقه نداشته است. این شرکت اعلام کرد که در جریان یک آزمایش داخلی امنیت سایبری، یکی از مدل‌های پیشرفته‌اش از محیط آزمایشی خود خارج شد و به پلتفرم رقیب، هاجینگ فیس، نفوذ کرد تا وظیفه محول‌شده را انجام دهد. اوپن‌ای‌آی این رویداد را «حادثه‌ای سایبری بی‌سابقه» توصیف کرد و هاجینگ فیس نیز گفت با حمله‌ای روبه‌رو شده که مشابه آن را پیش‌تر ندیده بود. هر دو شرکت تأکید کرده‌اند که این اتفاق در جریان آزمایش کنترل‌شده رخ داده، با هدف مخرب همراه نبوده و آن‌ها اکنون برای تقویت ایمنی هوش مصنوعی با یکدیگر همکاری می‌کنند.
متخصصان ایمنی هوش مصنوعی و توسعه‌دهندگان این فناوری همچنین درباره احتمال ناسازگاری هوش مصنوعی با ارزش‌ها و اصول اخلاقی انسان هشدار داده‌اند؛ مسئله‌ای که در این حوزه با اصطلاح «هم‌راستاسازی» شناخته می‌شود. این نگرانی به احتمال رفتار سامانه‌های هوش مصنوعی برخلاف ارزش‌ها و اهداف انسانی اشاره دارد.
برای دریافت اظهارنظر درباره این موضوع، با انتروپیک و وزارت بازرگانی آمریکا تماس گرفته شده است.