حمایت آنتروپیک از طرحی که خاموش‌کردن مدل هوش مصنوعی را به مرگ بیش از ۵۰ نفر مشروط می‌کند
فناوری
منتقدان به‌سرعت یادآوری کردند که تعیین چنین آستانه بالایی برای مداخله، ظاهراً با اظهارات پیشین مدیرعامل آنتروپیک در تضاد است.
نویسنده: دنیل جان
شرکت آنتروپیک پس از آنکه گزارش شد از قانونی حمایت کرده است که خاموش‌کردن اضطراری یک سامانه هوش مصنوعی را تنها در صورتی مجاز می‌داند که این سامانه باعث مرگ یا آسیب جدی بیش از ۵۰ نفر، یا خسارتی بیش از یک میلیارد دلار شود، با انتقادهای شدیدی روبه‌رو شده است.
آنچه باید بدانید
بر اساس گزارشی از پولیتیکو، حساب رسانه‌ای مور پرفکت یونیون (More Perfect Union) در پستی در اینستاگرام اعلام کرد که آنتروپیک از قانونی برای ایمنی هوش مصنوعی حمایت کرده است که مداخله در عملکرد یک مدل را فقط در صورت وجود «خطری فوری و مشخص‌شده» مجاز می‌داند.
به گفته مور پرفکت یونیون، این معیار فقط آسیب‌های مرتبط با سلاح‌های زیستی، حملات سایبری یا مواردی را شامل می‌شود که در آن‌ها توسعه‌دهنده کنترل خود را بر مدل از دست داده باشد. افزون بر این، تنها زمانی امکان مداخله فراهم می‌شود که شمار قربانیان از ۵۰ نفر در میان کشته‌شدگان یا مجروحان با آسیب جدی فراتر برود یا میزان خسارت از یک میلیارد دلار بیشتر شود.
منتقدان به‌سرعت اشاره کردند که تعیین چنین آستانه بالایی ظاهراً با اظهارات پیشین داریو آمودی، مدیرعامل آنتروپیک، در تضاد است.
آمودی در ویدئوی اینستاگرامی مور پرفکت یونیون می‌گوید: «ترجیح می‌دهم مردم مرا مسخره کنند تا اینکه یک روز از خواب بیدار شوم و بفهمم کسی از مدل ما، کلود، برای کشتن عده زیادی از مردم استفاده کرده است.»
در این ویدئو همچنین به بندی اشاره می‌شود که از آن با عنوان «عبارت مربوط به پیش‌دستی» یاد شده است. بر اساس این بند، در صورت تصویب قانون فدرال، مقررات آن بر قوانین ایالتی هوش مصنوعی اولویت خواهد داشت. به گفته مور پرفکت یونیون، اگر این بند تصویب شود، ممکن است ایالت‌ها از اجرای قوانینی منع شوند که «توسعه، استقرار یا استفاده داخلی از یک مدل هوش مصنوعی را متوقف می‌کنند»؛ موضوعی که می‌تواند اثربخشی مقررات سخت‌گیرانه‌تر ایالتی را تضعیف کند.
کاربران نیز به‌سرعت تردید و مخالفت خود را در بخش دیدگاه‌ها مطرح کردند.
یکی از کاربران نوشت: «منظور ۵۰ نفر در کل است یا ۵۰ نفر به‌طور هم‌زمان؟ فکر می‌کنم جوابش را می‌دانیم.»
کاربر دیگری افزود: «این تعداد باید صفر باشد.»
اطلاعات بیشتر
یکی دیگر از محورهای بحث‌برانگیز این طرح، محدودبودن انواع خسارت‌هایی است که در محاسبه آستانه تعیین‌شده لحاظ می‌شوند. به گفته مور پرفکت یونیون، فقط سلاح‌های زیستی، حملات سایبری و مواردی که مدل از کنترل توسعه‌دهنده خارج شود، در این دسته قرار می‌گیرند.
در بخش دیدگاه‌ها، برخی کاربران اینستاگرام بر این موضوع تمرکز کردند که در صورت آسیب‌رساندن هوش مصنوعی، چه کسی باید پاسخ‌گو باشد. گروهی معتقد بودند شرکت‌های هوش مصنوعی باید مسئولیت این آسیب‌ها را بر عهده بگیرند، در حالی که برخی دیگر مسئولیت را متوجه گردانندگان و بهره‌برداران این سامانه‌ها می‌دانستند.
منتقدان می‌گویند به‌جای آنکه قانون‌گذاران منتظر تلفات گسترده یا خسارت‌های میلیارددلاری بمانند، باید مقرراتی وضع کنند که مسئولیت افراد و شرکت‌های به‌کارگیرنده این سامانه‌ها را روشن‌تر مشخص کند.
یکی از کاربران نوشت: «کسی که مالک هوش مصنوعی است و آن را اداره می‌کند، باید چنان مسئول شناخته شود که گویی خودش آن کار را انجام داده است. اشکال این پیشنهاد چیست؟»
از کجا می‌توان اطلاعات بیشتری به دست آورد؟
بحث بر سر نظارت بر هوش مصنوعی در کنگره آمریکا، مجالس قانون‌گذاری ایالت‌ها و دیگر نهادها ادامه دارد.
- در سراسر صنعت، خطرهای هوش مصنوعی افزایش یافته‌اند و درخواست‌ها برای نظارت سخت‌گیرانه‌تر بیشتر شده‌اند.
- در کنگره، پیامدهای هوش مصنوعی برای اقلیم و سلامت عمومی به مسئله‌ای تبدیل شده‌اند که قانون‌گذاران دشوارتر می‌توانند آن را نادیده بگیرند.
- در کالیفرنیا، قانون‌گذاران خواستار شفافیت درباره مصرف آب مراکز داده شده‌اند؛ زیرا گسترش هوش مصنوعی برنامه‌ریزی محلی را با فشار بیشتری روبه‌رو کرده است.
- با افزایش فشار هوش مصنوعی بر بازار کار، منابع آب و شبکه تأمین برق، نارضایتی عمومی نیز بیشتر شده است.
- در اجلاس اقلیمی سازمان ملل متحد، نگاه مثبت به هوش مصنوعی به‌عنوان نیرویی مثبت با تردیدهای فزاینده روبه‌رو شده است.