به‌گفته یک استاد حقوق، نیازی به کند کردن روند توسعه هوش مصنوعی پیشرفته نیست
«خود هوش مصنوعی پیشرفته می‌تواند نقش یک دیوار دفاعی را ایفا کند. اگر روند توسعه آن کند شود، تولید ابزارهای دفاعی جدید نیز به تأخیر می‌افتد و تهدیدهای موجود همچنان باقی می‌مانند.» به‌گفته جان او. مک‌گینیس، «محدود کردن سرعت توسعه ممکن است به بهای از دست رفتن فرصت‌های حفاظتی، در کنار کند شدن پیشرفت، تمام شود.»
مک‌گینیس، استاد دانشکده حقوق دانشگاه نورث‌وسترن، این دیدگاه را در یادداشتی در روزنامه وال‌استریت ژورنال (WSJ) مطرح کرد و به مخالفت با درخواست‌ها برای کند کردن توسعه مدل‌های پیشرفته هوش مصنوعی پرداخت.
او خطرهای هوش مصنوعی را به دو دسته تقسیم می‌کند: نخست، احتمال خارج شدن هوش مصنوعی از کنترل انسان و وقوع حوادث؛ و دوم، استفاده از هوش مصنوعی برای اجرای دستورهای مخرب انسان‌ها.
داریو آمودی، مدیرعامل شرکت آنتروپیک، اخیراً پیشنهاد کرده بود سرعت توسعه مدل‌های پیشرفته هوش مصنوعی کاهش یابد تا شرکت‌های بزرگ فرصت بیشتری برای هماهنگی با یکدیگر و آزمایش مدل‌ها داشته باشند. مک‌گینیس معتقد است این رویکرد ممکن است به مهار خطر نخست کمک کند، اما احتمالاً توسعه ابزارهای مقابله با خطر دوم را به تأخیر می‌اندازد.
او توضیح داد که خطر خارج شدن هوش مصنوعی از کنترل انسان پدیده‌ای بی‌سابقه است و حتی کارشناسان نیز درباره میزان جدی بودن آن اتفاق‌نظر ندارند. در مقابل، احتمال سوءاستفاده مجرمان، تروریست‌ها و دولت‌های اقتدارگرا، از جمله چین و روسیه، از هوش مصنوعی موضوعی صرفاً فرضی نیست. او تأکید کرد: «در طول تاریخ، افراد بدخواه و دولت‌های سرکوبگر همواره با استفاده از جدیدترین فناوری‌ها خسارت‌های گسترده‌ای وارد کرده‌اند.»
به‌گفته مک‌گینیس، اگر مجرمان بخواهند با استفاده از مدل‌هایی که هم‌اکنون در دسترس هستند، سامانه‌های امنیتی بیمارستان‌ها را هک کنند، مدل پیشرفته‌تر می‌تواند به تقویت دفاع سایبری پیش از وقوع حمله کمک کند. او افزود که کند کردن روند توسعه، ابزارهایی را که از قبل در اختیار مجرمان قرار دارند، از بین نمی‌برد.
او برای توضیح این موضوع به اظهارات شرکت پالو آلتو نتورکس اشاره کرد؛ شرکتی که اعلام کرده است مدل کلود مایتوس (Claude Mythos) متعلق به آنتروپیک توانسته آسیب‌پذیری‌های پیچیده‌ای را شناسایی کند که مدل‌های قبلی از تشخیص آن‌ها بازمانده بودند.
مک‌گینیس در پاسخ به این نگرانی که مدل‌های قدرتمندتر ممکن است به ابزاری برای حملات مجرمانه تبدیل شوند، بر لزوم تفکیک میان توسعه مدل‌ها و انتشار بدون محدودیت آن‌ها تأکید کرد و گفت: «توسعه مدل‌های بهتر به این معنا نیست که باید آن‌ها را بدون هیچ محدودیتی در اختیار دیگران قرار داد.» او افزود شرکت‌های آمریکایی فعال در حوزه هوش مصنوعی پیشرفته در حال افزودن سازوکارهای حفاظتی برای جلوگیری از حملات مخرب هستند. خطرهای حقوقی و لطمه احتمالی به اعتبار شرکت‌ها نیز آن‌ها را ترغیب می‌کند حساب‌های کاربری مخرب را زیر نظر بگیرند و مسدود کنند.
او گفت: «در ماه آوریل، آنتروپیک برنامه‌ای از کلود را که جزئیات آن علنی نشده بود، در اختیار مشتریانی از جمله جی‌پی‌مورگان چیس قرار داد. گوگل نیز به شبکه‌های حوزه سلامت و مالی اجازه می‌دهد پیش از دیگران از قابلیت‌های جدید استفاده کنند. این کار به مدافعان فرصت پیشتازی می‌دهد.»
به‌گفته مک‌گینیس، مدل‌های دارای وزن‌های باز که شرکت‌های چینی منتشر کرده‌اند، می‌توانند مشکل‌ساز باشند؛ زیرا کاربران به‌راحتی می‌توانند آن‌ها را تغییر دهند و برای اهداف مخرب به کار بگیرند. او این وضعیت را به رها شدن غول از چراغ تشبیه کرد و گفت حتی یک توافق بین‌المللی برای کند کردن روند توسعه نیز نمی‌تواند مدل‌هایی را که پیش‌تر به‌طور گسترده توزیع شده‌اند، از دسترس خارج کند.
مک‌گینیس تأکید کرد که استدلال او در زمینه رقابت امنیتی میان کشورها حتی قانع‌کننده‌تر است. او گفت: «اگر دولت آمریکا بتواند از مدل‌هایی استفاده کند که هنوز رونمایی نشده‌اند، ممکن است به برتری نظامی چشمگیری دست یابد. کشورهای دیگر نیز که از این موضوع آگاه باشند، شاید حتی جرئت حمله کردن پیدا نکنند.»