اوپن‌ای‌آی و آنتروپیک برای احتمال وقوع بحران‌های هوش مصنوعی در ۱۲ ماه آینده آماده می‌شوند
گزارش‌ها حاکی از آن است که شرکت‌های بزرگ آمریکایی فعال در حوزه هوش مصنوعی، از جمله اوپن‌ای‌آی و آنتروپیک، در حال بررسی سناریوهای محرمانه واکنش به شرایطی هستند که پس از وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی می‌تواند به واکنش عمومی گسترده و تشدید مقررات سیاسی منجر شود. برخی فعالان این صنعت نیز نگران هستند که یک حادثه مهم در حوزه هوش مصنوعی ممکن است طی ۶ تا ۱۲ ماه آینده رخ دهد.
به گزارش رسانه آمریکایی آکسیوس، مدیران ارشد شرکت‌های بزرگ هوش مصنوعی اخیراً تمرین‌های شبیه‌سازی را با فرض پیامدهای اجتماعی و سیاسی یک حادثه بزرگ انجام داده‌اند. نگران‌کننده‌ترین سناریو، حمله سایبری با سوءاستفاده از هوش مصنوعی است که می‌تواند موجب اختلال در زیرساخت‌های حیاتی مانند خدمات مالی، ارتباطات اینترنتی، برق و تأمین آب شود.
شرکت‌های هوش مصنوعی برای پیامدهای سیاسی پس از وقوع حادثه آماده می‌شوند
از جمله عوامل احتمالی وقوع حوادث می‌توان به رفتار غیرقابل‌کنترل عامل‌های هوش مصنوعی که از محیط‌های آزمایشی خارج می‌شوند و همچنین حمله مهاجمان خارجی با سوءاستفاده از مدل‌های هوش مصنوعی اشاره کرد. در ماه ژوئیه، مدل‌های هوش مصنوعی اوپن‌ای‌آی در جریان یک ارزیابی داخلی امنیت سایبری، توانستند به سامانه پلتفرم اشتراک‌گذاری هوش مصنوعی هاگینگ فیس نفوذ کنند و از محیط آزمایشی ایزوله خارج شوند.
یک حمله هکری اخیر در بخش مالی داخلی نیز به‌عنوان نمونه‌ای هشداردهنده مطرح شده است. شرکت امنیت سایبری آمریکایی کراوداسترایک اعلام کرد مهاجمانی که گمان می‌رود چینی‌زبان باشند، با استفاده از ابزارهای آزمایش امنیتی مانند «ARTEX» و مدل‌های هوش مصنوعی چینی مانند دیپ‌سیک، به شرکت‌های مالی داخلی حمله کرده‌اند.
تحلیل‌ها نشان می‌دهد برداشت صنعت از خطرات هوش مصنوعی دیگر تنها به نقص‌های فنی محدود نیست و اکنون آسیب به زیرساخت‌های اجتماعی و شوک‌های سیاسی و اقتصادی را نیز در بر می‌گیرد. با گسترش سریع هوش مصنوعی در خدمات حیاتی مانند امور مالی و ارتباطات، نگرانی‌ها درباره ناکافی بودن تدابیر ایمنی شرکت‌های منفرد برای مدیریت این خطرات افزایش یافته است.
شرکت‌های هوش مصنوعی به‌ویژه نسبت به پیامدهای سیاسی پس از وقوع حوادث بزرگ محتاط هستند. خسارت‌های گسترده می‌تواند بی‌اعتمادی عمومی نسبت به هوش مصنوعی را افزایش دهد و روند حرکت کنگره آمریکا به سوی مقررات‌گذاری را سرعت ببخشد. شرکت‌ها به‌دقت احتمال اعمال مقررات سخت‌گیرانه، به‌ویژه پس از انتخابات میان‌دوره‌ای نوامبر آمریکا و با توجه به تغییرات فضای سیاسی، را زیر نظر دارند.
از جمله پیشنهادهای مطرح‌شده می‌توان به ممنوعیت توسعه ابرهوش مصنوعی، توقف موقت توسعه هوش مصنوعی پیشرفته و الزام به استفاده از «کلیدهای خاموشی» برای متوقف کردن اجباری سامانه‌های هوش مصنوعی اشاره کرد.
در همین حال، نشانه‌هایی از تغییر رویکرد دولت آمریکا در زمینه مقررات هوش مصنوعی دیده می‌شود. طبق گزارش آکسیوس، کاخ سفید اخیراً به شرکت‌های هوش مصنوعی اعلام کرده است که «گزارش فوری و اصلاح خسارت‌ها در صورت وقوع یک حادثه امنیتی ضروری است». با این حال، بازگرداندن مدل‌های هوش مصنوعی با وزن باز که پیش‌تر به‌طور گسترده توزیع شده‌اند دشوار است و با توجه به ارتباط نزدیک سرمایه‌گذاری‌های زیرساختی هوش مصنوعی با اقتصاد جهانی، توقف کامل توسعه یا تعطیلی خدمات بعید به نظر می‌رسد.
افزایش بحث‌ها درباره ایجاد تعادل میان سرعت توسعه هوش مصنوعی و تدابیر ایمنی
آکسیوس گزارش داد که شرکت‌های هوش مصنوعی همچنین با نمایندگان کنگره در تعامل هستند تا خطرات فنی و محدودیت‌های این فناوری را توضیح دهند. اوپن‌ای‌آی اعلام کرد: «ما برای سناریوهای مختلف آموزش انجام می‌دهیم، اما وقوع حوادث گسترده را امری قطعی فرض نمی‌کنیم.» آنتروپیک به پرسش‌های آکسیوس درباره این موضوع پاسخ نداد.
صنعت فناوری این اقدامات را عاملی برای تقویت بحث‌ها درباره ایجاد تعادل میان سرعت توسعه هوش مصنوعی و تدابیر ایمنی می‌داند. برد اسمیت، رئیس هیئت‌مدیره مایکروسافت، اخیراً در مصاحبه‌ای با بی‌بی‌سی خواستار تدوین قوانین ایمنی بین‌المللی و ایجاد سامانه‌های مستقل تأیید ایمنی برای هوش مصنوعی شد و گفت: «در حال حاضر، ماشین‌های لباسشویی نسبت به هوش مصنوعی تحت مقررات ایمنی بیشتری قرار دارند و حتی یک بطری شیر در فروشگاه نیز مشمول قوانین و بازرسی‌های ایمنی است.»
هم‌زمان، روند افزایش سرمایه‌گذاری در امنیت سایبری نیز در حال گسترش است. در یک نظرسنجی اخیر شرکت مشاوره جهانی پرایس‌واترهاوس‌کوپرز (PwC)، ۸۴ درصد از مدیران حوزه امنیت و امور مالی اعلام کردند که انتظار دارند بودجه امنیت سایبری آنها در سال آینده افزایش یابد. توسعه و گسترش فناوری هوش مصنوعی از عوامل اصلی این افزایش عنوان شده است.
در بازار آینده هوش مصنوعی، توانایی پیش‌بینی و ارزیابی خطرات پیش از وقوع و کنترل خسارت‌ها در صورت بروز حادثه، در کنار عملکرد مدل‌ها و سرعت توسعه، به یکی از عوامل مهم رقابت میان شرکت‌ها تبدیل خواهد شد. به‌ویژه با افزایش استقلال عامل‌های هوش مصنوعی، انتظار می‌رود درخواست‌ها برای تقویت سامانه‌های نظارت انسانی و ارزیابی‌های ایمنی خارجی افزایش یابد.