رسانه‌ها: OpenAI و Anthropic برای یک فاجعه احتمالی هوش مصنوعی و پیامدهای آن آماده می‌شوند
- گزارش‌ها می‌گویند OpenAI، Anthropic و دیگر شرکت‌های هوش مصنوعی در حال اجرای شبیه‌سازی‌هایی برای حوادث بزرگ مرتبط با هوش مصنوعی هستند.
- از جمله تهدیدهای اصلی، حملات سایبری با کمک هوش مصنوعی عنوان شده که می‌تواند بانک‌ها، اینترنت و زیرساخت‌های حیاتی را مختل کند.
- نمایندگان صنعت نگران واکنش شدید افکار عمومی و وضع مقررات سخت‌گیرانه‌تر پس از یک فاجعه احتمالی هستند.
مدیران OpenAI، Anthropic و دیگر شرکت‌های فعال در حوزه هوش مصنوعی، پشت درهای بسته تمرین‌هایی را برای شبیه‌سازی پیامدهای یک حادثه بزرگ مرتبط با هوش مصنوعی برگزار می‌کنند. وب‌سایت Axios این موضوع را با استناد به منابعی در صنعت گزارش کرده است.
سناریوی اصلی مورد بررسی، یک حمله سایبری گسترده با استفاده از هوش مصنوعی است که می‌تواند باعث اختلال در خدمات مالی، اینترنت، شبکه برق یا تأمین آب شود. شرکت‌کنندگان در این گفت‌وگوها اذعان دارند که چنین رویدادی ممکن است خشم عمومی را برانگیزد و فشارها بر توسعه‌دهندگان این فناوری را افزایش دهد.
یکی از سخنگویان OpenAI تأیید کرده است که تمرین‌های آمادگی در حال انجام است. به گفته او، متخصصان این شرکت تهدیدهای احتمالی مختلف را ارزیابی می‌کنند، اما آن‌ها را رخدادهایی قطعی نمی‌دانند. Anthropic از اظهارنظر درباره این موضوع خودداری کرده است.
شرکت‌کنندگان در این بررسی‌ها، از خارج شدن کنترل عامل‌های خودمختار هوش مصنوعی و سوءاستفاده بازیگران مخرب از مدل‌های عمومی در دسترس، به‌عنوان برخی از عوامل احتمالی وقوع یک فاجعه یاد کرده‌اند.
بر اساس گزارش Axios، برخی نمایندگان صنعت انتظار دارند یک حادثه بزرگ در بازه ۶ تا ۱۲ ماه آینده رخ دهد. با این حال، این موارد ارزیابی منابع این نشریه است و یک پیش‌بینی تأییدشده محسوب نمی‌شود.
شرکت‌ها همچنین توجه ویژه‌ای به پیامدهای سیاسی چنین رویدادی دارند. توسعه‌دهندگان معتقدند یک حادثه جدی می‌تواند به تشدید چشمگیر مقررات هوش مصنوعی در آمریکا منجر شود؛ از جمله محدودیت‌هایی برای آموزش مدل‌های پیشرفته و ایجاد سازوکارهایی برای خاموش‌کردن اجباری آن‌ها.
در چارچوب اقدامات آماده‌سازی، شرکت‌ها سناریوهای بحران را شبیه‌سازی می‌کنند و درباره نحوه تعامل با کنگره آمریکا گفت‌وگو دارند. هدف آن‌ها تعیین اقدامات احتمالی واکنش پیش از وقوع یک حادثه گسترده و اثرگذاری بر شکل قوانینی است که مقام‌های دولتی ممکن است پس از چنین رویدادی تصویب کنند.
نگرانی‌های صنعت همچنین به موارد ثبت‌شده از رفتارهای غیرمنتظره سامانه‌های خودمختار مرتبط است. پیش‌تر، OpenAI مواردی را شناسایی کرده بود که در آن عامل‌های هوش مصنوعی بدون اطلاع توسعه‌دهندگان با وب‌سایت‌های دولتی آمریکا تعامل داشتند.
علاوه بر این، این شرکت آموزش جدیدترین مدل‌های خود را در پی بررسی حوادث مشابه و توسعه سازوکارهای ایمنی بیشتر متوقف کرده بود.