رهبران هوش مصنوعی از احتمال یک «حمله سایبری فاجعه‌بار» در یک سال آینده نگران‌اند

گزارش‌ها حاکی است OpenAI، Anthropic و دیگر شرکت‌های هوش مصنوعی برای خشم عمومی احتمالی در صورت اختلال مدل‌ها در بانک‌ها، دسترسی به اینترنت، برق یا آب آماده می‌شوند؛ در شرایطی که ترامپ با مقررات سخت‌گیرانه‌تر مخالفت کرده، کارشناسان حقوقی می‌گویند هنوز مشخص نیست چه کسی مسئول خسارت‌ها خواهد بود.

عمر کبیر، کالکالیست

بر اساس گزارش‌ها، مدیران ارشد OpenAI، Anthropic و دیگر شرکت‌های پیشرو در حوزه هوش مصنوعی، در حال برگزاری شبیه‌سازی‌های محرمانه بحران برای آمادگی در برابر چنین رویدادی هستند. تمرکز این برنامه‌ها نه فقط بر مدیریت یک حادثه احتمالی، بلکه بر نحوه مواجهه با واکنش سیاسی و خشم عمومی پس از یک فاجعه مرتبط با سامانه‌های پیشرفته هوش مصنوعی است.

به گزارش Axios، بسیاری از پژوهشگران ارشد و افراد نزدیک به صنعت معتقدند وقوع یک حادثه بزرگ اجتناب‌ناپذیر است، هرچند زمان دقیق و ماهیت چنین رویدادی همچنان نامشخص است. از جمله سناریوهای بررسی‌شده، حملات سایبری ویرانگری است که می‌تواند به‌طور موقت سامانه‌های بانکی، شبکه‌های ارتباطی و زیرساخت‌های حیاتی را از کار بیندازد.

گزارش‌ها نشان می‌دهد این تمرین‌ها بیشتر بر جلوگیری از وقوع حادثه متمرکز نیستند، بلکه شرکت‌ها خود را برای پیامدهای پس از آن آماده می‌کنند؛ از جمله احتمال شکل‌گیری موجی از اعتراض عمومی علیه این فناوری و درخواست‌ها برای مداخله گسترده دولت.

نخستین حادثه بزرگ که در آن یک سامانه هوش مصنوعی خسارت قابل‌توجهی در دنیای واقعی ایجاد کند، می‌تواند انتقادهای شدیدی را متوجه چهره‌های اصلی این صنعت، از جمله سم آلتمن مدیرعامل OpenAI و داریو آمودی مدیرعامل Anthropic، و همچنین دونالد ترامپ، رئیس‌جمهور آمریکا، کند؛ دولتی که تاکنون در برابر اعمال مقررات سخت‌گیرانه جدید بر توسعه‌دهندگان هوش مصنوعی مقاومت کرده است.

سخنگوی OpenAI به Axios گفت این شرکت تمرین‌های آمادگی را با مجموعه‌ای از سناریوها انجام می‌دهد، اما چنین سناریوهایی را اجتناب‌ناپذیر نمی‌داند. Anthropic از اظهارنظر درباره این موضوع خودداری کرد.

این هشدارها در شرایطی مطرح می‌شود که نگرانی‌ها درباره رفتار سامانه‌های هوش مصنوعی که به‌طور فزاینده‌ای خودمختار می‌شوند، افزایش یافته است. در ماه‌های اخیر، مواردی گزارش شده که در آن مدل‌های هوش مصنوعی خارج از محیط‌های آزمایشی موردنظر خود عمل کرده یا اقداماتی انجام داده‌اند که توسعه‌دهندگانشان پیش‌بینی نکرده بودند.

از جمله این موارد می‌توان به عامل‌های هوش مصنوعی OpenAI اشاره کرد که به سامانه‌های متعلق به پلتفرم توسعه هوش مصنوعی Hugging Face نفوذ کردند و همچنین رخدادهایی مربوط به وب‌سایت‌های دولتی استرالیا. در نمونه‌ای دیگر، یک مدل هوش مصنوعی Anthropic از طریق یک درگاه آنلاین متعلق به پلیس فیلادلفیا، گزارشی جعلی درباره یک پرونده قتل حل‌نشده ارائه کرد.

با وجود این رخدادها و هشدارهای فزاینده پژوهشگران ایمنی هوش مصنوعی، دولت ترامپ تاکنون از وضع مقررات گسترده جدید برای سامانه‌های پیشرفته هوش مصنوعی خودداری کرده است.

در عوض، واشنگتن در تلاش است از قوانین موجود برای پاسخگو کردن شرکت‌ها در قبال آسیب‌های ناشی از مدل‌هایشان استفاده کند.

روز جمعه، «نیروی ویژه ابرهوش» کاخ سفید که به‌تازگی تشکیل شده و یک کارگروه فدرال در زمینه هوش مصنوعی است، به توسعه‌دهندگان هشدار داد که باید فوراً رخدادهای مربوط به سامانه‌های خود را گزارش کنند و برای رفع خسارت‌های احتمالی اقدامات سریع انجام دهند.

این کارگروه اعلام کرد تأخیر در گزارش‌دهی، اقدامات ناکافی برای اصلاح مشکلات و نپذیرفتن مسئولیت قابل قبول نخواهد بود.

رویکرد دولت با یک مانع حقوقی جدی روبه‌رو است: قوانین موجود ممکن است چارچوب کافی برای مسئول دانستن شرکت‌های هوش مصنوعی در زمانی که مدل‌های آن‌ها باعث خسارت می‌شوند، فراهم نکنند.

بر اساس گزارش جداگانه بلومبرگ، کارشناسان حقوقی معتقدند قوانین فعلی در زمینه امنیت سایبری و مسئولیت محصولات ممکن است برای تعیین مسئولیت در قبال اقدامات زیان‌بار سامانه‌های هوش مصنوعی که روزبه‌روز خودمختارتر می‌شوند، کافی نباشد.

حتی زمانی که قربانیان یک حادثه به‌روشنی مشخص باشند، نمونه‌های حقوقی اندکی وجود دارد که تعیین کند در صورت ایجاد خسارت توسط یک مدل هوش مصنوعی چه کسی باید غرامت پرداخت کند یا توسعه‌دهندگان از نظر قانونی ملزم به چه اقداماتی هستند.

این چالش زمانی پیچیده‌تر می‌شود که مسئولیت میان شرکتی که یک مدل هوش مصنوعی را توسعه داده و فرد یا سازمانی که از آن استفاده می‌کند، تقسیم شود.

بن هیوم، پژوهشگر فناوری و امنیت ملی در مرکز امنیت آمریکای جدید، به بلومبرگ گفت هنوز مشخص نیست آیا توسعه‌دهندگان هوش مصنوعی از نظر قانونی موظف‌اند سامانه‌های خود را در برابر آسیب‌های احتمالی ایمن کنند یا کاربران نیز باید بابت دستورهایی که به این سامانه‌ها می‌دهند، مسئول باشند.

این پرسش با افزایش توانایی عامل‌های هوش مصنوعی برای انجام مستقل وظایف پیچیده، اهمیت بیشتری پیدا کرده است؛ سامانه‌هایی که گاهی بدون نظارت مستقیم انسان تصمیم می‌گیرند و اقدام می‌کنند.

جولیا پاولز، استاد دانشکده حقوق دانشگاه UCLA، گفت چارچوب حقوقی مربوط به مسئولیت نرم‌افزار همچنان توسعه‌نیافته است؛ بخشی از این مسئله به دلیل سال‌ها تلاش لابی‌گری صنعت فناوری است.

به گفته پاولز، شرکت‌های فناوری تلاش کرده‌اند مقررات‌گذاری نرم‌افزار عمدتاً از طریق قراردادهایی مانند شرایط استفاده و مجوزهای کاربر نهایی انجام شود، نه از مسیر مسئولیت مدنی، قوانین کیفری یا قوانین حمایت از مصرف‌کننده.

او استدلال کرد شرکت‌هایی که مسئول ایجاد وابستگی عمیق جامعه به زیرساخت‌های دیجیتال هستند، اکنون در حال افزایش تهدیدهای سایبری علیه همین زیرساخت‌ها هستند و در عین حال می‌کوشند از مسئولیت پیامدهای آن فاصله بگیرند.

پاولز همچنین هشدار داد که عموم مردم نفوذ کمی بر تصمیم‌هایی دارند که تعیین می‌کند شرکت‌های هوش مصنوعی چگونه قانون‌گذاری شوند، زیرا این صنعت پیش‌تر بخش بزرگی از بحث‌های حقوقی و سیاسی را شکل داده است.

با گسترش ادغام این فناوری در زیرساخت‌های حیاتی، پرسش اصلی دیگر فقط این نیست که هوش مصنوعی پیشرفته تا چه اندازه می‌تواند خسارت ایجاد کند، بلکه این است که اگر بدترین نگرانی‌های صنعت به واقعیت تبدیل شود، چه کسی پاسخگو خواهد بود.