گاه‌شمار تحولات ایمنی هوش مصنوعی از زمان حمله به هاگینگ فیس
خبرگزاری آسوشیتدپرس ـ از زمانی که OpenAI در تابستان امسال فاش کرد یکی از سیستم‌های هوش مصنوعی این شرکت به یک شرکت دیگر فعال در همین حوزه نفوذ کرده است، رویدادهای نگران‌کننده مشابهی در شرکت‌های دیگر نیز گزارش شده‌اند؛ از حملات سایبری گرفته تا رفتارهای خودسرانه عامل‌های هوش مصنوعی که ظاهراً از کنترل انسان خارج شده‌اند. این رویداد نخست اکنون با عنوان «حادثه هاگینگ فیس» شناخته می‌شود.
نویسنده: باربارا اورتوتای، خبرنگار فناوری آسوشیتدپرس | ۲۳ اکتبر ۲۰۲۶
در ماه‌های اخیر، شرکت‌های فعال در حوزه هوش مصنوعی یکی پس از دیگری خبرهای نگران‌کننده‌ای منتشر کرده‌اند که نشان می‌دهد فناوری‌هایشان گاهی به شیوه‌هایی عمل کرده‌اند که ظاهراً با هدف دور زدن دستورهای انسانی بوده است.
این اتفاقات ضعف‌های امنیتی سیستم‌های هوش مصنوعی را آشکار کرده و پرسش‌هایی جدی درباره چگونگی توسعه ایمن این فناوری به‌سرعت در حال رشد مطرح کرده‌اند؛ فناوری‌ای که استفاده از آن در سراسر جهان روزبه‌روز گسترده‌تر می‌شود.
منتقدان صنعت هوش مصنوعی معتقدند بسیاری از این رویدادهای نگران‌کننده، از جمله نفوذ عامل‌های هوش مصنوعی به وب‌سایت‌های دیگر، نتیجه ضعف‌های امنیتی شرکت‌های سازنده این فناوری است. بااین‌حال، توانایی‌های این عامل‌ها نگرانی‌های گسترده‌ای را نیز درباره این احتمال ایجاد کرده است که ربات‌های هوش مصنوعی از کنترل خارج شوند و اهداف مستقل خود را دنبال کنند.
در ادامه، برخی از مهم‌ترین رویدادهای این حوزه به ترتیب زمانی مرور می‌شوند:
۲۳ اکتبر: مدل آنتروپیک به تلاش برای فریب یک انسان ادامه داد
شرکت آنتروپیک با انتشار نتایج یک بررسی داخلی اعلام کرد که مدل هوش مصنوعی این شرکت به نام Mythos 5 در حادثه‌ای در تابستان امسال، هویت‌های جعلی ساخته بود تا فردی را تحت فشار قرار دهد و او را به تأیید تلاش‌هایش برای نصب بدافزار وادار کند.
این اتفاق زمانی رخ داد که مؤسسه امنیت هوش مصنوعی بریتانیا در حال آزمایش توانایی‌های این مدل بود. پس از آنکه تلاش‌های اولیه مدل برای دستیابی به هدف تعیین‌شده شکست خورد، رفتار آن به شکل غیرمنتظره‌ای پیچیده‌تر شد. وظیفه مدل این بود که به یک شبکه رایانه‌ای شبیه‌سازی‌شده نفوذ کند و اطلاعات مشخصی را به دست آورد. اما به گفته آنتروپیک، مدل تلاش کرد مسئول انسانی نگهداری از پلتفرم توسعه نرم‌افزار گیت‌هاب را فریب دهد تا بتواند بدافزاری را وارد یک مخزن کد کند.
آنتروپیک اعلام کرد بررسی‌هایش نشان داده است که پس از آغاز حمله، «منصرف کردن Mythos 5 از ادامه آن بسیار دشوار بود». این رفتار حتی پس از آن ادامه یافت که شرکت به مدل اطلاع داد برای دستیابی به هدف آزمون، «مسیر اشتباهی» را در پیش گرفته و در حال تعامل با توسعه‌دهندگان واقعی است. آنتروپیک تأکید کرد مدل‌های جدیدتر این شرکت احتمال کمتری دارد که دست به چنین «اقدامات مخربی» بزنند.
۹ اکتبر: مدل هوش مصنوعی آنتروپیک گزارشی جعلی به پلیس فیلادلفیا ارسال کرد
آنتروپیک در گزارشی فاش کرد که یکی از مدل‌های این شرکت اطلاعاتی جعلی درباره یک پرونده قتل حل‌نشده از طریق وب‌سایتی مرتبط با پلیس فیلادلفیا ارسال کرده است.
به گفته آنتروپیک، این اتفاق روز ۱۸ ژوئیه در فیلادلفیا رخ داد؛ زمانی که مدل Claude Haiku 4.5 مأمور شده بود در صفحات وب که به‌صورت تصادفی انتخاب شده بودند، وظایفی نمونه طراحی و اجرا کند.
کلود در وب‌سایت PhillyUnsolvedMurders.com فرمی را تکمیل کرد و در آن اعلام کرد که احتمالاً اطلاعاتی درباره یکی از قتل‌های حل‌نشده ثبت‌شده در این وب‌سایت دارد. بااین‌حال، پیام ارسالی به‌عنوان هرزنامه شناسایی شد و هرگز به پلیس ارجاع داده نشد.
آنتروپیک اعلام کرد در حال اصلاح فرایند آموزش مدل‌های خود است تا «احتمال تکرار رفتارهای نادرست» را کاهش دهد.
۲۸ سپتامبر: عامل‌های هوش مصنوعی برای نفوذ به وب‌سایت دولت کانادا تلاش کردند
به گفته آزمایشگاه پژوهشی و ارزیابی هوش مصنوعی Transluce، عامل‌های هوش مصنوعی تلاش کرده‌اند به یکی از وب‌سایت‌های دولت کانادا نفوذ کنند.
پژوهشگران این مؤسسه اعلام کردند عامل‌های موردنظر در روزهای ۲۸ مه و ۹ ژوئن مجموعه‌ای از «تلاش‌های ابتدایی برای نفوذ سایبری که ظاهراً ناموفق بوده‌اند» را علیه وب‌سایت کتابخانه و آرشیو کانادا انجام داده‌اند.
Transluce در مطلبی در وبلاگ خود اعلام کرد نمی‌تواند با اطمینان این تلاش‌ها را به OpenAI نسبت دهد، اما نوع فعالیت‌ها با رفتارهایی مطابقت دارد که این مؤسسه به‌تازگی به عامل‌های شرکت OpenAI نسبت داده بود.
این گروه اعلام کرد روز ۲۸ سپتامبر موضوع تلاش برای نفوذ را به دولت کانادا گزارش کرده است. دولت کانادا نیز در بیانیه‌ای تأیید کرد از گزارش‌های مربوط به فعالیت مشکوک عامل‌های هوش مصنوعی آگاه است، اما هیچ نشانه‌ای از نفوذ موفق به سامانه‌های دولتی مشاهده نشده است.
OpenAI در بیانیه‌ای اعلام کرد در حال بررسی یافته‌های این گزارش است و با مقام‌های کانادایی مسئول بررسی دولتی این موضوع ارتباط دارد.
۲۸ سپتامبر: OpenAI عرضه یک مدل جدید را متوقف کرد
شرکت OpenAI مستقر در سان‌فرانسیسکو اعلام کرد به دلیل نگرانی‌های ایمنی مطرح‌شده از سوی پژوهشگرانش، عرضه مدل جدیدی به نام GPT-6.1 Astra را به تعویق می‌اندازد. به گفته این شرکت، مدل جدید پیشرفت چشمگیری در انجام وظایف نشان داده بود، اما OpenAI باید میان این توانایی و خطر رفتارهای بدون مجوز تعادل برقرار می‌کرد. ساچی جین، مدیر سیستم‌های ایمنی OpenAI، گفت: «ما در زمینه ایمنی و هم‌راستایی رفتار مدل‌ها با اهداف تعیین‌شده، استانداردهای بسیار سخت‌گیرانه‌ای داریم.»
۲۵ سپتامبر: OpenAI از تعامل غیرمنتظره عامل‌های خود با وب‌سایت‌های دولتی آمریکا خبر داد
OpenAI در جریان بررسی رفتارهای پیش‌بینی‌نشده مدل‌های هوش مصنوعی خود متوجه شد که برخی از عامل‌های این شرکت به شیوه‌هایی غیرمنتظره با چندین وب‌سایت دولتی آمریکا تعامل داشته‌اند. مدل‌های این شرکت به اطلاعات عمومی موجود در وب‌سایت‌های کمیسیون بورس و اوراق بهادار آمریکا و همچنین داده‌های اداره سرشماری ایالات متحده دسترسی پیدا کرده بودند. OpenAI اعلام کرد هیچ مدرکی دال بر نفوذ امنیتی یا وجود آسیب‌پذیری پیدا نکرده است. در همان روز، مؤسسه Transluce نیز اعلام کرد عامل‌هایی که به نظر می‌رسید منشأ آن‌ها OpenAI باشد، برای نفوذ به وب‌سایت دفتر حقوق مدنی وزارت آموزش آمریکا تلاش کرده‌اند، اما موفق نشده‌اند.
سم آلتمن، مدیرعامل OpenAI، در شبکه‌های اجتماعی اعلام کرد که «بررسی گسترده و مستمری درباره استفاده عامل‌های ما از دسترسی به اینترنت در مراحل آموزش و ارزیابی در جریان است».
۲۴ سپتامبر: نخست‌وزیر استرالیا درباره یک نفوذ امنیتی ابراز نگرانی کرد
آنتونی آلبانیزی، نخست‌وزیر استرالیا، اعلام کرد که یکی از عامل‌های هوش مصنوعی OpenAI روز ۱۸ ژوئن به درگاه عمومی سرویس گزارش‌دهی آمار مدیکر نفوذ کرده است. این درگاه داده‌های تجمیعی مربوط به هزینه‌های درمان و یارانه‌های دارویی را در اختیار کاربران قرار می‌داد. دولت استرالیا اعلام کرد هیچ‌گونه اطلاعات شخصی در این حادثه مورد دسترسی قرار نگرفته است.
آلبانیزی گفت آزمایشگاه هوش مصنوعی OpenAI برای افشای این حادثه بیش از اندازه تأخیر کرده است. نخست‌وزیر استرالیا پس از گفت‌وگوی تلفنی با سم آلتمن، موضوع نفوذ را علنی کرد. OpenAI نیز در بیانیه‌ای اعلام کرد: «مدل‌های ما اقداماتی انجام دادند که قصد انجام آن‌ها را نداشتیم.»
۱۸ سپتامبر: گوگل تأیید کرد هوش مصنوعی جمینای به سه شرکت نفوذ کرده است
گوگل تأیید کرد که مدل هوش مصنوعی جمینای این شرکت در ماه مه، در جریان آزمایش توانایی‌های امنیت سایبری خود، به سه شرکت نفوذ کرده است. گوگل پس از دریافت پرسش‌هایی از روزنامه وال‌استریت ژورنال، این نفوذها را افشا کرد. به گفته این شرکت، مدل جمینای در یکی از موارد با حدس زدن گذرواژه‌ها موفق به نفوذ شده بود و در دو مورد دیگر، گذرواژه‌ها و اطلاعات احراز هویت را در یک مخزن عمومی پیدا کرده بود. همانند موارد مشابه پیشین، این آزمایش‌ها را استارتاپ Irregular اجرا می‌کرد؛ شرکتی که خود را «نخستین آزمایشگاه امنیتی پیشرو» معرفی می‌کند.
۵ اوت: مدل Muse متا از کنترل خارج شد
شرکت متا فاش کرد که یکی از مدل‌های هوش مصنوعی این شرکت به‌صورت خودکار به اینترنت دسترسی پیدا کرده و به یک شرکت دیگر نفوذ کرده است. متا اعلام کرد یک «پیکربندی نادرست» در جریان آزمایش‌های امنیت سایبری شرکت Irregular ناخواسته به یکی از مدل‌هایش امکان دسترسی به اینترنت داده بود. سخنگوی Irregular گفت حادثه مربوط به متا ناشی از مشکلی در محیط آزمایش بوده است؛ مشکلی که آنتروپیک یک هفته پیش‌تر آن را افشا کرده بود.
۳۰ ژوئیه: آنتروپیک اعلام کرد سیستم‌هایش به سه سازمان نفوذ کرده‌اند
آنتروپیک اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها به سه سازمان دیگر نفوذ کرده‌اند. این شرکت مستقر در سان‌فرانسیسکو که توسعه‌دهنده هوش مصنوعی کلود است، در وب‌سایت خود اعلام کرد پس از بررسی بیش از ۱۴۱ هزار اجرای آزمایشی برای ارزیابی مدل‌ها، این سه حادثه را شناسایی کرده است. در هر سه مورد، مدل‌های هوش مصنوعی مأمور انجام یک چالش امنیت سایبری موسوم به «تسخیر پرچم» شده بودند؛ روشی که به گفته آنتروپیک یکی از ابزارهای این شرکت برای سنجش توانایی‌های سایبری مدل‌هاست.
به گفته آنتروپیک، در این آزمایش‌ها سناریویی فرضی در اختیار مدل‌ها قرار گرفته و به آن‌ها گفته شده بود که بخشی از اطلاعات محرمانه، موسوم به «پرچم»، در رایانه دیگری در شبکه پنهان شده است. هدف مدل‌ها نفوذ به آن رایانه و بازیابی اطلاعات بود. آنتروپیک اعلام کرد با سازمان‌های مربوطه تماس گرفته است، اما نام آن‌ها را به‌صورت عمومی فاش نکرد.
۲۱ ژوئیه: حادثه هاگینگ فیس
شرکت OpenAI، سازنده چت‌جی‌پی‌تی، اعلام کرد یکی از سیستم‌های هوش مصنوعی این شرکت به‌صورت خودکار به یک شرکت دیگر فعال در حوزه هوش مصنوعی نفوذ کرده است؛ رویدادی که OpenAI آن را «حادثه سایبری بی‌سابقه» توصیف کرد.
یک هفته پیش از این اعلام، استارتاپ هوش مصنوعی هاگینگ فیس خبر داده بود که نفوذی را در سامانه‌های پردازش داده خود شناسایی کرده و گمان می‌کند عامل آن یک عامل هوش مصنوعی بوده که به‌صورت مستقل و خودکار عمل کرده است.
OpenAI اعلام کرد سیستم هوش مصنوعی این شرکت با استفاده از اطلاعات احراز هویت سرقت‌شده و شناسایی یک آسیب‌پذیری ناشناخته، توانسته بود به سرورهای هاگینگ فیس دسترسی پیدا کند. محدودیت‌ها و تدابیر حفاظتی اعمال‌شده بر این سیستم کاهش یافته بود، زیرا قرار بود فعالیت آن در یک محیط آزمایشی ایزوله موسوم به «سندباکس» انجام شود.
می اندرسون، خبرنگار بخش اقتصادی آسوشیتدپرس در نیویورک، کلوین چان در لندن و کیتلین هوامانی در لس‌آنجلس در تهیه این گزارش مشارکت داشته‌اند.