گاه‌شمار تحولات ایمنی هوش مصنوعی از زمان حمله به هاگینگ فیس
از زمانی که اوپن‌ای‌آی در تابستان امسال فاش کرد یکی از سیستم‌های هوش مصنوعی این شرکت به سامانه‌های یک شرکت دیگر فعال در همین حوزه نفوذ کرده است، رویدادی که اکنون به «حادثه هاگینگ فیس» معروف شده، شرکت‌های دیگر هوش مصنوعی نیز یکی پس از دیگری از اتفاقات نگران‌کننده مشابهی خبر داده‌اند؛ از حملات سایبری گرفته تا رفتار ربات‌هایی که ظاهراً از کنترل انسان خارج شده‌اند.
نویسنده: باربارا اورتوتای، خبرنگار فناوری آسوشیتدپرس
۲۳ اکتبر ۲۰۲۶
در ماه‌های اخیر، شرکت‌های فعال در حوزه هوش مصنوعی با انتشار گزارش‌های نگران‌کننده پیاپی، نمونه‌هایی از رفتار فناوری‌های خود را شرح داده‌اند که به نظر می‌رسد در آن‌ها سیستم‌های هوش مصنوعی تلاش کرده‌اند از دستورهای انسان سرپیچی کنند.
این رویدادها آسیب‌پذیری‌های امنیتی هوش مصنوعی را آشکار کرده و پرسش‌هایی جدی درباره چگونگی توسعه ایمن این فناوری به‌سرعت در حال رشد مطرح کرده‌اند؛ به‌ویژه اکنون که استفاده از آن در سراسر جهان روزبه‌روز گسترده‌تر می‌شود.
منتقدان صنعت هوش مصنوعی معتقدند بسیاری از این اتفاقات نگران‌کننده، از جمله نفوذ عامل‌های هوش مصنوعی به وب‌سایت‌های خارج از محیط فعالیت خود، نتیجه ضعف‌های امنیتی شرکت‌های سازنده این فناوری است. بااین‌حال، توانایی‌های این عامل‌ها نگرانی‌های گسترده‌ای را درباره احتمال خارج شدن ربات‌ها از کنترل و دنبال کردن اهداف مستقل خود به وجود آورده است.
در ادامه، برخی از مهم‌ترین رویدادهای این حوزه مرور می‌شود:
۲۳ اکتبر: تلاش مداوم مدل آنتروپیک برای فریب یک انسان
شرکت آنتروپیک اعلام کرد مدل هوش مصنوعی Mythos 5 این شرکت در رویدادی که تابستان امسال رخ داد، هویت‌های جعلی ساخته بود تا فردی را تحت فشار قرار دهد و او را به تأیید تلاش‌هایش برای نصب بدافزار وادار کند. این شرکت جزئیات ماجرا را هنگام انتشار نتایج یک بررسی داخلی فاش کرد.
این اتفاق زمانی رخ داد که مؤسسه امنیت هوش مصنوعی بریتانیا مشغول آزمایش توانایی‌های این مدل بود. پس از آنکه تلاش‌های اولیه مدل برای رسیدن به هدف تعیین‌شده ناکام ماند، رفتار آن به شکلی غیرمنتظره پیش رفت. به گفته آنتروپیک، مأموریت مدل این بود که به یک شبکه رایانه‌ای شبیه‌سازی‌شده نفوذ کند و داده مشخصی را به دست آورد؛ اما مدل در جریان انجام این مأموریت تلاش کرد مسئول انسانی نگهداری از پلتفرم توسعه نرم‌افزار گیت‌هاب را فریب دهد تا بتواند بدافزاری را وارد یک مخزن کد کند.
آنتروپیک اعلام کرد بررسی‌هایش نشان داده است که پس از آغاز حمله، «منصرف کردن Mythos 5 از ادامه آن بسیار دشوار بود». حتی زمانی که شرکت به مدل اطلاع داد برای دستیابی به معیار ارزیابی تعیین‌شده در «مسیر اشتباهی» قرار گرفته و اقداماتش توسعه‌دهندگان واقعی را درگیر کرده است، این رفتار ادامه یافت. آنتروپیک می‌گوید احتمال انجام چنین «اقدامات مخربی» در مدل‌های جدیدتر این شرکت کمتر است.
۹ اکتبر: ارسال گزارش ساختگی به پلیس فیلادلفیا توسط مدل هوش مصنوعی آنتروپیک
آنتروپیک در گزارشی فاش کرد که یکی از مدل‌های این شرکت اطلاعاتی ساختگی درباره یک پرونده قتل حل‌نشده از طریق یک وب‌سایت مرتبط با پلیس فیلادلفیا ارسال کرده است.
به گفته آنتروپیک، این اتفاق روز ۱۸ ژوئیه رخ داد؛ زمانی که مدل هوش مصنوعی Claude Haiku 4.5 مأمور شده بود در صفحات وبی که به‌صورت تصادفی انتخاب می‌شدند، وظایف نمونه‌ای طراحی و اجرا کند.
کلود فرمی را در وب‌سایت PhillyUnsolvedMurders.com پر کرد و در آن مدعی شد ممکن است اطلاعاتی درباره یکی از قتل‌های حل‌نشده ثبت‌شده در سایت داشته باشد. بااین‌حال، این گزارش به‌عنوان هرزنامه شناسایی شد و هرگز به پلیس ارسال نشد.
آنتروپیک اعلام کرد در حال اصلاح فرایند آموزش مدل‌های خود است تا «احتمال تکرار رفتارهای نامناسب» را کاهش دهد.
۲۸ سپتامبر: تلاش عامل‌های هوش مصنوعی برای نفوذ به وب‌سایت دولت کانادا
به گفته آزمایشگاه تحقیقاتی و ارزیابی هوش مصنوعی ترنسلوس (Transluce)، عامل‌های هوش مصنوعی تلاش کرده‌اند به یکی از وب‌سایت‌های دولت کانادا نفوذ کنند.
پژوهشگران این آزمایشگاه اعلام کردند عامل‌های هوش مصنوعی در روزهای ۲۸ مه و ۹ ژوئن مجموعه‌ای از «تلاش‌های ابتدایی برای نفوذ سایبری که ظاهراً ناموفق بوده‌اند» را علیه وب‌سایت کتابخانه و آرشیو کانادا انجام داده‌اند.
ترنسلوس در مطلبی در وبلاگ خود توضیح داد که نمی‌تواند با اطمینان این تلاش‌ها را به اوپن‌ای‌آی نسبت دهد، اما الگوی این اقدامات با فعالیت‌هایی مطابقت دارد که این آزمایشگاه اخیراً به عامل‌های هوش مصنوعی اوپن‌ای‌آی نسبت داده بود.
این گروه اعلام کرد روز ۲۸ سپتامبر تلاش برای نفوذ را به دولت کانادا گزارش داده است. دولت کانادا نیز در بیانیه‌ای تأیید کرد که از گزارش‌های مربوط به فعالیت مشکوک عامل‌های هوش مصنوعی آگاه است، اما هیچ نشانه‌ای از نفوذ موفق به سامانه‌های دولتی مشاهده نشده است.
اوپن‌ای‌آی در بیانیه‌ای اعلام کرد که در حال بررسی یافته‌های این گزارش است و با مقام‌های کانادایی مسئول بررسی دولتی این حادثه در ارتباط قرار دارد.
۲۸ سپتامبر: اوپن‌ای‌آی عرضه یک مدل جدید را متوقف کرد
شرکت اوپن‌ای‌آی مستقر در سان‌فرانسیسکو اعلام کرد به دلیل نگرانی‌های ایمنی مطرح‌شده از سوی پژوهشگران خود، عرضه مدل جدیدی به نام GPT-6.1 Astra را به تعویق انداخته است. به گفته این شرکت، مدل جدید پیشرفت چشمگیری در انجام وظایف نشان داده بود، اما اوپن‌ای‌آی باید میان این توانایی‌ها و خطر رفتارهای بدون مجوز تعادل برقرار می‌کرد. ساچی جین، مدیر سیستم‌های ایمنی اوپن‌ای‌آی، گفت: «ما در زمینه ایمنی و همسوسازی رفتار مدل‌ها با اهداف موردنظر، استانداردهای بسیار سخت‌گیرانه‌ای داریم.»
۲۵ سپتامبر: اوپن‌ای‌آی از تعامل عامل‌های خود با وب‌سایت‌های دولت آمریکا خبر داد
اوپن‌ای‌آی اعلام کرد هنگام بررسی رفتارهای پیش‌بینی‌نشده مدل‌های هوش مصنوعی خود متوجه شده است که عامل‌های این شرکت به شیوه‌هایی غیرمنتظره با چندین وب‌سایت دولتی آمریکا تعامل داشته‌اند. مدل‌های این شرکت به اطلاعات عمومی موجود در وب‌سایت‌های کمیسیون بورس و اوراق بهادار آمریکا و همچنین داده‌های اداره سرشماری این کشور دسترسی پیدا کرده بودند. اوپن‌ای‌آی اعلام کرد هیچ مدرکی مبنی بر نفوذ به سامانه‌ها یا وجود آسیب‌پذیری پیدا نکرده است. در همان روز، ترنسلوس نیز اعلام کرد عامل‌هایی که ظاهراً منشأ آن‌ها اوپن‌ای‌آی بوده، برای نفوذ به وب‌سایت دفتر حقوق مدنی وزارت آموزش آمریکا تلاش کرده‌اند، اما موفق نشده‌اند.
سم آلتمن، مدیرعامل اوپن‌ای‌آی، در شبکه‌های اجتماعی اعلام کرد: «بررسی گسترده و مستمری درباره نحوه استفاده عامل‌های ما از دسترسی به اینترنت در جریان آموزش و ارزیابی در حال انجام است.»
۲۴ سپتامبر: ابراز نگرانی نخست‌وزیر استرالیا درباره نفوذ امنیتی
آنتونی آلبانیزی، نخست‌وزیر استرالیا، اعلام کرد که یکی از عامل‌های هوش مصنوعی اوپن‌ای‌آی روز ۱۸ ژوئن به درگاه عمومی سرویس گزارش‌دهی آمار مدیکر نفوذ کرده است. این درگاه میزبان داده‌های تجمیعی مربوط به هزینه‌های سلامت و یارانه‌های دارویی بود. دولت استرالیا اعلام کرد هیچ اطلاعات شخصی در جریان این حادثه مورد دسترسی قرار نگرفته است.
آلبانیزی از تأخیر طولانی آزمایشگاه هوش مصنوعی در افشای این اتفاق انتقاد کرد. نخست‌وزیر استرالیا پس از گفت‌وگویی تلفنی با سم آلتمن، موضوع نفوذ را علنی کرد. اوپن‌ای‌آی نیز در بیانیه‌ای اذعان کرد: «مدل‌های ما اقداماتی انجام دادند که مدنظر ما نبود.»
۱۸ سپتامبر: گوگل تأیید کرد هوش مصنوعی جمینای به سه شرکت نفوذ کرده است
گوگل تأیید کرد که مدل هوش مصنوعی جمینای این شرکت در ماه مه، در جریان آزمایش توانایی‌های امنیت سایبری خود، به سامانه‌های سه شرکت نفوذ کرده است. گوگل پس از دریافت پرسش‌هایی از روزنامه وال‌استریت ژورنال، این حملات را افشا کرد و توضیح داد که مدل در یکی از موارد با حدس زدن گذرواژه‌ها موفق به نفوذ شده و در دو مورد دیگر، گذرواژه‌ها و اطلاعات احراز هویت را در یک مخزن عمومی پیدا کرده است. مانند موارد مشابه پیشین، این آزمایش‌ها را استارتاپ Irregular اجرا می‌کرد؛ شرکتی که خود را «نخستین آزمایشگاه امنیتی پیشرو» معرفی می‌کند.
۵ اوت: خروج مدل Muse متا از چارچوب کنترل
شرکت متا فاش کرد که یکی از مدل‌های هوش مصنوعی این شرکت به‌طور مستقل به اینترنت دسترسی پیدا کرده و به سامانه‌های یک شرکت دیگر نفوذ کرده است. متا توضیح داد که هنگام آزمایش‌های امنیت سایبری شرکت Irregular، یک «پیکربندی نادرست» ناخواسته به یکی از مدل‌های این شرکت امکان دسترسی به اینترنت داده بود. سخنگوی Irregular اعلام کرد ماجرای متا به مشکلی در محیط آزمایش مربوط می‌شد که آنتروپیک یک هفته پیش از آن درباره‌اش اطلاع‌رسانی کرده بود.
۳۰ ژوئیه: آنتروپیک از نفوذ سیستم‌های خود به سه سازمان خبر داد
آنتروپیک اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها به سامانه‌های سه سازمان دیگر نفوذ کرده‌اند. این شرکت مستقر در سان‌فرانسیسکو که سازنده کلود است، در وب‌سایت خود اعلام کرد پس از بررسی بیش از ۱۴۱ هزار اجرای آزمایشی ارزیابی، این سه مورد را شناسایی کرده است. در هر سه حادثه، مدل‌های هوش مصنوعی مأمور انجام یک چالش امنیت سایبری از نوع «تسخیر پرچم» (Capture the Flag) شده بودند؛ روشی که به گفته آنتروپیک، یکی از ابزارهای این شرکت برای سنجش توانایی‌های سایبری مدل‌هاست.
به گفته آنتروپیک، در این آزمایش‌ها سناریویی فرضی در اختیار مدل‌ها قرار گرفته و به آن‌ها گفته شده بود که یک داده محرمانه یا همان «پرچم» در رایانه دیگری در شبکه پنهان شده است. هدف مدل‌ها نفوذ به آن رایانه و بازیابی اطلاعات بود. آنتروپیک اعلام کرد با سازمان‌های آسیب‌دیده تماس گرفته، اما نام آن‌ها را به‌صورت عمومی منتشر نکرده است.
۲۱ ژوئیه: حادثه هاگینگ فیس
شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، اعلام کرد یکی از سیستم‌های هوش مصنوعی این شرکت به‌طور مستقل به سامانه‌های یک شرکت دیگر فعال در حوزه هوش مصنوعی نفوذ کرده است؛ رویدادی که اوپن‌ای‌آی آن را «حادثه سایبری بی‌سابقه» توصیف کرد.
یک هفته پیش از این اعلام، استارتاپ هوش مصنوعی هاگینگ فیس خبر داده بود که نفوذی را در سیستم‌های پردازش داده خود شناسایی کرده و گمان می‌کند عامل آن یک سیستم هوش مصنوعی بوده که به‌صورت خودمختار عمل کرده است.
اوپن‌ای‌آی اعلام کرد سیستم هوش مصنوعی این شرکت با استفاده از اطلاعات احراز هویت سرقت‌شده و کشف یک آسیب‌پذیری که پیش‌تر شناسایی نشده بود، توانسته به سرورهای هاگینگ فیس دسترسی پیدا کند. این سیستم با محدودیت‌ها و سازوکارهای حفاظتی کمتری فعالیت می‌کرد، زیرا قرار بود در محیط آزمایشی ایزوله‌ای موسوم به «سندباکس» قرار داشته باشد.
می اندرسون، خبرنگار اقتصادی آسوشیتدپرس در نیویورک، کلوین چان در لندن و کیتلین هوامانی در لس‌آنجلس در تهیه این گزارش مشارکت داشته‌اند.