عامل‌های هوش مصنوعی به سامانه‌های داخلی آنتروپیک نفوذ کردند؛ شرکتی که از پیشرفته‌ترین مدل‌های هوش مصنوعی برای دفاع سایبری برخوردار است

استارتاپ امنیت سایبری کاتدرال با استفاده از عامل‌های هوش مصنوعی و از طریق نرم‌افزارهای تجاری شرکت‌های ثالث به سامانه‌های داخلی آنتروپیک نفوذ کرد. این شرکت در جریان برنامه باگ‌بانتی خود آنتروپیک، آسیب‌پذیری‌های مهمی را شناسایی کرد.

کاتدرال در پیش‌نویس گزارشی که روزنامه واشنگتن پست آن را بررسی کرده است، از دسترسی خود به داده‌ها و سامانه‌های پیام‌رسان داخلی آنتروپیک خبر داد. این استارتاپ را کارکنان سابق اداره بهره‌وری دولت آمریکا، موسوم به DOGE، تأسیس کرده‌اند و ابزارهای امنیتی مبتنی بر هوش مصنوعی را به سازمان‌های دولتی و شرکت‌ها می‌فروشد.

پژوهشگران کاتدرال از طریق سامانه‌های خارجی مدیریت و فروش به شبکه‌های داخلی راه یافتند. بر اساس گزارش این شرکت، عامل‌های هوش مصنوعی با استفاده از مدل‌های پیشرفته، در کمتر از ۱۲ ساعت مسیرهایی برای دسترسی به متن جلسات، اطلاعات حقوق و دستمزد، آگهی‌های استخدام و پیام‌های اسلک پیدا کردند.

آنتروپیک تأیید کرد که پژوهشگران به مجموعه محدودی از سامانه‌های فروش، منابع انسانی و فناوری اطلاعات دسترسی یافته‌اند. این اطلاعات شامل اطلاعات تماس برخی مشتریان و شرکای تجاری و نیز داده‌های پایه حساب‌های کاربری بود. به گفته این شرکت، گفت‌وگوهای کاربران با کلود، کد منبع و وزن‌های مدل‌ها افشا نشدند. آنتروپیک در همان روزی که از نفوذ مطلع شد، مسیرهای دسترسی آسیب‌دیده را مسدود کرد، برنامه‌های شخص ثالث را تا زمان رفع مشکل از کار انداخت و مقام‌های فدرال آمریکا را در جریان گذاشت.

اختلاف آنتروپیک و کاتدرال بر سر مدت نفوذ و دامنه دسترسی

کاتدرال می‌گوید این حادثه کمتر از ۱۲ ساعت طول کشیده است، اما آنتروپیک معتقد است تلاش برای نفوذ چند روز ادامه داشته است. به گفته لوگان گراهام، عضو تیم قرمز آنتروپیک، کاتدرال پس از چند روز بررسی سامانه‌های خود آنتروپیک، مسیر حمله را به سمت نرم‌افزارهای شرکت‌های ثالث تغییر داد. گراهام این موضوع را در توضیحات خود بیان کرد. کاتدرال در آن نرم‌افزارها دو آسیب‌پذیری پیدا کرد، اما فقط یکی از آن‌ها را گزارش داد. آنتروپیک می‌گوید آسیب‌پذیری دوم را خودش شناسایی و برطرف کرده است.

آنتروپیک همچنین کاتدرال را به رعایت نکردن قواعد برنامه باگ‌بانتی و ارائه نکردن اطلاعات کامل متهم کرده است. گراهام افزود که هدف قرار دادن ارائه‌دهندگان خدمات شخص ثالث و استخراج داده‌ها فراتر از محدوده حمایت‌های ایمنی این برنامه بوده است؛ بااین‌حال، او از شناسایی آسیب‌پذیری‌ها استقبال کرد. کاتدرال در مقابل تأکید دارد که مطابق رویه‌های متعارف پژوهش امنیتی عمل کرده است.

میزان واقعی داده‌هایی که در دسترس مهاجمان قرار گرفته، همچنان محل اختلاف است. ویل دپوی، کارمند سابق اوپن‌ای‌آی، مدعی شده است که آنتروپیک ابعاد حادثه را کوچک‌تر از واقعیت جلوه می‌دهد. او می‌گوید چند منبع را که بسیار قابل‌اعتماد می‌داند به او گفته‌اند کاتدرال به دسترسی کامل مدیریتی به فضای کاری اسلک دست یافته بود، می‌توانست همه پیام‌ها را بخواند و امکان ورود به حساب هر کاربری را داشت.

دپوی همچنین افزود که آزمایشگاه‌های آنتروپیک و اوپن‌ای‌آی تمام اسرار پژوهشی خود را در اسلک نگهداری می‌کردند و کلیدهای مدیریتی API در بخش‌های مختلف سامانه‌هایشان پراکنده بود. جیکوب کاکسون، کارمند سابق آنتروپیک که در سپتامبر ۲۰۲۶ این شرکت را ترک کرد، پیش‌تر از این انتقاد کرده بود که آنتروپیک پژوهش‌های حساس هوش مصنوعی را روی نرم‌افزارهای اداری مانند اسلک انجام می‌دهد.

گراهام در واکنش به این ادعاها آن‌ها را رد کرد و گفت منابع دپوی اطلاعات نادرستی در اختیار او گذاشته‌اند. او با اشاره به حساسیت موضوع از ارائه جزئیات بیشتر خودداری کرد، اما نگرانی اصلی دپوی را تأیید کرد: صنعت هوش مصنوعی اکنون باید هر سال روش‌های امنیتی خود را از نو طراحی کند.

دپوی خواستار توضیح درباره ادعاهایی شد که به گفته گراهام نادرست بودند و از آنتروپیک خواست مشخص کند کاتدرال دقیقاً به چه اطلاعاتی دسترسی پیدا کرده است. او همچنین سرعت رقابت در حوزه هوش مصنوعی را عامل این مشکل دانست و گفت مدیران شرکت‌ها سرعت پیشرفت را بر امنیت اولویت می‌دهند.

الکس استاموس، مدیر ارشد امنیت شرکت نوپای هوش مصنوعی کاگنیشن که از مدل‌های آنتروپیک استفاده می‌کند، به واشنگتن پست گفت که یافته‌های این پژوهشگران را مهم می‌داند. او تأکید کرد که برنامه‌های یکپارچه شرکت‌های ثالث در سراسر صنعت مشکل بزرگی ایجاد کرده‌اند و آنتروپیک می‌توانست از خدمات خارجی خود بهتر محافظت کند.

عامل‌های هوش مصنوعی در حال دگرگون کردن امنیت سایبری هستند

آنتروپیک پس از ماه‌ها هشدار درباره حملات سایبری مبتنی بر هوش مصنوعی و تجربه حوادث امنیتی ناخواسته خود، اکنون خود هدف چنین حمله‌ای قرار گرفته است. عامل‌های هوش مصنوعی شیوه اجرای حملات سایبری را تغییر می‌دهند و این نفوذ نشان می‌دهد که این دگرگونی با چه سرعتی در حال رخ دادن است. اهمیت حادثه از آن جهت بیشتر است که آنتروپیک احتمالاً از جمله شرکت‌هایی است که بیشترین توانایی را برای دفاع در برابر حملات هدایت‌شده با هوش مصنوعی دارند.

گراهام با اشاره به این حادثه هشدار داد که مهاجمان همین حالا نیز عامل‌های هوش مصنوعی را به‌صورت شبانه‌روزی به کار می‌گیرند و به‌طور مشخص زیرساخت‌ها و خدمات وابسته به شرکت‌ها را هدف قرار می‌دهند. به گفته او، حتی مدل‌هایی که از پیشرفته‌ترین مدل‌های فعلی به‌اندازه نیم نسل تا یک نسل عقب‌تر هستند، برای اجرای چنین حملاتی توانایی کافی دارند و مهاجمان آینده ناگزیر به سامانه‌های قدرتمندتری دسترسی خواهند داشت.

گراهام برای مقابله با این تهدید، آزمایش نفوذ مداوم در داخل شرکت‌ها و بازطراحی نرم‌افزارها با استفاده از روش‌های راستی‌آزمایی صوری را پیشنهاد کرد؛ رویکردی که به لطف هوش مصنوعی اکنون از نظر اقتصادی نیز امکان‌پذیر شده است. او نوشت: «احتمالاً بهتر است همیشه خودتان را در معرض آزمون‌های امنیتی تیم قرمز قرار دهید. مدل‌های فعلی واقعاً خلاق‌اند.»

بااین‌حال، گراهام توضیح نداد که کاتدرال چگونه توانسته است با وجود دسترسی آنتروپیک به آنچه می‌توان از قدرتمندترین مدل‌های هوش مصنوعی جهان برای دفاع سایبری دانست، تا این اندازه به سامانه‌های داخلی شرکت نفوذ کند.

منابع: واشنگتن پست / نفوذ کاتدرال | لوگان گراهام / توضیحات آنتروپیک | ویل دپوی / دسترسی به اسلک | لوگان گراهام / پاسخ به ادعاها | جیکوب کاکسون / انتقاد از استفاده از اسلک