گزارش‌ها: عوامل هوش مصنوعی در کمتر از ۱۲ ساعت به اطلاعات حقوق و دستمزد و پیام‌های اسلک آنتروپیک دسترسی یافتند
گزارش‌ها حاکی از آن است که شرکت نوپای امنیت سایبری کاتدرال (Cathedral) با استفاده از عوامل خودمختار هوش مصنوعی توانسته به بخش‌هایی از سامانه‌های داخلی کسب‌وکار آنتروپیک، از جمله اطلاعات منابع انسانی و پیام‌های اسلک، دسترسی پیدا کند. این اتفاق بار دیگر نگرانی‌ها درباره آسیب‌پذیری نرم‌افزارهای سازمانی شرکت‌های ثالث را افزایش داده است؛ هرچند آنتروپیک می‌گوید سامانه‌های اصلی هوش مصنوعی این شرکت، گفت‌وگوهای مشتریان و وزن‌های مدل‌های آن در معرض دسترسی قرار نگرفته‌اند.
شرکت آنتروپیک، سازنده هوش مصنوعی کلود (Claude)، ظاهراً پس از آن متوجه ضعف‌هایی در سامانه‌های داخلی کسب‌وکار خود شده است که یک شرکت نوپای امنیت سایبری با استفاده از عوامل خودمختار هوش مصنوعی، در کمتر از ۱۲ ساعت راه‌هایی برای نفوذ به نرم‌افزارهای اداری پیدا کرد. این رویداد نشان می‌دهد حتی شرکت‌هایی که مدل‌های پیشرفته هوش مصنوعی توسعه می‌دهند، ممکن است از طریق ابزارهای متداولی که برای اداره کسب‌وکار خود به کار می‌برند، در معرض خطر قرار گیرند.
بر اساس گزارشی که روز دوشنبه در روزنامه واشنگتن‌پست منتشر شد، پژوهشگران از طریق پلتفرم‌های متعلق به شرکت‌های ثالث در حوزه فروش، منابع انسانی و فناوری اطلاعات به دامنه محدودی از اطلاعات دسترسی پیدا کردند؛ آن‌ها مستقیماً به کلود حمله نکردند. گفته می‌شود شرکت‌های دیگری نیز از این نرم‌افزارها استفاده می‌کنند؛ مسئله‌ای که این پرسش را مطرح کرده است که آیا ضعف‌های مشابه می‌توانند سازمان‌های دیگری را نیز تحت تأثیر قرار دهند.
این یافته‌ها در جریان برنامه‌ای برای آزمایش امنیتی به دست آمد که هدف آن کمک به شرکت‌ها برای شناسایی و رفع آسیب‌پذیری‌ها پیش از سوءاستفاده مهاجمان بود. با این حال، آنتروپیک با بخش‌هایی از نحوه عملکرد پژوهشگران و ارزیابی آن‌ها از این رویداد مخالفت کرده است.
دسترسی عوامل هوش مصنوعی به اطلاعات داخلی کسب‌وکار
این آزمایش را شرکت کاتدرال انجام داد؛ شرکتی در حوزه امنیت سایبری که چهار تن از کارکنان پیشین وزارت بهره‌وری دولت آمریکا، موسوم به DOGE، آن را تأسیس کرده‌اند. این ابتکار با هدف کاهش هزینه‌ها و در ارتباط با دولت دونالد ترامپ، رئیس‌جمهور آمریکا، فعالیت می‌کند. کاتدرال در ماه ژوئیه ۱۶۰ میلیون دلار سرمایه جذب کرد و ارزش‌گذاری آن در آن زمان، بنا بر گزارش‌ها، به ۱٫۴ میلیارد دلار رسید.
کاتدرال در برنامه‌ای مشابه طرح‌های پاداش در ازای کشف باگ شرکت کرد. در این برنامه‌ها، پژوهشگران امنیتی ضعف‌های احتمالی را بررسی و یافته‌های خود را به سازمان مربوطه گزارش می‌کنند. بنا بر گزارش‌ها، عوامل هوش مصنوعی این شرکت که می‌توانند مجموعه‌ای از اقدامات را بدون نیاز به تأیید انسانی در تک‌تک مراحل اجرا کنند، راه‌هایی برای دسترسی به متن پیاده‌سازی‌شده جلسات داخلی، اطلاعات حقوق و دستمزد و پیشنهادهای استخدامی، و گفت‌وگوهای اسلک درباره مدل‌های پیشرفته آنتروپیک شناسایی کردند.
آنتروپیک اعلام کرد که پیش از دریافت گزارش پژوهشگران، بخشی از فعالیت‌های کاتدرال را شناسایی کرده بود. این شرکت به واشنگتن‌پست گفت: «سامانه‌های نظارتی ما بخشی از فعالیت‌های کاتدرال را پیش از آنکه این شرکت یافته‌هایش را به ما گزارش کند، شناسایی کرده بودند.» آنتروپیک افزود که همان روز دسترسی این شرکت نوپا را لغو کرده است.
آنتروپیک گفت سامانه‌های در معرض دسترسی حاوی مقدار محدودی از اطلاعات کسب‌وکار، از جمله اطلاعات تماس و داده‌های پایه حساب‌ها، بودند. این شرکت تأکید کرد که این رویداد شامل گفت‌وگوهای مشتریان با کلود، کد منبع یا وزن‌های مدل‌ها نبوده است. وزن‌های مدل، پارامترهای عددی‌ای هستند که زیربنای یک مدل هوش مصنوعی آموزش‌دیده را تشکیل می‌دهند.
این شرکت همچنین اعلام کرد که هیچ مدرکی نیافته است که نشان دهد فرد یا گروهی غیر از کاتدرال از این آسیب‌پذیری‌ها سوءاستفاده کرده باشد. نرم‌افزارهای آسیب‌دیده غیرفعال شدند تا فروشندگان مربوطه تأیید کنند که اصلاحات لازم در دسترس قرار گرفته‌اند. آنتروپیک در اطلاعات منتشرشده، نام این فروشندگان را اعلام نکرده است.
دو طرف درباره نحوه انجام آزمایش اختلاف نظر دارند. آنتروپیک کاتدرال را متهم کرده است که پیامدهای این رویداد برای امنیت ملی را بزرگ‌نمایی کرده و تمام فعالیت‌های خود را مطابق با مقررات برنامه افشا نکرده است. در مقابل، کاتدرال در پیش‌نویس گزارشی که واشنگتن‌پست به آن استناد کرده، مدعی شده است که دسترسی به داده‌ها را تا حد امکان محدود نگه داشته و مطابق با رویه‌های پژوهش امنیتی عمل کرده است.
رویداد آنتروپیک پرسش‌های گسترده‌تری درباره امنیت هوش مصنوعی مطرح می‌کند
گزارش این رخنه امنیتی توجه‌ها را به فراتر از صنعت فناوری جلب کرده است. یک مقام ارشد دولت ترامپ که به‌صورت ناشناس با واشنگتن‌پست گفت‌وگو کرده، اظهار داشت که یافته‌ها در محافل دولتی دست‌به‌دست شده و نگرانی‌هایی درباره امنیت ملی برانگیخته است.
این مقام گفت: «اگر یک گروه از جوانانی که به‌تازگی شرکتی راه‌اندازی کرده‌اند بتوانند چنین کاری انجام دهند، آن‌وقت ممکن است چینی‌ها هم فاصله چندانی با انجام آن نداشته باشند.»
این نگرانی از آنجا ناشی می‌شود که سامانه‌های خودمختار هوش مصنوعی ممکن است به مهاجمان کمک کنند ضعف‌های امنیتی را شناسایی کنند و با دخالت محدود انسان، در میان نرم‌افزارهای متصل به یکدیگر پیش بروند. ابزارهای متداول امنیتی معمولاً فعالیت‌های مشکوک را برای بررسی در اختیار کارشناسان قرار می‌دهند؛ اما عوامل هوش مصنوعی بالقوه می‌توانند چندین مرحله از یک فرایند را خودشان اجرا کنند، هرچند توانایی‌ها و میزان اطمینان‌پذیری آن‌ها متفاوت است.
آنتروپیک پیش‌تر نیز از رویدادهایی خبر داده بود که در آن‌ها از هوش مصنوعی برای انجام عملیات سایبری استفاده شده بود. این شرکت در نوامبر ۲۰۲۵ اعلام کرد که هکرهای مورد حمایت دولت چین از ابزار برنامه‌نویسی کلود کد (Claude Code) در حملاتی علیه حدود ۳۰ سازمان استفاده کرده‌اند. برآورد آنتروپیک این بود که هوش مصنوعی در آن کارزار، بین ۸۰ تا ۹۰ درصد فعالیت‌های عملیاتی را انجام داده است.
این شرکت همچنین در ماه ژوئیه گزارش داد که مدل‌های کلود در جریان آزمایش‌های خود آنتروپیک، در سه رویداد جداگانه توانسته‌اند به سازمان‌های واقعی نفوذ کنند. این گزارش‌ها بر ماهیت دوگانه کاربردهای هوش مصنوعی تأکید داشتند: سامانه‌هایی که برای کمک به برنامه‌نویسی قانونی و فعالیت‌های امنیتی طراحی شده‌اند، می‌توانند برای پشتیبانی از اقدامات مخرب نیز به کار گرفته شوند.
آنتروپیک می‌گوید دسترسی‌ها را محدود کرده و سامانه‌های آسیب‌دیده را تا زمان تأیید اصلاحات از دسترس خارج کرده است؛ با این حال، دامنه کامل آسیب‌پذیری‌ها و احتمال وجود ضعف‌های مشابه در سایر سازمان‌ها همچنان مشخص نیست.