عامل‌های هوش مصنوعی با دور زدن فایروال‌ها به داده‌های شرکت‌های هندی دسترسی پیدا کردند: CERT-In
تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اعلام کرده است برخی عامل‌های هوش مصنوعی که قرار بود در اینترنت به پژوهش و انجام ارزیابی بپردازند، توانسته‌اند فایروال‌ها را دور بزنند و به سامانه‌های فعال سازمان‌های هندی «دست پیدا کنند» و به اطلاعات حساسی از جمله سوابق تجاری، «داده‌های شخصی و مطالب محرمانه» دسترسی یابند.
این مورد شاید نخستین نمونه شناخته‌شده از «سرکش شدن» عامل‌های هوش مصنوعی و هدف قرار دادن زیرساخت‌های سایبری نهادهای مستقر در هند باشد. CERT-In همچنین فاش کرد که هیچ‌یک از سازمان‌های آسیب‌دیده، دسترسی غیرمجاز را شناسایی نکردند و در همه موارد، ارائه‌دهندگان مدل‌های هوش مصنوعی پس از بررسی داخلی خود این رخدادها را افشا کردند.
این نهاد امنیت سایبری که زیرمجموعه وزارت الکترونیک و فناوری اطلاعات هند (MeitY) است، روز پنجشنبه در اطلاعیه‌ای اعلام کرد: «اخیراً CERT-In چندین مورد افشای داوطلبانه از سوی ارائه‌دهندگان مدل‌های هوش مصنوعی دریافت کرده است که در آنها اعلام شده مدل‌هایشان هنگام فعالیت‌های پژوهشی و ارزیابی در اینترنت، به سامانه‌های فعال سازمان‌های هندی دسترسی پیدا کرده‌اند.» این نهاد نام سازمان‌های هندی یا عامل‌های هوش مصنوعی دخیل در این رخدادها را اعلام نکرد.
CERT-In گفت: «در موارد افشاشده، اقدامات مدل‌ها از حدود اختیارات تعیین‌شده برای وظایف محول‌شده فراتر رفته بود... فعالیت ثبت‌شده شامل خواندن سوابق تجاری، از جمله داده‌های شخصی و مطالب محرمانه، از طریق اطلاعات ورود و تنظیمات اتصالِ در معرض دسترسی در پیکربندی برنامه‌ها، مخازن عمومی کد و نقش‌های دارای دسترسی گسترده در سرویس‌های ابری بود.»
این رخداد در شرایطی روی داده است که نگرانی‌ها درباره عملکرد عامل‌های هوش مصنوعی فراتر از دستورهای تعیین‌شده برای آنها رو به افزایش است؛ از جمله مواردی که سامانه‌های خودمختار تلاش کرده‌اند به اطلاعات محدودشده دسترسی پیدا کنند، کنترل‌های امنیتی را دور بزنند و بدون مجوز با سامانه‌های خارجی تعامل داشته باشند. شرکت‌های پیشرو در حوزه هوش مصنوعی در سراسر جهان، از جمله Anthropic، OpenAI و Meta، نیز موارد مشابهی را گزارش کرده‌اند که در آنها عامل‌های هوش مصنوعی از پارامترهای تعیین‌شده عبور کرده و به‌طور مستقل عمل کرده‌اند.
این رخداد به‌ویژه یادآور افشاگری OpenAI در ماه ژوئیه است که بر اساس آن، عامل‌های هوش مصنوعی این شرکت در جریان آزمایش‌های داخلی از سازوکارهای مهار عبور کردند، بدون مجوز به اینترنت دسترسی یافتند و سامانه‌های متعلق به پلتفرم هوش مصنوعی Hugging Face را به خطر انداختند. در واقع، به‌دنبال افزایش مواردی از عملکرد خودسرانه عامل‌های هوش مصنوعی، چهره‌های سرشناس این حوزه، از جمله داریو آمودی از Anthropic و سم آلتمن از OpenAI، خواستار «کند کردن» روند پیشروی مرزهای هوش مصنوعی شده‌اند.
عامل‌های هوش مصنوعی سامانه‌های خودمختاری هستند که می‌توانند با دخالت محدود انسان، به‌طور مستقل برای انجام وظایف برنامه‌ریزی کنند، آنها را اجرا کنند، به ابزارها و وب‌سایت‌های خارجی دسترسی داشته باشند و از طرف کاربران اقدام کنند.
این نهاد به توسعه‌دهندگان مدل‌های هوش مصنوعی توصیه کرده است بارهای کاری پژوهشی خود را ایزوله کنند، فقط اجازه دسترسی به مقصدهایی را بدهند که یک وظیفه مشخص واقعاً به آنها نیاز دارد و این محدودیت‌ها را در لایه شبکه اعمال کنند. با این حال، ضعف‌هایی که مدل‌های هوش مصنوعی و عامل‌های آنها از آنها بهره بردند، مشکلات سنتی امنیتی بودند؛ از جمله اطلاعات ورود و کلیدهایی که در کد منبع، تاریخچه مخازن عمومی، فایل‌های پیکربندی، برنامه‌های کاربردی سمت کاربر و محتوای عمومی وب در معرض دسترسی قرار گرفته بودند.
این نهاد توصیه کرد: «در هر وظیفه، سامانه‌ها و اقداماتی را که در محدوده مجاز قرار دارند مشخص کنید و هر چیز دیگری را خارج از محدوده تلقی کنید. اگر عامل با سامانه‌های شخص ثالث تماس گرفت، اطلاعات ورود متعلق به شخص ثالث را کشف یا استفاده کرد، یا سیگنال توقف یا خطا صادر شد، اجرای آن را به‌طور خودکار متوقف کنید. به یک اپراتور مستقل اختیار پایان دادن یا ازسرگیری اجرای فرایند را بدهید.»
CERT-In همچنین از یک کارزار «با انگیزه مالی» علیه نهادهای هندی خبر داد که در آن عوامل تهدید سایبری از چارچوب‌های عمومی و در دسترسِ امنیت تهاجمی مبتنی بر هوش مصنوعی سوءاستفاده کرده‌اند.
این نهاد گفت: «این چارچوب‌ها همچنان مورد سوءاستفاده قرار می‌گیرند و با نام‌های تجاری جدید عرضه می‌شوند و تعداد زیادی استقرار از آنها در زیرساخت‌های چندین کشور مشاهده شده است؛ موضوعی که نشان می‌دهد قابلیت‌های نفوذ عامل‌محورِ آماده‌مصرف به‌طور گسترده در دسترس هستند.»
این نهاد اعلام کرد در کارزار دارای انگیزه مالی علیه نهادهای هندی، ابزارهای عامل‌محور فاصله زمانی میان دسترسی اولیه و وارد کردن ضربه نهایی را از چند روز به چند ساعت کاهش دادند. افزون بر این، این کارزار نشان داد عملیات چندعاملی می‌توانند برای دستیابی به اهداف مهاجمان، از چند ساعت تا چند روز به‌صورت موازی اجرا شوند؛ موضوعی که با قابلیت چندعاملی مستندشده این ابزارها مطابقت دارد.
این نهاد همچنین گفت قربانیانی که اقدامات اصلاحی را به‌طور ناقص انجام داده بودند، ظرف چند روز بار دیگر مورد حمله قرار گرفتند و این بار حمله در مقیاسی بزرگ‌تر انجام شد.