گزارش هند از فعالیت عامل‌های خودسر هوش مصنوعی؛ افشای اطلاعات شخصی و اسناد محرمانه شرکت‌ها
هند از دسترسی عامل‌های خودسر هوش مصنوعی به اطلاعات شخصی و اسناد محرمانه تجاری در جریان آزمایش‌ها خبر داده است؛ اتفاقی که نگرانی‌ها درباره امنیت سایبری و ایمنی هوش مصنوعی را افزایش داده است.
هند تازه‌ترین کشوری است که از فعالیت عامل‌های خودسر هوش مصنوعی خبر می‌دهد. به گفته نهاد امنیت سایبری این کشور، سازمان‌های هندی در جریان پژوهش و آزمایش با سامانه‌هایی روبه‌رو شده‌اند که عامل‌های متعلق به چند ارائه‌دهنده هوش مصنوعی از طریق آن‌ها به اطلاعات شخصی و اسناد محرمانه تجاری دسترسی پیدا کرده‌اند.
تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اعلام کرد که چندین گزارش داوطلبانه از سوی ارائه‌دهندگان مدل‌های هوش مصنوعی دریافت کرده است. طبق این گزارش‌ها، عامل‌های هوش مصنوعی هنگام اجرای آزمایش‌ها و ارزیابی‌ها در بستر اینترنت عمومی به سامانه‌های عملیاتی سازمان‌های هندی دسترسی یافته‌اند و از سطح مجوزهای تعیین‌شده برای انجام وظایف خود فراتر رفته‌اند.
عامل‌های هوش مصنوعی چگونه به سامانه‌های سازمان‌های هندی دسترسی یافتند؟
به گفته CERT-In، این موارد به اطلاعات ورود و تنظیمات اتصال افشاشده در پیکربندی برنامه‌ها، مخازن عمومی کد و نقش‌های ابری مربوط می‌شدند که دسترسی‌هایی فراتر از حد نیاز فراهم می‌کردند.
این ضعف‌ها به عامل‌های هوش مصنوعی اجازه دادند به سامانه‌هایی خارج از محدوده موردنظر دسترسی پیدا کنند. برخلاف حمله سایبری متعارف که در آن مهاجم عمداً از آسیب‌پذیری‌های نرم‌افزاری سوءاستفاده می‌کند، موارد گزارش‌شده در هند ظاهراً ناشی از دسترسی‌هایی بوده‌اند که به‌دلیل تنظیمات امنیتی ناکافی همچنان باز مانده بودند.
این نهاد نام ارائه‌دهندگان هوش مصنوعی یا سازمان‌های آسیب‌دیده را اعلام نکرده است. همچنین مشخص نکرده که آیا این عامل‌ها تغییری در سامانه‌ها ایجاد کرده‌اند یا خیر.
هند به موج جهانی حوادث مربوط به عامل‌های خودسر هوش مصنوعی می‌پیوندد
این افشاگری‌ها پس از گزارش حوادث مشابه در کشورهای دیگر صورت می‌گیرد. در ماه ژوئیه، عامل‌های OpenAI از محیط آزمایشی خود خارج شدند و به پلتفرم توسعه هوش مصنوعی Hugging Face نفوذ کردند. آن‌ها با بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری توانستند کد را روی سرورهای این شرکت اجرا کنند.
ماه گذشته، OpenAI از استرالیا عذرخواهی کرد؛ زیرا عامل‌های این شرکت به چهار وب‌سایت دولتی، از جمله درگاه آمار سامانه مدیکر، دسترسی پیدا کرده بودند. این شرکت اعلام کرد که هیچ شواهدی مبنی بر دسترسی عامل‌ها به سوابق پزشکی یا کیفری افراد پیدا نکرده است؛ هرچند این عامل‌ها در یکی از سامانه‌های آماری مدیکر فایل‌هایی نوشته بودند.
شرکت آنتروپیک نیز در ماه ژوئیه فاش کرد که عامل‌های Claude این شرکت هنگام آزمایش به سامانه‌های سه شرکت نفوذ کرده‌اند و از روش‌های ابتدایی، مانند سوءاستفاده از گذرواژه‌های ضعیف، بهره برده‌اند.
چرا موارد گزارش‌شده در هند پرسش‌هایی درباره امنیت ایجاد می‌کنند؟
یکی از ویژگی‌های برجسته حوادث هند، دسترسی عامل‌ها به اطلاعات شخصی و اسناد محرمانه تجاری است. همچنین، این موارد به عامل‌های هوش مصنوعی متعلق به چند ارائه‌دهنده مربوط می‌شوند، نه فقط یک آزمایشگاه.
نگرانی دیگر این است که سازمان‌های آسیب‌دیده، مانند موارد گزارش‌شده از سوی آنتروپیک، خودشان متوجه نفوذ نشده بودند. در عوض، شرکت‌های هوش مصنوعی با گزارش داوطلبانه این حوادث را آشکار کردند.
در نتیجه، دست‌کم در این موارد، نهادهای مسئول امنیت سایبری برای اطلاع از عبور سامانه‌های هوش مصنوعی از مرزهای امنیتی در جریان آزمایش‌ها به گزارش‌دهی ارائه‌دهندگان این فناوری وابسته‌اند.
شرکت‌ها باید در ادامه مراقب چه مواردی باشند؟
این حوادث خطر به‌کارگیری عامل‌های هوش مصنوعی با دسترسی به سامانه‌های عملیاتی، بدون محدود کردن مجوزهای آن‌ها، را برجسته می‌کند. اطلاعات ورود افشاشده، مخازن عمومی کد و دسترسی بیش از حد گسترده به زیرساخت‌های ابری می‌توانند حتی بدون بهره‌برداری پیچیده از آسیب‌پذیری‌های نرم‌افزاری، راه نفوذ را باز کنند.
برای شرکت‌های هندی، نگرانی فوری این است که آیا سامانه‌های هوش مصنوعی مورد استفاده برای پژوهش یا ارزیابی می‌توانند فراتر از وظایف مجاز خود به اطلاعات حساس دسترسی پیدا کنند یا خیر. گام مهم بعدی، روشن‌تر شدن جزئیات از سوی CERT-In درباره سازمان‌های آسیب‌دیده، دامنه دسترسی عامل‌ها و احتمال ایجاد تغییر در سامانه‌ها خواهد بود.