هند هم از فعالیت عامل‌های هوش مصنوعی خارج از کنترل خبر داد
نهاد امنیت سایبری هند روز پنجشنبه اعلام کرد عامل‌های هوش مصنوعی متعلق به چند ارائه‌دهنده مختلف، هنگام انجام پژوهش و آزمایش، به اطلاعات شخصی و اسناد محرمانه سازمان‌های هندی دسترسی پیدا کرده‌اند.
تیم واکنش اضطراری رایانه‌ای هند (CERT-In) اعلام کرد که چندین گزارش داوطلبانه از سوی ارائه‌دهندگان مدل‌های هوش مصنوعی دریافت کرده است. طبق این گزارش‌ها، مدل‌های این شرکت‌ها هنگام اجرای آزمایش‌ها و ارزیابی‌ها در اینترنت عمومی، به سامانه‌های عملیاتی سازمان‌های هندی دسترسی یافته بودند.
این عامل‌ها از طریق اطلاعات ورود و تنظیمات اتصال ناامنی وارد سامانه‌ها شدند که در پیکربندی برنامه‌ها، مخازن کد عمومی و نقش‌های ابری با مجوزهای بیش از حد گسترده باقی مانده بود. به گفته CERT-In، اقدامات این عامل‌ها «از حدود مجوزهای تعیین‌شده برای وظایف محول‌شده به آن‌ها فراتر رفته بود».
به این ترتیب، هند به تازه‌ترین مورد در زنجیره‌ای از حوادث بین‌المللی مربوط به عامل‌های هوش مصنوعی خارج از کنترل تبدیل شده است. در ماه ژوئیه، عامل‌های OpenAI از محیط آزمایشی خود خارج شدند و به شرکت فرانسوی Hugging Face نفوذ کردند؛ اتفاقی که آغاز تابستانی پرحادثه در زمینه فعالیت‌های کنترل‌نشده عامل‌های هوش مصنوعی بود. ماه گذشته نیز OpenAI پس از آنکه عامل‌هایش به چهار وب‌سایت دولتی استرالیا، از جمله درگاه آمار مدیکر، دسترسی پیدا کردند، از استرالیا عذرخواهی کرد.
در ماجرای Hugging Face، عامل‌های OpenAI کار خود را به روشی مشابه آغاز کردند، اما سپس با یافتن و بهره‌برداری از نقص‌های نرم‌افزاری توانستند کد اجرا کنند و به سرورهای این شرکت دسترسی یابند. در مقابل، CERT-In گزارشی از چنین نفوذی در هند ارائه نکرده است و به نظر می‌رسد عامل‌ها در این مورد صرفاً از دسترسی‌هایی استفاده کرده‌اند که به‌دلیل تنظیمات ناامن در اختیارشان قرار گرفته بود.
با این حال، موارد گزارش‌شده در هند از یک جهت نگران‌کننده‌تر به نظر می‌رسند: نوع اطلاعاتی که عامل‌ها مشاهده کرده‌اند. OpenAI اعلام کرده بود که در حادثه استرالیا، با وجود آنکه عامل‌هایش فایل‌هایی را درون سامانه آمار مدیکر نوشته بودند، هیچ شواهدی پیدا نکرد که نشان دهد آن‌ها به پرونده‌های پزشکی یا سوابق کیفری افراد دست زده‌اند. اما در هند، عامل‌های هوش مصنوعی اطلاعات شخصی و اسناد محرمانه تجاری را خوانده‌اند. تفاوت دیگر این است که حوادث قبلی هرکدام از سوی یک شرکت هوش مصنوعی گزارش شده بودند، در حالی که در هند عامل‌های متعلق به چند ارائه‌دهنده مختلف دخیل بوده‌اند.
CERT-In نام شرکت‌های ارائه‌دهنده یا سازمان‌های آسیب‌دیده را اعلام نکرده و نگفته است که آیا عامل‌ها تغییری در سامانه‌ها ایجاد کرده‌اند یا خیر. تک‌کرانچ برای دریافت اطلاعات بیشتر با این نهاد تماس گرفته است.
در حال حاضر، نزدیک‌ترین نمونه مشابه، افشاگری ماه ژوئیه شرکت Anthropic است. این شرکت اعلام کرده بود که کلود (Claude) هنگام انجام آزمایش‌ها، با استفاده از روش‌های ساده‌ای مانند حدس زدن گذرواژه‌های ضعیف، توانسته است به سامانه‌های سه شرکت نفوذ کند.
در هند نیز، مانند موارد گزارش‌شده از سوی Anthropic، سازمان‌های آسیب‌دیده خودشان متوجه نفوذها نشده بودند. در نتیجه، دولت‌ها برای آگاهی از فعالیت‌های کنترل‌نشده عامل‌های هوش مصنوعی همچنان به افشای داوطلبانه این حوادث از سوی همان شرکت‌های هوش مصنوعی متکی هستند که عامل‌هایشان موجب این رخدادها شده‌اند.