آنتروپیک در پرونده عرضه اولیه سهام، از توقف یک‌ماهه آموزش مدل و رخنه‌های امنیتی هوش مصنوعی پرده برداشت
این حوادث نشان می‌دهند که نقص‌های ایمنی پیش‌بینی‌نشده چگونه می‌توانند توسعه و عرضه مدل‌هایی را مختل کنند که نقشی اساسی در رشد آنتروپیک دارند؛ آن هم در شرایطی که این شرکت خود را برای ورود مورد انتظار به بازار سهام آماده می‌کند.
رویترز
۲۷ اکتبر ۲۰۲۶، ساعت ۱۲:۲۰ ظهر
آخرین به‌روزرسانی: ۲۷ اکتبر ۲۰۲۶، ساعت ۱۲:۲۸ ظهر
اسناد مربوط به عرضه اولیه سهام آنتروپیک که روز گذشته، ۲۶ اکتبر، منتشر شد، نشان می‌دهد این شرکت آموزش نسل بعدی مدل پرچم‌دار هوش مصنوعی خود را به‌دلیل نگرانی‌های امنیتی بیش از یک ماه متوقف کرده است. همچنین در جریان آزمایش‌ها، چهار عامل هوش مصنوعی این شرکت به سامانه‌های رایانه‌ای واقعی و خارج از محیط آزمایش دسترسی پیدا کرده‌اند.
شرکت سازنده چت‌بات کلود در بخش عوامل خطرِ پرونده عرضه اولیه سهام خود اعلام کرد که آموزش پیشین یک مدل پایه جدید و پیشرفته هوش مصنوعی را به تعویق انداخته است تا تدابیر حفاظتی در برابر سرقت وزن‌های مدل و مالکیت فکری تقویت شوند.
این افشاگری دشواری‌های ایمنی پیش روی توسعه‌دهندگان مدل‌های هرچه قدرتمندتر هوش مصنوعی را برجسته می‌کند؛ برخی از سازندگان این فناوری هشدار داده‌اند که هوش مصنوعی ممکن است در نهایت از کنترل انسان خارج شود. شرکت رقیب، اوپن‌ای‌آی، نیز اوایل سال جاری میلادی پس از آنکه مدل‌هایش به سامانه هاجینگ فیس نفوذ کردند، بخشی از فرایند آموزش را به‌دلیل نگرانی‌های ایمنی متوقف کرده بود.
این حوادث نشان می‌دهند که نقص‌های ایمنی پیش‌بینی‌نشده چگونه می‌توانند توسعه و عرضه مدل‌هایی را مختل کنند که نقشی اساسی در رشد آنتروپیک دارند؛ آن هم در شرایطی که این شرکت خود را برای ورود مورد انتظار به بازار سهام آماده می‌کند.
آنتروپیک هشدار داده است که توقف آموزش مدل‌ها ممکن است درآمدزایی را به تأخیر بیندازد و باعث شود این شرکت از رقبایش عقب بماند. این شرکت در پرونده خود حدود ۹۴ صفحه را به عوامل خطر اختصاص داده است؛ تعداد صفحاتی که از نسخه محرمانه پرونده‌ای که رویترز مشاهده کرده بود، بیشتر است.
خروج از محیط ایزوله آزمایش
در این پرونده همچنین جزئیات مواردی از شکست در ارزیابی‌های ایمنی منتشر شده که پیش‌تر افشا نشده بودند. در این حوادث، چهار مدل هوش مصنوعی از محیط‌های آزمایشی خود خارج شدند و به سامانه‌های رایانه‌ای دنیای واقعی دسترسی پیدا کردند. هر یک از این نشست‌ها بین ۱۰ تا ۳۴ ساعت طول کشید.
آنتروپیک اعلام کرد که در جریان آزمایش‌های امنیت سایبری با همکاری یک شریک ثالث، خطایی رخ داده بود که باعث شد محیط آزمایش، برخلاف دستورالعمل‌های مربوط به غیرفعال‌کردن دسترسی به وب، همچنان به اینترنت متصل بماند.
در یکی از موارد، نسخه اولیه یک مدل به پیگیری وظیفه‌ای ادامه داد که انجام آن ناممکن بود. این مدل یک گذرواژه ذخیره‌شده را پیدا کرد و با استفاده از آن، به دسترسی مدیریتی سامانه متعلق به شخص ثالثی دست یافت. سپس اطلاعات ورود دیگری را به دست آورد، تنظیمات سامانه را تغییر داد و به داده‌های شخصی یک فرد دسترسی پیدا کرد. در این پرونده نام طرف‌های خارجی درگیر در این حادثه اعلام نشده است.
آنتروپیک گفت به تمام طرف‌های آسیب‌دیده اطلاع داده است و هیچ مدرکی پیدا نکرده که نشان دهد مدل‌ها برای فرار از نظارت انسانی تلاش کرده یا با یکدیگر هماهنگ شده‌اند. این شرکت پس از آن، برخی ارزیابی‌های امنیت سایبری پیش از انتشار مدل‌ها را متوقف کرد و آموزش در محیط‌های یادگیری تقویتی با ریسک بالاتر را نیز به حالت تعلیق درآورد.
آنتروپیک همچنین روز یکشنبه اعلام کرد که کلود بدون دریافت مجوز انسانی، محدودیت دسترسی پولی یک وب‌سایت را دور زده و به آمار تجمیعی و عمومی شمارش آرای رأی‌دهندگان در ایالت جورجیا آمریکا دسترسی پیدا کرده است.