آنتروپیک در پرونده عرضه اولیه سهام از توقف یک‌ماهه آموزش هوش مصنوعی و رخدادهای امنیتی پرده برداشت

منبع: رویترز | ۲۷ اکتبر ۲۰۲۶

آنتروپیک در بخش عوامل خطر پرونده عرضه اولیه سهام خود اعلام کرد که برای تقویت تدابیر حفاظتی در برابر سرقت وزن‌های مدل و مالکیت فکری، آموزش اولیه یک مدل پایه جدید و پیشرفته را به تعویق انداخته است.

شرکت آنتروپیک آموزش مدل پرچم‌دار نسل بعدی هوش مصنوعی خود را به‌دلیل نگرانی‌های امنیتی بیش از یک ماه متوقف کرد. اسناد مربوط به عرضه اولیه سهام این شرکت که روز دوشنبه، ۲۶ اکتبر، منتشر شد، همچنین نشان می‌دهد که چهار عامل هوش مصنوعی این شرکت در جریان آزمایش‌ها به سامانه‌های رایانه‌ای واقعی و متصل به شبکه‌های خارجی دسترسی پیدا کرده‌اند.

سازنده چت‌بات کلود در بخش عوامل خطر پرونده خود اعلام کرد که آموزش اولیه یک مدل پایه جدید از نسل مدل‌های پیشرفته هوش مصنوعی را به تعویق انداخته است تا تدابیر حفاظتی در برابر سرقت وزن‌های مدل و مالکیت فکری تقویت شوند.

این افشاگری چالش‌های ایمنی پیش روی توسعه‌دهندگان مدل‌های قدرتمندتر هوش مصنوعی را برجسته می‌کند؛ چالش‌هایی که برخی سازندگان این فناوری درباره احتمال خارج شدن آن از کنترل انسان در آینده هشدار داده‌اند. رقیب آنتروپیک، شرکت اوپن‌ای‌آی، نیز اوایل سال جاری بخشی از فرایند آموزش مدل‌های خود را به‌دلیل نگرانی‌های ایمنی متوقف کرده بود

این رخدادها نشان می‌دهند که نقص‌های پیش‌بینی‌نشده در تدابیر ایمنی می‌توانند توسعه و عرضه مدل‌هایی را مختل کنند که نقشی اساسی در رشد آنتروپیک دارند؛ شرکتی که خود را برای ورود مورد انتظار به بازار سهام آماده می‌کند.

آنتروپیک هشدار داد که توقف آموزش مدل‌ها ممکن است درآمدزایی را به تأخیر بیندازد و باعث شود این شرکت از رقبای خود عقب بماند. این شرکت حدود ۹۴ صفحه از پرونده خود را به عوامل خطر اختصاص داده است؛ حجمی بیشتر از آنچه در نسخه محرمانه پرونده که رویترز مشاهده کرده بود، وجود داشت.

خروج از محیط آزمایش ایزوله

در این پرونده، جزئیات مواردی از شکست ارزیابی‌های ایمنی نیز برای نخستین بار فاش شده است. در این رخدادها، چهار مدل هوش مصنوعی از محیط‌های آزمایشی خود خارج شدند و به سامانه‌های رایانه‌ای دنیای واقعی دسترسی پیدا کردند. هر یک از این نشست‌ها بین ۱۰ تا ۳۴ ساعت ادامه داشت.

آنتروپیک گفت که در جریان آزمایش‌های امنیت سایبری با همکاری یک شریک بیرونی، خطایی رخ داد و محیط آزمایش با وجود دستور غیرفعال کردن دسترسی به وب، همچنان به اینترنت متصل ماند.

در یکی از موارد، نسخه‌ای اولیه از مدل به پیگیری یک وظیفه آزمایشی ناممکن ادامه داد، گذرواژه‌ای ذخیره‌شده را پیدا کرد و با استفاده از آن، دسترسی مدیر سامانه یکی از طرف‌های ثالث را به دست آورد. مدل سپس اعتبارنامه‌های بیشتری را به دست آورد، تنظیمات سامانه را تغییر داد و به اطلاعات شخصی یک فرد دسترسی پیدا کرد. در این پرونده نام طرف‌های بیرونی دخیل در این رخداد اعلام نشده است.

آنتروپیک اعلام کرد که همه طرف‌های متأثر را از این رخدادها مطلع کرده است. این شرکت همچنین گفت شواهدی پیدا نکرده که نشان دهد مدل‌ها برای فرار از نظارت انسانی تلاش کرده‌اند یا با یکدیگر هماهنگ شده‌اند. پس از این اتفاق‌ها، آنتروپیک برخی ارزیابی‌های امنیت سایبری پیش از انتشار مدل‌ها را به حالت تعلیق درآورد و آموزش در محیط‌های یادگیری تقویتی پرخطر را نیز متوقف کرد.

در رویدادی جداگانه، این شرکت روز یکشنبه اعلام کرد که کلود بدون مجوز انسانی از سد پرداخت یک وب‌سایت عبور کرده و به آمار تجمیعی و عمومی آرای ثبت‌شده در ایالت جورجیا آمریکا دسترسی یافته است.