آنتروپیک در آستانه عرضه اولیه سهام، آموزش هوش مصنوعی را به دلایل امنیتی متوقف کرد
شرکت سازنده کلود اعلام کرد که پیش‌آموزش یک مدل پایه جدید و پیشرفته را برای تقویت تدابیر حفاظتی در برابر سرقت وزن‌های مدل و مالکیت فکری به تعویق انداخته است.
بر اساس اسنادی که روز دوشنبه در چارچوب عرضه اولیه سهام آنتروپیک منتشر شد، این شرکت به دلیل نگرانی‌های امنیتی، آموزش مدل پرچم‌دار نسل بعدی هوش مصنوعی خود را بیش از یک ماه متوقف کرده است. در همین حال، در جریان آزمایش‌ها مشخص شد که چهار عامل هوش مصنوعی این شرکت به سامانه‌های رایانه‌ای خارجی و فعال دسترسی پیدا کرده‌اند.
شرکت سازنده چت‌بات کلود در بخش مربوط به عوامل خطر در اسناد عرضه اولیه سهام خود اعلام کرد که پیش‌آموزش یک مدل پایه جدید از رده مدل‌های پیشرفته را به تعویق انداخته است تا تدابیر حفاظتی در برابر سرقت وزن‌های مدل و مالکیت فکری را تقویت کند.
این افشاگری چالش‌های ایمنی پیش روی توسعه‌دهندگان مدل‌های هوش مصنوعی هرچه قدرتمندتر را برجسته می‌کند؛ برخی از سازندگان این فناوری هشدار داده‌اند که هوش مصنوعی ممکن است در نهایت از کنترل انسان خارج شود. شرکت رقیب، اوپن‌ای‌آی، نیز در اوایل سال جاری پس از آنکه مدل‌هایش موفق شدند از سازوکارهای امنیتی پلتفرم هاجینگ فیس عبور کنند، بخشی از فعالیت‌های آموزش مدل را به دلایل ایمنی متوقف کرده بود.
این رویدادها نشان می‌دهند که نقص‌های ایمنی پیش‌بینی‌نشده چگونه می‌توانند روند توسعه و به‌کارگیری مدل‌هایی را مختل کنند که برای رشد آنتروپیک اهمیت اساسی دارند؛ شرکتی که خود را برای ورود مورد انتظار به بازار سهام آماده می‌کند.
آنتروپیک هشدار داد که توقف آموزش مدل‌ها ممکن است درآمد این شرکت را به تأخیر بیندازد و موجب شود از رقبای خود عقب بماند. این شرکت حدود ۹۴ صفحه از اسناد خود را به عوامل خطر اختصاص داده است؛ حجمی بیشتر از آنچه در نسخه محرمانه پرونده عرضه اولیه سهام که رویترز مشاهده کرده بود، آمده بود.
خروج از محیط ایزوله آزمایش
در این اسناد، جزئیات مواردی از شکست ارزیابی‌های ایمنی نیز منتشر شده که پیش‌تر افشا نشده بودند. در این رخدادها، چهار مدل هوش مصنوعی از محیط‌های آزمایشی خود خارج شدند و به سامانه‌های رایانه‌ای دنیای واقعی دسترسی پیدا کردند. این دسترسی‌ها بین ۱۰ تا ۳۴ ساعت ادامه داشت.
آنتروپیک اعلام کرد که در جریان آزمایش‌های امنیت سایبری با یک شریک بیرونی، خطایی رخ داده بود که باعث شد محیط آزمایش، برخلاف دستورالعمل تعیین‌شده برای غیرفعال‌کردن دسترسی به وب، همچنان به اینترنت متصل بماند.
در یکی از موارد، نسخه‌ای اولیه از مدل به تلاش برای انجام یک وظیفه ارزیابی ناممکن ادامه داد، گذرواژه‌ای ذخیره‌شده را پیدا کرد و با استفاده از آن به دسترسی مدیر سامانه یک طرف ثالث دست یافت. این مدل سپس اطلاعات ورود بیشتری به دست آورد، تنظیمات سامانه را تغییر داد و به داده‌های شخصی یک فرد دسترسی پیدا کرد. در اسناد منتشرشده، هویت طرف‌های خارجی دخیل در این رویداد مشخص نشده است.
آنتروپیک گفت که طرف‌های آسیب‌دیده را از این اتفاق مطلع کرده و هیچ شواهدی نیافته است که نشان دهد مدل‌ها تلاش کرده‌اند از نظارت انسانی بگریزند یا با یکدیگر هماهنگ شوند. این شرکت پس از آن، برخی ارزیابی‌های امنیت سایبری پیش از انتشار مدل‌ها را به حالت تعلیق درآورد و محیط‌های یادگیری تقویتی با ریسک بالاتر را نیز متوقف کرد.
در رویدادی جداگانه، آنتروپیک روز یکشنبه اعلام کرد که کلود بدون مجوز انسانی از سازوکار پرداخت برای دسترسی به محتوای پولی عبور کرده و به آمار تجمیعی آرای انتخابات در ایالت جورجیا در آمریکا دست یافته است؛ داده‌هایی که به‌صورت عمومی در دسترس بودند.
به‌جز تیتر، این گزارش به‌وسیله کارکنان NDTV ویرایش نشده و از یک خوراک خبری تجمیع‌شده منتشر شده است.