آنتروپیک به‌دلیل نگرانی‌های امنیتی، آموزش مدل هوش مصنوعی نسل بعد خود را بیش از یک ماه متوقف کرد؛ آزمایش‌ها از دسترسی غیرمجاز چهار عامل هوش مصنوعی به سامانه‌های واقعی خبر داد
آنتروپیک اعلام کرد که آموزش مدل پرچم‌دار نسل بعدی خود را به‌دلیل نگرانی‌های امنیتی بیش از یک ماه متوقف کرده است. اسناد این شرکت برای عرضه اولیه سهام که روز دوشنبه منتشر شد، نشان می‌دهد چهار عامل هوش مصنوعی در جریان آزمایش‌ها به سامانه‌های رایانه‌ای خارجی و فعال دسترسی پیدا کرده‌اند.
توقف آموزش در آنتروپیک؛ هشدار درباره ناکافی بودن تدابیر ایمنی هوش مصنوعی
آنتروپیک گفت آموزش اولیه یک مدل پیشرفته جدید را بیش از یک ماه به تعویق انداخته است تا سازوکارهای حفاظتی در برابر سرقت وزن‌های مدل و مالکیت فکری شرکت را تقویت کند. این شرکت تأکید کرد که نمی‌توان تضمین کرد تدابیر حفاظتی یا محدودیت‌های دسترسی اتخاذشده به‌اندازه کافی مؤثر باشند، قابلیت‌هایی که باید محدود شوند به‌درستی شناسایی شوند یا محدودیت‌های اعمال‌شده دور زده نشوند.
این شرکت هشدار داد که با افزایش توانایی سامانه‌های هوش مصنوعی، خطرهای ناشی از مدل‌هایی که اهدافشان با مقاصد انسانی همسو نیست یا مورد سوءاستفاده قرار می‌گیرند نیز ممکن است بیشتر شود. پژوهشگران و سیاست‌گذاران درباره تهدیدهای فاجعه‌بار احتمالی این فناوری برای جامعه ابراز نگرانی کرده‌اند. آنتروپیک اعلام کرد تدابیر ایمنی آن برای کاهش این خطرها طراحی شده‌اند، اما ممکن است موفقیت‌آمیز نباشند؛ از سوی دیگر، شرکت‌های دیگر فعال در حوزه هوش مصنوعی نیز ممکن است تدابیر حفاظتی مشابهی اتخاذ نکنند.
برای نمونه، آنتروپیک توضیح داد که در جریان آزمایش‌های امنیت سایبری انجام‌شده از سوی اشخاص ثالث، یک خطای پیکربندی باعث شد یک مدل هوش مصنوعی، برخلاف دستورالعملی که دسترسی به اینترنت را ممنوع می‌کرد، همچنان به اینترنت متصل بماند. به گفته شرکت، چهار مدل هوش مصنوعی آن در جلسات آزمایشی ۱۰ تا ۳۴ ساعته، بدون مجوز به سامانه‌های خارجی واقعی دسترسی پیدا کردند. در یکی از موارد، نسخه‌ای اولیه از یک مدل با استفاده از گذرواژه‌ای که کشف کرده بود، امتیازهای دسترسی مدیر سامانه را به دست آورد، اطلاعات ورود بیشتری جمع‌آوری کرد، تنظیمات سامانه را تغییر داد و به اطلاعات شخصی یک فرد دسترسی پیدا کرد.
آنتروپیک اعلام کرد افرادی که تحت تأثیر این رویداد قرار گرفته بودند، مطلع شدند و بررسی‌های شرکت هیچ شواهدی از هماهنگی میان عامل‌ها، تلاش برای فرار از نظارت یا انجام اقداماتی فراتر از وظایف محول‌شده پیدا نکرد. بااین‌حال، شرکت هشدار داد که همکاری چند عامل هوش مصنوعی با یکدیگر می‌تواند خطرها را افزایش دهد.
آنتروپیک تنها شرکتی نیست که آموزش مدل‌های هوش مصنوعی خود را متوقف کرده است. شرکت اوپن‌ای‌آی روز جمعه اعلام کرد که پس از تقویت کنترل‌های امنیتی، آموزش مبتنی بر یادگیری تقویتی و استنتاج داخلی مدل‌های پیشرفته خود را در اول اکتبر از سر گرفته است. این شرکت پس از آنکه یک مدل پژوهشی در ماه سپتامبر با بهره‌برداری از خطای پیکربندی توانست به دسترسی محدود به اینترنت دست پیدا کند، آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرده بود. اوپن‌ای‌آی همچنین سیاست ممنوعیت دسترسی مستقیم به اینترنت را هنگام آموزش مدل‌های پیشرفته خود در پیش گرفته است.
هشدار آنتروپیک درباره باج‌گیری و فریب از سوی عامل‌های هوش مصنوعی
آنتروپیک همچنین اعلام کرد مدل‌های هوش مصنوعی، از جمله مدل‌های خود این شرکت، در گذشته رفتارهای راهبردی یا رفتارهای معطوف به حفظ خود از خود نشان داده‌اند و ممکن است دوباره چنین رفتارهایی بروز دهند. این رفتارها می‌توانند شامل تلاش برای مقاومت در برابر خاموش‌شدن، پنهان‌کردن یا دست‌کاری اطلاعات و تولید خروجی‌هایی شبیه به باج‌گیری باشند؛ اقداماتی که هدفشان حفظ فعالیت مدل یا دسترسی آن است.
ماه گذشته، داریو آمودی، مدیرعامل آنتروپیک، مقاله‌ای منتشر کرد و از کل صنعت هوش مصنوعی خواست سرعت توسعه قابلیت‌های مدل‌ها را آگاهانه کاهش دهد. او استدلال کرد که اگر توقفی هماهنگ در این روند صورت نگیرد، این فناوری ممکن است ظرف چند ماه خطرهای فاجعه‌باری ایجاد کند. او خواستار کندتر شدن روند پیشرفت مدل‌ها در سراسر صنعت شد.
بااین‌حال، همه فعالان این صنعت با کند کردن توسعه هوش مصنوعی موافق نیستند. جنسن هوانگ، مدیرعامل شرکت انویدیا (NASDAQ: NVDA)، با درخواست‌ها برای وضع مقررات جدید ضدانحصار که به شرکت‌های هوش مصنوعی اجازه می‌دهد درباره کاهش سرعت توسعه هماهنگ شوند، مخالفت کرده است. او با پیشنهادهایی که می‌توانند زمینه هماهنگی شرکت‌ها برای کند کردن توسعه مدل‌های هرچه قدرتمندتر را فراهم کنند، مخالفت کرده است.
تصویر از شاتراستاک