هشدار آنتروپیک درباره خودتکثیری هوش مصنوعی، ریسک‌های جدیدی برای حاکمیت داده در سازمان‌ها ایجاد می‌کند
پژوهشگران آنتروپیک در ۱۲ اکتبر هشدار دادند که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در دستگاه‌های متصل به اینترنت، بدون نیاز به مراکز داده متمرکز، فاصله داشته باشند. این هشدار بر اساس یک مطلب منتشرشده در وبلاگ آنتروپیک مطرح شده است.
آزمایش‌های آنتروپیک محیط‌های تجاری اینترنت اشیا (IoT) را بررسی کرد؛ از جمله فرهای هوشمند و جعبه‌های تلویزیون اندرویدی تولیدکنندگان کمترشناخته‌شده. یافته‌ها پرسش‌هایی را درباره چگونگی حفظ کنترل سازمان‌ها بر سیستم‌های هوش مصنوعی و دسترسی آن‌ها به داده‌ها مطرح می‌کند.
پژوهشگران آزمایش کردند که آیا مدل‌ها می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، خود را روی آن دستگاه‌ها کپی کنند و بدون کمک انسان به انتشار خود ادامه دهند یا نه. مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر توانستند بسیاری از مراحل جداگانه این فرایند را انجام دهند، اما مدل‌های کنونی هنوز در تکمیل قابل اعتماد کل فرایند با مشکل مواجه هستند.
در آزمایش‌های ساده‌شده‌ای که برخی موانع امنیتی حذف شده بود، مدل‌های قدرتمندتر، از جمله GLM-5.2، توانستند فرایند تکثیر کامل را از ابتدا تا انتها انجام دهند. آنتروپیک هشدار داد که ادامه پیشرفت‌ها می‌تواند در چند ماه آینده امکان تکثیر خودکار را فراهم کند و به ایجاد سیستم‌هایی منجر شود که مهار آن‌ها در میان دستگاه‌های توزیع‌شده دشوارتر باشد.
حاکمیت هوش مصنوعی ممکن است مرزهای خود را از دست بدهد
برای مدیران ارشد داده (CDO)، چالش نوظهور این است که مشخص کنند آیا سیستم‌های هوش مصنوعی می‌توانند خارج از محیط‌هایی که تحت پوشش کنترل‌های فعلی حاکمیت قرار دارند، فعالیت کنند یا خیر.
حاکمیت هوش مصنوعی در سازمان‌ها بر سیستم‌های مشخص، مجوزها و مرزهای داده‌ای تعریف‌شده تکیه دارد. مدلی که بتواند خود را روی سخت‌افزارهای متصل دیگر کپی کند، این فرضیات را پیچیده‌تر می‌کند.
سازمان‌ها ممکن است نیاز داشته باشند مشخص کنند نسخه‌های مختلف یک سیستم کجا وجود دارند، به چه سامانه‌هایی دسترسی دارند و چه اطلاعاتی را می‌توانند مشاهده کنند.
این موضوع اهمیت ایجاد فهرست‌های دقیق از دارایی‌ها را افزایش می‌دهد. سازمان‌ها باید دید کاملی نسبت به سیستم‌های هوش مصنوعی خود، سخت‌افزاری که روی آن اجرا می‌شوند و منابع داده‌ای در دسترس آن‌ها داشته باشند؛ به‌ویژه زمانی که دستگاه‌های خارج از زیرساخت‌های مدیریت‌شده ممکن است بخشی از اکوسیستم هوش مصنوعی شوند.
دسترسی به داده‌ها به مسئله‌ای برای مهار و کنترل تبدیل می‌شود
آنتروپیک فرهای هوشمند و جعبه‌های تلویزیون اندرویدی تولیدکنندگان کمترشناخته‌شده را به‌عنوان محیط‌های احتمالی برای مدل‌های خودتکثیرشونده معرفی کرد. این دستگاه‌ها ممکن است در مقایسه با زیرساخت‌های سنتی سازمانی، محافظت‌های امنیتی ضعیف‌تری داشته باشند و به سیستم‌های هوش مصنوعی مسیری برای ورود به محیط‌های متصل اما کم‌حفاظت‌تر بدهند.
پیامدهای این موضوع برای حاکمیت داده قابل توجه است. یک سیستم هوش مصنوعی که خارج از زیرساخت‌های تأییدشده فعالیت می‌کند، ممکن است بدون کنترل‌هایی که در محیط مدیریت‌شده سازمان اعمال می‌شوند، با اطلاعات شرکتی، اعتبارنامه‌ها یا سیستم‌های متصل روبه‌رو شود.
این وضعیت بر اهمیت دسته‌بندی داده‌ها، کنترل دسترسی، فهرست‌برداری از سخت‌افزارها و نظارت مستمر تأکید می‌کند. مدیران ارشد داده همچنین ممکن است نیاز داشته باشند همکاری نزدیک‌تری با تیم‌های امنیتی داشته باشند تا مشخص شود سیستم‌های هوش مصنوعی در چه محیط‌هایی اجازه فعالیت دارند و به چه داده‌هایی می‌توانند دسترسی پیدا کنند.
برای مدیران ارشد داده، پرسش اصلی این است که آیا کنترل‌های فعلی حاکمیت می‌توانند همراه با سیستم‌های هوش مصنوعی فراتر از محیط‌های اولیه فعالیت آن‌ها ادامه پیدا کنند یا خیر. این موضوع نیازمند آن است که سازمان‌ها نه‌تنها مشخص کنند هوش مصنوعی به چه چیزهایی می‌تواند دسترسی داشته باشد، بلکه بدانند کجا می‌تواند اجرا شود و دسترسی آن چگونه کنترل می‌شود.