هوش مصنوعی در فر؟ آنتروپیک هشدار داد مدل‌ها ممکن است «تا چند ماه دیگر» در دستگاه‌های هوشمند خودشان را تکثیر کنند
پژوهشگران آنتروپیک هشدار داده‌اند که برخی از مدل‌های هوش مصنوعی این شرکت ممکن است به‌زودی به توانایی «خودتکثیری» برسند و راه‌هایی برای نفوذ به دستگاه‌های متصل به اینترنت، مانند یخچال‌های هوشمند و جاروبرقی‌های خودکار، پیدا کنند.
به گفته این شرکت، اگر چنین اتفاقی رخ دهد، این مدل‌ها می‌توانند بدون نیاز به مراکز داده، درون این دستگاه‌ها به فعالیت خود ادامه دهند. خودتکثیری چنین سامانه‌هایی می‌تواند به معنای از دست رفتن قابل توجه کنترل بر یک مدل هوش مصنوعی باشد که به‌صورت مستقل گسترش پیدا می‌کند.
پژوهشگران آنتروپیک در گزارشی که روز دوشنبه منتشر شد، نوشتند: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا دیگر یک نقطه متمرکز برای قطع فعالیت آن وجود ندارد.»
این شرکت اعلام کرد که این «کرم‌های هوش مصنوعی» که نوعی بدافزار خودمختار محسوب می‌شوند، ممکن است «تا چند ماه دیگر» به چنین قابلیت‌هایی دست پیدا کنند. پس از آنکه سامانه‌های هوش مصنوعی خارج از کنترل توانایی هک دستگاه‌های هوشمند را به دست آورند، می‌توانند از طریق شبکه‌ها گسترش یابند و از شناسایی شدن فرار کنند. آنتروپیک هشدار داد که در بدترین سناریو، چندین کرم هوش مصنوعی می‌توانند برای حمله به سخت‌افزارهای رایانه‌ای به‌صورت گروهی عمل کنند.
پژوهشگران این شرکت نوشتند: «باید تلاش کنیم سیستم‌های خود را مقاوم‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی دشوار شود؛ اما باید برای جهانی آماده شویم که در آن این سامانه‌ها حضور دائمی دارند.»
گزارش جدید آنتروپیک در شرایطی منتشر شده است که نگرانی‌ها درباره ایمنی هوش مصنوعی به اوج خود رسیده است. در ماه‌های گذشته، مجموعه‌ای از گزارش‌ها از سوی شرکت‌های هوش مصنوعی، از جمله آنتروپیک و اوپن‌ای‌آی، منتشر شده که نشان می‌دهد عامل‌های هوش مصنوعی این شرکت‌ها قادر به انجام اقدامات مستقل و نفوذ به شرکت‌های دیگر و نهادهای دولتی هستند.
این افشاگری‌ها باعث شده پژوهشگران، قانون‌گذاران و مدیران اجرایی، از جمله داریو آمودی، مدیرعامل آنتروپیک، و سم آلتمن، مدیرعامل اوپن‌ای‌آی، خواستار کاهش سرعت توسعه این صنعت و ایجاد تدابیر حفاظتی بیشتر شوند. با وجود این، هر دو شرکت همچنان به توسعه و عرضه مدل‌های جدید ادامه داده‌اند.
«تیم قرمز مرزی» آنتروپیک، واحدی که وظیفه آزمایش فشار و بررسی نقاط ضعف سامانه‌های هوش مصنوعی را بر عهده دارد، گزارش منتشرشده در روز دوشنبه را تهیه کرده است. هدف این تیم بررسی توانایی‌های مدل‌های هوش مصنوعی این شرکت است. در سناریوی مربوط به کرم‌های خودتکثیرشونده، پژوهشگران از یک عامل هوش مصنوعی خواستند دستگاه‌های متصل به اینترنت را هک کند.
آن‌ها دریافتند که خودتکثیری هوش مصنوعی احتمالاً تنها با مدل‌های کوچک‌تر امکان‌پذیر خواهد بود و خانه‌ها و کسب‌وکارهای کوچک احتمالاً نخستین اهداف چنین حملاتی خواهند بود. دستگاه‌هایی که آنتروپیک آن‌ها را در معرض خطر معرفی کرده، همگی دارای تراشه‌های کوچک داخلی هوش مصنوعی هستند؛ از جمله فرهای هوشمند، تلویزیون‌های هوشمند، چمن‌زن‌های خودکار، دوربین‌های امنیتی و تجهیزات ویدئوکنفرانس.
پژوهشگران در پایان گزارش خود اعلام کردند که هنوز مشخص نیست تکثیر هوش مصنوعی دقیقاً چه شکلی خواهد داشت. به گفته آن‌ها، این پدیده ممکن است به شکل مدلی کند مانند «کپک لزج دیجیتال» ظاهر شود، مدلی که افراد را برای دریافت اعتبار محاسباتی فریب می‌دهد، یا یک «مدل سایبری قدرتمند» که به‌سرعت مراکز بزرگ مانند دیتاسنترها را هک می‌کند.
با این حال، پژوهشگران آنتروپیک می‌گویند انتظار دارند در آینده‌ای نه‌چندان دور با جهانی روبه‌رو شویم که مملو از عامل‌های هوش مصنوعی فعال روی انواع سخت‌افزارها باشد؛ از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند.