آنتروپیک یک قابلیت خطرناک هوش مصنوعی را کشف کرد؛ مدل‌ها ممکن است به‌زودی خود را تکثیر کنند
آنتروپیک اعلام کرده است نتایج آزمایش‌های این شرکت نشان می‌دهد مدل‌های کوچک هوش مصنوعی که قادر به انتشار مستقل نسخه‌هایی از خود از طریق دستگاه‌های تجاری اینترنت اشیا (IoT) باشند، ممکن است تنها طی چند ماه آینده ظهور کنند. اهداف احتمالی چنین فرآیندی می‌تواند شامل فرهای هوشمند، گیرنده‌های تلویزیون اندرویدی ساخت تولیدکنندگان کمتر شناخته‌شده و دیگر ابزارهای متصل به اینترنت باشد.
در این پژوهش، آنتروپیک بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌هایی از خود را به آن‌ها منتقل کنند و بدون دخالت انسان به گسترش خود ادامه دهند یا خیر. آزمایش‌ها نشان داد حتی مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر نیز می‌توانند مراحل جداگانه موردنیاز برای چنین فرآیندی را انجام دهند.
با این حال، پژوهشگران دریافتند مدل‌های کوچک هنوز در اجرای کامل زنجیره اقدامات از ابتدا تا انتها با مشکل روبه‌رو هستند. در آزمایش‌های ساده‌سازی‌شده که برخی بررسی‌های ایمنی در آن‌ها حذف شده بود، مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند در تمام مراحل به‌صورت مستقل خود را تکثیر کنند.
آنتروپیک همچنین هشدار داده است متوقف کردن سامانه‌های هوش مصنوعی که توانایی انتشار مستقل نسخه‌های خود را دارند، می‌تواند دشوار باشد؛ زیرا چنین سیستم‌هایی یک نقطه خاموش‌سازی مرکزی واحد نخواهند داشت. برخلاف بدافزارهای معمولی، این سامانه‌ها ممکن است بتوانند به‌طور مستقل روش تعامل با دستگاه‌های ناشناخته را پیدا کنند. آن‌ها همچنین می‌توانند پردازنده‌های مورد استفاده در مراکز داده را هدف قرار دهند.
آنتروپیک در این مطالعه بر دستگاه‌های اینترنت اشیا، از جمله تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر ابزارهای متصل به اینترنت تمرکز کرد. این دستگاه‌ها به دلیل ضعف‌های امنیتی رایج انتخاب شدند؛ ضعف‌هایی که می‌تواند شرایط مناسبی برای انتشار احتمالی مدل‌های هوش مصنوعی ایجاد کند.
این شرکت همچنین هشدار داده است اگر مدل‌های کوچک با همان سرعت گذشته بهبود پیدا کنند، ممکن است تا پایان سال جاری میلادی توانایی خودتکثیری مستقل را به دست آورند. قابلیت‌های مشابه نیز ممکن است مدت کوتاهی پس از آن در سامانه‌هایی که از وزن‌های مدل خود برای تکثیر استفاده می‌کنند، ظاهر شود.
در عین حال، آنتروپیک معتقد است چنین سامانه‌های هوش مصنوعی مستقلی احتمالاً به‌آرامی گسترش خواهند یافت و به منابع پردازشی عمومی با امنیت نسبتاً پایین متکی خواهند بود. این شرکت بر ضرورت تقویت امنیت سیستم‌ها تأکید کرده است تا انتشار چنین عامل‌های هوش مصنوعی میان دستگاه‌ها دشوارتر شود.
منبع: رویترز