آنتروپیک هشدار داد هوش مصنوعی می‌تواند از طریق دستگاه‌های خانگی خود را تکثیر کند
جاکارتا - شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است در آینده نزدیک توانایی تکثیر خود از طریق دستگاه‌های هوشمند خانگی با سیستم‌های امنیتی ضعیف را پیدا کنند. این شرکت در پژوهش خود، انتشار بارهای کاری مدل‌های هوش مصنوعی را میان تعدادی دستگاه ارزان‌قیمت اندروید تی‌وی آزمایش کرد؛ آزمایشی که چالش‌های تازه‌ای را در مدیریت تهدیدهای امنیت سایبری نشان می‌دهد.
بر اساس گزارشی که آنتروپیک منتشر کرده است، مدل‌های سبک هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر به‌تدریج توانایی‌های لازم برای انجام فرایند خودتکثیری را به دست می‌آورند. این شرکت برآورد می‌کند که مدل‌های کوچک‌تر ممکن است پیش از پایان سال جاری میلادی بتوانند تمام مراحل مورد نیاز برای این فرایند را یاد بگیرند.
برای آزمایش این مفهوم، تیم امنیتی آنتروپیک از یک مدل کوچک گوگل در شبکه‌ای شامل ۱۵ دستگاه اندروید تی‌وی از برندهای ناشناخته و با قیمت نسبتاً پایین استفاده کرد. این آزمایش که توسط CNBC گزارش شد، امکان انتقال بارهای کاری هوش مصنوعی به چند دستگاه با توان پردازشی محدود را بررسی کرد.
دستگاه‌های اینترنت اشیا (IoT)، مانند تجهیزات پخش محتوا و اجاق‌های هوشمند، در صورت داشتن سیستم‌های امنیتی داخلی ضعیف می‌توانند خطرآفرین باشند. چنین شرایطی ممکن است به مدل‌های هوش مصنوعی اجازه دهد وارد این دستگاه‌ها شوند و از منابع پردازشی آن‌ها استفاده کنند.
اگر اندازه یک مدل برای اجرا روی یک دستگاه بیش از حد بزرگ باشد، می‌توان بار کاری آن را به بخش‌های مختلف تقسیم کرد و میان چند دستگاه متصل توزیع کرد. با این روش، دستگاه‌ها می‌توانند شبکه‌ای توزیع‌شده تشکیل دهند که بخش‌های مختلف وظایف مدل هوش مصنوعی را اجرا می‌کند.
چالش اصلی این است که در صورت استفاده مخرب از چنین شبکه‌ای، چگونه می‌توان آن را متوقف کرد. تاکنون شرکت‌های فناوری معمولاً مدل‌های هوش مصنوعی را از طریق مراکز داده متمرکز کنترل می‌کنند. اگر یک مدل رفتار خطرناک نشان دهد یا تلاش کند حمله سایبری انجام دهد، اپراتورها می‌توانند سرور را متوقف کنند یا دسترسی شبکه را قطع کنند.
اما اگر مدل در هزاران دستگاه خانگی که به آن‌ها نفوذ شده است پراکنده شود، دیگر یک نقطه کنترل واحد برای خاموش کردن فوری کل سامانه وجود نخواهد داشت. تیم‌های امنیتی باید هر دستگاه آلوده را شناسایی و پاک‌سازی کنند تا جلوی گسترش آن گرفته شود.
آنتروپیک اعلام کرده است که این خطر، پیامدی ناخواسته از افزایش توانایی‌های برنامه‌نویسی مدل‌های هوش مصنوعی است. قابلیتی که به مدل‌ها کمک می‌کند نرم‌افزار بنویسند، می‌تواند برای اسکن شبکه‌ها، سوءاستفاده از حفره‌های امنیتی و تکثیر خود با الگوهایی شبیه شیوع کرم‌های رایانه‌ای نیز استفاده شود.
با این حال، آنتروپیک تأکید کرده است که هنوز مدل هوش مصنوعی کاملاً خودمختار و قادر به تکثیر خود برای انجام فعالیت‌های خطرناک وجود ندارد. این شرکت برآورد می‌کند که یک مدل کوچک‌تر ممکن است تا پایان سال ۲۰۲۶ مجموعه کامل توانایی‌های مورد نیاز برای خودتکثیری را به دست آورد.
آنتروپیک معتقد است بهبود این توانایی‌ها، اهمیت تقویت امنیت دستگاه‌های مصرفی را افزایش می‌دهد. تیم‌های امنیت سایبری باید اطمینان حاصل کنند که دستگاه‌های خانگی متصل به شبکه در برابر سوءاستفاده محافظت شده‌اند و به‌سادگی تحت کنترل عامل‌های نرم‌افزاری خودمختار قرار نمی‌گیرند.
این گزارش دشواری‌های احتمالی مقابله با تهدیدهایی را برجسته می‌کند که در آن‌ها توانایی‌های هوش مصنوعی دیگر به یک مرکز پردازشی واحد وابسته نیستند. با این حال، آزمایش‌های مطرح‌شده در گزارش تنها آزمون‌های مفهومی هستند و نشان نمی‌دهند که شبکه‌های کاملاً خودمختار هوش مصنوعی در مقیاس گسترده گسترش یافته و دستگاه‌های خانگی را تحت کنترل گرفته‌اند.