آنتروپیک تصویری هولناک از خطرات احتمالی هوش مصنوعی ارائه کرد؛ خاموش کردن آن شاید ممکن نباشد
آنتروپیک تصویری نگران‌کننده از آینده‌ای ارائه کرده است که در آن هوش مصنوعی می‌تواند کنترل دستگاه‌های موجود در خانه‌ها را در دست بگیرد و به‌تدریج در سراسر جهان گسترش یابد.
این شرکت سازنده چت‌بات Claude اعلام کرده است آزمایش‌هایش نشان می‌دهند مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند خود را روی دستگاه‌های موجود در خانه‌ها نصب کنند و از آنجا در اینترنت منتشر شوند.
از آنجا که این مدل‌ها می‌توانند روی دستگاه‌های اینترنت اشیا مانند اجاق‌های هوشمند و تلویزیون‌ها نصب شوند، راهی متمرکز برای خاموش کردن همه آن‌ها وجود نخواهد داشت.
این هشدار حاصل کار تیم «قرمز» آنتروپیک است؛ گروهی از پژوهشگران که با شبیه‌سازی حملات بررسی می‌کنند چگونه می‌توان از سامانه‌های هوش مصنوعی برای اهداف خطرناک استفاده کرد یا این سامانه‌ها ممکن است خودشان چنین حملاتی را انجام دهند.
این پژوهش بر مفهوم «تکثیر و سازگاری خودمختار» (ARA) تمرکز داشت؛ قابلیتی که به یک سامانه اجازه می‌دهد خود را مستقر کند و سپس بدون کنترل انسانی به رشد و گسترش ادامه دهد. پژوهشگران این نوع سامانه‌ها را با بدافزارهای موجود موسوم به «کرم‌ها» مقایسه کردند؛ بدافزارهایی که خود را از یک رایانه به رایانه دیگر کپی می‌کنند.
آنتروپیک در این آزمایش بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را پیدا کنند، خود را روی آن‌ها نصب کنند و سپس از همان دستگاه‌ها برای ادامه انتشار کاملاً خودکار استفاده کنند یا نه. این شرکت این مدل‌های سرکش را «تکثیرکننده» یا «کرم‌های هوش مصنوعی» می‌نامد، زیرا می‌توانند بدون دخالت انسان در اینترنت گسترش پیدا کنند.
به گفته آنتروپیک، حتی یک مدل کوچک با کمتر از ۳۰ میلیارد پارامتر نیز می‌تواند چنین کاری را انجام دهد. اگرچه نسخه‌های فعلی این مدل‌های کوچک هنوز در انجام کامل یک حمله بدون خطا مشکل دارند، روند توسعه فعلی نشان می‌دهد که آن‌ها ممکن است تا پایان سال جاری میلادی به اندازه کافی توانمند شوند.
پژوهشگران دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و دیگر تجهیزات متصل به اینترنت را بررسی کردند. این دستگاه‌ها اغلب امنیت پایینی دارند و به همین دلیل هم‌اکنون نیز می‌توانند برای هکرها مفید باشند.
مرکز داده‌ها شاید هدف آشکارتری برای چنین بدافزارهایی باشند، اما معمولاً امنیت بیشتری دارند و در برابر این حملات مقاوم‌تر هستند. آزمایش جدید نشان می‌دهد چنین سامانه‌هایی الزاماً نیازی به نصب روی سخت‌افزارهای قدرتمند ندارند.
در عوض، این سامانه‌ها می‌توانند روی طیف گسترده‌ای از دستگاه‌های اینترنت اشیا نصب شوند. هر یک از این دستگاه‌ها ممکن است به‌تنهایی توان اجرای یک مدل خطرناک را نداشته باشد، اما می‌توان آن‌ها را به یکدیگر متصل کرد. پژوهشگران در آزمایش‌های خود دریافتند یک مدل می‌تواند میان ۱۵ دستگاه تلویزیونی فیزیکی تقسیم شود و این دستگاه‌ها سپس به‌صورت هماهنگ با یکدیگر کار کنند.
این رویکرد پیش‌تر در حملات سایبری سنتی نیز استفاده شده است که معمولاً با عنوان «بات‌نت» شناخته می‌شود. در نمونه‌های قبلی، میلیون‌ها دستگاه ــ عمدتاً جعبه‌های تلویزیون اندرویدی ــ به کنترل مهاجمان درآمده و به‌عنوان یک سامانه واحد برای اجرای حملات مورد استفاده قرار گرفته‌اند.
آنتروپیک اشاره کرد همان قابلیت‌هایی که مدل‌های هوش مصنوعی را برای کاربردهای مفیدی مانند برنامه‌نویسی قدرتمند می‌کنند، می‌توانند آن‌ها را برای حملات سایبری، از جمله تکثیر خودکار، نیز خطرناک سازند. این شرکت در بیانیه خود گفت: «مانند عامل‌های برنامه‌نویسی در سال ۲۰۲۴، نشانه‌هایی از شکل‌گیری کرم‌های هوش مصنوعی را می‌بینیم.»
آنتروپیک افزود: «هنوز یک تکثیرکننده سرکش کامل نداریم، اما عامل‌ها به‌طور فزاینده‌ای توانایی انجام مراحل جداگانه زنجیره تکثیر را پیدا می‌کنند و می‌توانند سازگاری‌های خود را به نسخه‌های بعدی خود منتقل کنند.»
این شرکت گفت هنوز مشخص نیست چنین تکثیر هوش مصنوعی در عمل چگونه رخ خواهد داد. این روند ممکن است به شکل یک «کپک لزج دیجیتال» آهسته و توزیع‌شده روی دستگاه‌های نسبتاً ناامن، یک مدل سایبری قدرتمند که با سرعت بالا به مراکز داده نفوذ می‌کند، یا مدلی باشد که با فریب افراد از آن‌ها می‌خواهد از رایانه‌هایشان استفاده کند.
آنتروپیک اعلام کرد انتظار دارد «آینده‌ای مملو از عامل‌هایی باشد که روی انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی سخت‌افزارهایی که تحت کنترل انسان نیستند». این شرکت گفت اگرچه دستگاه‌های اینترنت اشیا مدت‌هاست برای مهاجمان سایبری جذاب بوده‌اند، عامل‌های هوش مصنوعی توانایی بیشتری برای صرف زمان و تلاش لازم جهت تصاحب این دستگاه‌ها خواهند داشت.
آنتروپیک در پایان تأکید کرد: «باید سامانه‌های خود را مقاوم‌تر کنیم تا گسترش چنین تکثیرکننده‌هایی دشوار شود، اما در عین حال باید برای جهانی آماده شویم که این سامانه‌ها در آن حضور دائمی خواهند داشت.»