آنتروپیک می‌گوید مدل‌های هوش مصنوعی ممکن است به‌زودی خودشان را در دستگاه‌های شما کپی کنند؛ با یا بدون اجازه شما
در حالی که فصل داستان‌های ترسناک فرا رسیده است، یکی از شرکت‌های بزرگ فناوری به کشفی دست یافته که می‌تواند یادآور برخی فیلم‌های علمی‌تخیلی آخرالزمانی باشد.
شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خود در میان دستگاه‌های متصل به اینترنت فاصله داشته باشند. این شرکت می‌گوید مدل‌های کوچک هوش مصنوعی می‌توانند به وسایل خانگی مجهز به فناوری «اینترنت اشیا» (IoT) مانند یخچال‌های هوشمند یا گیرنده‌های اندرویدی تلویزیون راه پیدا کنند و نه‌تنها خود را اجرا کنند، بلکه بدون نیاز به کمک مرکز داده، به دیگر دستگاه‌های اینترنت اشیا نیز سرایت کنند.
و نگرانی‌ها از این مرحله فراتر می‌رود. آنتروپیک می‌گوید خاموش کردن چنین سامانه‌هایی «چالش‌برانگیز خواهد بود، زیرا دیگر یک نقطه مرکزی برای قطع کردن آن‌ها وجود ندارد.»
اصطلاحات مهم
درک نحوه تکثیر این مدل‌ها اگر با فناوری آشنا نباشید می‌تواند پیچیده باشد؛ بنابراین در ادامه برخی اصطلاحات کلیدی توضیح داده شده است.
- مدل هوش مصنوعی: مایکروسافت مدل هوش مصنوعی را «موتور درون یک سامانه هوش مصنوعی» تعریف می‌کند که از داده‌ها یاد می‌گیرد تا وظایف مختلف را انجام دهد. این مدل ترکیبی از الگوریتم‌ها، داده‌های آموزشی و پارامترهای یادگرفته‌شده است که ورودی‌های خام را به خروجی‌هایی مانند تشخیص گفتار، پیش‌بینی خرابی تجهیزات یا طراحی محصولات جدید تبدیل می‌کند. مدل‌های هوش مصنوعی در نقطه اتصال هوش مصنوعی و یادگیری ماشین فعالیت می‌کنند؛ جایی که الگوریتم‌ها با یادگیری مداوم از داده‌ها، پیش‌بینی‌های دقیق‌تر و پاسخ‌های بهتر ارائه می‌دهند.
- مدل کوچک هوش مصنوعی یا مدل زبانی کوچک: این مدل‌ها که اغلب با نام SLM شناخته می‌شوند، معمولاً دارای میلیون‌ها تا چند میلیارد پارامتر هستند و برای اجرای سریع روی دستگاه‌های لبه، تلفن‌ها یا رایانه‌های محلی طراحی شده‌اند؛ به گفته IBM.
- دستگاه‌های لبه: قطعات سخت‌افزاری هستند که در مرز یا «لبه» یک شبکه قرار دارند و داده‌ها را در نزدیکی محل تولید پردازش، فیلتر و ذخیره می‌کنند، به‌جای اینکه همه داده‌های خام را به یک فضای ابری یا مرکز داده مرکزی ارسال کنند؛ طبق توضیح شرکت هیولت پاکارد. تلفن‌ها، ترموستات‌های هوشمند و خودروهای خودران نمونه‌هایی از این دستگاه‌ها هستند.
- اینترنت اشیا: که معمولاً با نام IoT شناخته می‌شود، شبکه‌ای از اشیای فیزیکی مجهز به حسگر، نرم‌افزار و اتصال شبکه است که به آن‌ها امکان می‌دهد داده‌ها را در زمان واقعی جمع‌آوری، به اشتراک بگذارند و بر اساس آن عمل کنند؛ طبق تعریف مایکروسافت. تقریباً هر وسیله‌ای در خانه که با واژه «هوشمند» توصیف می‌شود، در این دسته قرار می‌گیرد.
- کلید رابط برنامه‌نویسی کاربردی (API key): شناسه‌ای منحصربه‌فرد است که برای احراز هویت نرم‌افزارها و سامانه‌هایی استفاده می‌شود که قصد دسترسی به دیگر نرم‌افزارها یا سامانه‌ها را دارند؛ طبق تعریف IBM.
چه اتفاقی ممکن است رخ دهد
آنتروپیک در پست وبلاگی منتشرشده در روز دوشنبه اعلام کرد که هنوز «یک تکثیرکننده کاملاً سرکش» وجود ندارد. پژوهشگران این شرکت دریافتند که اگر چنین چیزی ایجاد شود، مدل‌های کوچک هوش مصنوعی ممکن است در تکثیر خود کند عمل کنند و حتی انجام این کار برای آن‌ها چند روز طول بکشد. با این حال، این مدل‌ها توانایی خواهند داشت دستگاه‌های ناآشنا را به‌طور مستقل شناسایی کنند و میان آن‌ها و بدافزارهای معمولی غیرهوش مصنوعی تفاوت بگذارند.
آنتروپیک گفت: «توانایی‌های رو به بهبود هوش مصنوعی، یک نگرانی قدیمی را به واقعیتی فزاینده تبدیل می‌کند: تکثیر و سازگاری خودکار (ARA)، که شامل استقرار و انتشار یک مدل بدون کنترل انسانی است.»
این شرکت همچنین اعلام کرد که سامانه‌های خودکار هوش مصنوعی احتمالاً برای تکثیر خود به منابع رایانشی ارزان، در دسترس عمومی و نسبتاً ناامن متکی خواهند بود.
این شرکت توصیه کرد: «باید سامانه‌های خود را مقاوم‌تر کنیم تا گسترش چنین تکثیرکنندگانی دشوار شود، اما هم‌زمان باید برای جهانی آماده شویم که در آن این سامانه‌ها حضور دائمی خواهند داشت.»
در یکی از آزمایش‌ها، آنتروپیک یکی از مدل‌های زبانی کوچک گوگل را روی شبکه‌ای متشکل از ۱۵ دستگاه ارزان‌قیمت و غیررسمی اندروید تی‌وی اجرا کرد؛ دستگاه‌هایی که اغلب امنیت ضعیفی دارند. پژوهشگران دریافتند حتی مدلی که برای جای گرفتن در یک دستگاه بیش از حد بزرگ بود، می‌توانست به «بخش‌هایی تقسیم شود» و در چند دستگاه مختلف اجرا شود.
در پست وبلاگی آنتروپیک آمده است: «در عمل، یک کرم هوش مصنوعی الزاماً تنها از یک مدل یا یک راهبرد تشکیل نمی‌شود. گروهی از مدل‌های مختلف که روی انواع سخت‌افزارها و با شیوه‌های گوناگون تکثیر مستقر شوند، ممکن است سناریوی واقع‌بینانه‌تری از بدترین حمله احتمالی باشند.»
پژوهشگران آنتروپیک همچنان «دقیقاً مطمئن نیستند که تکثیر خودکار هوش مصنوعی چه شکلی به خود خواهد گرفت.»
نگرانی‌های بزرگ‌تر
این هشدار جدید در شرایطی مطرح شده است که مدیران آنتروپیک و دیگر شرکت‌های فناوری، از جمله رقیب آن یعنی OpenAI، بارها درباره خطرات احتمالی هوش مصنوعی با پیشرفت سریع این فناوری هشدار داده‌اند. برخی حتی خواستار اعمال محدودیت‌های سخت‌گیرانه‌تر از سوی دولت‌ها برای کند کردن این روند شده‌اند.
اکنون آنتروپیک نگران است که اگر مدل‌های کوچک هوش مصنوعی به‌طور کامل توانایی تکثیر مستقل پیدا کنند، این قابلیت می‌تواند بیش از پیش توسعه یابد.
آنتروپیک گفت: «ظهور تکثیرکنندگان کند همچنین می‌تواند نشانه‌ای برای ظهور نمونه‌های تهاجمی‌تر و سریع‌تری باشد که قادر به نفوذ به دستگاه‌های مقاوم‌تر یا سرقت مؤثر کلیدهای API هستند.»