آنتروپیک هشدار داد مدل‌های کوچک هوش مصنوعی ممکن است مانند ویروس‌های رایانه‌ای در لوازم خانگی تکثیر شوند
تصویر بزرگ‌تر
▲ هوش مصنوعی (AI)
شرکت آنتروپیک هشدار داده است که حتی مدل‌های کوچک هوش مصنوعی ممکن است تا پایان سال جاری میلادی به سطحی برسند که مانند «ویروس‌های رایانه‌ای» عمل کنند؛ یعنی خود را کپی کرده و در میان لوازم خانگی مختلف گسترش دهند.
در همان روز، یکی از بنیان‌گذاران آنتروپیک نیز زمان‌بندی پیش‌بینی‌شده برای دستیابی هوش مصنوعی به مرحله خودبهسازی را یک سال جلوتر برد و گفت ممکن است این مرحله از سال آینده امکان‌پذیر شود.
آنتروپیک در گزارشی پژوهشی که ۱۲ اکتبر (به وقت محلی) منتشر کرد، نوشت: «ممکن است تنها چند ماه زمان باقی مانده باشد تا مدل‌های کوچک هوش مصنوعی توانایی تکثیر خود در میان دستگاه‌های اینترنت اشیا، مانند فرهای هوشمند یا گیرنده‌های ارزان‌قیمت اندرویدی تلویزیون، را به دست آورند.»
این شرکت توضیح داد که چنین هوش مصنوعی خودتکثیرشونده‌ای، به دلیل انتشار و فعالیت پراکنده در تعداد زیادی دستگاه، به‌سختی قابل متوقف کردن خواهد بود؛ زیرا برخلاف سرویس‌های عمومی هوش مصنوعی که با خاموش کردن چند سرور می‌توان آن‌ها را متوقف کرد، چنین سامانه‌ای نقطه خاموشی مرکزی نخواهد داشت.
آنتروپیک این تهدید را یک «کرم هوش مصنوعی» نامید و برای بررسی آن، آزمایشی سه‌مرحله‌ای انجام داد.
در مرحله نخست، پژوهشگران ۱۵ گیرنده تلویزیونی ارزان‌قیمت با قیمت حدود ۵۵ دلار (حدود ۷۵ هزار وون) خریداری کردند، آن‌ها را به یکدیگر متصل کردند و مدل هوش مصنوعی «Gemma 4» گوگل را روی آن‌ها نصب کردند.
اگرچه سرعت عملکرد پایین بود، اما هوش مصنوعی توانست روی این دستگاه‌ها کار کند.
در مرحله دوم، پژوهشگران بررسی کردند که آیا هوش مصنوعی می‌تواند به‌صورت مستقل، یک مدل هوش مصنوعی دیگر را روی دستگاهی ناآشنا نصب و اجرا کند یا نه.
حتی یک مدل کوچک هوش مصنوعی با ۹ میلیارد پارامتر توانست این کار را در ۸ مورد از ۹ دستگاه آزمایش‌شده انجام دهد.
در مرحله نهایی، آن‌ها یک شبکه آزمایشی با هشت دستگاه مجازی ایجاد کردند و هوش مصنوعی نصب‌شده روی دستگاه نخست را واداشتند تا به‌صورت خودکار فرایند یافتن، نصب و اجرای هوش مصنوعی روی دستگاه‌های دیگر را تکرار کند.
در پنج دور آزمایش، تنها مدل «GLM-5.2» شرکت چینی Zhipu AI توانست در چهار دور به هر هشت دستگاه منتقل شود و در یک دور نیز به هفت دستگاه راه پیدا کرد.
با این حال، GLM-5.2 به دلیل حجم بزرگ خود، دستورها را از یک سرور خارجی دریافت می‌کرد و سطح امنیت دستگاه‌ها نیز عمداً پایین تنظیم شده بود.
آنتروپیک ضمن تأکید بر اینکه هنوز هوش مصنوعی کاملاً خودتکثیرشونده‌ای وجود ندارد و سرعت انتشار چنین فرایندی پایین خواهد بود، پیش‌بینی کرد که با ادامه روند فعلی توسعه، مدل‌های کوچک تا پایان سال جاری ممکن است به سطح GLM-5.2 برسند و توانایی تکثیر مستقیم در داخل دستگاه‌ها را پیدا کنند.
تصویر بزرگ‌تر
آنتروپیک توضیح داد که بدترین سناریوی واقع‌بینانه، شکل‌گیری یک «ازدحام» از انواع مختلف هوش مصنوعی است که دستگاه‌های گوناگون و روش‌های مختلف تکثیر را با یکدیگر ترکیب می‌کنند.
این شرکت فراتر از محدوده آزمایش‌های انجام‌شده اعلام کرد که انتظار دارد «آینده‌ای فرا برسد که در آن عامل‌های هوش مصنوعی روی انواع سخت‌افزارها، از جمله دستگاه‌هایی خارج از کنترل انسان، اجرا شوند.»
جک کلارک، یکی از بنیان‌گذاران و مسئول سیاست‌گذاری آنتروپیک، در خبرنامه‌ای با عنوان «Import AI» که همان روز منتشر شد، گفت: «احتمال اینکه خودبهسازی بازگشتی کامل (RSI) سال آینده امکان‌پذیر شود، بیشتر است.» او افزود: «پیش از این فکر می‌کردم سال ۲۰۲۸ محتمل‌تر باشد.»
کلارک این ارزیابی را بر اساس نتایج آزمایش‌های سازمان پژوهشی ایمنی هوش مصنوعی P-Zero Research ارائه کرد و گفت برای اینکه هوش مصنوعی بتواند خود را بهبود دهد، «شهود» پژوهشگر در انتخاب آزمایش‌ها و تفسیر نتایج اهمیت زیادی دارد و این توانایی با سرعت زیادی در حال پیشرفت است.
در این آزمایش‌ها، مدل‌های هوش مصنوعی برای وظایف واقعی توسعه هوش مصنوعی، مانند انتخاب داده‌های آموزشی و آموزش مدل‌های زبانی، آزمایش طراحی کرده و نتایج را تفسیر کردند. این توانایی از دسامبر سال گذشته تقریباً هر سه ماه دو برابر شده است.
مدل «Opus 5.5» آنتروپیک که بالاترین امتیاز را به دست آورد، از امتیاز متخصصان انسانی که سابقه فعالیت در OpenAI، گوگل دیپ‌مایند و دیگر شرکت‌ها را داشتند نیز بالاتر رفت.
با این حال، پژوهشگران P-Zero اعلام کردند که چون این وظایف ساده بودند و امکان ارزیابی سریع داشتند، توسعه‌دهندگان هوش مصنوعی می‌توانستند به‌راحتی راهکارهای مقابله‌ای اختصاصی برای آن‌ها آماده کنند؛ بنابراین ممکن است سرعت پیشرفت بیش از حد واقعی نشان داده شده باشد.
واکنش کارشناسان به این گزارش متفاوت بود.
به گزارش رویترز، سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا (NCSC)، درباره گزارش آنتروپیک گفت: «موفقیت در اجرای یک مدل کوچک روی یک تلویزیون ارزان‌قیمت، به معنای وقوع یک بحران امنیتی نیست.» او این گزارش را «مقاله‌ای فنی و جالب دانست که با مقدار قابل توجهی از هیاهوی تبلیغاتی شرکت همراه شده است.»
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون (CSET)، نیز گفت: «هنوز نمی‌دانیم احتمال وقوع واقعی چنین چیزی چقدر است.» او افزود: «این احتمال صفر نیست، اما قطعی هم نیست.»
(عکس: خبرگزاری یونهاپ، گتی ایمجز)