Anthropic درباره خطر نگران‌کننده هوش مصنوعی که ممکن است به‌زودی پدیدار شود هشدار داد
Anthropic که با حمایت Amazon فعالیت می‌کند، هشدار داده است که مدل‌های کوچک‌تر هوش مصنوعی ممکن است تنها چند ماه با دستیابی به قابلیتی فاصله داشته باشند که به آن‌ها اجازه دهد خود را در دستگاه‌های تجاری متصل به اینترنت تکثیر کنند؛ قابلیتی که مجموعه تازه‌ای از نگرانی‌ها را در زمینه امنیت سایبری و ایمنی هوش مصنوعی ایجاد می‌کند.
این شرکت اعلام کرده است که مدل‌ها ممکن است به‌زودی آن‌قدر توانمند شوند که بدون اتکا به یک سرور مرکزی، در دستگاه‌هایی مانند فرهای هوشمند و گیرنده‌های ارزان‌قیمت Android TV منتشر شوند.
چنین ساختار توزیع‌شده‌ای می‌تواند متوقف کردن یک «کرم هوش مصنوعی» را بسیار دشوارتر کند.
Anthropic برآورد می‌کند که تکثیر چنین سامانه‌ای احتمالاً به جای چند ثانیه یا چند دقیقه، به چند روز زمان نیاز خواهد داشت؛ اما خطر اصلی در ماندگاری آن است. وقتی یک سامانه در تعداد زیادی دستگاه توزیع شود، از کار انداختن یک دستگاه لزوماً به معنای حذف کامل آن نخواهد بود.
این شرکت آزمایش کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های موجود در یک شبکه را شناسایی کنند، خود را روی ماشین‌های دیگر کپی کنند، منابع موردنیاز برای اجرا را فراهم کنند و بدون دخالت انسان به انتشار خود ادامه دهند یا نه.
در یکی از آزمایش‌ها، Anthropic یک مدل هوش مصنوعی را روی ۱۵ دستگاه Android TV با قیمت تقریبی ۵۵ دلار برای هر دستگاه اجرا کرد و نشان داد که مجموعه‌ای از دستگاه‌های نسبتاً کم‌توان می‌توانند در کنار یکدیگر از اجرای یک مدل بزرگ‌تر پشتیبانی کنند.
در آزمایشی دیگر که در یک شبکه شبیه‌سازی‌شده انجام شد، یک مدل توانست در بیشتر آزمون‌ها خود را در میان هشت دستگاه تکثیر کند.
البته این آزمایش‌ها یک محدودیت مهم دارند.
Anthropic فرایند دسترسی به این دستگاه‌ها را ساده‌سازی کرده بود؛ بنابراین نتایج نشان نمی‌دهند که سامانه‌های فعلی هوش مصنوعی می‌توانند به همین آسانی در شبکه‌های واقعی منتشر شوند.
با این حال، این شرکت دریافت که مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر هم‌اکنون قادرند بسیاری از مراحل جداگانه موردنیاز برای تکثیر مستقل را انجام دهند، هرچند در کنار هم قرار دادن این مراحل و اجرای قابل اعتماد کل فرایند با مشکل روبه‌رو هستند.
Anthropic معتقد است اگر مدل‌های کوچک‌تر با همان سرعت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای انجام این کار برسند.
دیدگاه سرمایه‌گذاری
به نظر می‌رسد نکته مهم‌تر این است که خطرات ایمنی هوش مصنوعی ممکن است به‌تدریج از مدل‌های عظیم و پیشرفته به سمت مدل‌های کوچک‌تری منتقل شوند که اجرای آن‌ها تقریباً روی هر دستگاهی با هزینه پایین امکان‌پذیر است.
این تغییر، اقتصاد تهدیدهای مرتبط با هوش مصنوعی را دگرگون می‌کند.
اگر مدل‌های کوچک بتوانند محاسبات را میان هزاران دستگاه متصل و ارزان توزیع کنند، دیگر یک سامانه الزاماً به یک مرکز داده ابری عظیم نیاز نخواهد داشت.
برای Anthropic و صنعت گسترده‌تر هوش مصنوعی، این موضوع فشار برای ایجاد تدابیر حفاظتی قوی‌تر در زمینه امنیت دستگاه‌ها، دسترسی به مدل‌ها، اقدامات خودکار و مهار سامانه‌ها را افزایش می‌دهد.
همچنین اگر حملات مبتنی بر هوش مصنوعی مستقل‌تر و توزیع‌شده‌تر شوند، ممکن است فرصت‌هایی برای شرکت‌های فعال در حوزه امنیت سایبری ایجاد شود.
موضوع اصلی که باید زیر نظر داشت این است که آیا مدل‌های کوچک می‌توانند از انجام مراحل جداگانه تکثیر، به توانایی اتصال مطمئن تمام این مراحل در یک فرایند کامل برسند یا نه.
پژوهش Anthropic نشان می‌دهد که هنوز فاصله‌ای میان این دو مرحله وجود دارد. اما هشدار این شرکت این است که این فاصله ممکن است برای مدت طولانی باقی نماند.