انویدیا OpenShell را به زیرساختی سخت‌افزاری و نرم‌افزاری برای اجرای ایمن عامل‌های هوش مصنوعی تبدیل می‌کند
انویدیا معماری‌ای برای اجرای عامل‌های هوش مصنوعی در چارچوب محدودیت‌های مشخص عرضه کرده است؛ معماری‌ای که از زیرساخت‌های سازمانی گرفته تا دستگاه‌های لبه را پوشش می‌دهد. به گفته این شرکت، آنتروپیک، OpenAI، متا، مایکروسافت، گوگل کلاد و AWS از جمله شرکت‌هایی هستند که با این فناوری همکاری می‌کنند.
انویدیا روز چهارشنبه در کنفرانس GTC برلین، معماری مرجع OpenShell را معرفی کرد. این معماری هم‌اکنون در دسترس است. انویدیا هفته گذشته نیز از برنامه‌های خود برای سرمایه‌گذاری و توافق‌های تجاری به ارزش ۲ میلیارد دلار در اروپا خبر داده بود.
نحوه عملکرد
این معماری بر پایه OpenShell، نرم‌افزار متن‌باز زمان اجرای انویدیا، ساخته شده است؛ نرم‌افزاری که مرزهای مشخصی برای فعالیت عامل‌های هوش مصنوعی تعیین می‌کند. جنسن هوانگ در سخنرانی اصلی خود گفت این نرم‌افزار تحت مجوز Apache 2.0 منتشر شده است. OpenShell همچنین بخشی از پلتفرم ایمنی عامل‌های هوش مصنوعی است که انویدیا در ماه سپتامبر راه‌اندازی کرد. مدل‌ها روی سامانه‌های Vera Rubin انویدیا اجرا می‌شوند و پردازنده‌های مرکزی Vera نرم‌افزارهای هدایت‌کننده عامل‌ها و ابزارهای آن‌ها را اجرا می‌کنند.
واحدهای پردازش داده BlueField-4 نرم‌افزار Nvidia Sentry را اجرا می‌کنند؛ سامانه‌ای که رفتار عامل‌ها را از بیرون سیستم اصلی زیر نظر می‌گیرد. انویدیا می‌گوید اگر عاملی تلاش کند از محدوده نرم‌افزاری تعیین‌شده فراتر برود، Sentry آن را در عرض چند میلی‌ثانیه قرنطینه و متوقف می‌کند. به گفته این شرکت، Sentry همچنین ظرفیت اجرای عامل‌ها را تا ۲۰ درصد افزایش می‌دهد.
این معماری دستگاه‌های لبه، از جمله سامانه‌های RTX Spark، DGX Spark و DGX Station را نیز پوشش می‌دهد. انویدیا هفته گذشته لپ‌تاپ‌های RTX Spark را به نمایش گذاشت که برای اجرای محلی عامل‌های هوش مصنوعی طراحی شده‌اند.
جنسن هوانگ، بنیان‌گذار و مدیرعامل انویدیا، گفت: «توانمندی‌ها و ایمنی هوش مصنوعی باید هم‌زمان پیشرفت کنند. در حالی که شرکت‌ها خود را برای به‌کارگیری میلیاردها عامل هوش مصنوعی آماده می‌کنند، ایمنی و کنترل باید از ابتدا در معماری محاسباتی گنجانده شوند.»
هوانگ هفته گذشته گفت مشتریانی را که هوش مصنوعی ناایمن می‌سازند، از خدمات و همکاری‌های انویدیا محروم خواهد کرد.
چه شرکت‌هایی از این فناوری استفاده می‌کنند؟
انویدیا اعلام کرد عامل‌های توسعه‌یافته توسط آنتروپیک، Cohere، گوگل، متا، OpenAI، پرپلکسیتی، Reflection و بخش هوش فوق‌پیشرفته شرکت اسپیس‌ایکس می‌توانند روی زیرساخت OpenShell اجرا شوند. شرکت‌های فعال در حوزه امنیت، از جمله 1Password، چک پوینت، CrowdStrike، سیسکو، فورتینت، Okta، پالو آلتو نتورکس و Zscaler نیز در حال افزودن پشتیبانی از این فناوری هستند.
هوانگ در جریان سخنرانی خود به همکاری انویدیا با آنتروپیک اشاره کرد. آنتروپیک در آن زمان اعلام کرده بود که از ماه سپتامبر، سرویس Claude Managed Agents، برای اجرای عامل‌های Claude، را با OpenShell یکپارچه کرده است. این ترکیب به شرکت‌ها اجازه می‌دهد فعالیت‌های عامل‌های Claude را محدود کنند و گزارش تمام اقدامات آن‌ها را ثبت کنند. آنتروپیک این موضوع را در همان زمان اعلام کرده بود.
بانک‌های BBVA و سانتاندر در حال بررسی این فناوری برای تقویت ایمنی و سازوکارهای حاکمیتی عامل‌ها هستند. SAP نیز در حال ادغام آن با محیط اجرای Joule Studio است. شرکت ServiceNow روز چهارشنبه عامل شخصی بلندمدت خود با نام Arc را به‌طور عمومی عرضه کرد؛ در این سامانه، اقدامات عامل با استفاده از OpenShell کنترل و اعمال می‌شوند.
این معماری روی لینوکس و کوبرنتیز ارائه‌شده از سوی Canonical، SUSE و رد هت اجرا می‌شود و از طریق Microsoft Execution Containers با ویندوز نیز سازگار است. همچنین می‌توان آن را روی AWS، گوگل کلاد و مایکروسافت آژور اجرا کرد. شرکت‌های دل، سیسکو، HPE، لنوو و Supermicro نیز در حال ساخت زیرساخت‌های مبتنی بر این معماری هستند.
هوانگ گفت: «با معماری مرجع OpenShell، عامل‌ها می‌توانند روی Rubin فکر کنند، روی Vera عمل کنند و تحت نظارت BlueField باشند.»
انویدیا قیمت این راهکار را اعلام نکرده است.