مرکوری ۳ با سرعت مبتنی بر انتشار، فرضیه مقیاس‌پذیری مدل‌های زبانی بزرگ را به چالش می‌کشد
شرکت اینسپشن روز دوشنبه مدل زبانی مرکوری ۳ را عرضه کرد؛ مدلی مبتنی بر معماری انتشار (Diffusion) که برخلاف مدل‌های متداول خودبازگشتی، متن را توکن‌به‌توکن تولید نمی‌کند، بلکه چندین توکن را به‌صورت موازی می‌سازد و اصلاح می‌کند. به گفته شرکت، این مدل از نظر کیفیت با هایکو ۵.۵ شرکت آنتروپیک و GPT-6 Luna شرکت OpenAI برابری می‌کند، اما پاسخ‌ها را با سرعت هزار توکن در ثانیه ارائه می‌دهد و هزینه کمتری دارد.
مرکوری ۳ مدل پرچم‌دار اینسپشن است و مزیت اصلی آن بیش از آنکه به قیمت مربوط باشد، به سرعت پردازش برمی‌گردد. هزینه استفاده از این مدل برای هر یک میلیون توکن ورودی ۰٫۱۰ دلار و برای هر یک میلیون توکن خروجی ۰٫۳۵ دلار است. قیمت ورودی با نرخ‌های آنتروپیک و OpenAI برابر است، اما هزینه تولید خروجی را ۳۵ درصد کاهش می‌دهد. البته این قیمت‌گذاری با یک شرط همراه است: اینسپشن برای زمان عرضه، تخفیف ۵۰ درصدی نسبت به قیمت استاندارد آینده در نظر گرفته و هنوز تاریخی برای پایان آن اعلام نکرده است. ارمن گفته است که شرکت در تلاش است این تخفیف را دائمی کند.
سرعت، مهم‌ترین مزیت مرکوری ۳ است. اینسپشن ادعا می‌کند که مدل آن چهار تا هشت برابر سریع‌تر از هایکو ۵.۵ و GPT-6 Luna عمل می‌کند و در آزمون‌های ارزیابی عملکرد عامل‌های هوش مصنوعی نیز امتیاز بالاتری به دست می‌آورد.
مدل‌های زبانی بزرگ متداول متن را به‌صورت ترتیبی و با پیش‌بینی توکن بعدی تولید می‌کنند؛ فرایندی که به آن معماری خودبازگشتی گفته می‌شود. در مقابل، مرکوری ۳ از معماری انتشار بهره می‌برد تا چندین توکن را هم‌زمان تولید و به‌تدریج اصلاح کند. این روش استفاده از پردازش موازی پردازنده‌های گرافیکی (GPU) را کارآمدتر می‌کند و در نتیجه، هم تأخیر پاسخ‌گویی و هم هزینه محاسباتی کاهش می‌یابد. آزمایشگاه‌های هوش مصنوعی پیش‌تر از معماری انتشار در سامانه‌های پیشرفته تولید تصویر و ویدئو استفاده کرده‌اند؛ به‌کارگیری این روش برای تولید متن، گامی مهم در گسترش کاربرد آن به شمار می‌رود.
اینسپشن همچنین مجموعه‌هایی از عامل‌های مرکوری ۳ را برای بهبود خودکار و بازگشتی عملکرد مدل به کار گرفته است. این عامل‌ها سرعت کلی مدل را، فراتر از بهبودهایی که تیم توسعه‌دهنده مستقیماً اعمال کرده بود، ۱۶ درصد افزایش دادند. ارمن گفته است که مرکوری ۳ از نظر توانایی هوش با Luna و Haiku برابری می‌کند، اما پاسخ‌ها را تقریباً به‌صورت آنی ارائه می‌دهد.
تعداد پارامترهای مرکوری ۳ چهل برابر مرکوری ۱ است؛ مدلی که در فوریه ۲۰۲۵ عرضه شد. اینسپشن تعداد کل پارامترهای نسخه جدید را اعلام نکرده است؛ بنابراین، مقایسه مستقیم آن با مدل‌های پیشرفته مرزی که بر پایه تریلیون‌ها پارامتر ساخته شده‌اند و اکنون بر این حوزه تسلط دارند، امکان‌پذیر نیست.
مدل‌های زبانی مبتنی بر انتشار در حال گسترش‌اند و ممکن است ظرف یک سال از نظر عملکرد به مدل‌های مرزی سنتی برسند. گوگل دیپ‌مایند نیز این مسیر را دنبال می‌کند و در ماه ژوئن مدل DiffusionGemma را با ۲۶ میلیارد پارامتر عرضه کرد؛ مدلی که با وجود تعداد پارامترهای بسیار کمتر از مدل‌های مرزی تریلیون‌پارامتری، به بهبودهای قابل‌مقایسه‌ای در سرعت دست یافته است.
بیشتر آزمایشگاه‌های پیشرو هوش مصنوعی بر توسعه مدل‌های زبانی خودبازگشتی از طریق افزایش مقیاس سرمایه‌گذاری کرده‌اند و انتظار دارند تراشه‌های سریع‌تر انویدیا به بهبود عملکرد این مدل‌ها کمک کنند. مرکوری ۳ این رویکرد را به چالش می‌کشد. ارتقای توانایی استدلال و اجرای مراحل مختلف توسط عامل‌های هوش مصنوعی معمولاً به محاسبات بیشتر و زمان انتظار طولانی‌تر نیاز دارد؛ اما معماری اینسپشن پاسخ‌های سریع‌تری تولید می‌کند و از سخت‌افزار پردازنده‌های گرافیکی بهره کارآمدتری می‌گیرد.
اکنون این صنعت با انتخابی روشن روبه‌رو است: ادامه افزایش مقیاس معماری‌های موجود یا حرکت به‌سوی استنتاج موازی. ممکن است مدل‌های مبتنی بر انتشار همچنان به کاربردهای بلادرنگ محدود بمانند؛ اما این احتمال نیز وجود دارد که طی سال آینده به رقیبی مستقیم برای مدل‌های مرزی خودبازگشتی تبدیل شوند.
منبع: thedeepview.com