فناوری پردازنده، هوش مصنوعی مولد را به دستگاه‌های لبه شبکه می‌آورد

www.edn.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

هسته پردازنده Sequora شرکت BrainChip امکان اجرای هوش مصنوعی مولد و مدل‌های زبانی بزرگ (LLM) را مستقیماً روی دستگاه‌های لبه شبکه با باتری، مانند هدفون‌های بی‌سیم و گره‌های حسگر، فراهم می‌کند. این فناوری در کنار هسته مالکیت فکری پردازنده عصبی Akida این شرکت فعالیت می‌کند تا بارهای کاری مکمل هوش مصنوعی را پردازش کند.

هسته پردازنده Sequora شرکت BrainChip

پردازنده Akida داده‌های حسگرها را به‌صورت جریانی پردازش می‌کند؛ از جمله داده‌های ارتعاش، صوت، رادار، داده‌های خام هم‌فاز و متعامد (IQ) امواج رادیویی و سیگنال‌های زیستی. در مقابل، Sequora وظایف مرتبط با هوش مصنوعی مولد و پردازش ترتیبی را بر عهده دارد؛ از اجرای استنتاج مدل‌های زبانی بزرگ روی خود دستگاه گرفته تا تعامل صوت‌به‌صوت و اجرای عامل‌های هوش مصنوعی.

این پردازنده برای مدل‌های فضای حالت (SSM) بهینه‌سازی شده است. این مدل‌ها برای نمایش تاریخچه ورودی‌ها، از یک حالت با اندازه ثابت استفاده می‌کنند؛ بنابراین، میزان حافظه موردنیاز آن‌ها، صرف‌نظر از طول دنباله ورودی، ثابت می‌ماند. چنین معماری‌ای برای اجرای بارهای کاری هوش مصنوعی مولد روی دستگاه‌های لبه شبکه با منابع محدود مناسب است.

Sequora برای پردازش سیگنال و محاسبات شبکه‌های عصبی از یک آرایه یکپارچه ضرب و انباشت (MAC) استفاده می‌کند. به این ترتیب، نیازی به مرحله پیش‌پردازش جداگانه با پردازنده سیگنال دیجیتال (DSP) نیست. معماری مجموعه دستورالعمل‌های این پردازنده (ISA) نیز امکان پیاده‌سازی الگوریتم‌های جدید از طریق به‌روزرسانی نرم‌افزاری را فراهم می‌کند.

Sequora اکنون به‌عنوان یک هسته مالکیت فکری نیمه‌رسانا که امکان صدور مجوز آن وجود دارد، عرضه شده است. این محصول به‌صورت کد RTL کاملاً سنتزپذیر و مستقل از فرایند ساخت ارائه می‌شود. بسته عرضه‌شده شامل ابزارهای مالکیت فکری برای راستی‌آزمایی، اسکریپت‌های سنتز و یک کیت توسعه نرم‌افزار (SDK) است که کامپایلر، کتابخانه زمان اجرای C++ و مجموعه‌ای از مدل‌ها را در بر می‌گیرد.

صفحه محصول Sequora

شرکت BrainChip Holdings