ایسوس شتاب‌دهنده‌های هوش مصنوعی مولد بدون نیاز به فضای ابری را با توان ۴۰ TOPS و پشتیبانی از تشخیص گفتار عرضه کرد

ایسوس ژاپن از ۱۶ اکتبر فروش سه مدل از سری «ASUS UGen300» از شتاب‌دهنده‌های هوش مصنوعی لبه‌ای را که قادر به پردازش محلی هوش مصنوعی مولد هستند، آغاز کرده است. در کنار این محصولات، مدل پایه «ASUS UGen200» نیز عرضه شده است. این مجموعه تا ۴۰ TOPS توان استنتاج دارد و می‌تواند مدل‌های زبانی بزرگ (LLM)، مدل‌های بینایی-زبانی (VLM) و موتور تشخیص گفتار «Whisper» را کاملاً روی دستگاه و بدون وابستگی به فضای ابری اجرا کند.

ایسوس این محصولات را روز ۱۵ اکتبر معرفی کرد. قیمت خرده‌فروشی تخمینی مدل‌های سری UGen300، با احتساب مالیات، بین ۲۹٬۹۸۰ تا ۴۹٬۹۸۰ ین ژاپن (حدود ۱۹۰ تا ۳۱۰ دلار) و قیمت UGen200 برابر با ۲۴٬۹۸۰ ین (حدود ۱۶۰ دلار) اعلام شده است. این محصولات در دو فرم اتصال USB و اسلات M.2 عرضه می‌شوند و از افزودن قابلیت هوش مصنوعی به رایانه‌های موجود گرفته تا ادغام در تجهیزات صنعتی، کاربردهای متنوعی دارند.

هسته سری UGen300 را پردازنده هوش مصنوعی «Hailo-10H» ساخت شرکت نیمه‌رسانای اسرائیلی Hailo تشکیل می‌دهد. این پردازنده در عملیات INT4 تا ۴۰ TOPS توان استنتاج ارائه می‌کند و در کنار حافظه LPDDR4/4X با ظرفیت ۸ یا ۲ گیگابایت، علاوه بر پردازش‌های متداول هوش مصنوعی بینایی مانند تشخیص اشیا و طبقه‌بندی تصاویر، امکان اجرای محلی بارهای کاری هوش مصنوعی مولد را فراهم می‌کند.

این خانواده شامل سه مدل است. مدل «S-UGEN300-8GLD4-TC» با رابط USB 3.2 Gen 2 Type-C، با اتصال ساده به رایانه‌های شخصی و رایانه‌های تک‌بردی موجود، قابلیت استنتاج هوش مصنوعی را به آنها اضافه می‌کند. برای اسلات‌های M.2 2280 نیز دو مدل «UGEN300-8GLD4-M2» با حافظه ۸ گیگابایتی و «UGEN300-2GLD4X-M2» با حافظه ۲ گیگابایتی ارائه شده‌اند که برای ادغام در رایانه‌های شخصی سفارشی و رایانه‌های صنعتی طراحی شده‌اند.

مدل پایه «UGen200-640KSR-M2» از تراشه Hailo-8L استفاده می‌کند و در عملیات INT8 تا ۱۳ TOPS توان پردازشی دارد. این محصول برای پردازش‌های متداول هوش مصنوعی مانند تشخیص اشیا، طبقه‌بندی تصاویر و ردیابی افراد طراحی شده و بازار هدف آن مجموعه‌هایی هستند که به قابلیت‌های هوش مصنوعی مولد نیاز ندارند، اما به استنتاج هوش مصنوعی کم‌مصرف احتیاج دارند.

مصرف انرژی این محصولات بسیار پایین است؛ مصرف استاندارد سری UGen300 تنها ۲.۵ وات و مصرف UGen200 برابر با ۱.۵ وات است. به همین دلیل، این شتاب‌دهنده‌ها برای محفظه‌های بدون فن، تجهیزات مجهز به باتری و محیط‌هایی که به فعالیت مداوم ۲۴ ساعته و هفت‌روزه نیاز دارند، مناسب هستند. سیستم‌عامل‌های Windows، Linux و Android و هر دو معماری x86 و ARM پشتیبانی می‌شوند. همچنین بیش از ۱۵۰ مدل ازپیش‌آموزش‌دیده و کدهای نمونه در اختیار توسعه‌دهندگان قرار گرفته است تا مسیر تبدیل نمونه اولیه (PoC) به استقرار کامل کوتاه‌تر شود.

ایسوس این خانواده محصولات را برای دوربین‌های هوشمند، حسگرهای صنعتی و محیط‌های توسعه‌ای در نظر گرفته است که در آنها امکان ارسال داده به خارج از مجموعه وجود ندارد. حذف وابستگی به فضای ابری مزایایی مانند از بین رفتن تأخیر ارتباطی، اطمینان از محرمانگی داده‌ها و کاهش هزینه‌های ارتباطی را به همراه دارد.

در همین حال، در حوزه صدای هوش مصنوعی مولد، OpenAI نیز همان روز اعلام کرد که قابلیت مکالمه صوتی هوش مصنوعی محاوره‌ای «ChatGPT» را به‌روزرسانی کرده است. مدل گفتاری جدید «GPT-Live-1.1» در این قابلیت به کار گرفته شده و لحن و بیان صوتی را در چندین زبان، از جمله کره‌ای، بهبود داده است. برای کاربران کره‌ای نیز دو صدای جدید اضافه شده است: صدای مردانه «Hanul» و صدای زنانه «Haessal».

قابلیت صوتی ChatGPT از روش ارتباطی تمام‌دوطرفه استفاده می‌کند که امکان صحبت کردن و شنیدن هم‌زمان را فراهم می‌سازد. کاربران حتی زمانی که ChatGPT در حال پاسخ دادن است می‌توانند سؤال دیگری مطرح کنند و اگر گفت‌وگو برای لحظه‌ای قطع شود، ChatGPT بدون قطع فوری مکالمه منتظر می‌ماند. عبارت‌های پرکننده‌ای مانند «checking» که هنگام جست‌وجوی اطلاعات به‌طور مکرر استفاده می‌شدند نیز با عبارت‌هایی طبیعی‌تر و متناسب با زمینه جایگزین شده‌اند.

این به‌روزرسانی به‌صورت تدریجی برای کاربران ChatGPT در سراسر جهان، از جمله کره جنوبی، عرضه می‌شود و کاربران رایگان را نیز شامل می‌شود. کاربران برای آغاز مکالمه صوتی کافی است آیکون صدا را در ChatGPT انتخاب کنند.

اقدامات این دو شرکت دو رویکرد متفاوت را نشان می‌دهد: «هوش مصنوعی لبه‌ای» که استنتاج هوش مصنوعی را بدون وابستگی به فضای ابری روی خود دستگاه انجام می‌دهد، و «هوش مصنوعی ابری» که تعامل صوتی مبتنی بر فضای ابری را بهبود می‌بخشد. محصولات ایسوس برای کاربردهای صنعتی و محیط‌های حساس به امنیت طراحی شده‌اند؛ محیط‌هایی که در آنها باید هوش مصنوعی مولد بدون ارسال داده به خارج مورد استفاده قرار گیرد. در مقابل، به‌روزرسانی OpenAI بر بهبود تجربه مکالمه صوتی طبیعی برای مصرف‌کنندگان تمرکز دارد.

با گسترش حوزه‌های کاربرد هوش مصنوعی مولد، افزایش گزینه‌های مربوط به محل انجام پردازش می‌تواند موانع پذیرش این فناوری را برای توسعه‌دهندگان و شرکت‌ها کاهش دهد. به‌ویژه قابلیت سری ASUS UGen300 در اجرای محلی LLMها و VLMها با مصرف انرژی پایین، آن را از محصولات موجود هوش مصنوعی لبه‌ای متمایز می‌کند و می‌تواند در حوزه‌هایی که به عملکرد بلادرنگ و حفاظت از داده نیاز دارند، از جمله شهرهای هوشمند، بازرسی کیفیت در تولید و پشتیبانی از تشخیص تصاویر پزشکی، تقاضا ایجاد کند.

ساختار قیمت‌گذاری محصولات به شرح زیر است:

توجه: قیمت‌ها، قیمت‌های خرده‌فروشی تخمینی اعلام‌شده از سوی ASUS JAPAN هستند.