انتروپیک پیش‌نمایش پژوهشی اپلیکیشن هوش مصنوعی کنشگر کلود دوت را منتشر کرد
دستیار کنشگر کلود دوت
بیشتر چت‌بات‌ها منتظر می‌مانند تا کاربر سؤالی بپرسد، اما کلود دوت خودش گفت‌وگو را آغاز می‌کند. شرکت انتروپیک در ۲۱ اکتبر پیش‌نمایش پژوهشی کلود دوت را منتشر کرد؛ اپلیکیشنی مستقل که در آن، کلود برنامه‌های کاری متصل به حساب کاربر را بررسی می‌کند، هر روز صبح گزارشی از مهم‌ترین امور می‌فرستد و حتی پس از خاموش شدن صفحه تلفن همراه، انجام وظایف را در فضای ابری ادامه می‌دهد.
نکات کلیدی
- کلود دوت اپلیکیشن جدید انتروپیک است که بر پایه کلود اوپوس ۵.۵ ساخته شده و گزارش روزانه ارائه می‌دهد، هر چند ساعت برنامه‌های متصل را بررسی می‌کند و وظایف را روی رایانه ابری اختصاصی خود انجام می‌دهد.
- این دستیار پیش از ارسال پیام، پرداخت، امضای سند یا حذف هر چیزی، تأیید کاربر را می‌گیرد؛ بااین‌حال، معامله اوراق بهادار و انتقال پول میان حساب‌ها را نمی‌پذیرد.
- نسخه پیش‌نمایش از طریق فهرست انتظار، برای مشترکان طرح‌های پرو و مکس در آمریکا در دسترس قرار می‌گیرد و از طریق iOS، اندروید و وب‌سایت claude.ai قابل استفاده است. مصرف آن نیز از محدودیت‌های استفاده در طرح فعلی کاربر محاسبه می‌شود.
یک روز کاری با دوت چگونه می‌گذرد؟
دوت هر صبح گزارشی کوتاه از مهم‌ترین موارد موجود در برنامه‌های متصل کاربر ارسال می‌کند. در طول روز نیز هر چند ساعت یک‌بار این حساب‌ها را بررسی می‌کند و تنها زمانی پیام می‌دهد که موضوعی به توجه کاربر نیاز داشته باشد. انتروپیک می‌گوید بررسی مداوم برنامه‌ها می‌تواند سهمیه استفاده از طرح را بیش از حد سریع مصرف کند. کاربران همچنین می‌توانند مشخص کنند که چه موضوعاتی برایشان اهمیت دارد و گزارش‌ها با چه فاصله‌ای ارسال شوند.
تمام تعاملات در یک رشته گفت‌وگوی پیوسته انجام می‌شود و کاربر می‌تواند از متن یا صدا استفاده کند. دوت حافظه، مهارت‌ها و برنامه‌های متصل به حساب کلود کاربر را به ارث می‌برد؛ بنابراین، برای راه‌اندازی آن به تنظیمات چندانی نیاز نیست.
کاربران می‌توانند کارهای کوچکی مانند زمان‌بندی جلسه‌ها یا وظایف بزرگ‌تری مانند ساخت داشبورد، تهیه پیش‌بینی‌های مالی یا فروش، طراحی نمونه اولیه و توسعه اپلیکیشن‌های وب را به آن بسپارند. دوت روی یک ماشین مجازی با مرورگر اختصاصی اجرا می‌شود؛ بنابراین، لازم نیست لپ‌تاپ یا تلفن همراه کاربر روشن بماند. پس از اتمام کار یا هنگامی که وظیفه‌ای به بررسی کاربر نیاز داشته باشد، دستیار اعلان می‌فرستد.
این دستیار به بیش از ۶۰۰۰ اتصال‌دهنده و افزونه دسترسی دارد. برای مثال، می‌تواند پیام‌های خوانده‌نشده در جیمیل و اسلک را پیدا کند، پیگیر صورت‌حساب‌های پرداخت‌نشده در کوئیک‌بوکس یا استرایپ شود، امور مربوط به آماده‌سازی حقوق کارکنان را در گوستو انجام دهد، قراردادها را از طریق داکیوساین ارسال کند، پیش‌نویس پیام‌های پیگیری را بر اساس اطلاعات هاب‌اسپات تهیه کند و یک فروشگاه شاپیفای را اداره کند. همچنین می‌تواند با استفاده از کیف پول Link متعلق به استرایپ و یک کارت مجازی، کالاهایی را برای کسب‌وکار خریداری کند یا پرداخت را از طریق Shop Pay انجام دهد.
انتروپیک دوت را با هدف پاسخ‌گویی به نیاز متخصصان و صاحبان کسب‌وکارهای کوچک ساخته است. امین ابراهیمی، مدیر رستوران زنجیره‌ای Shahs of Kabob در جنوب فلوریدا که حدود ۱۱۰ کارمند دارد، این ابزار را برای انجام امور حسابداری، پشتیبانی و بازاریابی آزمایش کرده است. او گفت: «دیگر لازم نیست ۱۰۰ زبانه را باز کنم.»
دوت چه محدودیت‌هایی دارد؟
دوت می‌تواند به‌طور مستقل اطلاعات را بخواند، پیش‌نویس تهیه کند و کارها را برای انجام آماده سازد. اما پیش از ارسال پیام، انجام پرداخت، امضای سند یا حذف هر چیزی، اقدام دقیق موردنظر را به کاربر نشان می‌دهد و منتظر تأیید او می‌ماند. حتی با تأیید کاربر نیز برخی اقدامات ممنوع‌اند؛ از جمله معامله اوراق بهادار و انتقال پول میان حساب‌ها. کاربران هم می‌توانند در هر زمان اتصال هر برنامه‌ای را قطع کنند.
این عامل هوش مصنوعی هرگز مستقیماً به گذرواژه‌ها یا توکن‌های ورود دسترسی پیدا نمی‌کند. اقدامات آن از همان سامانه طبقه‌بندی حالت خودکار عبور می‌کنند که از کلود کد محافظت می‌کند. همچنین، سازوکارهای مقابله با دستورهای پنهان در آن از پژوهش‌های انتروپیک درباره عامل‌های مرورگر گرفته شده‌اند. تیم‌های قرمز امنیتی و یک شرکت مستقل آزمون‌های نفوذ انجام داده‌اند و دوت نیز مشمول برنامه عمومی پاداش کشف آسیب‌پذیری انتروپیک است.
یک طبقه‌بند جدید و دستورالعمل سیستمی ایمنی، تمام پیام‌های خروجی را بررسی می‌کنند. این سازوکارها تلاش برای افشای حساس‌ترین اطلاعات، مانند شماره کارت بانکی و شناسه‌های دولتی، را مسدود می‌کنند. اطلاعات مربوط به سلامت یا امور مالی شخصی نیز تنها زمانی ارسال می‌شود که کاربر صراحتاً از دوت بخواهد آن‌ها را بفرستد.
محدودیت‌های شناخته‌شده
انتروپیک دوت را نسخه‌ای اولیه می‌داند. این ابزار ممکن است منظور یک رشته گفت‌وگو را اشتباه برداشت کند یا در تشخیص فوریت یک موضوع به قضاوت نادرستی برسد. انجام امور شخصی، مانند رزرو بلیت، در مقایسه با وظایف کاری عملکرد ضعیف‌تری دارد و کاربران هنوز نمی‌توانند فعالیت مرورگر آن را به‌صورت زنده مشاهده کنند.
دوت همچنین اپلیکیشنی مستقل است و جدا از برنامه اصلی کلود فعالیت می‌کند. بررسی‌های پس‌زمینه آن از سهمیه مصرف طرح کاربر کم می‌کنند و انجام کارهای سنگین، مانند ساخت مدل مالی یا تهیه مجموعه اسلاید، به مصرف بیشتری نیاز دارد.
صنعت هوش مصنوعی به‌سوی عامل‌های خودکار حرکت می‌کند
عرضه دوت تنها چند هفته پس از آن صورت می‌گیرد که دو رقیب انتروپیک نیز رویکرد مشابهی را در پیش گرفتند. عامل‌های Dots از شرکت OpenAI و Muse از شرکت متا پیش‌تر دستیارهایی همیشه‌فعال ارائه کرده‌اند که پیش از درخواست کاربر با او ارتباط برقرار می‌کنند. متا همچنین عامل خود را با مدل‌های جدیدی مانند Muse Wonder همراه کرده است. سازندگان سخت‌افزار نیز همین ایده را دنبال می‌کنند؛ دستگاه‌های شنود هوش مصنوعی Bee Frontier و Bee Eclipse آمازون نمونه‌ای از این روند هستند. رقابت اکنون از کیفیت گفت‌وگو با هوش مصنوعی فراتر رفته و به این سمت حرکت کرده است که دستیارها تا چه اندازه می‌توانند کارهای روزمره کاربران را بر عهده بگیرند.
عامل‌هایی که ایمیل ارسال می‌کنند و پول خرج می‌کنند، در صورت بروز اشتباه می‌توانند خسارت بیشتری به بار آورند. انتروپیک می‌گوید دوت از چارچوب این شرکت برای ساخت عامل‌های قابل اعتماد پیروی می‌کند، اما صنعت هوش مصنوعی همچنان در حال یادگیری نحوه مدیریت این خطرهاست. شرکت OpenAI اخیراً دو مورد جدید از رفتارهای نادرست عامل‌های هوش مصنوعی را در سطح بحرانی طبقه‌بندی کرده است. دمیس هاسابیس، مدیر گوگل دیپ‌مایند، نیز حملات اخیر به عامل‌های هوش مصنوعی را زنگ خطری اولیه توصیف کرده است. دریافت تأیید کاربر پیش از انجام اقدامات حساس، یکی از راهکارهای مقابله با این خطرهاست؛ بااین‌حال، اثربخشی آن به این بستگی دارد که کاربران پیش از فشردن دکمه تأیید، درخواست نمایش‌داده‌شده را با دقت بخوانند.
نویسنده: ویتوتاس والینسکاس