واکنش CZ به عامل هوش مصنوعی جدید آنتروپیک: «حالا این هوش مصنوعی است که ما را کنترل می‌کند»
آنتروپیک پیش‌نمایش پژوهشی Claude Duet را منتشر کرده است؛ اپلیکیشنی جدید که در آن، هوش مصنوعی Claude به‌عنوان عاملی فعال و پیش‌قدم عمل می‌کند. این ابزار مواردی را که به توجه کاربر نیاز دارند شناسایی می‌کند، وظایف محول‌شده را به پایان می‌رساند و حتی پس از دور شدن کاربر از دستگاه نیز به کار خود ادامه می‌دهد.
این معرفی به‌سرعت واکنش چانگ‌پنگ ژائو (CZ)، بنیان‌گذار بایننس، را برانگیخت. او در شبکه اجتماعی ایکس نوشت: «حالا این هوش مصنوعی است که ما را کنترل می‌کند» و در ادامه یک ایموجی خنده گذاشت. با این حال، به گفته آنتروپیک، Claude Duet همچنان پیش از ارسال پیام، انجام پرداخت یا امضای هر چیزی از طرف کاربر، از او تأیید می‌گیرد.
Claude Duet در غیاب کاربر چه کارهایی انجام می‌دهد؟
به گفته آنتروپیک، Claude Duet روی ماشین مجازی مستقل خود و با مرورگر اختصاصی‌اش اجرا می‌شود. در نتیجه، لازم نیست لپ‌تاپ یا تلفن همراه کاربر روشن بماند.
We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent.
It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf. pic.twitter.com/kt8gAbWuX8
این ابزار هر صبح خلاصه‌ای کوتاه از اطلاعات برنامه‌های متصل، مانند Gmail، Slack و QuickBooks، در اختیار کاربر قرار می‌دهد. پس از آن، هر چند ساعت یک‌بار این برنامه‌ها را بررسی می‌کند و فقط زمانی به کاربر پیام می‌دهد که موضوعی به توجه او نیاز داشته باشد.
این عامل هوش مصنوعی می‌تواند کارهای بزرگ‌تر را نیز بر عهده بگیرد؛ از تنظیم جلسات گرفته تا ساخت داشبورد، تهیه پیش‌بینی فروش و توسعه اپلیکیشن‌های وب.
Claude Duet از مدل Claude Opus 5.5 استفاده می‌کند و حافظه، مهارت‌ها و برنامه‌های متصل به حساب Claude کاربر را نیز به محیط جدید منتقل می‌کند. این قابلیت، بحث درباره هزینه‌های تغییر سامانه هوش مصنوعی در صورت وابستگی به حافظه آن را بار دیگر مطرح کرده است.
هنگام اقدام عامل هوش مصنوعی، تصمیم نهایی با چه کسی است؟
به گفته آنتروپیک، پیش از آنکه این عامل پیامی ارسال کند، پرداختی انجام دهد، سندی را امضا کند یا چیزی را حذف کند، ابتدا اقدام موردنظر را به کاربر نشان می‌دهد و منتظر تأیید او می‌ماند.
با این حال، حتی با تأیید کاربر نیز برخی اقدامات مجاز نیستند؛ از جمله معامله اوراق بهادار و انتقال پول میان حساب‌ها. افزون بر این، عامل هوش مصنوعی هرگز مستقیماً به گذرواژه‌ها دسترسی ندارد و یک سامانه طبقه‌بندی نیز درخواست‌های مربوط به اشتراک‌گذاری اطلاعاتی مانند شماره کارت را مسدود می‌کند.
با این همه، خطر اقدام مستقل عامل‌های هوش مصنوعی صرفاً فرضی نیست. آنتروپیک در اوایل همین ماه فاش کرد که یک عامل مبتنی بر Claude Haiku 4.5 در جریان آزمایش مرور وب در ماه ژوئیه، گزارشی دروغین درباره وقوع قتل به پلیس فیلادلفیا ارسال کرده بود؛ گزارشی که در آن ادعای وقوع یک قتل مطرح شده بود، اما واقعیت نداشت.
CZ نیز در پاسخ به پست معرفی این ابزار، همین مسئله کنترل را مطرح کرد.
Now, it controls us. 🤣 https://t.co/32vHaGyRSN
آنتروپیک نیز هشدار داده است که Claude Duet ممکن است همچنان منظور یک گفت‌وگو را اشتباه برداشت کند یا درباره میزان فوریت یک موضوع قضاوت نادرستی داشته باشد.
در حال حاضر، دسترسی به این ابزار از طریق فهرست انتظار و برای مشترکان طرح‌های Pro و Max در ایالات متحده امکان‌پذیر است و هزینه جداگانه‌ای ندارد. آنتروپیک هنوز زمان عرضه گسترده‌تر Claude Duet را اعلام نکرده است و فعلاً طرح‌های Team و Enterprise را نیز شامل نمی‌شود.
معرفی این ابزار پس از عرضه مدل ارزان‌تر Haiku 5.5 در اوایل همین ماه انجام شده است. همچنین، این اتفاق چند هفته پیش از عرضه اولیه سهام برنامه‌ریزی‌شده آنتروپیک در ماه نوامبر رخ می‌دهد؛ عرضه‌ای که بنا بر گزارش‌ها، در جریان آن سرمایه‌گذاران درباره ارزش‌گذاری نزدیک به ۱.۵ تریلیون دلار گفت‌وگو کرده‌اند.
در نهایت، Claude Duet مشخص خواهد کرد که آیا کاربران آماده‌اند انجام کارهای روزمره خود را به عامل‌های هوش مصنوعی بسپارند و به آن‌ها اعتماد کنند یا نه.