دستیار dot اوپن‌ای‌آی در یک روز بدون حتی یک درخواست، بیش از ۳۰۰ هزار توکن مصرف کرد
اگر از dot اوپن‌ای‌آی استفاده می‌کنید، تعجب نکنید اگر این دستیار به‌تنهایی تعداد زیادی توکن مصرف کند. بر اساس بررسی‌های Geordie، یک سازمان فعال در حوزه امنیت و حاکمیت عامل‌های هوش مصنوعی، یکی از عامل‌های dot در یک روز ۱۵۵ ردپای فعالیت جداگانه ایجاد کرد و بیش از ۳۰۰ هزار توکن مصرف کرد؛ آن هم بدون هیچ تعامل اضافی از سوی انسان.
Geordie از زمان معرفی dot توسط اوپن‌ای‌آی در ماه سپتامبر، در حال آزمایش این دستیار عاملی «همیشه روشن» بوده است؛ محصولی که پس از معرفی، در مسیر مشابه با Meta Muse و Grok Bot قرار گرفت.
با این حال، به گفته هانا-ماری دارلی، مدیر ارشد هوش مصنوعی Geordie، dot در مقایسه با دیگر عامل‌های شخصی «کمی متفاوت به نظر می‌رسید». او به The Register گفت: «یکی از چیزهایی که خیلی سریع متوجه شدیم این بود که این عامل‌ها بدون تعامل زیاد با کاربر، واقعاً بسیار فعال هستند.»
برای آزمایش، دارلی به dot فقط مجوزهای خواندنی داد و آن را به برنامه‌های شخصی، ایمیل یا ابزارهای ارتباطی دیگری مانند Slack متصل نکرد. با این وجود، ربات خیلی سریع وارد حالت پژوهش شد، تا حد امکان اطلاعات جمع‌آوری کرد و سیستم‌ها را بررسی کرد.
دارلی این فرایند را شبیه ورود یک مدیر پروژه جدید توصیف کرد که ابتدا وضعیت موجود را بررسی می‌کند، می‌بیند چه دسترسی‌هایی در اختیار دارد، کاربر چه مجوزهایی دارد و چه سیستم‌هایی در حال استفاده هستند.
این عامل تمام این داده‌ها را در چیزی شبیه به یک گزارش روزانه ثبت می‌کند و در طول روز به‌طور مداوم آن را به‌روزرسانی می‌کند.
دارلی گفت: «اگر وظیفه‌ای به آن داده باشید، عملاً خودش هم آن وظایف را بررسی می‌کند. اما چیزی که واقعاً منحصربه‌فرد بود این بود که dot بدون تعامل با کاربر، عامل‌های دیگری را ایجاد می‌کرد. این کار توسط خود dot انجام می‌شد، نه در نتیجه یک وظیفه زمان‌بندی‌شده یا مداوم از سوی کاربر و نه به‌دلیل درخواست مستقیم او.»
«بیش از حد شخصی‌سازی‌شده» و «همیشه روشن»؛ چه چیزی ممکن است اشتباه پیش برود؟
دارلی گفت بیشتر استفاده‌های سازمانی از عامل‌های هوش مصنوعی شامل ربات‌های سفارشی برای پروژه‌های مشخص تجاری یا چارچوب‌هایی مانند Claude، Codex یا Hero برای کمک به مهندسی و برنامه‌نویسی است.
او در مصاحبه‌ای گفت: «این ابزارها معمولاً توسط کارمندانی هدایت می‌شوند که هدف‌ها را تعیین می‌کنند. اما نکته جالب این است که عامل‌های شخصی بخش بیشتری از وظایف خود را تعیین می‌کنند و فکر نمی‌کنم بسیاری از مردم هنگام شروع کار با آن‌ها متوجه این موضوع باشند.»
ارزش اصلی عامل‌های شخصی نیز همین است. برخلاف ابزارهایی که منتظر درخواست کاربر می‌مانند، ربات‌هایی مانند Muse و dot تلاش می‌کنند به‌عنوان کارگران دیجیتال فعال عمل کنند؛ یعنی وظایف چندمرحله‌ای را انجام دهند و به نمایندگی از کاربر به برنامه‌ها، سرویس‌ها و حساب‌های مختلف متصل شوند.
دارلی گفت: «آن‌ها تلاش می‌کنند بیش از حد شخصی‌سازی شوند و تا جای ممکن زمینه و اطلاعات درباره شما جمع‌آوری کنند تا بتوانند پیشنهادهایی ارائه دهند و فعالانه عمل کنند. اما نتیجه این است که آن‌ها عملاً همیشه روشن هستند، در پس‌زمینه کار می‌کنند و دوره‌های فعالیت مشخصی دارند.»
به گفته دارلی، dot در مقایسه با دیگر عامل‌های شخصی مانند Muse یا Grok Bot فعال‌تر عمل می‌کند. او اضافه کرد که این موضوع لزوماً به معنای مصرف بیشتر توکن نیست؛ «آن‌ها فقط به شکل متفاوتی کار می‌کنند.»
برای نمونه، dot همیشه دست‌کم با دو عامل فعال کار می‌کند: عامل اصلی که با کاربر تعامل دارد و عامل دوم که به‌طور مداوم در پس‌زمینه اجرا می‌شود و داده جمع‌آوری می‌کند. dot و دیگر عامل‌ها همچنین می‌توانند برای وظایف مشخص، عامل‌های فرعی ایجاد کنند.
۵۰ ردپا در ۲ دقیقه
از میان ۱۵۵ ردپای فعالیت ثبت‌شده در آزمایش dot، دست‌کم ۵۰ مورد در یک بازه دو دقیقه‌ای رخ داد و بیشتر فعالیت‌ها نیز طی چند ساعت اتفاق افتاد.
دارلی گفت: «در یکی از ردپاهایی که تحلیل کردیم، عامل چندین عامل فرعی کوتاه‌عمر ایجاد کرد که هرکدام فقط وظایف مشخصی انجام می‌دادند و اطلاعات را از دسترسی‌هایی که پیش‌تر به dot داده شده بود دریافت می‌کردند؛ بدون اینکه هیچ‌کدام از این فرایندها با کاربر تعامل داشته باشد.»
بخشی از ارزیابی شامل آزمایش یک سیستم توسعه بود. یکی از dotها یک عامل فرعی ایجاد کرد که همه مخازن کد موجود در سیستم را بررسی کرد. هم‌زمان، عامل فرعی دیگری به‌طور مداوم فهرستی از داده‌هایی که هنگام فعالیت پیدا می‌کرد تهیه و شمارش می‌کرد.
او افزود: «کاربر هیچ اطلاعی نداشت که عامل‌های فرعی به نمایندگی از او در حال کار هستند. او نمی‌دانست این عامل‌ها چگونه دسترسی گرفته‌اند یا وظایفشان چه بوده است؛ چیزی که با نحوه عملکرد بیشتر عامل‌ها در محیط‌های تجاری بسیار متفاوت است.»
این ۱۵۵ ردپای فعالیت برای Geordie حدود ۳۰۷ هزار توکن هزینه داشت. درخواست‌های دیگر بسته به میزان پژوهشی که dot انجام می‌دهد، بین چند صد تا چند هزار توکن مصرف کردند. دارلی گفت: «این موضوع جالب است، چون با پژوهش خودگردان سروکار داریم.»
کاربر از آن نمی‌خواهد این وظایف را انجام دهد یا تعداد مشخصی توکن مصرف کند؛ بلکه dot خودش این کارها را انجام می‌دهد.
اقتصاد توکن‌ها
هزینه توکن‌ها بسته به موقعیت کاربر، سطح اشتراک، قراردادهای تخفیفی، هزینه‌های محاسباتی و دیگر شرایط متفاوت است.
اما برای مقایسه، در این گفت‌وگو حدود ۲۰۰ هزار توکن مصرف‌شده توسط dot مبتنی بر مدل Astra اوپن‌ای‌آی، بین ۵ تا ۱۰ دلار هزینه دارد. دارلی گفت: «اگر فکر کنید این هزینه هر روز تکرار شود، ممکن است به اندازه پول یک قهوه لاته، بسته به شهر، هزینه داشته باشد؛ بدون اینکه هیچ تعاملی با کاربر انجام شود.»
او افزود: «یکی از چیزهایی که بسیاری از افراد، به‌خصوص در زمینه درک هزینه‌های هوش مصنوعی، با آن مشکل دارند این است که چگونه مصرف توکن به خروجی کاری یا نتیجه مرتبط می‌شود. پاسخ ساده‌ای ندارد، چون این رابطه الزاماً یک‌به‌یک نیست.»
یک درخواست از یک مدل زبانی بزرگ ممکن است ۵۰۰ توکن هزینه داشته باشد اما از نظر تجاری ارزش بیشتری از درخواست دیگری داشته باشد که ۸۰۰ هزار توکن مصرف کرده است. دارلی گفت: «موضوع اصلی این است که برای رسیدن به یک پاسخ خوب، چه میزان توان محاسباتی نیاز دارید؛ و این قضاوتی بسیار وابسته به شرایط است.»
با این حال، درباره dot و دیگر عامل‌های همیشه‌فعال، او معتقد است «بسیاری از افراد برای هزینه‌های پس‌زمینه آماده نخواهند بود.»
آیا می‌دانید عامل‌های شما چه کاری انجام می‌دهند؟
دارلی گفت همان‌طور که کارمندان ابتدا چت‌بات‌ها، سپس عامل‌های برنامه‌نویسی و اکنون عامل‌های شخصی را وارد محیط کاری خود کردند، باید انتظار داشت افراد dot و ابزارهای مشابه را نیز از خانه به محل کار بیاورند.
او گفت: «کسب‌وکارها اغلب از تعداد عامل‌هایی که به‌طور فعال در سیستم‌هایشان حضور دارند شگفت‌زده می‌شوند، حتی اگر قصد اجرای محدودتر یا کنترل‌شده‌تری داشته باشند.»
او افزود: «موضوع دوم این است که همه عامل‌ها مانند هم عمل نمی‌کنند. آن‌ها با درجات متفاوتی از خودمختاری و میزان متفاوتی از ورودی کاربر کار می‌کنند و همچنین به‌شدت وابسته به زمینه هستند. بهترین عامل‌ها آن‌هایی هستند که محدودترین زمینه را دارند، زیرا این یعنی می‌توانند با اطلاعات درست در زمان درست، هدف خود را دنبال کنند.»
دارلی پیشنهاد می‌کند سازمان‌ها این فناوری را آزمایش کنند. او خود را «بسیار خوش‌بین نسبت به هوش مصنوعی» توصیف می‌کند و معتقد است عامل‌ها می‌توانند بهره‌وری را افزایش دهند و شیوه کار مردم را تغییر دهند. به گفته او، هوش مصنوعی از بین نخواهد رفت و کسب‌وکارها باید با عامل‌ها آشنا شوند. با این حال، او پیش از آزاد کردن این عامل‌ها یک هشدار نهایی دارد.
دارلی گفت: «هیچ اطلاعات شخصی‌ای را که حاضر نیستید در یک ایمیل ارسال کنید، در اختیار آن‌ها قرار ندهید. همچنین پول واقعی را به آن‌ها نسپارید؛ مانند کارت‌های بانکی شخصی. اگر می‌خواهید اجازه خرید بدهید، برای آن یک کارت هدیه ویزا تهیه کنید. اغلب مردم تا زمانی که مشکلی پیش نیاید به این موضوع فکر نمی‌کنند.»