نگرانی از هزینه‌های عامل هوش مصنوعی Dot شرکت OpenAI پس از مصرف ۳۰۷ هزار توکن بدون دخالت کاربر
فعالیت عوامل هوش مصنوعی بدون اطلاع کاربران می‌تواند هزینه‌های غیرمنتظره‌ای به همراه داشته باشد. این هشدار در حالی مطرح شده که دستیارهای هوش مصنوعی روزبه‌روز مستقل‌تر می‌شوند و عوامل پیشرفته به همکارانی دیجیتال تبدیل شده‌اند که حتی بدون دریافت دستور از کاربر، در پس‌زمینه اطلاعات جمع‌آوری می‌کنند و وظایف مختلفی را انجام می‌دهند.
به گزارش The Register، شرکت Geordie که در زمینه امنیت و حاکمیت هوش مصنوعی فعالیت می‌کند، عامل Dot شرکت OpenAI را آزمایش کرده و دریافته است که این ابزار تنها در یک روز، بدون دریافت دستور جدید یا هیچ‌گونه تعامل دیگری از سوی کاربر، ۱۵۵ ردپای فعالیت ثبت کرده و حدود ۳۰۷ هزار توکن مصرف کرده است.
Dot به‌گونه‌ای طراحی شده که همواره فعال باشد و فعالیت خود را در پس‌زمینه ادامه دهد. در این آزمایش، شرکت Geordie تنها مجوز دسترسی خواندنی به این عامل داد و آن را به برنامه‌های شخصی، ایمیل یا ابزارهای همکاری گروهی مانند Slack متصل نکرد. با وجود این محدودیت‌ها، Dot به‌طور مستقل به جست‌وجو و بررسی اطلاعات پرداخت، سامانه‌های پیرامونی را تحلیل کرد و داده‌های جمع‌آوری‌شده را به‌صورت روزانه ثبت و به‌روزرسانی کرد.
نکته قابل‌توجه این بود که Dot بدون دریافت هیچ درخواستی از کاربر یا داشتن وظیفه‌ای از پیش زمان‌بندی‌شده، به‌طور خودکار عوامل فرعی ایجاد کرد و آن‌ها را به اجرا درآورد.
به گفته شرکت Geordie، عامل Dot در برخی مواقع دست‌کم دو عامل را به‌طور هم‌زمان به کار می‌گرفت. عامل اصلی وظیفه ارتباط با کاربر را بر عهده داشت، در حالی که عامل دوم در پس‌زمینه به جمع‌آوری داده‌ها مشغول بود.
این سامانه همچنین در صورت نیاز، عوامل فرعی بیشتری برای انجام وظایف مشخص ایجاد می‌کرد. حتی برای انجام یک وظیفه واحد نیز چندین عامل فرعی با عمر کوتاه، یکی پس از دیگری ساخته می‌شدند تا اطلاعات لازم را جمع‌آوری کنند و پس از پایان کار، فعالیتشان خاتمه یابد.
در آزمایشی که روی یک سامانه توسعه نرم‌افزار انجام شد، یکی از عوامل فرعی مخازن کد را بررسی می‌کرد و عامل دیگری وظیفه فهرست‌بندی و تجمیع داده‌ها را بر عهده داشت. شرکت Geordie هشدار داد که کاربران عادی ممکن است به‌سختی متوجه وجود این عوامل فرعی یا فعالیت‌های آن‌ها شوند.
نگرانی اصلی به میزان توکن مصرفی ناشی از این فعالیت‌ها مربوط می‌شود. مدل‌های قیمت‌گذاری عوامل هوش مصنوعی خودمختار شامل اشتراک‌های ماهانه با سهمیه مشخص مصرف و همچنین طرح‌هایی است که میزان استفاده واقعی را از سقف مجاز کسر می‌کنند یا برای ادامه استفاده به اعتبار اضافی نیاز دارند. با افزایش فعالیت‌های پس‌زمینه، ممکن است سهمیه کاربران زودتر از انتظار تمام شود یا هزینه‌های بیشتری به آن‌ها تحمیل شود.
پیامدهای این مسئله ممکن است برای کاربران شخصی شدیدتر از مشتریان سازمانی باشد. عوامل هوش مصنوعی سازمانی معمولاً بر اساس اهدافی فعالیت می‌کنند که کارکنان تعیین کرده‌اند، اما عوامل شخصی برای ارائه خدمات متناسب‌تر با نیازهای هر کاربر، اطلاعات زمینه‌ای و مرتبط با شرایط او را در پس‌زمینه جمع‌آوری می‌کنند. به همین دلیل، احتمال فعالیت مداوم در پس‌زمینه در عوامل شخصی بیشتر است.
نشریه The Register هشدار داده است که کاربران باید خود را برای افزایش غیرمنتظره میزان استفاده از خدمات هوش مصنوعی آماده کنند و شرایط اشتراک و سیاست‌های محاسبه هزینه این خدمات را با دقت بررسی کنند.