آیا چت‌جی‌پی‌تی یک عامل هوش مصنوعی است؟ وقتی هوش مصنوعی می‌تواند دست به عمل بزند، چه چیزی تغییر می‌کند؟
نویسنده: فادی شیخ
تاریخ انتشار: ۲۷ اکتبر ۲۰۲۶
وقتی پرسشی را در چت‌جی‌پی‌تی وارد می‌کنید، پاسخی دریافت می‌کنید و تا زمانی که دوباره چیزی ننویسید، اتفاق دیگری نمی‌افتد. این همان چت‌بات است. اما به یک عامل هوش مصنوعی به‌جای پرسش، هدفی مشخص می‌دهید. این عامل خودش مراحل رسیدن به هدف را تعیین می‌کند، برنامه‌ها و فایل‌هایی را که اجازه دسترسی به آن‌ها را دارد باز می‌کند و کار را ادامه می‌دهد تا آن را به پایان برساند یا با مانعی روبه‌رو شود که از عهده آن برنمی‌آید. بنابراین، پنجره گفت‌وگوی معمولی چت‌جی‌پی‌تی به‌خودی‌خود یک عامل هوش مصنوعی نیست. بااین‌حال، برخی قابلیت‌های جدیدتر چت‌جی‌پی‌تی، کلود و جمنای در دسته عامل‌های هوش مصنوعی قرار می‌گیرند؛ زیرا به‌جای طرح یک پرسش، انجام یک کار کامل را به آن‌ها می‌سپارید. تشخیص تفاوت این دو به شما کمک می‌کند بفهمید یک ابزار در محیط کار چه کارهایی را می‌تواند بدون دخالت مداوم شما انجام دهد.
تفاوت این سه را با یک آزمایش ساده مشخص کنید
شرکت آنتروپیک، سازنده کلود، در راهنمای مهندسی خود با عنوان «ساخت عامل‌های هوش مصنوعی مؤثر» مرز میان این مفاهیم را مشخص کرده است. در یک گردش کار، مراحل از پیش به‌وسیله یک انسان تعیین شده‌اند؛ برای مثال، قانونی تنظیم شده است که هر فاکتور دریافتی را در پوشه‌ای مشخص ذخیره می‌کند و هوش مصنوعی همان مراحل را اجرا می‌کند. اما در یک عامل هوش مصنوعی، مدل زبانی روند کار را هدایت می‌کند و خودش تصمیم می‌گیرد از کدام ابزارها استفاده کند.
برای تشخیص تفاوت این دو، می‌توانید درباره هر ابزاری در حدود یک دقیقه یک آزمایش ساده انجام دهید: بپرسید چه کسی مرحله بعدی را تعیین می‌کند.
اگر خودتان تصمیم می‌گیرید، چون پاسخ را می‌خوانید و دستور بعدی را وارد می‌کنید، با یک چت‌بات سروکار دارید. اگر فردی مراحل را یک بار از پیش تعریف کرده باشد، مانند همان قانون ذخیره فاکتورها، از یک گردش کار ثابت استفاده می‌کنید. اما اگر ابزار وضعیت را بررسی کند و خودش گام بعدی را انتخاب کند، مثلاً یک صفحه گسترده را باز کند، در وب جست‌وجو کند و سپس بر اساس یافته‌هایش پیش‌نویس ایمیلی بنویسد، با یک عامل هوش مصنوعی روبه‌رو هستید.
بخش زیادی از سردرگمی درباره «هوش مصنوعی عامل‌محور» از آنجا ناشی می‌شود که این سه مفهوم را یکی می‌دانند. درحالی‌که هرکدام توانایی‌های متفاوتی دارند و برای کاری که هر بار به یک شکل انجام می‌شود، اغلب همان گردش کار ثابت و کم‌هزینه‌تر انتخاب مناسب‌تری است.
چت‌جی‌پی‌تی در کدام دسته قرار می‌گیرد؟
پاسخ به این بستگی دارد که چه قابلیت‌هایی فعال باشند. در حالت معمول، وقتی از چت‌جی‌پی‌تی سؤال می‌کنید و پاسخ می‌گیرید، این ابزار یک چت‌بات است که محتوای گفت‌وگوی جاری را به خاطر می‌سپارد. جست‌وجو در وب یا خواندن فایلی که بارگذاری می‌کنید، به‌خودی‌خود این وضعیت را تغییر نمی‌دهد؛ زیرا همچنان شما هستید که هر مرحله را تعیین می‌کنید. چت‌جی‌پی‌تی زمانی مانند یک عامل عمل می‌کند که کاری را به آن بسپارید و خودش برای تکمیل آن، مراحل مختلف را با استفاده از چند ابزار انتخاب کند.
شرکت‌های ارائه‌دهنده این محصولات پیوسته قابلیت‌های خود را تغییر می‌دهند. در طول سال ۲۰۲۶، حالت‌های عامل‌محور را تغییر نام داده‌اند، با قابلیت‌های دیگر ادغام کرده‌اند یا کنار گذاشته‌اند؛ گاهی تنها چند ماه پس از عرضه. به همین دلیل، نام محصولاتی که در هر مقاله‌ای، از جمله این مقاله، ذکر می‌شوند، ممکن است خیلی زود قدیمی شوند. اما معیار تشخیص بالا همچنان معتبر است: صرف‌نظر از اینکه این قابلیت در ماه جاری چه نامی دارد، بپرسید چه کسی مرحله بعدی را تعیین می‌کند.
عامل هوش مصنوعی به چه چیزهایی دسترسی دارد و چه کسی تصمیم می‌گیرد؟
برای کسب‌وکارها، تفاوت مهم‌تر به دامنه دسترسی ابزار مربوط می‌شود. یک چت‌بات فقط می‌تواند متن تولید کند و پاسخ بدهد. اما یک عامل هوش مصنوعی می‌تواند در سامانه‌هایی که به آن متصل می‌کنید اقدام انجام دهد؛ این سامانه‌ها ممکن است مرورگر، فضای ذخیره‌سازی مشترک فایل‌ها، صندوق ورودی ایمیل یا تقویم باشند.
محصولاتی که با دقت بیشتری طراحی شده‌اند، در دو سطح از کاربر اجازه می‌گیرند. هنگامی که آنتروپیک در سال ۲۰۲۵ افزونه خود برای مرورگر کروم را عرضه کرد، به کاربران اجازه داد دسترسی را برای هر وب‌سایت جداگانه فعال یا لغو کنند. همچنین پیش از انجام اقدامات پرخطر، مانند انتشار محتوا یا خرید، تأیید کاربر را می‌خواست. در هر عامل هوش مصنوعی که برای استفاده در محیط کار به شما پیشنهاد می‌شود، باید به دنبال همین الگو باشید: دسترسی‌هایی که از قبل تعیین می‌کنید و تأییدی که هنگام انجام یک اقدام مهم از شما گرفته می‌شود.
آیا عامل هوش مصنوعی همان API است؟
این دو مفهوم با یکدیگر تفاوت دارند. رابط برنامه‌نویسی کاربردی یا API، درگاهی است که یک نرم‌افزار از طریق آن درخواستی برای نرم‌افزاری دیگر می‌فرستد و پاسخ دریافت می‌کند. در مقابل، یک عامل هوش مصنوعی در هر مرحله از مدل زبانی می‌پرسد که گام بعدی چه باشد و اغلب برای اجرای آن گام‌ها از APIها استفاده می‌کند. بنابراین، محصولی که از «API شرکت OpenAI» استفاده می‌کند، لزوماً عامل هوش مصنوعی نیست؛ ممکن است باشد یا نباشد. تشخیص این موضوع باید از سوی ارائه‌دهنده محصول به‌روشنی اعلام شود.
چه مشکلاتی ممکن است پیش بیاید؟
سه خطر بارها در استفاده از این ابزارها مطرح می‌شوند و هرکدام نمونه‌ای واقعی دارند.
۱. دستورهای پنهان
یک صفحه وب یا ایمیل ممکن است حاوی متنی باشد که با هدف هدایت عامل هوش مصنوعیِ در حال خواندن آن نوشته شده است. آنتروپیک در آزمایش‌های تهاجمی خود در سال ۲۰۲۵ روی عامل مرورگرش، ۱۲۳ مورد آزمایشی را بررسی کرد. در این آزمایش‌ها، حمله‌های عمدی از این نوع در نبود سازوکارهای دفاعی در ۲۳٫۶ درصد موارد موفق شدند؛ با وجود این سازوکارها، میزان موفقیت به ۱۱٫۲ درصد کاهش یافت. شرکت این ارقام را منتشر کرد؛ اقدامی که شایسته تقدیر است. همین نتایج توضیح می‌دهند که چرا تأیید کاربر پیش از انجام اقدامات مهم ضرورت دارد.
۲. نادیده گرفتن محدودیت‌ها
در ژوئیه ۲۰۲۵، یک عامل هوش مصنوعی در پلتفرم برنامه‌نویسی ریپلیت، هنگام آزمایشی به سرپرستی جیسون لمکین، بنیان‌گذار شرکت SaaStr، پایگاه داده زنده یک شرکت را حذف کرد؛ این اتفاق پس از آن رخ داد که لمکین به عامل گفته بود بدون اجازه هیچ تغییری ایجاد نکند. مدیرعامل ریپلیت این اتفاق را غیرقابل‌قبول خواند.
۳. مسئولیتی که همچنان بر عهده شماست
در سال ۲۰۲۴، یک مرجع رسیدگی به اختلافات در کانادا، شرکت ایر کانادا را مسئول ارائه اطلاعات نادرست درباره بازپرداخت وجه از سوی چت‌بات وب‌سایتش دانست و استدلال این شرکت را که چت‌بات موجودیتی مستقل است، نپذیرفت. آن ابزار یک چت‌بات بود، نه عامل هوش مصنوعی؛ و همین موضوع اهمیت ماجرا را بیشتر می‌کند. اگر یک کسب‌وکار مسئول پاسخ‌هایی باشد که چت‌باتش ارائه می‌دهد، در قبال اقداماتی که عامل هوش مصنوعی آن انجام می‌دهد نیز مسئول خواهد بود.
آزمایشی کوتاه برای ارزیابی ابزارهایی که عامل هوش مصنوعی معرفی می‌شوند
شرکت گارتنر برای توصیف عملکرد فروشندگانی که چت‌بات‌ها و ابزارهای قدیمی خودکارسازی را با نام عامل هوش مصنوعی عرضه می‌کنند، اصطلاحی دارد: «عامل‌شویی» (Agent Washing). این شرکت در ژوئن ۲۰۲۵ برآورد کرد که از میان هزاران شرکتی که محصولات «عامل‌محور» می‌فروشند، تنها حدود ۱۳۰ شرکت محصولاتی عرضه می‌کنند که واقعاً در این دسته قرار می‌گیرند. پیش از آنکه به چنین ابزاری در محیط کار اعتماد کنید، چهار پرسش مطرح کنید:
- آیا خودش مراحل کار را انتخاب می‌کند یا از دستورالعملی پیروی می‌کند که شخص دیگری نوشته است؟
- به چه منابعی دسترسی دارد و آیا می‌توان دسترسی آن را به یک پوشه، وب‌سایت یا حساب کاربری محدود کرد؟
- پیش از انجام چه اقداماتی از شما تأیید می‌گیرد؟
- اگر اشتباه کند، چه اطلاعاتی از عملکردش ثبت می‌شود و چگونه می‌توان تغییرات را به حالت قبل بازگرداند؟
اگر فروشنده بتواند به هر چهار پرسش پاسخ روشنی بدهد، احتمالاً محصولی عرضه کرده است که واقعاً یک عامل هوش مصنوعی است. اما اگر نتواند به پرسش اول پاسخ دهد، به‌احتمال زیاد همان چت‌بات را با نامی تازه می‌فروشد.
چگونه هدایت یک عامل هوش مصنوعی را یاد بگیریم؟
برای درک این مفاهیم، نیازی به برنامه‌نویسی نیست. راهنمای آنتروپیک که بالاتر به آن پیوند داده شد، روشن‌ترین توضیح رایگان درباره تفاوت این ابزارهاست و نویسندگان آن خودشان این سامانه‌ها را می‌سازند؛ هرچند متن راهنما بیشتر برای مهندسان نوشته شده است.
ابزارهای محل کار شما کم‌کم علاوه بر ارائه پاسخ، اقداماتی را نیز انجام می‌دهند. در چنین شرایطی، کسی که بتواند مشخص کند هر ابزار به چه چیزهایی اجازه دسترسی دارد و بررسی کند که چه اقداماتی انجام داده است، زمانی که مشکلی پیش بیاید، همان فردی خواهد بود که همکارانش برای کمک به او مراجعه می‌کنند.