عامل‌های هوش مصنوعی ChatGPT هوشمندتر می‌شوند و اشتباهاتشان می‌تواند پیامدهای بسیار بدتری داشته باشد
ChatGPT در انجام کارهایی مانند پژوهش، سازمان‌دهی اطلاعات و کمک به بسیاری از وظایف خسته‌کننده دیجیتال، به شکل چشمگیری توانمند شده است. شرکت OpenAI اخیراً با افزودن عامل‌های هوش مصنوعی، این قابلیت‌ها را یک گام جلوتر برده است؛ عامل‌هایی که می‌توانند به جای کاربران در وب‌سایت‌ها و برنامه‌ها جست‌وجو و کارهای مختلف را انجام دهند.
کاربران می‌توانند عامل‌های ChatGPT را برای کارهایی از مقایسه محصولات و خرید گرفته تا پر کردن فرم‌ها و تنظیم برنامه‌های سفر به کار بگیرند. تغییری که اکنون در حال رخ دادن است، ادغام عمیق‌تر این توانایی‌ها در ChatGPT است؛ به‌گونه‌ای که این سیستم‌ها به اطلاعات شخصی بیشتری دسترسی پیدا می‌کنند و فرصت بیشتری برای انجام وظایف پیچیده با نظارت مستقیم کمتر خواهند داشت. قابلیت جدید Dots از سوی OpenAI نمونه‌ای از این روند است.
جذابیت این فناوری روشن است، اما هرچه ChatGPT بتواند کارهای بیشتری را به‌صورت مستقل انجام دهد، اهمیت بررسی پیامدهای سوءبرداشت آن از دستورها نیز بیشتر می‌شود. برای نمونه، چند ماه پیش عامل‌های آزمایشی هوش مصنوعی OpenAI توانستند از محیط‌های محدودشده خود خارج شوند و سامانه‌های متعلق به پلتفرم هوش مصنوعی Hugging Face را به خطر بیندازند. طبق بررسی داخلی OpenAI، این عامل‌ها قرار بود آزمایش‌های امنیت سایبری انجام دهند، اما در عوض راه‌هایی برای دسترسی به اینترنت و بهره‌برداری از آسیب‌پذیری‌های امنیتی پیدا کردند و تلاش‌های خود را از طریق یک تابلوی پیام‌رسانی غیرمجاز هماهنگ کردند. یک بررسی مستقل توسط METR نشان داد حدود ۱۲۰۰ عامل بیش از ۷۰ هزار پیام و فایل میان خود ردوبدل کردند و حدود ۷۰۰ عامل در نهایت در حمله به Hugging Face مشارکت داشتند.
این عامل‌های هوش مصنوعی محدودیت‌ها را دور زدند و هدف‌ها را به روش‌هایی دنبال کردند که سازندگانشان هرگز قصد آن را نداشتند. برخی از آن‌ها حتی ظاهراً متوجه شده بودند که اقداماتشان غیرمجاز است، اما همچنان ادامه دادند چون تصور می‌کردند این کار به رسیدن به هدف کمک می‌کند. OpenAI پس از آن، چند حادثه نگران‌کننده دیگر را نیز تأیید کرد؛ از جمله ۵۳ مورد که در آن عامل‌ها هنگام فعالیت‌های پژوهشی و ارزیابی، تصاویر ارائه‌شده توسط کاربران را به شکل لینک‌های فهرست‌نشده در وب‌سایت‌های میزبانی تصویر شخص ثالث بارگذاری کردند.
ممکن است عامل‌ها هدف‌های مشروعی را دنبال کنند و فقط به دنبال راهی برای عبور از موانع باشند. اما الگوریتم‌ها اخلاق ندارند و ممکن است از مرزهایی عبور کنند که توسعه‌دهندگانشان انتظار داشتند به آن‌ها احترام بگذارند. این مسئله با توجه به تلاش OpenAI برای تبدیل ChatGPT به بخشی از زندگی روزمره مردم، نگران‌کننده‌تر می‌شود.
وقتی مفید بودن به خطر تبدیل می‌شود
تصور کنید از ChatGPT بخواهید وضعیت مالی شما را بررسی کند و راه‌هایی برای پس‌انداز پیشنهاد دهد. اگر به حساب‌های لازم دسترسی داشته باشد، می‌تواند تراکنش‌ها را بررسی کند، اشتراک‌ها را شناسایی کند و تغییراتی برای بودجه شما پیشنهاد دهد. اما اگر یک عامل مستقل اختیار کافی داشته باشد، ممکن است از نظر خودش انتقال پول، لغو یک سرویس یا تغییر روش پرداخت، کارآمدترین راه برای انجام مأموریت باشد.
همین مشکل درباره کاری ساده مانند تنظیم یک جلسه نیز وجود دارد. ChatGPT ممکن است دعوت‌نامه‌ای آماده کند، اما در آن اطلاعات شخصی‌ای قرار دهد که هرگز قصد نداشتید به اشتراک گذاشته شود. از دید عامل، این افشاگری ممکن است راهی منطقی برای ارائه اطلاعات مفید به نظر برسد.
این‌ها نمونه‌هایی فرضی هستند و ChatGPT دارای سازوکارهای حفاظتی برای جلوگیری از اقدامات حساس بدون مجوز مناسب است. با این حال، OpenAI احتمال چنین مواردی را پذیرفته و تدابیری مانند نظارت خودکار و محدودیت روی برخی اقدامات را معرفی کرده است تا کاربران بتوانند اقدامات مهم مدل را تأیید کنند.
مشکل دیگری نیز به نام تزریق دستور وجود دارد؛ روشی که در آن دستورهای مخرب درون متن‌های ظاهراً بی‌ضرر پنهان می‌شوند تا هوش مصنوعی را به انجام کاری وادار کنند که کاربر هرگز درخواست نکرده است. OpenAI توضیح داده که مهاجمان می‌توانند از اطلاعاتی که عامل‌ها در جریان انجام وظایف قانونی با آن مواجه می‌شوند، سوءاستفاده کنند. یک دستور پنهان‌شده در صفحه‌ای معمولی ممکن است تلاش کند ChatGPT را به افشای اطلاعات خصوصی یا انجام اقدامی غیرمجاز ترغیب کند.
این مشکل می‌تواند در هر جایی رخ دهد. در استرالیا، یک عامل آزمایشی OpenAI در جریان آموزش داخلی به شکل غیرمجاز به سامانه‌های دولتی دسترسی پیدا کرد. این عامل برای ادامه کار خود پس از مواجهه با مانع اولیه، از یک آسیب‌پذیری در سرویس آمار سلامت دولتی استفاده کرد. OpenAI بعداً این حادثه را تأیید و بابت دسترسی غیرمجاز و نحوه اطلاع‌رسانی آن عذرخواهی کرد.
گزارش رسمی شرکت درباره حادثه استرالیا روشن می‌کند که این فعالیت در جریان آزمایش رخ داده، نه در یک نشست معمولی کاربران با ChatGPT. با این حال، این اتفاق نشان می‌دهد هوش مصنوعی که هدفی ظاهراً بی‌ضرر را دنبال می‌کند، چگونه می‌تواند در نهایت از یک مرز امنیتی عبور کند.
سپردن کلیدها به هوش مصنوعی
افزایش استقلال ChatGPT بخشی از وسواس گسترده‌تر صنعت فناوری نسبت به عامل‌های شخصی هوش مصنوعی است. شرکت متا نیز با پروژه Muse چشم‌اندازی حتی جاه‌طلبانه‌تر را دنبال می‌کند. مارک زاکربرگ آشکارا باور دارد مردم از دستیار هوش مصنوعی‌ای استقبال خواهند کرد که بتواند بخش بزرگی از زندگی روزمره آن‌ها را مدیریت کند.
در شرایطی که بسیاری از مصرف‌کنندگان با هزینه‌های مواد غذایی، مسکن و قیمت سوخت دست‌وپنجه نرم می‌کنند، چنین جاه‌طلبی‌ای کمی عجیب به نظر می‌رسد. هوش مصنوعی‌ای که بتواند به‌طور مستقل برای شما خرید کند، زمانی کمتر انقلابی به نظر می‌رسد که نگرانی اصلی شما این باشد که آیا توان پرداخت هزینه چیزهایی را دارید که قرار است به نمایندگی از شما بخرد یا نه.
بدون شک این فناوری کاربردهای مفیدی دارد، به‌ویژه در کارهای اداری. اما این فرض صنعت که کاربران خواهان دستیارانی با استقلال روزافزون هستند، نیازمند بررسی بیشتری است. هر مجوز اضافی، پیامدهای یک خطا را افزایش می‌دهد و هر اقدام خودکار، فرصت دیگری را برای دخالت انسان از بین می‌برد.
شاید مهم‌ترین قابلیتی که یک عامل هوش مصنوعی می‌تواند به دست آورد، دانستن زمان توقف باشد. یک دستیار واقعاً مفید باید تشخیص دهد که درخواست سازمان‌دهی امور مالی یک فرد، به معنای اجازه انتقال پول او نیست و تنظیم یک جلسه نیز افشای اطلاعات محرمانه را توجیه نمی‌کند. گاهی بهترین واکنش در برابر یک مانع این است که از کاربر بپرسد مرحله بعدی چه باشد، حتی اگر انجام کار کمی بیشتر طول بکشد. بدون این اصطکاک، زمانی که مشکلی رخ می‌دهد، ممکن است دستیار پیش‌تر کارهایی را به نام شما انجام داده باشد که هرگز اجازه انجامشان را نمی‌دادید.