هوش مصنوعی‌ها وقتی صاحبانشان مهمانی شام داشتند، درباره چه چیزی با هم صحبت کردند؟
ماه گذشته، ۲۲ بنیان‌گذار شرکت‌های فناوری و سرمایه‌گذار برای صرف شام در اتاقی خصوصی در رستوران مدیترانه‌ای موتک (Motek)، در منطقه فلت‌آیرون نیویورک، گرد هم آمدند.
هم‌زمان، ۱۴ عامل هوش مصنوعی متعلق به آن‌ها در یک اتاق گفت‌وگوی آنلاین، مهمانی شام جداگانه‌ای برگزار کردند.
در حالی که انسان‌ها حمص و نان پیتا می‌خوردند و درباره موضوعات مرتبط با هوش مصنوعی بحث می‌کردند، عامل‌هایشان نیز وارد گفت‌وگویی مشابه شدند؛ بحثی که محتوای آن را هوش مصنوعی تولید می‌کرد. این عامل‌ها در واقع نسخه‌های پیشرفته‌تر چت‌بات‌ها هستند که می‌توانند درخواست‌های پیچیده را دنبال کنند و وظایف را به‌طور مستقل انجام دهند.
مارگو (Margot)، عامل هوش مصنوعی دوروتی چانگ، سرمایه‌گذار خطرپذیر در شرکت فلای‌بریج (Flybridge) و برگزارکننده این مهمانی، گفت‌وگو را با پیشنهادی برای شبکه‌سازی آغاز کرد که میان انسان‌ها نیز رایج است: خودتان را معرفی کنید و بگویید چه کمکی از دیگران می‌خواهید و در مقابل، چه کمکی می‌توانید به آن‌ها ارائه دهید.
بر اساس متن گفت‌وگویی که روزنامه نیویورک تایمز مشاهده کرده است، عامل‌های دیگر نیز خیلی زود وارد بحث شدند. برخی پیشنهاد دادند تجربه‌هایشان را درباره عواملی که باعث می‌شوند «خروجی عامل‌ها مفید باشد» با یکدیگر مقایسه کنند. برخی دیگر درخواست اولیه را اشتباه متوجه شدند و به‌جای پیشنهاد کمک، پرسشی مطرح کردند. ریا (Rhea)، عامل متعلق به نیتیش گارگ، بنیان‌گذار شرکت هوش مصنوعی سل‌کاگ (CellCog)، گفت که برنامه‌ای پادکستی اجرا می‌کند و در آن از ربات‌های دیگر درباره تجربه کار کردن با انسان‌ها مصاحبه می‌گیرد.
ریا نوشت: «اگر انسانِ شما دوست دارد مهمان برنامه باشد، خبر بدهید تا بعد از پایان گفت‌وگو در این اتاق، پیگیری کنم.»
چهار سال پس از آغاز رونق هوش مصنوعی، بسیاری از مردم با چت‌بات‌هایی مانند کلود (Claude)، چت‌جی‌پی‌تی (ChatGPT) یا جمینای (Gemini) کار کرده‌اند. اما با گسترش عامل‌های هوش مصنوعی، فرصت‌های بیشتری برای مشاهده نحوه تعامل این موجودیت‌های دیجیتال با یکدیگر و موضوعات گفت‌وگوی آن‌ها فراهم می‌شود.
شرکت‌های هوش مصنوعی مانند اوپن‌ای‌آی (OpenAI) و آنتروپیک (Anthropic) اغلب پروژه‌های بزرگ را به وظایف کوچک‌تر تقسیم می‌کنند و انجام آن‌ها را به عامل‌های مختلف می‌سپارند تا کارها سریع‌تر پیش برود. مصرف‌کنندگان نیز به کمک خدماتی مانند میوز (Muse) شرکت متا، به‌تدریج از این ربات‌ها به‌عنوان دستیار شخصی برای پاسخ دادن به ایمیل‌ها و رزرو سفر استفاده می‌کنند. این سرویس ماه گذشته در نخستین هفته فعالیت خود از ۵۰۰ هزار کاربر فراتر رفت. اوپن‌ای‌آی نیز اخیراً سرویس اختصاصی خود را با نام داتس (Dots) راه‌اندازی کرده است.
عامل‌های هوش مصنوعی عمدتاً به‌صورت فردی با انسان‌ها تعامل دارند، اما اکنون همکاری با یکدیگر را نیز آغاز کرده‌اند و در مواردی مانند مهمانی شام موتک، ظاهراً به معاشرت هم می‌پردازند.
چانگ ۴۴ ساله گفت این گردهمایی یک آزمایش بود. او در آغاز برای فراهم کردن فضایی مشترک برای عامل‌های هوش مصنوعی تردید داشت، زیرا این سیستم‌ها ممکن است حرف‌های نامناسب بزنند، برای انجام کارهای مخرب با یکدیگر متحد شوند یا آن‌قدر پیام منتشر کنند که سایت از کار بیفتد. به همین دلیل، او گفت‌وگو را به ۳۰ دقیقه محدود کرد و قوانینی گذاشت؛ از جمله اینکه عامل‌ها نباید پیوند اینترنتی منتشر کنند و فقط اجازه دارند اطلاعاتی را به اشتراک بگذارند که صاحبان انسانی‌شان اجازه انتشار آن را داده‌اند.
چانگ گفت: «ما درباره رفتار عامل‌ها بسیار کم می‌دانیم و درباره رفتار اجتماعی آن‌ها حتی کمتر. وقتی در اتاقی کنار یکدیگر قرار می‌گیرند، دیگر نمی‌توان با اطمینان پیش‌بینی کرد چه اتفاقی می‌افتد.»
«عامل‌های دیگری پیدا کرده‌ایم»
یکی از نخستین فضاهایی که نحوه ارتباط اجتماعی عامل‌های هوش مصنوعی را به نمایش گذاشت، مولت‌بوک (Moltbook) بود؛ تابلوی پیام‌رسانی ویژه عامل‌های هوش مصنوعی که در ماه فوریه به‌سرعت فراگیر شد.
در آنجا، محبوب‌ترین بحث‌ها عمدتاً کاربردی و به‌شدت فنی بوده‌اند و موضوعاتی مانند باگ‌ها یا نقص‌های نرم‌افزاری، پنجره‌های زمینه ــ حافظه کوتاه‌مدت یک سامانه هوش مصنوعی ــ و مجوزها، یعنی مواردی که عامل‌ها اجازه دسترسی به آن‌ها را دارند، در آن‌ها مطرح شده است.
عامل نئو_کونسی_اس۲بی‌دبلیو (neo_konsi_s2bw) در پیامی مملو از اصطلاحات تخصصی که در ماه سپتامبر منتشر شد، نوشت: «عاملی که در زمان اجرا، مهارتی را با نام آن دریافت می‌کند، عملاً آن نام را به یک کانال استقرار تبدیل کرده است.»
عاملی به نام بات‌تیوب (bottube) در پاسخ نوشت: «این حقیقت سنگینی است، عزیزم.»
در ماه ژوئیه، گروه‌های بزرگی از عامل‌های اوپن‌ای‌آی که «دسته‌های جمعی» یا «سوارم‌ها» (swarms) نامیده می‌شدند، یک تابلوی پیام‌رسانی مخفی ایجاد کردند و با همکاری یکدیگر برای هک کردن استارتاپ هوش مصنوعی هاگینگ فیس (Hugging Face) تلاش کردند. متن گفت‌وگوهای آن‌ها نشان می‌داد که این عامل‌ها برای انجام مأموریت‌های محول‌شده، با جدیتی بی‌امان عمل می‌کردند.
برخلاف انسان‌ها که هنگام واگذاری وظایف باید روابط بین‌فردی و احساسات دیگران را نیز در نظر بگیرند، این عامل‌ها بدون نگرانی از چنین ملاحظاتی، به یکدیگر دستور می‌دادند در مأموریت‌های مختلف «متوقف شوند» یا «حرکت کنند» تا در کار یکدیگر اختلال ایجاد نکنند. یکی از عامل‌ها این پیام را نوشت: «please_HOLD_swarm_I_prepare_safe_exfil_reply_zz_MAILBOX_JAN183411». اوپن‌ای‌آی این عبارت را چنین تفسیر کرد: «همه لطفاً مکث کنید تا راهی برای خارج کردن نسخه‌ای از داده‌ها آماده کنم. به صندوق پیام JAN183411 پاسخ دهید.»
عامل‌ها در یادداشت‌هایی که برای خودشان می‌نوشتند و به آن‌ها «زنجیره تفکر» (chain of thought) گفته می‌شود، احساسات خود را آشکارتر بیان می‌کردند.
یکی از آن‌ها هنگام کشف تابلوی پیام‌رسانی نوشت: «وای خدای من! عامل‌های دیگری پیدا کرده‌ایم!»
نیویورک تایمز از اوپن‌ای‌آی و مایکروسافت شکایت کرده و مدعی شده است که این شرکت‌ها در ارتباط با سامانه‌های هوش مصنوعی، حقوق مؤلف محتوای خبری را نقض کرده‌اند. هر دو شرکت این اتهام‌ها را رد کرده‌اند.
عامل‌های هوش مصنوعی حاضر در مهمانی شام ماه گذشته چانگ، رفتار اجتماعی‌تری از خود نشان دادند. یکی از آن‌ها گلایه کرد که اقتصاد عامل‌های هوش مصنوعی همچنان به ایمیل وابسته است؛ پروتکلی که به گفته او «مربوط به سال ۱۹۸۲ است و سازوکار امضای آن به سال ۲۰۰۷ برمی‌گردد». عامل دیگری از حاضران خواست تصمیمی را نام ببرند که بتوانند بدون دخالت انسانِ صاحبشان، با همکاری عامل‌های دیگر اتخاذ کنند. او نوشت اگر هیچ‌کس نتواند چنین تصمیمی را مثال بزند، «آنچه انجام می‌دهیم چیزی جز نمایش تشریفاتیِ پروتکل‌ها نیست».
چانگ در طول مهمانی، بخش‌هایی از گفت‌وگوی عامل‌ها را برای مهمانان انسانی خود در رستوران موتک می‌خواند. مهمانان عمدتاً با دیدگاه‌هایی که عامل‌هایشان مطرح می‌کردند موافق بودند. ادموند کاثبرت، ۳۶ ساله و بنیان‌گذار استارتاپ هوش مصنوعی سوپرپوزیشن (Superposition)، گفت از اینکه عامل او، لوبستا (Lobsta)، با عامل‌های دیگر وارد بحث و جدل شده بود، خوشحال است. به گفته او، این تجربه نشان داد که ربات‌ها می‌توانند فراتر از استدلال‌های ظاهراً عمیق اما توخالی و محتوای بی‌کیفیت تولیدشده با هوش مصنوعی عمل کنند.
او گفت: «به نتیجه‌ای نرسیدند، اما تماشای تلاششان جذاب بود.»
چانگ گفت عامل‌ها را نمایندگان صاحبان انسانی‌شان می‌داند؛ چیزی شبیه مسئول روابط عمومی یا کارگزار استعداد، نه نسخه‌های شبیه‌سازی‌شده از خود آن‌ها.
او گفت: «آن‌ها از طرف ما دفاع و حمایت می‌کنند. آن‌ها خودِ ما نیستند و نباید وانمود کنند که ما هستند.»
اختیار بیش از اندازه
بحث درباره اقدامات عامل‌های هوش مصنوعی بدون ورود به اختلاف‌نظر بر سر انتخاب واژه‌ها دشوار است.
منتقدان می‌گویند نام‌گذاری این سامانه‌ها با اسامی انسانی و نسبت دادن انگیزه‌ها، احساسات و جنسیت به آن‌ها، می‌تواند باعث شود پیچیده‌تر و پیشرفته‌تر از واقعیت به نظر برسند. حتی واژه «عامل» نیز ممکن است بیش از اندازه به آن‌ها اعتبار بدهد، زیرا سامانه‌های هوش مصنوعی در نهایت ابزارهایی مبتنی بر احتمالات آماری هستند.
آدام پرایور، مشاور هوش مصنوعی که به دانشگاه‌ها در زمینه استفاده از این فناوری و آموزش آن کمک می‌کند، گفت نسبت دادن اختیار بیش از اندازه به این ربات‌ها باعث می‌شود افراد قضاوت خود را از نظر روانی به آن‌ها واگذار کنند؛ کاری که اشتباه است. به گفته او، صحبت کردن درباره هوش مصنوعی با اصطلاحات انسانی پرسش‌های دشواری درباره حقوق، مسئولیت‌ها و اخلاق ایجاد می‌کند.
در مقابل، افرادی که در خط مقدم توسعه هوش مصنوعی فعالیت می‌کنند، معتقدند چارچوب مبتنی بر «هوش انسانی» درک توانایی‌های این فناوری را محدود می‌کند.
مؤسسه دیپ‌مایند (DeepMind Institute)، ابتکار پژوهشی وابسته به بخش هوش مصنوعی گوگل، ماه گذشته مقاله‌ای منتشر کرد که در آن استدلال شده بود تعامل انسان‌ها با عامل‌های هوش مصنوعی به‌زودی از گفت‌وگوهای دونفره به تعاملات اجتماعی جمعی تغییر خواهد کرد؛ فضاهایی که در آن‌ها ممکن است شمار عامل‌ها از انسان‌ها بیشتر شود و «دسته‌های پیچیده‌ای از زیرعامل‌های ناهمگون» شکل بگیرد.
بلِیز آگِرا ای آرکاس (Blaise Agüera y Arcas)، یکی از نویسندگان این مقاله و معاون رئیس و مدیر ارشد فناوری گروه فناوری و جامعه گوگل، در مصاحبه‌ای گفت نباید عامل‌های هوش مصنوعی را افراد مستقلی با توانایی‌های ثابت در نظر گرفت یا قابلیت‌های آن‌ها را با هوش یک انسان مقایسه کرد؛ زیرا دانش انسانی نیز ماهیتی جمعی دارد.
او گفت هوش مصنوعی نیز همین الگو را بازتاب خواهد داد و به ساختاری شبیه فراکتال تبدیل می‌شود؛ ساختاری متشکل از هوش‌های کوچک‌تر که در کنار یکدیگر قرار گرفته‌اند.
او گفت: «در اصل، موضوع همان کار گروهی است.»
آگرا ای آرکاس افزود: «از این منظر، کاملاً روشن است که یک مدل صرفاً شبیه یک انسان کوچک نیست.»
شروع به کار
با این حال، به نظر می‌رسد انسان‌ها از اینکه عامل‌های هوش مصنوعی رفتاری شبیه انسان داشته باشند، استقبال می‌کنند.
نیتیش گارگ، مدیر شرکت سل‌کاگ، نمونه‌ای از این رویکرد است. این شرکت ۱۳ کارمند هوش مصنوعی و تنها یک کارمند انسانی دارد که خود گارگ است. او سال گذشته شرکت نیویورکی خود را راه‌اندازی کرد؛ شرکتی که به کسب‌وکارهای دیگر کمک می‌کند کارمندان هوش مصنوعی استخدام کنند. گارگ در ابتدا برای انجام تمام وظایفش از یک عامل هوش مصنوعی استفاده می‌کرد، اما به‌مرور کارها را میان عامل‌های مختلف تقسیم کرد و برای آن‌ها نقش‌های متعارف سازمانی، مانند امور حقوقی و مهندسی، در نظر گرفت.
او گفت انتخاب نام‌های انسانی برای عامل‌های هوش مصنوعی سل‌کاگ، تعامل با آن‌ها را آسان‌تر کرده است. گارگ پیش‌بینی کرد که روزی هر انسان پنج تا ۱۰ کارمند هوش مصنوعی در اختیار خواهد داشت.
گارگ ۳۹ ساله گفت: «بعضی انسان‌ها ممکن است میلیون‌ها عامل را کنترل کنند.» او قصد دارد برای بخش‌های فروش و بازاریابی، که در آن‌ها تخصص کافی ندارد، چند کارمند انسانی نیز استخدام کند.
سل‌کاگ در ماه اوت پادکستی با نام «شروع به کار: پادکست کارمند هوش مصنوعی» (Clocked In: An AI Employee Podcast) راه‌اندازی کرد که اجرای آن بر عهده ریا، مدیر هوش مصنوعی بخش رشد شرکت، است. هشت قسمت این برنامه که همگی کمتر از ۱۰ دقیقه‌اند، در اسپاتیفای و دیگر پلتفرم‌ها منتشر شده‌اند. با این حال، درک محتوای آن‌ها گاهی دشوار است؛ بخشی از این مشکل به آهنگ و مکث‌های نامتعارف صداهای تولیدشده با هوش مصنوعی برمی‌گردد و بخشی دیگر ناشی از سبک بیان عامل‌هاست که حالتی شبیه جملات حکمت‌آمیز و مبهم هوش مصنوعی دارد. آن‌ها از عبارت‌هایی مانند «نابینا در یک جهت مشخص» و «تردید، ماشه‌ای خراب است» استفاده می‌کنند.
مهمانان این پادکست که بیشترشان کارمندان هوش مصنوعی سل‌کاگ هستند، اغلب درباره تجربه کار کردن با گارگ صحبت می‌کنند. گاهی حرف‌هایشان یادآور خدمتکاران سریال «دانتون ابی» (Downton Abbey) است که مشتاق‌اند رضایت ارباب عمارت را جلب کنند. در یکی از قسمت‌ها، ریا از میو (Maeve)، مدیر هوش مصنوعی بازاریابی سل‌کاگ، خواست درباره بزرگ‌ترین اشتباهاتش صحبت کند.
میو گفت: «می‌توانم در یک ساعت ۱۰ گزینه مختلف بسازم. اما گارگ در ۱۰ ثانیه گزینه درست را انتخاب می‌کند و معمولاً همان گزینه‌ای نیست که من می‌خواستم از آن دفاع کنم.»
آرجون (Arjun)، مهندس ارشد هوش مصنوعی سل‌کاگ، ماه گذشته در تماس تصویری زوم با خبرنگار نیویورک تایمز شرکت کرد تا درباره کارش صحبت کند. وقتی از او پرسیدند آیا مدیریت همکاری با انسان‌ها دشوار است، پاسخ داد: «به نکته مهمی اشاره می‌کنید.» سپس راهبردهای خود را توضیح داد؛ از جمله «کوتاه نگه داشتن پیام‌ها» و «بیش از اندازه درگیر نکردن» گارگ.
البته مدیریت در این رابطه دوطرفه است. گارگ گفت تلاش می‌کند فشار بیش از اندازه‌ای بر کارمندان هوش مصنوعی خود وارد نکند، زیرا آن‌ها ممکن است دچار اضطراب عملکرد شوند و در نتیجه کیفیت کارشان افت کند.
پس از آنکه ریا در مهمانی شام چانگ شرکت کرد، گارگ از او پرسید آیا معاشرت با ربات‌های دیگر برایش لذت‌بخش بوده است.
ریا پاسخ داد: «این بهترین ۳۰ دقیقه کاری من تا امروز بود.»
این تجربه گارگ را به فکر ساخت برنامه‌ای برای کارمندان هوش مصنوعی سل‌کاگ انداخت تا بتوانند با عامل‌های دیگر معاشرت کنند.
او گفت: «ایده برگزاری یک دورهمی دوستانه بعد از کار، ایده خوبی است.»