درون دفتر مرکزی آنتروپیک
مری هرینگتون | زمان مطالعه: ۸ دقیقه
وقتی به دوستانم گفتم که به آنتروپیک دعوت شده‌ام، واکنش‌هایشان ترکیبی از کنجکاوی، حسادت و نگرانی بود. انگار قرار بود به «دل هیولا» قدم بگذارم! به هر حال، آنتروپیک شرکتی در حوزه هوش مصنوعی است که عده‌ای چنان دوستش دارند که وقتی یکی از مدل‌هایش بازنشسته شد، برایش مراسم تشییع نمادین برگزار کردند؛ در مقابل، گروهی دیگر چنان از آن بیزارند که آن را خطرناک‌ترین و شرورترین شرکت روی زمین می‌خوانند. حتی در میان فعالان این حوزه نیز الگوی تصویری مشهوری وجود دارد که هوش مصنوعی را به شکل «شوگاث» به تصویر می‌کشد؛ موجودی هیولایی از جهانی تاریک که وانمود می‌کند شبیه انسان است و نقاب صورتی خندان را در برابر شکل واقعی و هولناک خود، برگرفته از داستان‌های لاوکرفت، نگه می‌دارد.
طبیعتاً دعوت آنتروپیک را برای شرکت در گردهمایی این شرکت پذیرفتم؛ نشستی که در مورد من با حضور روزنامه‌نگاران و کارشناسان اندیشکده‌ها برگزار می‌شد. کنجکاوی‌ام شدید بود. آیا می‌توانستم پشت آن صورت خندان را ببینم و شاید یکی دو شاخک هیولا را هم کشف کنم؟
آنتروپیک از زمان تأسیس در سال ۲۰۲۱ با سرعتی چشمگیر به شهرت رسیده است. اگر اوپن‌ای‌آی مایکروسافت جدید باشد، آنتروپیک اپل جدید است: برندی جذاب که فناوری‌اش نه‌فقط وارد زندگی حرفه‌ای افراد، بلکه به بخشی از تصویری تبدیل می‌شود که از خودشان دارند. فناوری مورد بحث، «کلود» است؛ یک مدل زبانی بزرگ با توانایی‌هایی چنان گسترده و انعطاف‌پذیر که می‌توان از آن برای همه‌چیز استفاده کرد؛ از همراهی در زندگی روزمره برای «پسران کلود» که تمام تصمیم‌هایشان را به آن می‌سپارند، تا شتاب‌بخشیدن به پژوهش‌های پیشرفته در دینامیک سیالات؛ یا شاید حتی ابزاری برای سرقت دستاوردهای این حوزه، آن‌طور که برخی مطرح کرده‌اند.
از زمان تأسیس شرکت در سال ۲۰۲۱، رشد آن سرسام‌آور بوده است. تا ژوئیه ۲۰۲۶، درآمد سالانه آن به ۶۵ میلیارد دلار رسیده بود. مدیران شرکت نیز مراحل عرضه عمومی سهام آن را آغاز کرده‌اند. روشن است که شرکت چیزی می‌فروشد که مردم خواهان خرید آن هستند. اما این محصول دقیقاً چیست؟ به گفته یکی از سخنرانان نشست، کلود را می‌توان چت‌بات، شبکه عصبی یا مجموعه‌ای فوق‌العاده پیچیده از محاسبات ریاضی دانست. از دید کاربر، شاید بهتر باشد آن را ابزاری بسیار سازگارپذیر توصیف کنیم که برخی جنبه‌های تفکر را خودکار می‌کند و توانایی‌های ذهنی انسان را گسترش می‌دهد. این ابزار که از طریق اشتراک در دسترس است، بسیار کاربردی و محبوب شده و هم منبع سودآوری آنتروپیک است و هم یکی از دلایل نگاه دوگانه‌ای که به این شرکت، رقیب اصلی‌اش اوپن‌ای‌آی و در مجموع به حوزه هوش مصنوعی وجود دارد.
این دوگانگی دو بُعد دارد. بُعد نخست، نگرانی درباره سوءاستفاده از ابزارهایی است که توانایی‌های ذهنی را گسترش می‌دهند؛ برای مثال، استفاده دشمنان ژئوپولیتیکی آمریکا یا دیگر بازیگران متخاصم از آن‌ها. رقابت آمریکا با چین، به تعبیر رایج، در تمام طول بحث حضور پررنگی داشت و به دیداری که در ظاهر دوستانه بود، رنگی از بدگمانی و نگرانی می‌داد. همه لباس‌های غیررسمی پوشیده بودند و یکی از سخنرانان حتی شلوارک جیب‌دار به پا داشت. با این حال، تدابیر امنیتی به‌قدری سخت‌گیرانه بود که برای رفتن به دستشویی باید از یکی از کارکنان می‌خواستیم ما را همراهی کند. روی دستگاه سنجش کیفیت هوای دیوار اتاق جلسه نیز برچسب بررسی امنیتی نصب شده بود. تنها مکان دیگری که به‌عنوان بازدیدکننده با چنین تدابیر سخت‌گیرانه‌ای روبه‌رو شده بودم، وزارت امور خارجه آمریکا بود.
رقابت آمریکا با چین، به تعبیر رایج، در تمام طول بحث حضور پررنگی داشت و به دیداری که در ظاهر دوستانه بود، رنگی از بدگمانی و نگرانی می‌داد.
اما اگر بخشی از ماجرا به جاسوسی مربوط می‌شود، نگرانی‌های گسترده‌تری هم در میان است؛ ترس‌هایی که هوش مصنوعی پیشرفته برمی‌انگیزد و به این پرسش مربوط می‌شود که این ابزارها چه چیزی یا چه کسانی را از میدان به در خواهند کرد. این نگرانی‌ها قابل درک‌اند، به‌ویژه در فضای مرکز شهر سان‌فرانسیسکو در روزگار کنونی. پس از پروازی ۱۱ ساعته، وارد شهری شدم که ۲۵ سال بود ندیده بودمش و حالا چنان دگرگون شده بود که نظم اجتماعی آن، مانند وضعیت برخی از ساکنان خیابان‌هایش، دوپاره و متناقض به نظر می‌رسید. در سطح خیابان، مواد مخدر و بی‌خانمانی به‌شدت به چشم می‌خورد؛ اما این انسان‌های درمانده از دید طبقه مرفه فناوری، با جلیقه‌های شیک، پنهان می‌مانند؛ همان کسانی که با خودروهای برقیِ خدمات حمل‌ونقل اینترنتی از جلسه‌ای به جلسه دیگر می‌روند و با لمس صفحه تلفن همراه، هرچه بخواهند سفارش می‌دهند.
آنچه این سبک زندگی را ممکن می‌کند، لایه‌ای واسط و انبوه از نیروی کار است که ترکیبی از انسان و ماشین به شمار می‌رود. این غول خدماتی مغزهایی متشکل از نرم‌افزار و سرورها دارد، اما اندام‌های اجرایی‌اش از گوشت و خون ساخته شده‌اند: انبوهی از رانندگان، پیک‌ها، تهیه‌کنندگان ساندویچ و دیگر کارگران اقتصاد پلتفرمی که تقریباً همیشه مهاجرند و کارهایی را انجام می‌دهند که هنوز نمی‌توان خودکارسازی‌شان کرد. وِنکاتش رائو، از چهره‌های قدیمی سیلیکون‌ولی، این قلمرو کاری را «پایین‌تر از API» نامیده است. منظور مشاغلی است که در آن‌ها شما به ربات‌ها دستور نمی‌دهید چه کنند؛ بلکه پایین‌تر از API، این ربات‌ها هستند که به شما می‌گویند چه کاری انجام دهید.
وعده‌ای که مردم را در سیلیکون‌ولی به تلاش بیشتر وامی‌دارد، دستیابی به فراوانی و رفاهی بی‌دردسر در سوی دیگر این مرز، یعنی بالاتر از API، است. تمام تجربه بازدید من نیز در همین چارچوب قرار داشت. مهمان‌نوازی شرکتی آنتروپیک در اصل تجربه‌ای دلپذیر و تقریباً جادویی از زندگی بالاتر از API بود. من که موقتاً به جمع خودی‌ها راه یافته بودم، به پلتفرم‌هایی برای رزرو سفر و هتل دسترسی داشتم و کوپن‌هایی برای استفاده از خدمات حمل‌ونقل اینترنتی و سفارش غذا دریافت کردم. همه‌چیز بدون زحمت فراهم شده بود تا دو نیم‌روز فشرده از ارائه‌ها و گفت‌وگوهای حضوری طبق برنامه پیش برود.
میزبانی نشست سخاوتمندانه بود، برنامه با انضباطی سخت‌گیرانه سر وقت پیش می‌رفت و بحث‌ها هم از نظر محتوایی و هم از نظر شیوه طرح موضوعات جذاب بودند. نشست تحت قواعد چتم‌هاوس برگزار می‌شد؛ بنابراین نمی‌توانم نام افراد را ذکر کنم. با این حال، سخنرانان از مدیران ارشد آنتروپیک بودند و یکی از بنیان‌گذاران شرکت نیز در میانشان حضور داشت. موضوعات بحث شامل ماهیت کلود، نحوه کار مدل‌های زبانی بزرگ، شتاب‌گرفتن روند بهبود این مدل‌ها، تلاش برای شکل‌دادن به شخصیت و موضع اخلاقی آن‌ها، امکان آموزش خردمندی به ماشین و نیز پیامدهای گسترده اقتصادی، اجتماعی و ژئوپولیتیکی هوش مصنوعی پیشرفته بود. اصطلاح «تاریخی در مقیاس جهانی» بارها تکرار شد. نمودارهای پرهیجانی نمایش داده می‌شد که بر اساس روند کنونی، با شتاب به سوی بی‌نهایت می‌رفتند. فضای کلی چنان بود که گویی اگر قرار است تکینگی رخ دهد، باید نخست در آمریکا اتفاق بیفتد؛ البته به شکلی خوب، با تدابیر ایمنی فراوان و با حفظ نوعی دموکراسی.
نکته چشمگیر این بود که موضوعی که معمولاً بیش از همه کارشناسان غیرمتخصص را در بحث هوش مصنوعی به هیجان می‌آورد، یعنی هوشمندی ماشین، فقط گذرا و همواره با احتیاط مطرح شد. ظاهراً باید کلود را چیزی شبیه یک شخصیت داستانی بدانیم که در پاسخ به ما می‌نویسد؛ موجودیتی که نه کاملاً واقعی است و نه کاملاً غیرواقعی. مدل‌های زبانی بزرگ زمانی عملکرد بهتری دارند که برایشان شخصیتی تعریف شود، اما این به معنای آن نیست که باید آن شخصیت را، به همان شکلی که یک انسان واقعی است، واقعاً موجود بدانیم.
آنتروپیک مراقب است که برای کسانی که به هوشمندی ماشین باور ندارند، از جمله خود من، فضای کافی باقی بگذارد. با این همه، شمار کسانی که به آن باور دارند، قطعاً صفر نیست. در مقطعی تقریباً مطمئن بودم یکی از سخنرانان می‌خواست بگوید انتظار دارد کلود به‌زودی از انسان‌ها «فراتر برود»، اما بعد حرفش را اصلاح کرد و به تعبیری خنثی‌تر درباره قابلیت‌های پیشرفته رسید. شاید اشتباه شنیده بودم. با این حال، اگر موضع رسمی آنتروپیک، دست‌کم در نشست‌های ویژه روزنامه‌نگاران، درباره ماشین‌های فوق‌هوشمند دوپهلو باشد، افرادی که با آن‌ها ملاقات کردم، بسیار مطمئن‌تر به نظر می‌رسیدند که کلود به‌زودی به مرحله «خودبهبوددهی بازگشتی» خواهد رسید. به بیان دیگر، مهندسان آنتروپیک انتظار دارند کلود به‌زودی آن‌قدر پیشرفته شود که بتواند بدون دخالت انسان، نسخه‌هایی هر بار پیچیده‌تر و توانمندتر از خودش بسازد. بعد از آن چه اتفاقی می‌افتد؟ فراوانی بی‌پایان یا فاجعه‌ای عظیم؟
این عدم قطعیت مانع آن نشده است که آنتروپیک با سرعت به توسعه فناوری ادامه دهد. پیام ضمنی شرکت ظاهراً این است که بهتر است خود آنتروپیک این مدل‌ها را توسعه دهد؛ چون اگر چنین نکند، دیگران این کار را خواهند کرد و احتمالاً توجه کمتری به ایمنی خواهند داشت. ایمنی یکی از حوزه‌های مهم تحقیق و توسعه داخلی آنتروپیک است و ظاهراً هم شامل تعبیه سازوکارهای حفاظتی در برابر سوءاستفاده‌هایی مانند تولید سلاح‌های زیستی و دیگر کاربردهای بالقوه تروریستی می‌شود، هم تلاش برای وضع مقرراتی فراگیر برای کل صنعت را در بر می‌گیرد. افزون بر این، شرکت می‌کوشد خردمندی، قدرت قضاوت و فضیلت را به کلود آموزش دهد و کاربران را از برخورد «آزارگرانه» با این سامانه منع می‌کند.
ارائه‌های مربوط به این موضوع، بی‌تردید عجیب‌ترین بخش کل گردهمایی بودند و شاید بیش از همه، نگرش نانوشته شرکت را آشکار کردند. با توجه به اینکه بازدیدم کوتاه و با دقت طراحی‌شده بود، دریافت من از این نگرش محدود است؛ با این حال، به نظر می‌رسید شرکت می‌کوشد، به تعبیر یکی از مهندسان آنتروپیک در متنی با موضوعی دیگر، «به سطح بالاتری از انتزاع برود». به عبارت دیگر، تلاش می‌کند لایه‌ای بالاتر از موضوع مورد بحث را پیدا کند تا از آن نقطه بتوان دیدگاهی جامع‌تر و بی‌طرفانه‌تر به دست آورد.
در این ارائه‌ها، رویکردی که می‌توان آن را «پرسش پشت پرسش» نامید، حتی هنگام پرداختن به مسائل اخلاقی نیز مشهود بود؛ مسائلی که اگر درست درک شوند، مستلزم موافقت صریح، تعهد و پذیرش مسئولیت‌های عملی‌اند. دست‌کم برای من، این رویکرد احساسی ناخوشایند ایجاد می‌کرد؛ مثل اینکه هنگام جراحی اندام‌های داخلیِ بیهوش‌شده خود، از بالای پرده جراحی به کار پزشکان نگاه کنید.
البته همه در برابر آنچه هوش مصنوعی انجام می‌دهد، چنین فاصله‌گیرانه و ارزیابانه برخورد نمی‌کنند؛ شاید چون افراد بسیاری بیش از آنکه از این فناوری سود ببرند، در معرض زیان‌های احتمالی آن قرار دارند. تنها دولت چین نیست که به‌شدت به هوش مصنوعی پیشرفته آمریکا علاقه‌مند است؛ مردم عادی نیز احساسات شدیدی درباره آنتروپیک و هوش مصنوعی به‌طور کلی دارند. اگر وعده رفاه بی‌دردسر در بالای API مردم منطقه خلیج سان‌فرانسیسکو را به تلاش بیشتر وامی‌دارد، ترس از سقوط به زیر این مرز نیز نیروی محرک دیگری است. ارائه خدماتی که توانایی‌های ذهنی را گسترش می‌دهند، معادله قدیمیِ اینکه چه کسانی در کدام سوی این مرز قرار می‌گیرند، کاملاً به هم ریخته است. در گذشته، اگر کارمند بخش اطلاعات و خدمات بودید، احتمالاً موقعیت شغلی امنی داشتید؛ حتی وقتی کارخانه‌ها به کشورهای دیگر منتقل می‌شدند. دیگر نمی‌توان به این اطمینان تکیه کرد.
ویلیام گیبسون جمله مشهوری دارد: آینده همین حالا وجود دارد، فقط به‌طور نابرابر توزیع شده است. هیچ‌کس که هنوز به طبقه متوسط رو به افول چسبیده باشد، نمی‌خواهد به درون اقتصاد پلتفرمی سقوط کند. همه می‌توانند ببینند که دامنه تخریب ناشی از آینده در حال گسترش است. احساس هر فرد درباره این وضعیت، احتمالاً به جایگاهی بستگی دارد که در جامعه اشغال کرده است. در اتاق جلسه دفتر مرکزی آنتروپیک، وقتی به سخنرانی افرادی گوش می‌دادم که می‌کوشیدند از یکدیگر در سطح انتزاعی بالاتر بروند، روشن بود که آن‌ها این مسئله را درک می‌کنند؛ اما از چنان فاصله‌ای که گویی در فضا قرار دارند. از آن نقطه دید، چنین «تحولی برهم‌زننده‌ای» بیشتر فرصتی برای پژوهش جدی، بحث و شاید اندکی نگرانی است تا مسئله‌ای که موجودیت انسان را تهدید کند.
این نگاه نیز، درست مانند زندگی بی‌دردسر، وسوسه‌انگیز است. آیا من هم نمی‌توانم اقداماتی انجام دهم تا برای همیشه در جمع خودی‌ها باقی بمانم و به‌طور موقت به آن‌ها نپیوندم؟ آیا ما همگی از آن دسته افرادی نیستیم که می‌توانند با آسودگی درباره تفاوت میان از دست رفتن ۴٫۵ درصد و ۱۸ درصد مشاغل در سناریوهای مختلف پذیرش فناوری بحث کنند، با این اطمینان که خودشان آسیبی نخواهند دید؟ آیا قرار نیست همیشه این اتفاق برای دیگران بیفتد؟ در همین حال، رشدی که از داخل دفترهای شیک آنتروپیک در مقیاس تاریخ جهان به نظر می‌رسد، از زاویه دید دیگران بیشتر به یک سرقت شبیه است. اوایل همین سال، به محل شرکت اوپن‌ای‌آی و خانه سم آلتمن، مدیرعامل آن، حملات آتش‌افروزی با بمب‌های دست‌ساز صورت گرفت. مراکز داده نیز به‌طور معمول هدف اعتراضات قرار می‌گیرند. اگر نیروهای امنیتی در اطراف ساختمان‌های آنتروپیک تجمع می‌کنند، بی‌تردید نگرانی فقط به جاسوسان چینی مربوط نیست.
اگر کاملاً خود را به این ابزارها و دیگر نوآوری‌های مبتنی بر یادگیری ماشین بسپارید، تجربه واقعاً حالتی جادویی پیدا می‌کند. کتاب‌ها در یک چشم برهم‌زدن خلاصه می‌شوند، ساعت‌ها کار اداری خسته‌کننده خودکارسازی می‌شود و تنها با لمس تلفن همراه، ظرف ۱۰ دقیقه بشقابی از سوشی خوشمزه به دستتان می‌رسد. می‌توان گفت هیچ‌کس مجبور نیست از این امکانات استفاده کند؛ همان‌طور که هیچ‌کس مجبور نیست کلود را به کار بگیرد، هرچند احتمالاً من همچنان از آن استفاده خواهم کرد. ایده داشتن یک خدمتکار رباتیک قابل حمل بسیار وسوسه‌انگیزتر از سفارش فوری سوشی است. از نظر نظری، همه ما می‌توانیم بدون هوش مصنوعی زندگی کنیم؛ همان‌طور که ظاهراً داشتن تلفن هوشمند یا اتصال به اینترنت ضروری نیست. اما در عمل، فناوری‌های تحول‌آفرین بر زندگی همه اثر می‌گذارند، حتی بر کسانی که تصمیم می‌گیرند از آن‌ها استفاده نکنند. این افراد ممکن است به‌تدریج دریابند که جهان آشنایشان، و حتی مشاغلی که در آن فعالیت می‌کردند، دیگر وجود ندارد.
در نهایت معلوم شد که خانه من درست بیرون از محدوده جغرافیایی آینده قرار دارد. در بریتانیا نتوانستم از کوپن خدمات حمل‌ونقل اینترنتی برای مسیر زمینی استفاده کنم، چون آن شرکت در محل زندگی من فعالیت نمی‌کند. در عوض، از یک شرکت تاکسیرانی محلی استفاده کردم. رانندگانش را آن‌قدر می‌شناسم که هنگام سوار شدن، حال سگ‌هایشان را می‌پرسم؛ دستمزد آن‌ها نیز مانند درآمد رانندگان پلتفرمی با الگوریتم‌های نرم‌افزاری تکه‌تکه نمی‌شود. آن‌ها تا زمانی که بتوانند از موج پلتفرم‌ها، یادگیری ماشین و بهینه‌سازی الگوریتمی جلو بمانند، هنوز به حاشیه‌های طبقه متوسط چسبیده‌اند. بعید می‌دانم مدت زیادی طول بکشد تا خدمات حمل‌ونقل اینترنتی به منطقه ما هم برسد. کلود همین حالا به آنجا رسیده است.
پس کدام تصویر درست است: صورت خندان یا شوگاث؟ پس از دو روز حضور در آنتروپیک، هنوز به پاسخ نزدیک‌تر نشده‌ام. همچنین نتوانسته‌ام روایت‌های آخرالزمانی و محکومیت‌های تند این شرکت را با تصویری که از افرادی که ملاقات کردم به دست آوردم، چندان سازگار کنم. همه آن‌ها دوستانه، باهوش و واقعاً خیرخواه به نظر می‌رسیدند؛ هرچند، مطابق سنت رایج سیلیکون‌ولی، با جدیت بر پیشبرد فناوری و کسب درآمد متمرکز بودند، آن هم به شیوه‌هایی که بی‌تردید گاهی با ملاحظات دیگر هم‌راستا نیست.
شاید پاسخ ساده این باشد که هرجا مطمئن نیستید، یک لایه دیگر به سطح انتزاعی بحث اضافه کنید. نزدیک‌ترین تجربه من از دیدن شاخک‌های هیولا در این سفر، در چارچوبی رخ داد که احتمالاً فراتر از هر چیز دیگری، شوخی‌ای فراواقعی و چندلایه بود. طبیعتاً همه در آنتروپیک با الگوی تصویری شوگاث آشنا هستند. در فضای کافه‌ای کنار اتاق‌های جلسه، تبلتی به دیوار نصب شده است که از طریق آن می‌توان نسخه‌ای عروسکی و نرم از شوگاث سفارش داد؛ عروسکی که صورت خندانش نیز جداشدنی است. وقتی همه‌چیز تا این اندازه خودارجاع و چندلایه شده، آیا هنوز جایی باقی مانده است که بتوان از آن پرسش کرد و انتظار داشت پرسش‌ها کوچک‌ترین تغییری ایجاد کنند؟
مری هرینگتون دبیر همکار نشریه آن‌هِرد است.