عرضه عمومی آنتروپیک؛ جشن میلیاردی در سایه اعتراض‌ها به آینده هوش مصنوعی

www.platformer.news

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

شرکت آنتروپیک که وعده داده است به‌زودی جای انسان‌ها را بگیرد، اکنون بزرگ‌ترین عرضه اولیه سهام تاریخ را رقم زده است.

نشان تجاری آنتروپیک روی شیشه سیاه آینه‌ای
عکس: Shutterstock

آنتروپیک روز پنجشنبه، هم‌زمان با ورود به بورس نزدک، ۸۱.۳ میلیارد دلار سرمایه جذب کرد؛ رقمی که بزرگ‌ترین درآمد حاصل از عرضه اولیه سهام در تاریخ به شمار می‌رود. ارزش بازار این شرکت در پایان معاملات به ۱.۷۶ تریلیون دلار رسید و این آزمایشگاه هوش مصنوعی را به بزرگ‌ترین شرکت سهامی عام با ساختار انتفاع عمومی در جهان و یکی از بزرگ‌ترین شرکت‌های سهامی عام، به‌طور کلی، تبدیل کرد.

در نگاه نخست، این روز باید پیروزی بزرگی برای صنعت هوش مصنوعی باشد: یکی از محبوب‌ترین شرکت‌های دوران رونق این فناوری با موفقیت وارد بازار سهام شده و ضمن تأیید تقاضای عظیم برای هوش مصنوعی پیشرفته، صدها میلیارد دلار سرمایه را به اکوسیستم فناوری بازگردانده است. با وجود نگرانی‌های مداوم درباره حباب هوش مصنوعی، از جمله سازوکارهای تأمین مالی چرخشی در این صنعت و پیامدهای ژئوپلیتیکی فعالیت‌های جنسن هوانگ، سرمایه‌گذاران همچنان اشتیاق زیادی برای سرمایه‌گذاری کلان در آنتروپیک نشان دادند.

اما از سوی دیگر، مأموریت آنتروپیک ساخت سامانه‌های هوش مصنوعی هوشمندتر از انسان است؛ سامانه‌هایی که بنیان‌گذاران شرکت بارها هشدار داده‌اند ممکن است به نابودی همه انسان‌ها منجر شوند. بنابراین، این لحظه را چگونه باید توصیف کرد؟ شیرین و تلخ؟ دیوانه‌کننده؟ خشم‌برانگیز؟

پاسخ به این پرسش به این بستگی دارد که از چه کسی بپرسید.

داریو آمودی، مدیرعامل آنتروپیک، در سخنرانی خود در بورس نزدک تلاش کرد همان موضع همیشگی‌اش را حفظ کند: از یک سو درباره ظرفیت هوش مصنوعی برای ایجاد پیشرفت‌های علمی سخن گفت و از سوی دیگر درباره امکان سوءاستفاده از آن هشدار داد. او گفت: «من و دیگر بنیان‌گذاران شرکت آنتروپیک را تأسیس کردیم، چون باور داریم قدرتمندترین فناوری عصر ما باید در خدمت منافع بشریت ساخته شود.»

اما همه این حرف‌ها را باور نمی‌کنند. در حالی که بنیان‌گذاران شرکت در وال‌استریت، احتمالاً با شامپاین بدون الکل و دارای منشأ اخلاقی، موفقیت خود را جشن می‌گرفتند، بیش از ۱۰۰ معترض مقابل دفتر مرکزی آنتروپیک در سان‌فرانسیسکو تجمع کردند. آن‌ها پلاکاردهایی با عبارت‌هایی مانند «به رقابت هوش مصنوعی پایان دهید»، «زمین در خطر است» و «لطفاً متوقف شوید» در دست داشتند. جیکوب کاکسون، که انتشار توییت پربازدیدش درباره استعفا از آنتروپیک توجه تازه‌ای به جنبش ایمنی هوش مصنوعی جلب کرده بود، از جمله حاضران در این تجمع بود و در آن سخنرانی کرد. چهار نفر نیز به اتهام مسدود کردن ورودی دفتر شرکت بازداشت شدند.

در نقطه‌ای دیگر، گروهی متنوع از چهره‌ها، از گری مارکوس، منتقد همیشگی هوش مصنوعی، تا گیوم وردون، از طرفداران سرسخت شتاب‌دادن به توسعه این فناوری که با نام مستعار «بف جفوس» شناخته می‌شود، بیانیه‌ای با عنوان «بیانیه ضدآنتروپیک» را امضا کردند.

در این بیانیه آمده است:

«آنتروپیک هشدار می‌دهد که هوش مصنوعی با قابلیت خودبهبوددهی بازگشتی ممکن است قدرت را در دست گروهی محدود متمرکز کند و از کنترل انسان خارج شود، اما خود این شرکت برای ساخت نخستین نمونه از چنین فناوری‌ای با دیگران رقابت می‌کند. آنتروپیک با استفاده از تصویرسازی ایمنی‌محور، سرمایه‌گذاران، کارکنان و افکار عمومی را جذب می‌کند؛ در حالی که بی‌سروصدا از تعهدات ایمنی خود عقب‌نشینی کرده و برای تصویب مقرراتی لابی می‌کند که منافع خودش را تأمین کنند. آنتروپیک شرکت ایمنی در حوزه هوش مصنوعی نیست و باید تلاش بی‌ملاحظه آن برای انباشت قدرت به نام خیر عمومی را رد کنیم.»

آینده‌پژوهان مدت‌هاست درباره خطرات «خودبهبوددهی بازگشتی» نظریه‌پردازی می‌کنند. در چنین وضعیتی، یک سامانه هوش مصنوعی به‌اندازه کافی پیشرفته، نسخه‌های نسل بعدی خود را می‌سازد و این چرخه با سرعت فزاینده‌ای تکرار می‌شود. چنین فرایندی ممکن است از کنترل خارج شود؛ زیرا انسان‌ها به‌تدریج توانایی کمتری برای درک عملکرد سامانه یا متوقف کردن آن در صورت بروز رفتارهای نادرست خواهند داشت.

گزارشی که اخیراً مؤسسه ارزیابی ایمنی هوش مصنوعی METR منتشر کرده، نشان می‌دهد سرعت پیشرفت آنتروپیک در تحقیق و توسعه هوش مصنوعی، به لطف توانایی این فناوری در انجام پژوهش، تقریباً دو برابر شده است. نکته مهم این است که دو برابر شدن سرعت پیشرفت پژوهشی به این معناست که شرکت از آستانه ریسک تعیین‌شده خودش برای «تحقیق و توسعه خودکار» در سند «سیاست توسعه مسئولانه» عبور کرده است.

بر اساس این سیاست، آنتروپیک اکنون باید برای پایبندی به تعهداتش، اقدامات تازه‌ای در زمینه ممیزی ایمنی، سیاست‌های امنیتی و گزارش‌دهی شفاف انجام دهد. با این حال، سیاست توسعه مسئولانه این شرکت الزام‌آور نیست. آنتروپیک از قانون SB 53 کالیفرنیا حمایت کرد؛ قانونی که شرکت‌ها را ملزم می‌کند سیاست‌های ایمنی خود را منتشر کنند و از نظر قانونی به آن‌ها پایبند باشند. اما پس از تصویب این قانون، آنتروپیک چارچوبی ضعیف‌تر را در قالب آن ارائه کرد و تعهدات بلندپروازانه‌تر خود در زمینه ایمنی را به اقداماتی داوطلبانه تبدیل کرد.

آمودی در سخنرانی خود در نزدک وعده داد که «آموزش و عرضه سامانه‌های هوش مصنوعی را با آهنگی متناسب پیش خواهیم برد و برای اطمینان از ایمنی آن‌ها، هرقدر لازم باشد زمان صرف خواهیم کرد». او افزود: «نه در برابر فشارهای تجاری کوتاه خواهیم آمد و نه در برابر فشارهای سیاسی.»

با این حال، آنتروپیک همچنان با فشارهای تجاری برای ساخت قدرتمندترین سامانه‌های هوش مصنوعی روبه‌رو خواهد بود؛ هم برای حفظ مشتریان و هم برای جلب رضایت سرمایه‌گذاران. رابرت آرمسترانگ از روزنامه فایننشال تایمز برآورد کرده است که این شرکت برای تأمین بازده ۲۰ درصدی سرمایه‌گذاری، مشابه آنچه رقبایش به دست می‌آورند، باید سالانه بیش از ۶۰۰ میلیارد دلار درآمد داشته باشد. برای مقایسه، درآمد سالانه اپل تنها ۴۷۸ میلیارد دلار است. آمودی در گفت‌وگویی با شبکه CNBC نیز گفت آنتروپیک می‌خواهد به شرکتی با رتبه اعتباری بالا تبدیل شود و قصد دارد بدهی بیشتری منتشر کند.

جذب میلیاردها دلار سرمایه و دریافت وام‌های بیشتر برای خرید توان پردازشی هرچه گسترده‌تر، از نظر برخی افراد راه عجیبی برای «مدیریت سرعت پیشرفت فناوری‌های پیشرفته» است. آمودی اقدامات شرکت را با این استدلال توجیه کرده که چنین رویکردی برای شکل‌گیری «رقابتی رو به بالا» ضروری است؛ رقابتی که در آن موفقیت مالی و تعهدات ایمنی آنتروپیک، شرکت‌های رقیب را نیز به اتخاذ رویکردهای مشابه ترغیب می‌کند تا از این شرکت عقب نمانند.

جاسمین سان در یادداشتی برای نیویورک تایمز گزارش داد که یکی از کارکنان سابق آنتروپیک، که نخواست نامش فاش شود، توصیفی قابل‌توجه از این دیدگاه ارائه کرده است:

«یکی از کارکنان سابق آنتروپیک برای توضیح طرز فکر این شرکت به تمثیلی از جی. آر. آر. تالکین اشاره کرد: هرکس زودتر از دیگران ابرهوش مصنوعی را بسازد، حلقه سائورون را به دست خواهد آورد. آن فرد یا شرکت به خطرناک‌ترین سلاح‌های سایبری جهان، درمان‌ها و دستورالعمل‌های مقابله با همه بیماری‌ها و ارتشی از نوابغ دیجیتال خستگی‌ناپذیر دسترسی خواهد داشت که هرچه به آن‌ها فرمان داده شود انجام می‌دهند. بنابراین، مهم‌ترین پرسش این است که کسی که این حلقه را در اختیار می‌گیرد، از نظر اخلاقی چه شخصیتی دارد.»

بسیاری از خوانندگان احتمالاً به یاد دارند که حلقه یگانه در مجموعه «ارباب حلقه‌ها» ذهن همه کسانی را که آن را به دست می‌کنند فاسد می‌سازد و به‌تدریج آن‌ها را به سوی شرارت می‌کشاند.

همان‌طور که فرودو بگینز سرانجام از حلقه بیزار شد، به نظر می‌رسد یکی از نخستین سرمایه‌گذاران آنتروپیک نیز از روزی که برای اولین بار در این شرکت و پیش از آن در OpenAI سرمایه‌گذاری کرد، پشیمان شده است. داستین موسکوویتز، از بنیان‌گذاران فیس‌بوک، در بیانیه‌ای به نیویورک تایمز نوشت: «من و کاری در آنتروپیک سرمایه‌گذاری کردیم تا از ایمنی حمایت کنیم، نه از رقابت.» موسکوویتز همراه با همسرش، کاری تونا، در این شرکت سرمایه‌گذاری کرده بود. او در ادامه گفت: «هوش مصنوعی با سرعت بیش از حدی در حال پیشرفت است. آنتروپیک و همه شرکت‌های پیشرو دیگر باید سرعت خود را کاهش دهند و از رقابت دست بکشند.»

سخنگوی موسکوویتز و تونا اعلام کرد که این زوج در سال ۲۰۲۵ سهام خود در آنتروپیک را به یک سازمان غیرانتفاعی اهدا کردند تا شخصاً از این سرمایه‌گذاری سودی به دست نیاورند.

هیچ‌کس نمی‌تواند با اطمینان بگوید آینده چه چیزی در بر خواهد داشت. آمودی آشکارا به دیدگاه خود اطمینان زیادی دارد. از سوی دیگر، باید به آنتروپیک اعتبار داد که در زمانی که رقبایش با فناوری‌هایی مانند رباتیک و مدل‌های جهان و دیگر گزینه‌های جذاب سرگرم بودند، با قاطعیت روی قوانین مقیاس‌پذیری سرمایه‌گذاری کرد؛ تصمیمی که اکنون، با نگاه به گذشته، بسیار هوشمندانه به نظر می‌رسد.

در عین حال، هرچند عرضه اولیه سهام ممکن است فرصتی برای سرمایه‌گذاران خرد فراهم کند تا از سود احتمالی هوش مصنوعی سهمی داشته باشند، توجه‌ها را به شرط‌بندی پرمخاطره‌ای نیز جلب کرده است که همه آزمایشگاه‌های پیشرو هوش مصنوعی انجام می‌دهند: آن‌ها می‌خواهند بدون نظارت جدی دولت‌ها، سامانه‌هایی هرچه هوشمندتر بسازند؛ آن هم در شرایطی که خودشان باور دارند این فناوری همه انسان‌ها را در معرض خطر قرار می‌دهد.

بخش‌های زیادی از داستان آنتروپیک به‌سختی باورکردنی است. اینکه گروهی کوچک و نامتجانس از جداشدگان OpenAI، که ظاهراً چندان اهمیتی برای کسب‌وکار قائل نبودند، چگونه توانستند بزرگ‌ترین عرضه اولیه سهام تاریخ را رقم بزنند، موضوعی است که احتمالاً تا سال‌ها در آینده مورد مطالعه قرار خواهد گرفت.

اما از نگاه معترضان، در این مقطع باورنکردنی‌ترین بخش داستان آنتروپیک این است که دولت‌ها تاکنون تا چه اندازه اقدامات اندکی برای متوقف کردن آن انجام داده‌اند. شاید هوش مصنوعی در نهایت عصری سرشار از شگفتی و پیشرفت به ارمغان بیاورد. با این حال، نظرسنجی‌ها نشان می‌دهند افکار عمومی چنین آینده‌ای را باور نکرده است و آنتروپیک نیز تاکنون نتوانسته مردم جهان را متقاعد کند که مزایای این فناوری ارزش پذیرفتن خطراتش را دارد.