مایکل هیلزیک: آنتروپیک می‌گوید هدفش کمک به بشریت است، اما شاید بهتر باشد این ادعا را باور نکنید
مایکل هیلزیک، لس‌آنجلس تایمز
آنتروپیک، یکی از شرکت‌های بزرگ فعال در حوزه هوش مصنوعی، می‌خواهد همه بدانند که عمیقاً به توسعه هوش مصنوعی پیشرفته «در راستای منافع بشریت» متعهد است.
دلیل این ادعا را می‌توان در پیش‌نویس اولیه دفترچه عرضه سهام این شرکت دید که روز دوشنبه علنی شد. آنتروپیک این اصل را «هدف شرکت» می‌نامد و آن را در مرکز توجه قرار داده است. این عبارت که همواره با حروف بزرگ در متن انگلیسی آمده، ۴۲ بار در سندی ۳۱۸ صفحه‌ای تکرار شده است؛ پس ظاهراً اهمیت زیادی دارد.
بااین‌حال، آنتروپیک لازم می‌داند به سرمایه‌گذاران یادآوری کند که فعالیت‌هایش لزوماً به سود بشریت تمام نخواهد شد. این شرکت در دفترچه عرضه سهام اذعان می‌کند: «نمی‌توانیم تضمین کنیم که به هدف شرکت دست خواهیم یافت یا تأثیر مثبت مورد انتظار ... تحقق خواهد یافت.»
این تنها چیزی نیست که شرکت از سرمایه‌گذاران بالقوه می‌خواهد بدون تضمین قطعی بپذیرند. موفقیت مالی آنتروپیک به این بستگی دارد که درآمدهایش با فاصله‌ای قابل‌توجه از هزینه‌هایش پیشی بگیرد؛ هزینه‌هایی که در مقیاس سالانه هم‌اکنون به ده‌ها میلیارد دلار می‌رسند و بخش عمده آن‌ها صرف خرید تراشه‌ها و منابع محاسباتی موردنیاز برای تحقق برنامه‌های این شرکت در حوزه هوش مصنوعی می‌شود.
سهام‌داران عادی نیز ناچارند اعتماد کنند که هفت بنیان‌گذار آنتروپیک همواره در جهت منافع بشریت تصمیم خواهند گرفت؛ زیرا ساختار مالکیت سهام به‌گونه‌ای طراحی شده است که سهام‌داران عمومی هیچ نقشی در کنترل اداره شرکت نداشته باشند. کمی بعد به این موضوع بازمی‌گردیم.
از تقریباً هر زاویه‌ای که نگاه کنیم، سند S-1 آنتروپیک، عنوان رسمی دفترچه اولیه عرضه سهام، سندی کم‌نظیر است. برآوردهای بازار حاکی از آن است که این شرکت می‌تواند از طریق عرضه سهام حدود ۱۰۰ میلیارد دلار سرمایه جذب کند و ارزش کل آن تا ۲ تریلیون دلار برسد.
چنین رقمی آنتروپیک را از آخرین عرضه اولیه سهام در مقیاس بسیار بزرگ نیز جلوتر قرار می‌دهد؛ عرضه اولیه اسپیس‌ایکس در ماه ژوئن که حدود ۸۶ میلیارد دلار جذب کرد و ارزش این شرکت را به حدود ۱.۷۵ تریلیون دلار رساند. انتظار می‌رود عرضه اولیه سهام آنتروپیک در مقطعی از ماه آینده آغاز شود.
ویژگی قابل‌توجه دیگر سند S-1، تلاش گسترده شرکت برای هشدار دادن به سرمایه‌گذاران است: آنتروپیک برای کسب درآمدهای میلیاردی وارد حوزه‌ای پرخطر می‌شود و آینده بشریت نیز در این میان به مخاطره می‌افتد؛ آن هم نه لزوماً به شکلی مطلوب.
در میان نزدیک به ۱۰۰ صفحه‌ای که به «عوامل خطر» اختصاص یافته، این احتمال نیز مطرح شده است که فعالیت‌های شرکت به انقراض بشریت بینجامد. در سند آمده است: «اگر سامانه‌های هوش مصنوعی به‌اندازه کافی پیشرفته به‌شکلی مسئولانه توسعه نیابند و به کار گرفته نشوند، ممکن است خطراتی فاجعه‌بار یا تهدیدهایی وجودی برای جامعه ایجاد کنند.»
آنتروپیک می‌گوید برای کاهش این خطرات هر کاری از دستش برمی‌آید انجام می‌دهد، اما «هیچ تضمینی وجود ندارد که تلاش‌های ما موفقیت‌آمیز باشد». این توضیح احتمالاً منتقدان هوش مصنوعی و افرادی را که این فناوری را توسعه می‌دهند چندان آسوده‌خاطر نمی‌کند.
البته در دفترچه‌های عرضه اولیه سهام، درج مطالبی آمیخته به پیش‌بینی، گمانه‌زنی و آرمان‌گرایی غیرمعمول نیست. سند S-1 آنتروپیک شاید در این زمینه از نمونه‌های سنتی کمی فراتر رفته باشد، اما از نظر ماهیت همچنان نمونه‌ای متعارف از این نوع اسناد است.
بنابراین، بد نیست دقیق‌تر بررسی کنیم که آنتروپیک درباره خودش چه می‌گوید. من برای دریافت توضیحات درباره موضوعات زیر با این شرکت تماس گرفتم، اما آنتروپیک با استناد به مقررات دوره سکوت که نهادهای فدرال در جریان فرایند عرضه اولیه سهام برای شرکت‌ها تعیین می‌کنند، از اظهارنظر خودداری کرد.
از نظر مالی، دست‌کم در بخش درآمدها، عملکرد شرکت تحسین‌برانگیز بوده است. طبق دفترچه عرضه سهام، درآمد آنتروپیک در شش ماه نخست سال جاری به ۱۶.۳ میلیارد دلار رسید؛ درحالی‌که این رقم در دوره مشابه سال گذشته ۱.۲ میلیارد دلار بود. بااین‌حال، هزینه‌های عملیاتی نیز به‌سرعت افزایش یافتند، به‌ویژه هزینه‌های محاسبات و زیرساخت که در نیمه نخست سال ۲۰۲۶ به نزدیک ۹ میلیارد دلار رسیدند، در مقایسه با ۲.۳ میلیارد دلار در مدت مشابه سال قبل.
در نتیجه، زیان عملیاتی شرکت در نیمه نخست سال به ۶۹۳ میلیون دلار رسید که نسبت به زیان ۲.۱ میلیارد دلاری سال قبل کاهش یافته بود. بااین‌حال، بر مبنای استانداردهای پذیرفته‌شده حسابداری، زیان شرکت در شش ماه نخست در واقع ۸۰.۷ میلیارد دلار بود؛ اما ۷۲.۴ میلیارد دلار از این رقم به ثبت یک هزینه حسابداری مربوط می‌شد که ناشی از اوراق قابل‌تبدیل منتشرشده شرکت برای تأمین هزینه‌های آغاز فعالیت بود.
این ما را به هزینه‌هایی می‌رساند که شرکت در آینده با آن‌ها روبه‌رو خواهد شد؛ جایی که تصویر تیره‌تر می‌شود.
رقابت شدید بر سر منابع محاسباتی در صنعت هوش مصنوعی، آنتروپیک را وادار کرده است به چند قرارداد غیرقابل‌لغو برای تأمین تراشه‌های محاسباتی و ظرفیت مراکز داده متعهد شود. به این معنا که شرکت باید هزینه‌های توافق‌شده را بپردازد، حتی اگر از محصولات و ظرفیت‌های خریداری‌شده استفاده نکند.
بسته به شیوه محاسبه، مجموع این تعهدات به حدود ۵۰۰ میلیارد دلار می‌رسد. این مبلغ شامل ۱۱۰ میلیارد دلار قابل‌پرداخت به آمازون، ۱۱۴.۵ میلیارد دلار به گوگل، ۴۴.۹ میلیارد دلار به مایکروسافت و ۱۲۰.۵ میلیارد دلار به SpaceX.AI، یکی از شرکت‌های تابعه اسپیس‌ایکس، است.
مدت اعتبار برخی از این تعهدات به ۱۰ سال می‌رسد. این قراردادها هزینه‌های سربار سنگین و تا حد زیادی اجتناب‌ناپذیری ایجاد می‌کنند و احتمال محدودیت مالی شرکت در سال‌های آینده را افزایش می‌دهند.
اگر رشد شمار مشتریان آنتروپیک کند شود یا به رکود برسد، چه اتفاقی خواهد افتاد؟ این احتمال نگران‌کننده است، زیرا ارزش‌گذاری بالای شرکت تا حد زیادی بر این انتظار استوار است که سرعت رشد اخیر آن در آینده نیز ادامه یابد؛ گویی این روند پایانی ندارد.
هم‌اکنون مشتریان شرکتی شرکت‌های هوش مصنوعی، با افزایش هزینه خدمات و گسترش تردیدها درباره ارزش واقعی آن‌ها، شروع به کاهش میزان استفاده خود کرده‌اند.
تورستن اسلوک، اقتصاددان ارشد شرکت سرمایه‌گذاری آپولو گلوبال منیجمنت، هفته گذشته نوشت: «با وجود سرمایه‌گذاری‌های عظیم و هیاهوی گسترده پیرامون هوش مصنوعی، این فناوری در خارج از بخش فناوری هیچ بازده مالی‌ای برای شرکت‌های آمریکایی به همراه نداشته است.»
اگر شرکت‌های خارج از صنعت فناوری از استفاده از هوش مصنوعی عقب‌نشینی کنند، پیامدهای این روند برای شرکت‌هایی مانند آنتروپیک می‌تواند بسیار وخیم باشد. خود آنتروپیک نیز در سند S-1 اذعان کرده است که «بخش قابل‌توجهی از درآمد ما از تعداد محدودی مشتری تأمین می‌شود». پنج مشتری بزرگ این شرکت در ۹ ماه نخست سال جاری حدود ۲۵ درصد درآمد آن را فراهم کردند، هرچند سهم هیچ‌یک از آن‌ها به‌تنهایی از ۱۰ درصد بیشتر نبود.
آنتروپیک می‌گوید بسیاری از مشتریانش به قراردادهای بلندمدت متعهد نیستند و «می‌توانند در هر زمان و به هر دلیل، هزینه‌کرد خود را کاهش دهند یا ... به‌کلی متوقف کنند». اگر رقابت میان شرکت‌های هوش مصنوعی شدیدتر شود، باید انتظار داشت فشار مالی بر آنتروپیک نیز افزایش یابد.
این ما را به پرسش دیگری می‌رساند: اگر مدیران آنتروپیک از عهده این چالش برنیایند، سهام‌داران چه کاری می‌توانند انجام دهند؟ پاسخ این است: هیچ کاری.
علت این وضعیت، ساختار منحصربه‌فرد پنج‌گانه سهام شرکت است. سهام عادی کلاس A که پس از عرضه اولیه در نزدک معامله خواهد شد، به ازای هر سهم یک حق رأی دارد، اما طبق دفترچه عرضه سهام، در آینده قابل پیش‌بینی سود سهام دریافت نخواهد کرد.
مهم‌تر اینکه دارندگان سهام کلاس A هیچ‌گاه کنترل حق رأی آنتروپیک را در اختیار نخواهند گرفت. سهم رأی این طبقه در تصمیم‌گیری درباره سیاست‌های شرکت یا انتخاب اعضای هیئت‌مدیره هرگز از ۴۹.۹ درصد بیشتر نخواهد شد. دلیل آن است که یک سهم کلاس F به‌تنهایی همواره ۵۰.۱ درصد قدرت رأی را در اختیار دارد. کنترل این سهم به‌طور مشترک در دست هفت هم‌بنیان‌گذار آنتروپیک خواهد بود؛ از جمله داریو آمودی، مدیرعامل شرکت، و خواهرش دانیلا، رئیس شرکت و رئیس هیئت‌مدیره. این ترتیبات تا حدود سه سال پس از آن ادامه خواهد داشت که شمار بنیان‌گذاران باقی‌مانده در شرکت به کمتر از سه نفر برسد.
یکی دیگر از طبقات سهام، کلاس T است که شامل یک سهم واحد واگذارشده به نهاد مستقل «تراست منافع بلندمدت» شرکت می‌شود. این نهاد زیر نظر متخصصان ایمنی هوش مصنوعی و سیاست‌گذاری عمومی فعالیت می‌کند و اختیار انتخاب اکثریت اعضای هیئت‌مدیره آنتروپیک را دارد.
در نهایت، ساختار شرکت به‌گونه‌ای طراحی شده است که کنترل آمودی‌ها و دیگر هم‌بنیان‌گذاران تقریباً نفوذناپذیر باشد. تحقق «هدف شرکت» نیز در دست آن‌ها قرار دارد. آیا این وضعیت باید مایه اطمینان باشد؟ بیش از این نمی‌توان گفت که شاید چنین باشد. یکی از مبهم‌ترین جنبه‌های این ساختار آن است که اگر اعضای تراست به این نتیجه برسند که بنیان‌گذاران دیگر به ایمنی متعهد نیستند و اکثریت هیئت‌مدیره بخواهد مسیر شرکت را اصلاح کند، چه اتفاقی خواهد افتاد.
«هدف شرکت» در ظاهر اصل محکمی به نظر می‌رسد، اما آیا واقعاً چنین است؟ این عبارت یادآور شعاری است که گفته می‌شد مأموریت بنیان‌گذاران گوگل هنگام عرضه اولیه سهام این شرکت بود: «شرور نباشید». این اصل، هرچند آرمانی و اخلاقی به نظر می‌رسید، مبهم بود و در نهایت تا حد زیادی در حد آرزو باقی ماند.
با گذشت زمان، می‌توان استدلال کرد که انگیزه‌های تجاری شرکتی که پیوسته بزرگ‌تر می‌شد، این اصل را به حاشیه راندند. در سال ۲۰۱۱، تنها هفت سال پس از عرضه اولیه سهام گوگل، کمیسیون تجارت فدرال آمریکا این شرکت را به نقض فریبکارانه حریم خصوصی کاربران متهم کرد. یک سال بعد نیز این نهاد گوگل را به نقض حریم خصوصی کاربران مرورگر اینترنتی سافاری اپل متهم کرد. گوگل هر دو پرونده را بدون پذیرش تخلف حل‌وفصل کرد، اما در پرونده دوم ۲۲.۵ میلیون دلار جریمه مدنی پرداخت کرد؛ مبلغی که در آن زمان رکورد محسوب می‌شد. گوگل همچنین به‌دلیل هدایت کاربران یوتیوب به سوی محتوای افراطی با انتقادهایی روبه‌رو شده است. این شرکت در واکنش تلاش کرده الگوریتم‌های پیشنهاد محتوای یوتیوب را تغییر دهد تا نمایش چنین مطالبی محدود شود.
این حرف به آن معنا نیست که آنتروپیک نیز لزوماً همین مسیر را طی خواهد کرد. نکته این است که ثبت نیت‌های ارزشمند در یک سند رسمی، آن‌ها را به تعهداتی تغییرناپذیر تبدیل نمی‌کند. به بیان دیگر، می‌توان اهداف آنتروپیک را تحسین کرد، اما این به آن معنا نیست که باید با اطمینان به تحقق آن‌ها دل ببندیم.