آنتروپیک ۳۲۰.۸ میلیارد دلار برای مسئولیت‌های اجتماعی هوش مصنوعی کنار می‌گذارد؛ آیا این بهای نظریه آخرالزمان هوش مصنوعی است؟
یک روز پس از آنکه جک کلارک، از بنیان‌گذاران آنتروپیک، اعلام کرد «تکینگی آغاز شده است»، این شرکت تصمیم گرفت ۵ درصد از سهام خود را برای رسیدگی به مشکلات اجتماعی احتمالی ناشی از هوش مصنوعی کنار بگذارد.
ارزش این سهم بر اساس ارزش‌گذاری ۹.۶۵ تریلیون دلاری شرکت در ماه مه، حدود ۴۸۰ میلیارد دلار، معادل تقریباً ۳۲۰.۸ میلیارد یوان، برآورد می‌شود. یکی از اهداف این منابع، مقابله با شوک اشتغال ناشی از هوش مصنوعی است؛ آنتروپیک حتی در حال بررسی این گزینه است که مستقیماً به گروه‌های آسیب‌دیده پول پرداخت کند.
آنتروپیک طی چند سال گذشته از جمله فعال‌ترین شرکت‌هایی بوده که درباره سناریوهای فاجعه‌بار هوش مصنوعی هشدار داده است؛ از هوش فوق‌پیشرفته‌ای که از کنترل خارج می‌شود و انقراض انسان را رقم می‌زند تا بیکار شدن میلیون‌ها کارمند اداری.
بااین‌حال، شرکتی که بیش از بسیاری از دیگران از احتمال نابودی جهان به دست هوش مصنوعی ابراز نگرانی می‌کند، خود با جدیت در حال توسعه سامانه‌های قدرتمندتر هوش مصنوعی است و حتی برای عرضه اولیه سهام با ارزش‌گذاری یک تریلیون دلاری آماده می‌شود.
نظریه آخرالزمان هوش مصنوعی زمانی یکی از ابزارهای شاخص آنتروپیک برای نشان دادن جایگاه پیشرو خود در صنعت بود؛ اما اکنون، با نزدیک شدن به عرضه اولیه سهام، این روایت دارد هزینه‌های خود را به شرکت تحمیل می‌کند.
پیشگویی‌های آخرالزمانی آنتروپیک به زیان خودش تمام می‌شوند
مارک لوین، حسابرس مالی شهر نیویورک، در ۱۴ اکتبر نامه‌ای به داریو آمودی، مدیرعامل آنتروپیک، نوشت و از این شرکت خواست عرضه اولیه سهام خود را متوقف کند.
لوین بر صندوق‌های بازنشستگی عمومی شهر نیویورک نظارت دارد که مجموع دارایی‌هایشان از ۳.۲۵ تریلیون دلار فراتر می‌رود. حدود ۷ میلیون دلار از این دارایی‌ها نیز به‌طور غیرمستقیم و از طریق سرمایه‌گذاری در سهام شرکت‌های خصوصی در معرض سرمایه‌گذاری آنتروپیک قرار دارد.
لوین در نامه خود به‌طور مشخص به چند مورد از هشدارهای اخیر آنتروپیک اشاره کرد.
در ۹ سپتامبر، جیکوب کاکسون، پژوهشگر آنتروپیک، هنگام ترک شرکت گفت برخی افراد در داخل آن واقعاً معتقدند هوش مصنوعی ممکن است پیش از سال ۲۰۳۰ همه انسان‌ها را از بین ببرد. ایوان هوبرینگر، رئیس بخش پژوهش هم‌ترازی هوش مصنوعی در این شرکت، نیز احتمال انقراض انسان در ده سال آینده بر اثر هوش مصنوعی را بیش از ۱۰ درصد می‌داند.
سه روز بعد، آمودی مقاله‌ای مفصل منتشر کرد و خواستار کند شدن رشد توانایی‌های پیشرفته‌ترین مدل‌های هوش مصنوعی شد. او هشدار داد که خودبهبوددهی هوش مصنوعی ممکن است از کنترل انسان خارج شود.
در پایان سپتامبر، آنتروپیک حتی پیش‌بینی‌های فاجعه‌بار خود را در پیش‌نویس مدارک عرضه اولیه سهام گنجاند. از ۲۶۱ صفحه این سند، تنها ۴۸ صفحه به معرفی کسب‌وکار شرکت اختصاص داشت، درحالی‌که حدود ۸۰ صفحه به افشای ریسک‌ها مربوط می‌شد. شرکت صراحتاً هشدار داده بود که هوش مصنوعی پیشرفته ممکن است تهدیدهایی فاجعه‌بار و حتی تهدیدهایی علیه موجودیت بشر ایجاد کند.
لوین گفت شرکتی که خواستار کند شدن توسعه هوش مصنوعی است، باید هنگام پیشبرد عرضه اولیه سهام خود نیز همین اندازه محتاط باشد.
این نخستین بار نیست که چنین انتقادهایی مطرح می‌شود.
در ماه اوت امسال، گاوین بیکر، سرمایه‌گذار حوزه فناوری، علناً از آمودی انتقاد کرد. او استدلال کرد که اغراق مکرر آمودی درباره خطرات هوش مصنوعی، به تقویت مخالفت با این فناوری در جامعه آمریکا دامن می‌زند و حتی مخالفت عمومی با ساخت مراکز داده را تشدید می‌کند.
بیکر به او توصیه کرد که به‌عنوان مدیرعامل شرکتی که قرار است به یکی از مهم‌ترین شرکت‌های فناوری جهان تبدیل شود، بهتر است درباره صنعت خود بیشتر از جنبه‌های مثبت صحبت کند. آمودی با این دیدگاه موافق نبود. او پذیرفت که نگاه منفی مردم به هوش مصنوعی مشکلی جدی است، اما معتقد بود ریشه اصلی آن بحران اعتماد است و نمی‌توان این وضعیت را صرفاً به هشدارهای شرکت‌های هوش مصنوعی درباره خطرات این فناوری نسبت داد.
آنتروپیک سال‌ها به جهان گفته است که هوش مصنوعی چقدر خطرناک است؛ حالا مردم این هشدارها را جدی گرفته‌اند و از شرکت می‌خواهند هزینه آن‌ها را نیز بپردازد.
در حرف خواهان کاهش سرعت است، اما در عمل پدال گاز را تا انتها فشار می‌دهد
آمودی معتقد است هوش مصنوعی ممکن است از کنترل خارج شود و بارها خواستار کند شدن پیشرفت این فناوری شده است؛ بااین‌حال، گسترش فعالیت‌های تجاری آنتروپیک به همین دلیل متوقف نشده است.
آمودی در ۱۲ سپتامبر خواستار کاهش سرعت رشد توانایی‌های پیشرفته‌ترین مدل‌های هوش مصنوعی شد. تنها ده روز بعد، آنتروپیک مدل Opus 5.5 را عرضه کرد.
اندکی بعد، این شرکت در ۲۸ سپتامبر مدل Sonnet 5.5 و در ۷ اکتبر مدل Haiku 5.5 را منتشر کرد. در فاصله حدود نیم ماه، هر سه مدل از خانواده Claude 5.5 به‌روزرسانی شدند و شرکت وارد جنگ قیمتی شد.
توسعه مدل‌ها متوقف نشده و سرعت مصرف نقدینگی شرکت نیز به‌هیچ‌وجه کاهش نیافته است.
بر اساس پیش‌نویس مدارک عرضه اولیه سهام آنتروپیک که پیش‌تر رسانه‌های خارجی منتشر کرده‌اند، هزینه این شرکت برای توان پردازشی و زیرساخت طی ده سال آینده دست‌کم به ۵.۱۸ تریلیون دلار خواهد رسید. حدود ۸۰ درصد این مبلغ مربوط به تعهدات غیرقابل‌لغو است؛ یعنی شرکت باید این هزینه‌ها را صرف‌نظر از میزان استفاده واقعی از منابع، پرداخت کند.
در همین اواخر، وال‌استریت بار دیگر تأمین مالی حدود ۶۰۰ میلیارد دلاری برای خرید تراشه‌های موردنیاز آنتروپیک را آغاز کرده است تا حدود ۱.۵ گیگاوات توان پردازشی مبتنی بر تراشه‌های TPU گوگل در اختیار این شرکت قرار گیرد. انتظار می‌رود این معامله که با نام رمز «Project Polaris» شناخته می‌شود، به بزرگ‌ترین قرارداد تأمین مالی خرید تراشه در تاریخ تبدیل شود.
در این معامله، مؤسسات سرمایه‌گذاری هزینه خرید تراشه‌ها را پرداخت می‌کنند و سپس آن‌ها را در قالب قرارداد اجاره پنج‌ساله در اختیار آنتروپیک قرار می‌دهند. در این میان، صندوق‌های بلک‌استون قصد دارند ۹۰ میلیارد دلار بدهی پرریسک با نرخ سود اسمی ۱۰ درصد پذیره‌نویسی کنند. آنتروپیک برای دستیابی به تراشه‌های کافی حاضر است هزینه تأمین مالی نسبتاً بالایی بپردازد.
طبیعتاً چنین سرمایه‌گذاری عظیمی به درآمدی حتی بیشتر برای پشتیبانی از آن نیاز دارد.
آنتروپیک در ۱۴ اکتبر روز معرفی شرکت به سرمایه‌گذاران پیش از عرضه اولیه سهام را برگزار کرد و اعلام کرد درآمدش در سه‌ماهه سوم به ۱۶۸ میلیارد دلار رسیده و شرکت برای دومین فصل پیاپی به سودآوری تعدیل‌شده دست یافته است.
بااین‌حال، نرخ رشد شرکت شروع به کاهش کرده است. درآمد آنتروپیک در سه‌ماهه دوم حدود ۱۴۵ درصد نسبت به سه‌ماهه قبل افزایش یافته بود، اما این نرخ در سه‌ماهه سوم به ۴۵ درصد رسید. هرچند عملکرد شرکت همچنان قابل‌توجه است، این کاهش رشد برخی سرمایه‌گذاران را ناامید کرده است. به گزارش رویترز، برخی از سرمایه‌گذارانی که در نشست معرفی شرکت حضور داشتند، حتی درباره کاهش ارزش‌گذاری مورد انتظار آنتروپیک در عرضه اولیه سهام به ۱.۵ تریلیون دلار بحث کردند.
نکته جالب اینکه آمودی، با وجود تأکید دوباره بر ایمنی هوش مصنوعی، این بار بحث خطر انقراض انسان را خود پیش نکشید.
در نهایت، آنتروپیک در برابر سرمایه‌گذارانی که قرار است پول خود را وارد شرکت کنند، ناچار است بیشتر بر ظرفیت رشد کسب‌وکارش تأکید کند. حتی اگر آمودی واقعاً معتقد باشد توسعه هوش مصنوعی بیش از حد سریع پیش می‌رود، آنتروپیک در شرایط کنونی به‌سختی می‌تواند ترمز را بکشد.
آنتروپیک بهای پیشگویی‌های خودش را می‌پردازد
از یک منظر، نظریه آخرالزمان هوش مصنوعی خود می‌تواند شکلی افراطی از تبلیغ فناوری باشد. وقتی آنتروپیک بارها هشدار می‌دهد که هوش مصنوعی ممکن است میلیون‌ها کارمند اداری را بیکار کند یا حتی بشریت را نابود سازد، هم‌زمان به جهان نشان می‌دهد که فناوری در اختیارش آن‌قدر قدرتمند شده است که می‌تواند سرنوشت انسان را تغییر دهد.
هرچه این فناوری خطرناک‌تر توصیف شود، مسئولیت بیشتری نیز بر دوش آنتروپیک قرار می‌گیرد.
آنتروپیک در ۱۵ اکتبر اعلام کرد که دسترسی شش نفر از کارکنان METR، یک سازمان غیرانتفاعی ارزیابی هوش مصنوعی، را تا سطحی نزدیک به دسترسی کارکنان داخلی شرکت گسترش می‌دهد. این ارزیابان مستقل می‌توانند از ابزارها و سامانه‌های داخلی شرکت برای بررسی مدل‌ها، تدابیر ایمنی و خطرات احتمالی استفاده کنند و نتایج ارزیابی خود را مستقلاً منتشر کنند. آنتروپیک نمی‌تواند مستقیماً مانع انتشار این نتایج شود، اما می‌تواند درخواست کند اطلاعات حساس مشخصی از گزارش‌ها حذف شوند.
این اقدام همچنین به وعده‌ای عمل می‌کند که آمودی حدود یک ماه پیش در مقاله مفصل خود مطرح کرده بود.
برای شرکتی که همواره بر احتمال خارج شدن هوش مصنوعی از کنترل تأکید کرده است، اجازه دادن به کارشناسان بیرونی برای بررسی اینکه آیا شرکت خطرات هوش مصنوعی را به‌درستی مدیریت می‌کند، به‌مراتب قانع‌کننده‌تر از صرفاً هشدار دادن درباره خطرات است.
آنتروپیک در زمینه مسئولیت اجتماعی نیز گام‌های بزرگ‌تری برداشته است.
این شرکت در ماه ژوئن امسال از سرمایه‌گذاری ۲۰۰ میلیون دلاری برای تأسیس «صندوق پژوهش آینده اقتصادی» خبر داد. در ماه ژوئیه نیز حوزه‌های پژوهشی این صندوق را دقیق‌تر مشخص کرد که از جمله آن‌ها می‌توان به تغییر مسیر شغلی، تأمین درآمد برای افراد بیکار و فراهم کردن امکان سهیم شدن کارکنان در ثروتی اشاره کرد که هوش مصنوعی ایجاد می‌کند.
آنتروپیک در ۱۸ اکتبر یک گام فراتر رفت و اعلام کرد ۵ درصد از سهام شرکت را برای تشکیل یک صندوق عام‌المنفعه کنار می‌گذارد.
بر اساس برنامه‌ای که شرکت رسماً اعلام کرده است، پس از این، هر بار که ارزش‌گذاری شرکت ۵۰ درصد افزایش یابد، هیئت‌مدیره می‌تواند بنا به صلاحدید خود ۲ درصد دیگر از سهام را به صندوق اختصاص دهد. آنتروپیک با احتساب تعهدات پیشین بنیان‌گذاران و کارکنان برای اهدای سهام اعلام کرده است که ممکن است در آینده حدود ۲۰ درصد از سهام شرکت صرف منافع عمومی شود.
بااین‌حال، این سهم که ارزش آن حدود ۴۸۰ میلیارد دلار برآورد می‌شود، هنوز در حد وعده‌ای است که به تأیید سهام‌داران نیاز دارد و جزئیات نحوه استفاده از منابع آن نیز باید در آینده اعلام شود.
اندکی پس از انتشار این خبر، ایلان ماسک در بخش دیدگاه‌های آنتروپیک واکنشی تند نشان داد و نوشت: «پیشنهاد می‌کنم سهام را مستقیماً بین مردم توزیع کنید.»
او اندکی بعد در پستی دیگر نوشت: «سال آینده، سهام اسپیس‌ایکس را بین تمام کودکان ایالات متحده توزیع خواهم کرد.»
برخی کاربران نیز در پاسخ به پست ماسک نوشتند که اقدام آنتروپیک احتمالاً چیزی جز تلاشی برای بهبود وجهه عمومی شرکت نیست.
آنتروپیک، از درخواست علنی برای کاهش سرعت توسعه هوش مصنوعی گرفته تا پذیرش داوطلبانه نظارت بیرونی و اختصاص بخش بزرگی از سهام به امور عام‌المنفعه، می‌کوشد ثابت کند که توانایی پذیرش مسئولیت خطرات و پیامدهای اجتماعی احتمالی هوش مصنوعی را دارد.
ممکن است در این روند، احساس مسئولیت واقعی وجود داشته باشد؛ در عین حال، این اقدامات می‌توانند بخشی از تلاش ضروری شرکت برای بهبود وجهه عمومی خود پیش از عرضه اولیه سهام نیز باشند. این دو انگیزه لزوماً با یکدیگر تعارض ندارند.
بااین‌حال، زمانی که آنتروپیک روایت‌های آخرالزمانی درباره هوش مصنوعی را مطرح می‌کرد، احتمالاً تصور نمی‌کرد روزی ناچار شود صدها میلیارد دلار برای پاسخگویی به همان هشدارها هزینه کند؛ آن هم در شرایطی که چنین مبلغی لزوماً نمی‌تواند اعتماد عمومی را به دست آورد.
این مقاله نخستین بار در حساب عمومی وی‌چت «Alpha AI» منتشر شده است. نویسنده: یوان شین‌یوه. انتشار آن با اجازه 36Kr انجام شده است.