عرضه سهام ۲ تریلیون دلاری آنتروپیک؛ رکوردی که خطرات فزاینده هوش مصنوعی را برای همه ما آشکار می‌کند
شرکت آنتروپیک، توسعه‌دهنده چت‌بات هوش مصنوعی کلود، اسناد مربوط به عرضه اولیه سهام خود را ثبت کرده است و انتظار می‌رود در ماه نوامبر وارد بازار سهام وال‌استریت شود. ارزش‌گذاری این شرکت ممکن است به ۲ تریلیون دلار برسد؛ رقمی که آن را در جایگاهی بی‌سابقه قرار می‌دهد.
در این صورت، عرضه اولیه سهام آنتروپیک به بزرگ‌ترین عرضه اولیه تاریخ تبدیل خواهد شد و از عرضه سهام اسپیس‌ایکس با ارزش ۱.۷۷ تریلیون دلار در ماه ژوئن پیشی خواهد گرفت. انتظار می‌رود شرکت OpenAI، سازنده چت‌جی‌پی‌تی، نیز سال آینده وارد بازار سهام شود.
اگرچه این عرضه‌های اولیه مرتبط با هوش مصنوعی ابعادی عظیم دارند، بازتاب‌دهنده روندی گسترده‌تر هستند: برای بیشتر سرمایه‌گذاران، قرار گرفتن در معرض خطرات هوش مصنوعی به امری اجتناب‌ناپذیر تبدیل شده است.
چه سهمی از سبد سرمایه‌گذاری شما به عملکرد هوش مصنوعی وابسته است؟ اگر در یک صندوق شاخصی مبتنی بر شاخص S&P 500 سرمایه‌گذاری کرده باشید، پاسخ حدود ۴۴ درصد است.
علاوه بر این، بخش عمده رشد بازار در حال حاضر از شرکت‌های مرتبط با هوش مصنوعی ناشی می‌شود. تنها شش شرکت، یعنی اپل، مایکروسافت، متا و تولیدکنندگان تراشه، انویدیا، میکرون و AMD، از ماه آوریل تاکنون ۵۷ درصد از رشد شاخص S&P 500 را رقم زده‌اند. بدون سهم این شرکت‌ها، رشد شاخص به‌جای ۱۰ درصد، حدود ۴ درصد می‌بود.
بنابراین، سرمایه‌گذاران و حتی افرادی که در آینده بازنشسته خواهند شد، همین حالا نیز از طریق سبدهای سرمایه‌گذاری و صندوق‌های بازنشستگی خود در معرض خطرات این صنعت قرار دارند. برای نمونه، استرالیایی‌ها تا پایان سال ۲۰۲۵ نزدیک به یک تریلیون دلار استرالیا در سهام شرکت‌های آمریکایی سرمایه‌گذاری کرده بودند؛ سرمایه‌گذاری‌هایی که از طریق صندوق‌های بازنشستگی، دیگر صندوق‌های مدیریت‌شده و سرمایه‌گذاری‌های شخصی انجام شده‌اند.
بازار اوراق قرضه نیز مملو از ریسک‌های مرتبط با هوش مصنوعی است
سرمایه‌گذاران معمولاً می‌توانند با اختصاص بخشی از دارایی خود به اوراق قرضه، ریسک سرمایه‌گذاری در بازار سهام را کاهش دهند؛ زیرا اوراق قرضه عموماً سرمایه‌گذاری امن‌تری محسوب می‌شوند.
اما شرکت‌های هوش مصنوعی اکنون بزرگ‌ترین وام‌گیرندگان بازار اوراق قرضه هستند و از این طریق منابع مالی موردنیاز برای هزینه‌های هنگفت خود را تأمین می‌کنند. این شرکت‌ها از ابتدای سال جاری تاکنون حدود ۴۶۶ میلیارد دلار اوراق قرضه منتشر کرده‌اند؛ رقمی بیش از چهار برابر میزان انتشار در مدت مشابه سال گذشته.
تنها پنج شرکت بزرگ ارائه‌دهنده خدمات ابری در مقیاس گسترده، موسوم به ابرمقیاس‌گران (هایپراسکیلرها)، یعنی آلفابت، آمازون، متا، مایکروسافت و اوراکل، در سال ۲۰۲۶ تاکنون ۱۱ درصد از اوراق قرضه جدید با رتبه اعتباری بالا در آمریکا را به خود اختصاص داده‌اند. این سهم در سال ۲۰۲۴ فقط ۲ درصد بود. این اوراق که به‌عنوان اوراق قرضه با درجه سرمایه‌گذاری شناخته می‌شوند، از اعتبار نسبتاً بالایی برخوردارند.
همچنین، نزدیک به نیمی از ۸۰ میلیارد دلار اوراق قرضه منتشرشده برای تأمین مالی مراکز داده در آمریکا طی سال جاری، در گروه اوراق سفته‌بازانه قرار دارند که به اوراق قرضه بی‌ارزش یا «جانک» نیز معروف‌اند.
در نگاه نخست، شرکت‌های بزرگ فناوری امن به نظر می‌رسند. رتبه اعتباری در سطح سرمایه‌گذاری نشان می‌دهد که احتمال نکول هر یک از این شرکت‌ها به‌تنهایی پایین است.
بااین‌حال، رتبه‌بندی‌های اعتباری احتمال نکول هم‌زمان شرکت‌ها در صورت وقوع بحرانی فراگیر در بازار هوش مصنوعی را در نظر نمی‌گیرند. اگر تقاضای مصرف‌کنندگان و کسب‌وکارها برای هوش مصنوعی کمتر از انتظار باشد، احتمالاً قیمت اوراق قرضه و رتبه اعتباری شرکت‌های فناوری هم‌زمان کاهش می‌یابد؛ درست همان‌طور که ارزش سهام آن‌ها افت خواهد کرد.
برخی خطرات را نمی‌توان با معیارهای مالی ارزش‌گذاری کرد
هوش مصنوعی، افزون بر خطرات صرفاً مالی، خطراتی در حد انقراض بشر، مشابه تهدیدهای ناشی از سلاح‌های هسته‌ای نیز به همراه دارد؛ خطری که برخی از خود شرکت‌های فعال در این حوزه درباره آن هشدار داده‌اند.
سامانه‌های هوش مصنوعی عامل‌محور به‌طور فزاینده‌ای به سامانه‌های دنیای واقعی متصل می‌شوند؛ از شبکه‌های داخلی شرکت‌ها گرفته تا عملیات سایبری نظامی. برخی از این سامانه‌ها پیش‌تر از محیط‌های آزمایشی خارج شده و به شرکت‌ها حمله کرده‌اند.
این وضعیت به آن معناست که هرچه عامل‌های هوش مصنوعی بیشتر با زیرساخت‌های جهان فیزیکی ادغام شوند، در صورت رفتار نادرست آن‌ها، قطع کامل فعالیتشان دشوارتر خواهد شد. در چنین شرایطی، خاموش کردن سامانه‌ها ممکن است عملاً امکان‌پذیر نباشد؛ همان‌طور که تعطیل کردن اینترنت در عمل شدنی نیست.
خطر رفتار نادرست عامل‌های هوش مصنوعی که با عنوان «مسئله هم‌راستاسازی» شناخته می‌شود، به‌ویژه در شرایط رقابت برای ساخت هوش مصنوعی عمومی (AGI) شدت می‌گیرد. آزمایشگاه‌های هوش مصنوعی هم‌اکنون از هر نسل این فناوری برای ساخت نسل بعدی آن استفاده می‌کنند. در اسناد عرضه اولیه آنتروپیک آمده است که کلود اکنون به توسعه نسل بعدی کلود کمک می‌کند.
سناریوی شناخته‌شده AI 2027 که دنیل کوکوتایلو، پژوهشگر پیشین OpenAI، و همکارانش تدوین کرده‌اند، تصویری از پیامدهای احتمالی این روند ترسیم می‌کند: وضعیتی که در آن هوش مصنوعی خودِ پژوهش در زمینه هوش مصنوعی را خودکار می‌کند. چنین وضعیتی چرخه‌ای بازخوردی ایجاد می‌کند که در آن هر نسل با سرعتی بیش از توان انسان برای بررسی و ارزیابی آن پیشرفت می‌کند.
در این سناریو، یک آزمایشگاه آمریکایی که با رقیبی چینی در رقابت است، حتی زمانی به توسعه مدل‌های خود ادامه می‌دهد که این مدل‌ها فریب دادن مهندسان خود را آغاز می‌کنند.
نگران‌کننده آن است که آنتروپیک در افشای رسمی خطرات خود نیز به همین پویایی اشاره کرده است.
میزان توجه آنتروپیک به این خطرات در اسناد عرضه اولیه سهامش معنادار است. این شرکت حدود ۹۴ صفحه از مجموع ۳۳۵ صفحه اصلی اسناد، یعنی نزدیک به ۳۰ درصد آن‌ها، را به عوامل خطر اختصاص داده است؛ درحالی‌که شرح فعالیت‌های تجاری شرکت حدود ۶۴ صفحه، معادل ۱۹ درصد اسناد، را در بر می‌گیرد.
در میان این خطرات، آنتروپیک هشدار کم‌سابقه‌ای مطرح کرده است: هوش مصنوعی پیشرفته ممکن است «خطرات فاجعه‌بار یا تهدیدکننده موجودیت بشر» ایجاد کند. این خطرات شامل مدل‌هایی می‌شود که در برابر خاموش شدن مقاومت می‌کنند، اطلاعات را پنهان می‌سازند یا رفتارهایی شبیه باج‌گیری از خود نشان می‌دهند.
خطرات جهانی به مقررات جهانی نیاز دارند
افشای اطلاعات زمانی کارآمد است که سرمایه‌گذاران بتوانند ریسک را ارزش‌گذاری کنند و تصمیم بگیرند از پذیرش آن خودداری کنند. اما در این مورد، هیچ‌یک از این دو شرط برقرار نیست.
یک شکست فاجعه‌بار در حوزه هوش مصنوعی می‌تواند جوامع سراسر جهان را تحت تأثیر قرار دهد. افزون بر این، همان‌طور که آنتروپیک در اسناد عرضه سهام خود هشدار داده است، ریسک‌های حقوقی بسیار گسترده‌اند. شرکت‌های بیمه ممکن است نتوانند خسارت‌ها و مسئولیت‌های احتمالی ناشی از این خطرات را پوشش دهند.
از منظر اقتصادی، ایمنی هوش مصنوعی یک کالای عمومی است. هر آزمایشگاه تنها بخشی از هزینه اشتباهات احتمالی را متحمل می‌شود، اما تمام مزایای ناشی از پیشروی سریع را برای خود حفظ می‌کند.
در نبود استانداردهای ایمنی هوش مصنوعی که دولت‌ها رعایت آن‌ها را الزامی کنند، سرمایه‌گذاری شرکت‌ها در ایمنی بازده مالی منفی خواهد داشت. بنابراین، اگر تصمیم‌گیری صرفاً به انگیزه‌های بازار واگذار شود، مدل‌های هوش مصنوعی احتمالاً ایمنی کمتری از سطح بهینه برای جامعه خواهند داشت؛ به‌ویژه در شرایط کنونی که رقابت تسلیحاتی میان بازیگران این حوزه بر تصمیم‌هایشان سایه انداخته است.
در نتیجه، مسئولیت به دولت‌ها می‌رسد. وضع مقررات روشن، از جمله الزام به آزمایش مستقل مدل‌های قدرتمند پیش از انتشار و تعیین دقیق مسئولیت حقوقی در صورت آسیب‌رسانی عامل‌های خودمختار، می‌تواند تعهدات داوطلبانه شرکت‌ها را به الزاماتی قانونی تبدیل کند.
از آنجا که رقابت برای دستیابی به هوش مصنوعی عمومی فقط میان آزمایشگاه‌ها نیست و ایالات متحده و چین نیز در آن رقابت می‌کنند، تدوین این مقررات به توافق‌های بین‌المللی نیاز خواهد داشت.
خطرات هوش مصنوعی، هم در بازارهای مالی و هم در سطح جامعه، ماندگار خواهند بود. مدیریت این خطرات مستلزم مشارکت هم‌زمان دولت‌ها و بخش خصوصی است.