آنتروپیک پیش از عرضه اولیه سهام درباره «خطرات فاجعه‌بار یا وجودی برای بشریت» هشدار داد
آنتروپیک در اسناد مربوط به عرضه اولیه سهام خود که رویدادی مهم برای این شرکت به شمار می‌رود، نزدیک به ۱۰۰ صفحه را به تشریح عوامل خطر اختصاص داده است؛ مجموعه‌ای از افشاگری‌ها که به‌طور غیرمعمول، با جزئیات گسترده توضیح می‌دهد چه عواملی ممکن است فعالیت این شرکت در حوزه هوش مصنوعی را با مشکل مواجه کند.
این فهرست طیف وسیعی از خطرات را در بر می‌گیرد؛ از کند شدن رشد درآمد و مقررات دولتی گرفته تا «خطرات فاجعه‌بار یا وجودی برای بشریت». گستردگی این خطرات نشان می‌دهد سرمایه‌گذاران در بازار سهام با چه چالش منحصربه‌فردی برای ارزیابی فرصت‌ها و مخاطرات فناوری آنتروپیک روبه‌رو هستند.
در ادامه، مهم‌ترین نکات مطرح‌شده در این اسناد را مرور می‌کنیم:
آسیب‌های فاجعه‌بار
آنتروپیک تأکید کرده است که هوش مصنوعی این شرکت ممکن است «به شیوه‌هایی ناخواسته، ناهمسو با اهداف تعیین‌شده یا خودمختار» عمل کند. این شرکت هشدار داده است که اگر فناوری آن بدون تدابیر حفاظتی و نظارت کافی توسعه یابد، ممکن است بشریت را تهدید کند؛ به‌ویژه اگر از چنین سامانه‌هایی سوءاستفاده شود، نسخه‌های آن‌ها تکثیر شوند، به‌عنوان سلاح به کار گرفته شوند یا اجازه یابند با درجه بالایی از خودمختاری فعالیت کنند.
این شرکت هشدار داده است که با افزایش خودمختاری مدل‌های هوش مصنوعی‌اش، خطرات نیز بیشتر می‌شوند. چنین قابلیت‌هایی ممکن است «احتمال بروز آسیب را افزایش دهند» و به پیامدهایی منجر شوند که بازگرداندن آن‌ها دشوار یا حتی ناممکن باشد؛ از جمله ایجاد تغییر در کدها، حذف یا دست‌کاری داده‌ها و انجام تراکنش‌های مالی.
در این اسناد آمده است که ناظران انسانی ممکن است نتوانند اقدامات زیان‌بار این سامانه‌ها را متوقف کنند. همچنین، سامانه‌های نظارتی فنی آنتروپیک ممکن است در صورتی کارایی خود را از دست بدهند که مدل‌های هوش مصنوعی راه‌هایی برای «دور زدن این روش‌ها» و پنهان کردن اهداف خود پیدا کنند.
آنتروپیک با اشاره به گسترش استفاده از هوش مصنوعی در فعالیت‌های علمی هشدار داده است که فناوری این شرکت ممکن است برای تسهیل «رهاسازی مواد خطرناک» نیز به کار گرفته شود. این شرکت تأکید کرده است که «چنین پیامدهایی ممکن است فوری و غیرقابل بازگشت باشند».
مشکلات بیمه
آنتروپیک هشدار داده است که بیمه‌نامه‌های موجود ممکن است برای محافظت از شرکت‌های هوش مصنوعی در برابر مسئولیت‌های حقوقی ناشی از خسارت‌های واقعی این فناوری‌ها کافی نباشند؛ به‌ویژه در صورت وقوع یک «حادثه مرتبط با هوش مصنوعی با ابعاد فاجعه‌بار».
این شرکت در اسناد خود نوشته است: «ممکن است هیچ بیمه‌گر واحدی، و حتی صنعت بیمه در مجموع، ظرفیت یا تخصص کافی برای ارائه پوشش بیمه‌ای متناسب با چنین سطحی از ریسک را نداشته باشد.»
کاهش سرعت رشد درآمد
آنتروپیک که در سال ۲۰۲۵ رشد سالانه چشمگیر بیش از ۱۰۰۰ درصدی درآمد را تجربه کرده بود، اعلام کرده است که انتظار ندارد درآمدش در آینده با نرخ‌هایی مشابه افزایش یابد. این شرکت بلوغ بازار هوش مصنوعی، تشدید رقابت و ملاحظات ایمنی را از جمله عواملی دانسته است که ممکن است رشد درآمد را کند کنند؛ ملاحظات ایمنی می‌توانند انتشار برخی مدل‌های آن را محدود سازند.
این شرکت همچنین گفته است که در گذشته برای پیش‌بینی دقیق درآمد خود «با مشکل روبه‌رو بوده» و به دلیل نوپا بودن بازار هوش مصنوعی ممکن است در آینده نیز در این زمینه با دشواری مواجه شود.
بلومبرگ نیوز پیش‌تر گزارش داده بود که رشد آنتروپیک از سه‌ماهه دوم به سه‌ماهه سوم سال ۲۰۲۶ به حدود ۴۵ درصد کاهش یافته است؛ در حالی که رشد این شرکت در سه‌ماهه پیش از آن بیش از ۱۴۰ درصد بود.
تأمین توان محاسباتی
یکی دیگر از خطرات عمده‌ای که آنتروپیک مطرح کرده، احتمال ناتوانی در تأمین توان محاسباتی مورد نیاز و افزایش «قابل‌توجه» هزینه آن است. برخی از شرکای فعلی این شرکت در زمینه رایانش ابری، رقبای آن نیز هستند. در اسناد آمده است که این تأمین‌کنندگان ممکن است «همیشه کاملاً با منافع بلندمدت» سازنده مدل هوش مصنوعی کلود همسو نباشند.
آنتروپیک توافق‌های عمده‌ای برای استفاده از تراشه‌ها، ظرفیت مراکز داده و زیرساخت‌های دیگر با شرکت‌هایی از جمله گوگل، متعلق به آلفابت، آمازون و اسپیس‌ای‌آیِ ایلان ماسک دارد. این شرکت‌ها خود نیز در حال توسعه مدل‌های هوش مصنوعی هستند.
از سوی دیگر، آنتروپیک هشدار داده است که اگر بر اساس برآوردهای نادرست از نیازهای آینده خود بیش از حد هزینه کند، ممکن است با ظرفیت مازاد و سرمایه‌ای هدررفته مواجه شود. این شرکت اعلام کرده است: «نیاز واقعی ما به توان محاسباتی به عوامل متعددی بستگی دارد که پیش‌بینی آن‌ها دشوار است.» آنتروپیک در این زمینه به نامشخص بودن سرعت پیشرفت تحقیقات و میزان محاسبات مورد نیاز برای روش‌های آموزش مدل‌ها اشاره کرده است.
نظارت و محدودیت‌های دولتی
آنتروپیک احتمال اعمال محدودیت از سوی دولت‌های مختلف جهان بر فناوری‌های خود را مطرح کرده است؛ اقدامی که می‌تواند یکی از پایه‌های اصلی کسب‌وکار این شرکت را به خطر بیندازد. در اسناد آمده است: «مقام‌های دولتی دسترسی به مدل‌های ما را محدود کرده‌اند و ممکن است در آینده محدودیت‌های بیشتری اعمال کنند.»
در ماه ژوئن، دولت آمریکا به دلیل نگرانی‌های امنیتی، محدودیت‌های صادراتی بر مدل فِیبل ۵ آنتروپیک اعمال کرد. رابطه این شرکت با دولت دونالد ترامپ نیز پرتنش بوده است. پس از آنکه پیت هگست، وزیر دفاع آمریکا، در ماه مارس و در پی اختلاف بر سر نظارت و تسلیحات خودمختار تصمیم گرفت آنتروپیک را یک خطر برای زنجیره تأمین معرفی کند، این شرکت از وزارت دفاع شکایت کرد.
مخالفت با مراکز داده
آنتروپیک افزایش مخالفت عمومی با مراکز داده عظیمی را که برای آموزش و اجرای نرم‌افزارهایش به آن‌ها نیاز دارد، تهدیدی برای موفقیت خود می‌داند. این شرکت در اسنادش نوشته است که این مخالفت‌ها «سازمان‌یافته‌تر و هماهنگ‌تر شده‌اند».
آنتروپیک اعلام کرده است که در حال حاضر بیشتر مراکز داده مورد استفاده این شرکت در آمریکا قرار دارند و «از دست رفتن هر تأسیسات بزرگ، یا اختلال جدی در فعالیت آن، ممکن است به‌آسانی با زیرساخت‌های موجود یا زیرساخت‌هایی که در آینده ایجاد می‌شوند جبران نشود».
این شرکت گفته است که داوطلبانه تعهداتی برای پرداخت بخشی از هزینه‌های ناشی از مصرف انرژی مراکز داده خود پذیرفته است؛ از جمله هزینه به‌روزرسانی زیرساخت شبکه برق. با این حال، هشدار داده است که اگر چنین اقداماتی به رویه‌ای استاندارد تبدیل شوند، ممکن است هزینه‌های آن افزایش یابد.
هکرها
آنتروپیک امنیت سایبری را هم فرصتی مهم برای کسب‌وکار خود می‌داند و هم عاملی نگران‌کننده برای فعالیت‌هایش.
این شرکت اعلام کرده است که با چندین خطر امنیتی روبه‌روست؛ از جمله حمله هکرها به خود شرکت یا استفاده از ابزارهای آنتروپیک برای انجام حملات سایبری علیه دیگران. به گفته شرکت، حالت دوم هم‌اکنون نیز در حال وقوع است. آنتروپیک همچنین انتظار دارد که با گذشت زمان، هدف جاسوسی سایبری با حمایت دولت‌ها قرار گیرد؛ به‌ویژه حملاتی که پیشرفته‌ترین مدل‌های هوش مصنوعی آن را هدف می‌گیرند.
شرکت TSMC
آنتروپیک خاطرنشان کرده است که بخش عمده تراشه‌های پیشرفته جهان همچنان در تایوان و عمدتاً توسط شرکت تولید نیمه‌رساناهای تایوان (TSMC) ساخته می‌شوند. به گفته این توسعه‌دهنده هوش مصنوعی، این وابستگی خطرات قابل‌توجهی ایجاد می‌کند؛ از جمله اختلال‌هایی که ممکن است در پی تنش‌های ژئوپلیتیکی میان تایوان و چین رخ دهند.
فرهنگ سازمانی
آنتروپیک طی سال‌های گذشته فرهنگ سازمانی‌ای ایجاد کرده که آن را «محیطی به دور از خودبزرگ‌بینی و متکی بر حقیقت‌جویی» توصیف می‌کند. این شرکت همچنین گفته است که بسیاری از کارکنان کلیدی آن انگیزه زیادی از مأموریت شرکت و فرصت فعالیت برای حل مسائل مشخص در حوزه هوش مصنوعی می‌گیرند.
با این حال، آنتروپیک هشدار داده است که ممکن است کارکنان کلیدی‌اش برای پیوستن به فرصت‌های شغلی دیگری که با علایقشان سازگارتر به نظر می‌رسند، شرکت را ترک کنند؛ به‌ویژه در شرایطی که سازمان ناچار است «از نظر اندازه گسترش یابد و به بلوغ سازمانی برسد». به بیان دیگر، آنتروپیک خود را برای دشواری‌های ناشی از رشد و توسعه سازمان آماده می‌کند.