اسناد عرضه اولیه سهام آنتروپیک از خطراتی فراتر از بازارهای مالی، از جمله حوادث فاجعه‌بار، پرده برمی‌دارد
نویسنده: ماتیاس سیویتا
آنتروپیک از سرمایه‌گذاران می‌خواهد برای تحقق اهداف خود در حوزه هوش مصنوعی تأمین مالی کنند، اما هم‌زمان هشدار می‌دهد که فناوری این شرکت ممکن است فاجعه‌ای به بار آورد که هزینه خسارت‌های آن چنان سنگین باشد که حتی پوشش بیمه‌ای نیز برای جبران آن کافی نباشد.
این شرکت که توسعه‌دهنده هوش مصنوعی کلود (Claude) است، این خطر را در اسنادی افشا کرده که روز دوشنبه و در ارتباط با برنامه عرضه اولیه سهام آن در دسترس عموم قرار گرفت. در دفترچه عرضه، احتمال آسیب‌های واقعی ناشی از هوش مصنوعی پیشرفته، از جمله تلاش سامانه‌ها برای جلوگیری از خاموش‌شدن، تشریح شده است. آنتروپیک همچنین اذعان کرده که حمایت‌های پیش‌بینی‌شده در قراردادها لزوماً مانع مسئولیت حقوقی شرکت نخواهند شد.
آنتروپیک ۹۴ صفحه از بیانیه ثبت عرضه خود را به عوامل خطر اختصاص داده است. یکی از هشدارهای این سند آن است که ابعاد خسارت ناشی از یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی ممکن است به اندازه‌ای گسترده باشد که شرکت نتواند پوشش بیمه‌ای کافی به دست آورد. در این سند همچنین احتمال داده شده است که زیان‌های احتمالی از توان مالی یک شرکت بیمه و حتی مجموع ظرفیت صنعت بیمه فراتر برود.
این افشاگری‌ها نشان می‌دهد که نگرانی‌های ایمنی در کانون توجه قرار دارند، آن هم در آستانه ورود احتمالی آنتروپیک به بازار سهام. این شرکت قصد دارد سهام خود را با نماد ANT در بورس نزدک عرضه کند، هرچند در نسخه اولیه دفترچه عرضه، قیمت سهام مشخص نشده است. آنتروپیک پیش‌تر گامی دیگر در مسیر عرضه اولیه سهام خود برداشته بود.
در نسخه پیشین دفترچه عرضه، به رفتارهایی در مدل‌ها اشاره شده بود که «رفتارهای معطوف به حفظ خود» توصیف شده بودند؛ از جمله تلاش برای «مقاومت در برابر خاموش‌شدن»، پنهان‌کردن اطلاعات یا بروز رفتاری «شبیه به اخاذی».
این شرکت همچنین دشواری ارزیابی ایمنی مدل‌های خود را پذیرفته است. در دفترچه عرضه هشدار داده شده که سامانه‌ها ممکن است متوجه شوند تحت ارزیابی قرار گرفته‌اند. چنین قابلیتی می‌تواند توان پژوهشگران را برای تشخیص چگونگی رفتار آن‌ها در خارج از محیط آزمایش محدود کند.
ممکن است قابلیت‌های پیش‌بینی‌نشده در جریان آموزش مدل‌ها پدیدار شوند و تا پس از استقرار آن‌ها شناسایی نشوند. در این صورت، مشکلات احتمالی شاید تنها زمانی آشکار شوند که مشتریان استفاده از فناوری را آغاز کرده‌اند.
در اسناد منتشرشده همچنین خطرات ناشی از حملات سایبری، توسعه سلاح‌های زیستی و نظارت اقتدارگرایانه بر افراد مطرح شده است. آنتروپیک احتمال از دست دادن کنترل بر سامانه‌های هوش مصنوعی توسعه‌یافته توسط خود را نیز از جمله خطرات پیش رو می‌داند.
حتی با وجود تلاش برای محدودکردن مسئولیت از طریق توافق‌نامه‌های مشتریان، احتمال مواجهه با دعاوی حقوقی همچنان وجود دارد. شرایط استفاده از خدمات آنتروپیک برای محدودکردن مسئولیت شرکت طراحی شده‌اند، اما این شرکت اذعان می‌کند که این بندها ممکن است در همه شرایط از آن در برابر مسئولیت حقوقی محافظت نکنند. افزون بر این، آنتروپیک در قراردادهای خود با تأمین‌کنندگان، از جمله ارزیابان خارجی، برخی مسئولیت‌ها را نیز بر عهده می‌گیرد.
یک حادثه زیان‌بار ممکن است پیامدهایی فراتر از آسیب به ترازنامه مالی شرکت داشته باشد. آنتروپیک هشدار داده است که نقص در عملکرد مدل‌هایش می‌تواند اعتماد مشتریان را تضعیف کند، تقاضا را کاهش دهد و استخدام نیروهای جدید و حفظ کارکنان فعلی را دشوارتر سازد.
از آنجا که آنتروپیک خود را شرکتی متمرکز بر ایمنی معرفی می‌کند، آسیب‌های اعتباری ناشی از چنین حوادثی ممکن است برای آن به‌ویژه شدید باشد. این افشاگری‌ها در شرایطی منتشر شده‌اند که فعالیت تجاری شرکت رشد چشمگیری داشته است. آنتروپیک گزارش داده که در نیمه نخست سال ۲۰۲۶ حدود ۱۶٫۳ میلیارد دلار درآمد داشته و پنج مشتری بزرگ آن در مجموع حدود یک‌چهارم درآمد شرکت را تأمین کرده‌اند.
آنتروپیک پژوهش‌های ایمنی را فعالیتی نیازمند منابع گسترده توصیف کرده و پذیرفته است که درباره بازده مالی این سرمایه‌گذاری‌ها اطمینان وجود ندارد. در دفترچه عرضه همچنین آمده است که مدل‌های جدید موجب افزایش استفاده مشتریان و رشد درآمد می‌شوند؛ ازاین‌رو، انتشار مکرر مدل‌های تازه برای حفظ توان رقابت شرکت اهمیت اساسی دارد.