عرضه اولیه سهام آنتروپیک؛ هشدار درباره ریسک فاجعه‌بار هوش مصنوعی که شاید بیمه‌پذیر نباشد
سرمایه‌گذاران کانادایی به‌زودی فرصت خواهند داشت در عرضه اولیه سهام آنتروپیک مشارکت کنند. در دفترچه عرضه این شرکت هشداری وجود دارد که بر اساس آن، یک حادثه فاجعه‌بار مرتبط با مدل‌های هوش مصنوعی آنتروپیک ممکن است از توان مالی یا تخصصی هر شرکت بیمه به‌تنهایی فراتر برود و حتی کل صنعت بیمه نیز نتواند از عهده پوشش خسارت آن برآید.
آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی کلود (Claude)، روز دوشنبه اظهارنامه ثبت عرضه سهام خود را به کمیسیون بورس و اوراق بهادار آمریکا ارائه کرد. این شرکت قصد دارد سهامش را با نماد ANT در بازار گلوبال سلکت نزدک عرضه کند. عرضه عمومی شامل سرمایه‌گذاران کانادایی نیز می‌شود، هرچند آنتروپیک برنامه‌ای برای پذیرش سهام در بورس کانادا ندارد. شرکت ارائه این اظهارنامه را تأیید کرده است، اما هنوز تعداد سهام قابل عرضه یا محدوده قیمت آن را اعلام نکرده است. تمام ارقام این گزارش بر حسب دلار آمریکا هستند.
این هشدار در بخشی از اظهارنامه آمده که به عوامل ریسک اختصاص دارد و ۹۴ صفحه را در بر می‌گیرد. آنتروپیک می‌گوید بازار بیمه ویژه هوش مصنوعی هنوز در مراحل اولیه شکل‌گیری است و ممکن است نتوان برخی از مسئولیت‌های ناشی از فعالیت‌های هوش مصنوعی این شرکت را با شرایط تجاری معقول بیمه کرد؛ حتی این احتمال وجود دارد که پوشش چنین مسئولیت‌هایی اساساً امکان‌پذیر نباشد.
ارقام کلیدی اظهارنامه S-1 آنتروپیک (دلار آمریکا)
- درآمد شش‌ماهه منتهی به ژوئن ۲۰۲۶: ۱۶٫۳ میلیارد دلار؛ در نیمه نخست سال ۲۰۲۵: ۱٫۲ میلیارد دلار.
- زیان خالص دوره: ۸۰٫۷ میلیارد دلار، شامل ۷۲٫۴ میلیارد دلار هزینه غیرنقدی ناشی از تغییر ارزش منصفانه.
- زیان عملیاتی: ۶۹۳ میلیون دلار.
- تعداد صفحات بخش عوامل ریسک: ۹۴ صفحه.
- توافق برای حل‌وفصل دعوای حق‌نشر بارتز: ۱٫۵ میلیارد دلار که تمام آن تحت پوشش بیمه قرار نگرفت.
حضور آنتروپیک در کانادا رو به گسترش است. در اظهارنامه این شرکت به شرکت‌های تابعه و فعالیت‌های آن در کانادا، در کنار بریتانیا، اتحادیه اروپا و منطقه آسیا-اقیانوسیه، اشاره شده است. همچنین آنتروپیک اعلام کرده که برای تأمین ظرفیت مراکز داده در کانادا قراردادهای اجاره امضا کرده است. این شرکت، در کنار دیگر طرف‌ها، با دولت کانادا نیز درباره پروژه گلس‌وینگ (Project Glasswing) گفت‌وگو کرده است؛ برنامه‌ای که هدف آن عرضه کنترل‌شده مدل‌های دارای قابلیت‌های پیشرفته امنیت سایبری است.
چگونه یک نقص می‌تواند به خسارتی گسترده منجر شود
بخش قابل‌توجهی از دفترچه عرضه به خطری اختصاص دارد که ارزیابی و تعیین پوشش بیمه‌ای آن دشوارتر است. آنتروپیک می‌گوید با واگذاری وظایف بیشتر به سامانه‌های هوش مصنوعی و کاهش نظارت انسانی، این سامانه‌ها ممکن است بدون دخالت انسان، به‌طور مستقل و در مقیاسی گسترده اقدامات زیان‌بار انجام دهند. چنین وضعیتی می‌تواند ناشی از ناهماهنگی رفتار مدل با اهداف موردنظر، خطا در تعیین اهداف یا رفتارهای معطوف به حفظ بقای خود باشد.
دنیل الچگوئرا باتله، از بنیان‌گذاران شرکت هاربور (Harbor)، ارائه‌دهنده بیمه برای هوش مصنوعی عامل‌محور، در گفت‌وگو با نشریه Insurance Business گفت: «به‌محض اینکه آن عامل مستقل عمل کند و دیگر هیچ انسانی در آنجا حضور نداشته باشد، به نظرم نحوه توزیع ریسک کاملاً تغییر می‌کند و در نتیجه، باید با آن به شیوه‌ای متفاوت برخورد کرد.»
گستردگی مشتریان آنتروپیک بر ابعاد این خطر می‌افزاید. تا ۳۰ سپتامبر، شرکت‌هایی که سالانه دست‌کم ۱۰۰ هزار دلار به آنتروپیک پرداخت می‌کردند، تمام اعضای فهرست ۱۰ شرکت برتر فورچون، بیش از نیمی از شرکت‌های فهرست فورچون ۵۰۰ و بیش از ۳۰ درصد شرکت‌های حاضر در فهرست گلوبال ۲۰۰۰ را شامل می‌شدند. بسیاری از این شرکت‌های چندملیتی در کانادا نیز فعالیت دارند و احتمالاً از همان ابزارهایی استفاده می‌کنند که شرکت‌های مادرشان به کار می‌گیرند. بنابراین، یک نقص واحد می‌تواند بیمه‌گذاران را در هر دو سوی مرز آمریکا و کانادا تحت تأثیر قرار دهد.
آنتروپیک برای تأمین توان محاسباتی موردنیاز مدل‌هایش به آمازون، گوگل و مایکروسافت نیز وابستگی زیادی دارد. این شرکت می‌گوید بیمه‌نامه‌های خودش ممکن است زیان‌های ناشی از توقف فعالیت کسب‌وکار در پی اختلالی جدی را پوشش ندهند. این موضوع یادآوری مهمی برای مشتریان کانادایی است که فعالیت‌های روزمره خود را با کلود اداره می‌کنند: آن‌ها باید بررسی کنند که آیا پوشش بیمه‌ای وقفه در کسب‌وکار ناشی از اختلال در خدمات طرف ثالث، در صورت از کار افتادن ارائه‌دهنده مدل هوش مصنوعی، واقعاً خسارتشان را جبران خواهد کرد یا خیر.
وضعیت در حوزه امنیت سایبری نیز ساده‌تر نیست. بر اساس اظهارنامه آنتروپیک، مجرمان سایبری هم‌اکنون از هوش مصنوعی برای یافتن آسیب‌پذیری‌ها، نوشتن بدافزار و عبور از ابزارهای شناسایی تهدید استفاده می‌کنند. این شرکت اذعان کرده است که پوشش بیمه سایبری خودش نیز ممکن است کافی نباشد.
بخشی از ریسک‌های آنتروپیک از هم‌اکنون در قراردادهای آن منعکس شده است. طبق برخی توافق‌ها با شرکت‌های مستقلی که مدل‌های این شرکت را آزمایش می‌کنند، آنتروپیک موظف است در برابر ادعاهای اشخاص ثالث از این شرکت‌ها دفاع کند و خسارت‌های آن‌ها را جبران کند؛ این تعهدها سقف مسئولیت ندارند. برخی قراردادهای مشتریان نیز شامل تعهدهای مشابه و بدون سقف در قبال ادعاهای مربوط به مالکیت فکری خروجی مدل‌ها هستند.
آنتروپیک پیش‌تر نیز با محدودیت پوشش بیمه‌ای مواجه شده است. این شرکت در سپتامبر ۲۰۲۵ پذیرفت برای حل‌وفصل دعوای گروهی نقض حق‌نشر بارتز در آمریکا، ۱٫۵ میلیارد دلار پرداخت کند؛ بااین‌حال، بیمه تمام این مبلغ را پوشش نداد.
نقش نهاد ناظر بیمه کانادا (OSFI)
برای شرکت‌های بیمه کانادایی، موضوع فقط به ریسک‌هایی که تحت پوشش قرار می‌دهند محدود نمی‌شود، بلکه نحوه اداره کسب‌وکار خود آن‌ها را نیز در بر می‌گیرد. آنتروپیک در اظهارنامه خود، پذیره‌نویسی بیمه را یکی از فعالیت‌های عملیاتی مشتریانش معرفی کرده که با کلود انجام می‌شود. شرکت‌های بیمه تحت نظارت فدرال کانادا که از هوش مصنوعی به این شکل استفاده می‌کنند، به‌زودی مشمول نسخه بازنگری‌شده دستورالعمل E-23 درباره مدیریت ریسک مدل خواهند شد. این دستورالعمل از اول مه ۲۰۲۷ اجرایی می‌شود و مدل‌های هوش مصنوعی و یادگیری ماشین را به‌صراحت در دامنه نظارت خود قرار می‌دهد.
OSFI همچنین اعلام کرده است که مدل‌های متعلق به شرکت‌های ثالث باید مطابق دستورالعمل B-10 درباره ریسک طرف ثالث مدیریت شوند. برای اجرای این الزامات مهلت ارفاقی در نظر گرفته نشده و هر مؤسسه مسئول است اسناد و مدارک کافی را از تأمین‌کنندگان خود دریافت کند.
در عمل، این الزامات به آن معناست که شرکت بیمه‌ای که در فرایند پذیره‌نویسی از کلود استفاده می‌کند، باید بتواند الزامات OSFI را درباره مدلی برآورده کند که توسعه‌دهنده آن به نهادهای ناظر آمریکا گفته است برخی ریسک‌هایش ممکن است اساساً بیمه‌پذیر نباشند.
حاکمیت شرکتی و بیمه مسئولیت مدیران و مقامات اجرایی (D&O)
آنتروپیک انتظار دارد ورود به بورس هزینه بیمه مسئولیت مدیران و مقامات اجرایی (D&O) را افزایش دهد و می‌گوید ممکن است ناچار شود سقف پوشش بیمه‌ای پایین‌تری را بپذیرد. ساختار حاکمیت شرکتی این شرکت نیز ویژگی‌های غیرمعمولی دارد. آنتروپیک به‌عنوان یک شرکت عام‌المنفعه، باید در تصمیم‌های هیئت‌مدیره میان بازده سهام‌داران و مأموریت اعلام‌شده خود توازن برقرار کند.
یک نهاد مستقل به نام تراست منافع بلندمدت (Long-Term Benefit Trust) که هیچ منفعت مالی مستقیمی در کسب‌وکار شرکت ندارد، اختیار انتخاب اکثریت اعضای هیئت‌مدیره را در اختیار دارد. اساسنامه شرکت یک گام فراتر می‌رود و تصریح می‌کند که ناتوانی در ایجاد توازن میان منافع عمومی و سایر اهداف، به‌تنهایی در ارزیابی حسن نیت یا وفاداری مدیران و مقامات اجرایی برای مقاصد مربوط به جبران خسارت آن‌ها، به‌عنوان تخلف تلقی نخواهد شد.
کارگزاران بیمه کانادایی که برنامه‌های بیمه‌ای با ظرفیت پوشش از بازار آمریکا و لندن تنظیم می‌کنند، باید به تفاوت رویکرد این دو بازار نیز توجه داشته باشند. بیمه‌گران آمریکایی اکنون می‌توانند استثناهای اختیاری مربوط به هوش مصنوعی مولد را که از سوی سازمان خدمات بیمه‌ای (ISO) تدوین شده است، به بیمه‌نامه‌های مسئولیت عمومی اضافه کنند. در مقابل، شرکت‌های تخصصی بازار لندن، مانند CFC، مفاد صریحی برای پوشش ریسک‌های هوش مصنوعی در بیمه‌نامه‌های خود گنجانده‌اند. در نتیجه، ممکن است یک برنامه بیمه‌ای کانادایی که از هر دو بازار استفاده می‌کند، خسارت مرتبط با هوش مصنوعی را در یک لایه پوشش دهد و در لایه‌ای دیگر از پوشش آن مستثنا کند.
شرکت‌های بیمه همچنین از مشتریان و پشتیبانان مهم آنتروپیک به شمار می‌روند. آلیانتس در ژانویه با این شرکت یک همکاری جهانی امضا کرد تا مدل کلود را در سراسر فعالیت‌های خود به کار گیرد.
پرسش‌هایی که پیش از تمدید بیمه باید مطرح شوند
- آیا استثناهای مربوط به هوش مصنوعی در لایه‌های پوشش بیمه‌ای آمریکا و لندن با یکدیگر تفاوت دارند؟
- اگر ارائه‌دهنده یک مدل هوش مصنوعی دچار اختلال شود، آیا پوشش بیمه‌ای وقفه در کسب‌وکار ناشی از اختلال در خدمات طرف ثالث خسارت را جبران می‌کند؟
- آیا مشتری با فروشندگان یا مشتریان حوزه هوش مصنوعی قراردادهای جبران خسارت بدون سقف مسئولیت امضا کرده است؟
- آیا مفاد بیمه‌نامه مسئولیت مدیران و مقامات اجرایی با ساختار هیئت‌مدیره‌ای که مأموریتی اجتماعی یا عام‌المنفعه دارد، تناسب دارد؟
- آیا شرکت‌های بیمه تحت نظارت فدرال، پیش از مه ۲۰۲۷، استفاده از هوش مصنوعی متعلق به شرکت‌های ثالث را در فهرست موجودی مدل‌های خود ثبت کرده‌اند؟