آنتروپیک هشدار می‌دهد که برخی ریسک‌های هوش مصنوعی ممکن است بیمه‌پذیر نباشند؛ پوشش بیمه‌ای هوش مصنوعی به مسئله‌ای برای همه شرکت‌ها تبدیل می‌شود
در پرونده عرضه اولیه سهام آنتروپیک، به طیف گسترده‌ای از خطرها اشاره شده است؛ از سرقت مالکیت فکری و حوادث امنیتی گرفته تا از دست رفتن داده‌ها، تغییرات اقلیمی، خارج‌شدن عامل‌های هوش مصنوعی از کنترل و حتی تهدیدهای وجودی برای بشریت. در میان این هشدارها، پرسش‌های اساسی درباره بیمه مطرح می‌شود: چه خسارت‌هایی تحت پوشش قرار خواهند گرفت؟ آیا اساساً می‌توان برای تمام پیامدهای احتمالی عملکرد نادرست هوش مصنوعی بیمه‌نامه‌ای ارائه کرد؟ آنتروپیک نتوانسته است پاسخ روشنی به این پرسش بدهد.
در اسناد ثبت‌شده شرکت نزد کمیسیون بورس و اوراق بهادار آمریکا (SEC) آمده است: «از آنجا که مدل‌های ما ممکن است به شیوه‌هایی رفتار کنند که هیچ‌یک از کاربران یا توسعه‌دهندگان قصد آن را نداشته‌اند، ادعاهای خسارتی ناشی از چنین رفتارهایی می‌تواند مسئولیت‌های مالی سنگینی برای ما ایجاد کند. همچنین ممکن است بیمه‌نامه‌های ما پوشش کافی برای کاهش مناسب مسئولیت‌های احتمالی‌مان فراهم نکنند؛ به‌ویژه زمانی که یک حادثه یا مجموعه‌ای از حوادث خسارتی نامتناسب و بسیار گسترده به بار آورد.»
در ادامه این اسناد آمده است: «با توجه به ابعاد خسارتی که ممکن است در پی یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی ایجاد شود، ممکن است هیچ بیمه‌گری به‌تنهایی و حتی صنعت بیمه در مجموع، ظرفیت مالی یا تخصص کافی برای پذیرفتن ریسکی متناسب با چنین میزان مواجهه‌ای را نداشته باشد. افزون بر این، بازار بیمه خطرهای اختصاصی هوش مصنوعی هنوز نوپا و در حال تحول است. ممکن است نتوانیم برای برخی مسئولیت‌های مرتبط با هوش مصنوعی با شرایط تجاری معقول پوشش بیمه‌ای تهیه کنیم یا اساساً به چنین پوششی دسترسی نداشته باشیم؛ در نتیجه، در معرض خسارت‌های بیمه‌نشده و بالقوه سنگین قرار خواهیم گرفت.»
این خطرها با کاربردهای روزمره چت‌بات‌های هوش مصنوعی، مانند رزرو بلیت هواپیما یا پیدا کردن بهترین قیمت برای خرید کباب‌پز فضای باز، فاصله زیادی دارند. با این حال، مواردی که در آن‌ها چت‌بات‌ها یا عامل‌های هوش مصنوعی از کنترل خارج می‌شوند، رو به افزایش است و برخی شرکت‌ها با نگرانی این روند را دنبال می‌کنند؛ تا جایی که حتی دسترسی برخی از این ابزارها را مسدود کرده‌اند. در مواردی شدیدتر، چت‌بات‌ها متهم شده‌اند که در مرگ افراد نقش داشته‌اند؛ از جمله پرونده‌ای که این هفته فاش شد. چنین مواردی پرسش‌های دشواری درباره مسئولیت و پوشش بیمه‌ای ایجاد می‌کنند که پاسخ ساده‌ای ندارند. از سوی دیگر، با نفوذ هوش مصنوعی به تقریباً تمام بخش‌های اکوسیستم کسب‌وکارها، احتمال مواجهه شرکت‌ها با خسارت و مسئولیت حقوقی مرتبط با این فناوری بیشتر شده و صنعت بیمه نیز نسبت به این وضعیت هوشیارتر شده است.
آلیسا لوگو، تحلیلگر ارشد مدیران در حوزه حقوق و تطبیق مقررات شرکت گارتنر، می‌گوید پژوهش‌های او نشان می‌دهد شمار ادعاهای خسارتی با عنوان «مرگ ناشی از هوش مصنوعی» ممکن است تا پایان سال ۲۰۲۶ در سراسر جهان از ۲ هزار مورد فراتر رود. منظور از این موارد، حوادث مرگباری است که هوش مصنوعی به هر نحوی در آن‌ها نقش داشته است. به گفته او، انتظار می‌رود این رقم همچنان افزایش یابد.
لوگو می‌گوید شرکت‌های بیشتری در حال گنجاندن استثناهای مربوط به هوش مصنوعی در بیمه‌نامه‌های خود هستند و در نهایت، بیمه‌گران با کمک دادگاه‌ها حدود و شرایط پوشش این فناوری را تعیین خواهند کرد. به‌ویژه در مورد خسارت‌های ناشی از صدمات جسمی، پوشش بیمه سایبری با محدودیت‌های جدی روبه‌رو است.
بسیاری از کارشناسان، از جمله لوگو، وضعیت کنونی مسئولیت‌های ناشی از هوش مصنوعی را با سال‌های ابتدایی شکل‌گیری بیمه سایبری مقایسه می‌کنند.
دنیس هندریکسون از شرکت هندریکسون اینشورنس، یک کارگزاری مستقل بیمه در ساراسوتا در ایالت فلوریدا، می‌گوید: «در حال حاضر، بیمه سایبری بیش از هر نوع بیمه دیگری خسارت‌های مرتبط با هوش مصنوعی را پوشش می‌دهد، اما این پوشش فقط یک دسته از خسارت‌های ناشی از هوش مصنوعی را در بر می‌گیرد. بیمه سایبری زمانی وارد عمل می‌شود که هوش مصنوعی در نقض داده‌ها، نقض حریم خصوصی، اختلال در سامانه‌ها یا کلاهبرداری مالی از طریق جعل عمیق نقش داشته باشد.»
هندریکسون اشاره می‌کند که برخی شرکت‌های بیمه سایبری دامنه تعریف پوشش خود را گسترش داده‌اند تا حوادث امنیتی ناشی از هوش مصنوعی را نیز شامل شود. او می‌گوید: «این اقدام مفید است، اما تقریباً تمام بیمه‌نامه‌های سایبری صدمات جسمی را مستثنا می‌کنند. بیمه سایبری برای حفاظت از داده‌ها و پول طراحی شده است، نه برای جبران خسارت به افرادی که آسیب می‌بینند. از نظر من، این مسئله یک مشکل اساسی است.» او نبود پوشش برای صدمات جسمی و خسارت‌های فیزیکی را «شکافی بسیار بزرگ» توصیف می‌کند که باید برطرف شود.
شکاف‌های موجود در پوشش بیمه‌ای هوش مصنوعی
کارا هیگینباتم، رئیس بخش مسئولیت حرفه‌ای و بیمه سایبری مشتریان بزرگ ملی در شرکت زوریخ نورث آمریکا، می‌گوید هوش مصنوعی در حوزه‌های مختلف بیمه‌ای ریسک‌های تازه‌ای ایجاد کرده است، اما نحوه برخورد بیمه‌گران با این خطرها بسته به نوع بیمه تفاوت زیادی دارد. او می‌گوید: «هر شاخه از بیمه به شیوه‌ای متفاوت با این مسئله برخورد می‌کند.»
برخی شرکت‌ها، از جمله زوریخ، مجموعه‌ای از ابزارهای هوش مصنوعی تأییدشده را برای استفاده کارکنان در اختیار دارند، در حالی که استفاده از برخی ابزارهای دیگر ممنوع است. به گفته هیگینباتم، ممکن است در آینده لازم باشد تدابیر حفاظتی مرتبط با هوش مصنوعی به‌طور معمول در بیمه‌نامه‌ها گنجانده شوند. با این حال، او می‌گوید در شرایط کنونی، معمولاً هنوز شکافی در پوشش خسارت‌های ناشی از آسیب جسمی یا صدمات فیزیکی مرتبط با حوادث هوش مصنوعی وجود دارد.
هیگینباتم توضیح می‌دهد: «این یک شکاف بیمه‌ای است، زیرا چنین خسارت‌هایی به‌طور پیش‌فرض پوشش داده نمی‌شوند. بسیاری از بیمه‌گران امروز برای گنجاندن این موارد در بیمه‌نامه تردید خواهند داشت، چون ما به‌عنوان بیمه‌گر باید بتوانیم ریسک را ارزیابی و قیمت‌گذاری کنیم.» او خاطرنشان می‌کند که این سناریوها هنوز بسیار جدیدند و شناخت کافی از آن‌ها وجود ندارد؛ هرچند در برخی موارد ممکن است بتوان پوشش مسئولیت عمومی را برای چنین خسارت‌هایی گسترش داد.
هنریتا آکپاتا، عضو اجرایی و مدرس مدعو مدیریت و هوش مصنوعی در دانشگاه ماریست، می‌گوید: «بیمه‌گران می‌گویند: چیزی را که نمی‌توانید به ما نشان دهید، نمی‌توانیم بیمه کنیم. بیشتر شرکت‌ها حتی نمی‌توانند مشخص کنند کارکنانشان در چه بخش‌هایی از ابزارهای هوش مصنوعی استفاده می‌کنند. این نخستین مشکلی است که باید برطرف شود.»
به گفته آکپاتا، این مسئله فقط به شرکت‌های بزرگ فناوری محدود نیست. ممکن است یک کسب‌وکار محلی به دلیل ارائه پاسخ نادرست به مشتری از سوی چت‌بات وب‌سایتش با مشکل مواجه شود یا واحد منابع انسانی شرکتی که از هوش مصنوعی برای دسته‌بندی درخواست‌های شغلی استفاده می‌کند، با پیامدهای حقوقی روبه‌رو شود. او می‌گوید: «این‌ها کاربردهای روزمره‌اند و ممکن است دیگر تحت پوشش بیمه قرار نگیرند.»
کارشناسان هنوز درباره اینکه بیمه هوش مصنوعی به محصولی مستقل و فراگیر تبدیل خواهد شد یا در بیمه‌نامه‌های سایبری موجود ادغام می‌شود، اتفاق‌نظر ندارند. هندریکسون معتقد است پوشش خسارت‌های مالی ناشی از هوش مصنوعی به‌تدریج به امری متداول تبدیل خواهد شد و قیمت‌گذاری آن نیز مشابه بیمه سایبری خواهد بود. اما بیمه خسارت‌های جسمی ناشی از هوش مصنوعی دشوارتر خواهد بود. به گفته او، باید انتظار ارزیابی سخت‌گیرانه ریسک، سقف‌های فرعی پایین‌تر برای پرداخت خسارت و الزام به بررسی انسانی عملکرد هوش مصنوعی پیش از استفاده از خروجی آن برای بیمار را داشت. کارشناسان بیمه می‌گویند برخی کسب‌وکارهای مرتبط با حوزه سلامت ممکن است اصلاً نتوانند چنین پوششی تهیه کنند.
جیمین کیم، مسئول فناوری‌های نوظهور در بخش بیمه سایبری شرکت مارش، می‌گوید این شرکت تاکنون با شمار زیادی از ادعاهای خسارتی مرتبط با هوش مصنوعی مواجه نشده است و او معتقد است بیشتر بیمه‌نامه‌های سایبری فعلی برای رسیدگی به مسائل مربوط به هوش مصنوعی کفایت می‌کنند. کیم می‌گوید: «هوش مصنوعی به‌خودی‌خود یک عامل خطر مستقل نیست؛ بلکه فناوری‌ای است که می‌تواند بستر بروز انواع آشنای خسارت‌ها و آسیب‌ها باشد.» او اضافه می‌کند که جدا کردن هوش مصنوعی از سایر خطرها و تعریف آن به‌عنوان یک دسته مستقل بیمه‌ای می‌تواند فرایندی بسیار پیچیده و زمان‌بر باشد.
کیم می‌گوید: «هوش مصنوعی به‌طور فزاینده‌ای در فعالیت‌های روزمره کسب‌وکارها ادغام می‌شود و به همین دلیل، استفاده از آن هم فراگیرتر شده و هم کمتر به چشم می‌آید. در نتیجه، از منظر بیمه نمی‌توان نقش هوش مصنوعی را در زنجیره علّی منتهی به خسارت به‌طور عملی از سایر عوامل جدا کرد.» او توضیح می‌دهد که اگر هوش مصنوعی در یک حادثه مرتبط با حریم خصوصی داده‌ها یا امنیت نقش داشته باشد، ماهیت حادثه همچنان نقض حریم خصوصی یا یک رویداد امنیتی است. به گفته او، مدیریت هم‌زمان بیمه‌نامه‌های متعدد و هم‌پوشان نیز می‌تواند برای مشتری به کابوسی اداری تبدیل شود.
کیم می‌پرسد: «آیا قرار است از این پس یک بیمه‌نامه مسئولیت عمومی جامع برای تمام فعالیت‌هایی داشته باشیم که به هوش مصنوعی مربوط نمی‌شوند و یک بیمه‌نامه مسئولیت عمومی جامع دیگر برای تمام فعالیت‌هایی که با هوش مصنوعی سروکار دارند؟»
به گفته کیم، صنعت بیمه تاکنون با دسته کاملاً جدیدی از ریسک روبه‌رو نشده که صرفاً به‌واسطه هوش مصنوعی به وجود آمده باشد؛ با این حال، او می‌پذیرد که شاید واژه تعیین‌کننده در این جمله «هنوز» باشد.
تجربه بیمه سایبری چه چیزی درباره آینده ریسک‌های هوش مصنوعی می‌گوید؟
ویکرام دسای، مسئول جهانی راهبرد، ریسک و معماری سایبری در شرکت اکسنتور، می‌گوید تا همین اواخر، تمام گفت‌وگوها بر چگونگی وارد کردن هوش مصنوعی به کسب‌وکارها متمرکز بود. او می‌گوید: «اکنون پرسش این است که وقتی این فناوری درست کار نمی‌کند، چه اتفاقی می‌افتد. همین مسئله نشان داده است که هوش مصنوعی تا چه اندازه با بیمه‌نامه‌هایی که شرکت‌ها از قبل در اختیار دارند، سازگار نیست.»
از برخی جهات، این وضعیت به سال‌های آغازین امنیت سایبری شباهت دارد. دسای می‌گوید: «ریسک سایبری سال‌ها بی‌سروصدا در دل بیمه‌های مسئولیت عمومی وجود داشت تا اینکه بیمه‌گران آن را به‌عنوان خطری مستقل تعریف کردند، از پوشش خارجش کردند و سپس پوشش جداگانه‌ای برای آن فروختند. هوش مصنوعی نیز همین مسیر را طی می‌کند، اما با سرعتی بسیار بیشتر.»
او اضافه می‌کند: «خطر واقعی، هوش مصنوعی‌ای است که شرکت‌ها حتی از وجود آن خبر ندارند. استثناهای بیمه‌ای ممکن است زمانی اعمال شوند که هوش مصنوعی در هر نقطه‌ای از زنجیره منتهی به خسارت نقش داشته باشد؛ حتی اگر این فناوری بخشی از محصول یک تأمین‌کننده باشد.»
به گفته دسای، ارزیابان ریسک بیمه از هم‌اکنون می‌پرسند هوش مصنوعی در کدام بخش‌های شرکت استفاده می‌شود و چه کسی بر آن نظارت دارد.
هیگینباتم می‌گوید بیشتر ادعاهای خسارتی مرتبط با هوش مصنوعی که امروز مطرح می‌شوند، به حملات پرسر‌وصدا و گسترده‌ای که شبکه‌ها را از کار می‌اندازند مربوط نیستند؛ بلکه عمدتاً به اختلافات متداول‌تر درباره مالکیت فکری مربوط می‌شوند. از جمله این موارد می‌توان به شکایت از توسعه‌دهندگان هوش مصنوعی به اتهام استخراج و جمع‌آوری محتوا برای آموزش مدل‌ها یا ادعاهایی درباره آموزش مدل‌ها با استفاده از آثار دارای حق نشر اشاره کرد. او می‌گوید: «مواردی از سوءاستفاده از داده‌ها و ادعاهای مرتبط با نقض حریم خصوصی را نیز دیده‌ایم.»
یکی از پیچیدگی‌های بیمه سایبری این است که همیشه نمی‌توان بلافاصله تشخیص داد آیا در یک حمله مهندسی اجتماعی از هوش مصنوعی استفاده شده است یا نه؛ برای مثال، زمانی که فردی با جعل هویت یک همکار، ایمیلی ارسال می‌کند یا از طریق پیام‌رسان مایکروسافت تیمز با دیگران ارتباط می‌گیرد.
هیگینباتم می‌گوید: «می‌دانیم افراد مخرب از هوش مصنوعی برای اجرای حملات متقاعدکننده‌تر استفاده می‌کنند و این امر به افزایش و تسریع ادعاهای خسارتی سایبری دامن می‌زند.» با این حال، او تأکید می‌کند که همیشه روشن نیست هوش مصنوعی دقیقاً چه نقشی در این حملات داشته است. به گفته او، بنابراین این خطرها به دسته بیمه‌ای جداگانه‌ای تبدیل نخواهند شد، زیرا بیمه سایبری برای رسیدگی به چنین ریسک‌هایی طراحی شده است.
او می‌گوید اگر بیمه‌گران با «تغییری پایدار در الگوهای شکل‌گیری و رشد ادعاهای خسارتی» مواجه شوند، ممکن است ناچار شوند هزینه این پوشش را افزایش دهند؛ به‌ویژه اگر میزان خسارت‌های احتمالی بر ترازنامه مالی شرکت بیمه فشار وارد کند. با این حال، او اضافه می‌کند: «هنوز به آن مرحله نرسیده‌ایم.»
هیگینباتم می‌گوید: «روش‌های ارزیابی ریسک ما باید همگام با تغییرات محیط تهدید تکامل پیدا کنند و خود را با آن‌ها سازگار سازند. در حال حاضر، برای کمک به این روند در حال همکاری با مؤسسات حقوقی و شرکت‌های فناوری هستیم.» او تأکید می‌کند: «هدف ما این نیست که برای هر خطر تازه‌ای فوراً استثنا قائل شویم؛ می‌خواهیم به شرکت‌ها کمک کنیم ریسک‌های خود را مدیریت کنند.»
شرکت‌هایی که کنترل‌های پایه‌ای امنیت و مدیریت ریسک را اجرا نکرده‌اند، ممکن است در نهایت با استثناهای بیمه‌ای مواجه شوند؛ به‌ویژه اگر حاضر نباشند رویکرد خود را در مدیریت ریسک تغییر دهند. با این حال، هیگینباتم می‌گوید: «اعمال استثناهای بیمه‌ای نخستین راهکاری نیست که سراغ آن می‌رویم.»
هندریکسون نیز مانند دیگر کارشناسان، میان وضعیت کنونی بیمه هوش مصنوعی و تجربه بیمه سایبری شباهت‌هایی می‌بیند. او می‌گوید منتظر موج عظیمی از ادعاهای خسارتی است که به باورش در راه است و هیچ‌کس، حتی شرکت‌های بزرگ بیمه، برای آن آمادگی ندارد.
او می‌گوید: «این وضعیت را پیش‌تر در بیمه سایبری دیده‌ایم. ابتدا بیمه‌گران از پوشش این خطر دست کشیدند، سپس بیمه‌نامه‌های جداگانه‌ای برای آن ایجاد کردند و در نهایت، چک‌لیست‌های آن‌ها به معیارهایی تبدیل شد که شرکت‌ها از آن‌ها پیروی می‌کردند. انتظار دارم همین اتفاق درباره هوش مصنوعی نیز تکرار شود؛ برای بسیاری از کسب‌وکارها، بیمه‌گران پیش از دولت استانداردها را تعیین خواهند کرد.»
هندریکسون در ادامه می‌گوید: «شرکت‌های بیمه محصول جدیدی عرضه می‌کنند، سپس ادعاهای خسارتی از راه می‌رسند و آن‌ها بیمه‌نامه را تمدید نمی‌کنند.» او اضافه می‌کند که در چنین شرایطی، اغلب این نمایندگان مستقل بیمه، مانند خودش، هستند که باید با مشتریان ناراضی یا افرادی که خسارتشان تحت پوشش قرار نگرفته است، روبه‌رو شوند. او می‌گوید: «ما هر روز در خط مقدم با این مسائل سروکار داریم.»
