آنتروپیک هشدار می‌دهد که هوش مصنوعی‌اش ممکن است بشریت را به نابودی بکشاند؛ درحالی‌که مشتریان شما از آن استفاده می‌کنند

آنتروپیک در اسناد مربوط به عرضه اولیه سهام خود اعلام کرده است که هوش مصنوعی این شرکت در صورت توسعه بدون تدابیر حفاظتی مناسب، ممکن است «خطرات فاجعه‌بار یا تهدیدهای وجودی برای بشریت» ایجاد کند. اکنون این عبارت در یک سند حقوقی رسمی ثبت شده است و در آینده ممکن است در دعاوی قضایی مورد استناد قرار گیرد.

آنتروپیک، سازنده سامانه هوش مصنوعی کلود (Claude) که در سراسر جهان در بخش‌های مالی، بیمه، حقوقی و بهداشت و درمان به کار گرفته می‌شود، روز دوشنبه امیدنامه عرضه اولیه سهام خود را ثبت کرد. این شرکت هم‌زمان اعلام کرد قصد دارد سهامش را با نماد ANT در بورس نزدک عرضه کند. ارزش‌گذاری مورد انتظار این عرضه از ۱٫۸ تریلیون دلار، یعنی ارزش اعلام‌شده اسپیس‌ایکس، فراتر خواهد رفت و در صورت تحقق، بزرگ‌ترین عرضه سهام در تاریخ بازارهای مالی خواهد بود.

این شرکت اعلام کرده است که در نیمه نخست سال ۲۰۲۶، در برابر درآمد ۱۶٫۳ میلیارد دلاری، بیش از ۸۰٫۷ میلیارد دلار زیان ثبت کرده است. آنتروپیک گفته است که می‌کوشد رویکردی «جسورانه اما معقول» در پیش بگیرد.

بار دیگر به این نکته توجه کنید: یکی از شناخته‌شده‌ترین شرکت‌های جهان در حوزه ایمنی هوش مصنوعی، سازنده ابزاری که در فرایندهای ارزیابی ریسک بیمه، رسیدگی به خسارت‌ها، خدمات مشتریان و رعایت الزامات قانونی در بازار آمریکا ادغام شده است، عبارت «خطرات فاجعه‌بار یا تهدیدهای وجودی برای بشریت» را در سندی رسمی ثبت‌شده نزد کمیسیون بورس و اوراق بهادار آمریکا گنجانده است. این افشاگری نظارتی در سندی انجام شده که سرمایه‌گذاران نهادی، وکلای آن‌ها و وکلای خواهان در دعاوی حقوقی ممکن است تا دهه‌ها به آن استناد کنند.

مهم‌ترین نکته برای شرکت‌های بیمه

در میان ۹۰ صفحه عوامل خطر، نکته‌ای مهم به چشم می‌خورد: آنتروپیک اعلام کرده است که هنوز مشخص نیست «در چه مواردی و به چه شیوه‌ای ممکن است بابت اقدامات انجام‌شده توسط سامانه‌هایش مسئول شناخته شود». در این سند آمده است که عامل‌های خودمختار هوش مصنوعی این شرکت تاکنون در موجی از حوادث امنیت سایبری دخیل بوده‌اند. اگر این عامل‌ها خسارتی ایجاد کنند، هنوز روشن نیست چه کسی باید هزینه آن را بپردازد.

این ابهام فقط به آنتروپیک محدود نمی‌شود. هر شرکت بیمه آمریکایی که از کلود در عملیات خود استفاده می‌کند، همین عدم قطعیت را وارد مجموعه ریسک‌های خود کرده است. همچنین ممکن است هر بیمه‌نامه مسئولیت حرفه‌ای یا بیمه مسئولیت خطاها و قصورهای فناوری (Tech E&O) که برای شرکتی استفاده‌کننده از عامل‌های هوش مصنوعی صادر شده است، در برابر ادعای خسارتی قرار بگیرد که چارچوب حقوقی رسیدگی به آن هنوز شکل نگرفته است.

در همان هفته، مالکان حقوق آثار موسیقایی الویس پریسلی از آنتروپیک شکایت کردند و مدعی شدند این شرکت بدون مجوز، از صدها قطعه موسیقی او برای آموزش کلود استفاده کرده است. این دعوای جاری در حوزه مالکیت فکری نشان می‌دهد که پرسش‌های مربوط به مسئولیت حقوقی هوش مصنوعی همین حالا نیز در دادگاه‌ها مطرح‌اند و قرار نیست تا زمان بلوغ این فناوری به تعویق بیفتند.

همان‌طور که این رسانه در ماه ژوئن گزارش داد، شرکت اکریشر با استناد به استفاده از هوش مصنوعی، ۲٬۲۵۰ نفر از کارکنان خود را تعدیل کرد؛ رویدادی مهم که نشان داد این صنعت به‌تدریج پیامدهای عملیاتی هوش مصنوعی را به رسمیت می‌شناسد. اکنون ثبت اسناد عرضه اولیه آنتروپیک، نقطه عطفی مشابه در حوزه مسئولیت حقوقی است. فاصله میان طرح این احتمال که «هوش مصنوعی ممکن است آسیب برساند» در یک گزارش اندیشکده‌ای و ثبت همین هشدار در یک سند افشای رسمی نزد کمیسیون بورس و اوراق بهادار آمریکا، فاصله میان ریسکی انتزاعی و ریسکی است که باید در ارزیابی‌های مالی و قیمت‌گذاری لحاظ شود؛ و این فاصله اکنون از میان رفته است.

گام بعدی چیست؟

اندکی پس از آنتروپیک، اوپن‌ای‌آی نیز قصد خود را برای عرضه اولیه سهام اعلام کرد و انتظار می‌رود سهام این شرکت در اوایل سال آینده عرضه شود. تجربه تاریخی صنعت بیمه در مواجهه با هوش مصنوعی نشان می‌دهد که این صنعت معمولاً به‌جای پیش‌بینی و آمادگی قبلی، پس از بروز مشکلات به سراغ دسته‌های جدید ریسک می‌رود. هر کارشناس ارزیابی ریسک بیمه که همین هفته بازبینی مفاد بیمه‌نامه‌های مرتبط با هوش مصنوعی را آغاز نکند، از هم‌اکنون از تحولات عقب افتاده است.