آیا آنتروپیک آن‌قدر بزرگ شده که بیمه‌پذیر نباشد؟ هشدار درباره ناتوانی در پوشش خسارت یک فاجعه مرتبط با هوش مصنوعی

هر شرکتی که قصد دارد سهام خود را در بازار بورس وال‌استریت عرضه کند، موظف است خطرات احتمالی سرمایه‌گذاری را برای خریداران سهام توضیح دهد. در مورد آنتروپیک، غول صنعت هوش مصنوعی، این هشدارها حتی احتمال تهدید شدن خود بشریت به‌دلیل محصولات این شرکت را نیز دربر می‌گیرد.

خطراتی که این شرکت مستقر در سان‌فرانسیسکو در پرونده‌ای که روز دوشنبه به کمیسیون بورس و اوراق بهادار آمریکا ارائه کرد، برشمرده است، شامل احتمال استفاده افراد بدخواه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار و همچنین احتمال خارج شدن خود این فناوری از کنترل، با پیامدهایی نامعلوم و گسترده، می‌شود.

از مجموع ۳۳۵ صفحه این پرونده که اطلاعاتی درباره وضعیت مالی آنتروپیک، پاداش مدیران، سیاست تقسیم سود و موضوعات دیگر ارائه می‌دهد، ۹۳ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی عواملی که ممکن است به سرمایه‌گذاری سهام‌داران احتمالی آسیب برسانند. در مقابل، عوامل خطر ذکرشده در پرونده شرکت رقیب، اسپیس‌ایکس، ۳۸ صفحه از سندی با بیش از ۲۵۰ صفحه را تشکیل می‌داد.

آنتروپیک در معرفی خود به سرمایه‌گذاران، عرضه اولیه سهام را گامی برای کاهش خطراتی معرفی می‌کند که به باور این شرکت، هوش مصنوعی برای جهان به همراه دارد.

بنیان‌گذاران شرکت در نامه‌ای به سهام‌داران احتمالی که در پرونده عرضه اولیه آمده است، نوشتند: «ساخت هوش مصنوعی به معنای به‌کارگیری خودِ توانایی شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای کارهای خوب و هم برای اهداف زیان‌بار استفاده شود. آنتروپیک سازمانی است که عمیقاً بر پایه ارزش‌های خود شکل گرفته و تا حد زیادی با این هدف تأسیس شده است که به جهان کمک کند از مزایای هوش مصنوعی بهره‌مند شود و از خطرات آن دور بماند.»

به گفته شرکت، از مزایای بالقوه این فناوری می‌توان به پیشرفت‌های چشمگیر در درمان بیماری‌ها و افزایش بهره‌وری در همه بخش‌های اقتصاد اشاره کرد.

با این حال، خطرات و مسئولیت‌های احتمالی فراوان‌اند. این خطرات از مسائل معمول، مانند ناتوانی در حفظ کارکنان کلیدی یا عبور از موانع مقرراتی، تا دست داشتن در حملات سایبری و گسترش اطلاعات نادرست خطرناک را شامل می‌شوند.

در ادامه، برخی از خطراتی را مرور می‌کنیم که آنتروپیک در پرونده خود به آن‌ها اشاره کرده است.

شتاب سریع پیشرفت فناوری

آنتروپیک اعلام کرده است که ممکن است مدل‌های هوش مصنوعی آن‌قدر سریع پیشرفت کنند که شرکت نتواند تدابیر ایمنی کافی را به‌موقع اجرا کند. به گفته شرکت، چنین وضعیتی «می‌تواند احتمال وقوع حوادث ایمنی، مداخله نهادهای ناظر یا آسیب به اعتبار شرکت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد».

داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داد که ممکن است هوش مصنوعی ظرف شش تا ۱۲ ماه آینده بتواند گروهی از عامل‌های هوش مصنوعی را هدایت کند که کنترل کل اینترنت را به دست بگیرند.

این هشدار و اکنون تصمیم آنتروپیک برای عرضه سهام، در شرایطی مطرح می‌شوند که نگرانی‌ها درباره هوش مصنوعی، هم در داخل صنعت و هم در خارج از آن، رو به افزایش است. سیستم‌های قدرتمندتر می‌توانند مسائلی را حل کنند که فراتر از توانایی انسان است، اما ممکن است مستقلاً دست به اقدامات دیگری بزنند که آسیب‌بارترند.

در پرونده ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا آمده است که با «خودمختارتر و توانمندتر شدن سیستم‌های هوش مصنوعی و افزایش توانایی آن‌ها برای انجام اقدامات مهم با نظارت انسانی کمتر»، این خطر وجود دارد که چنین سیستم‌هایی «بدون دخالت انسان و در مقیاسی گسترده، مستقلاً اقدامات زیان‌بار انجام دهند».

آنتروپیک هشدار داد: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، وقوع یک حادثه ایمنی مهم در ارتباط با هر یک از سیستم‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی آسیب گسترده‌ای وارد کند، واکنش منفی عمومی را برانگیزد و به وضع مقررات فراگیر منجر شود؛ اقداماتی که ممکن است بر کسب‌وکار ما تأثیر منفی بگذارند.»

اکنون که مدل‌های هوش مصنوعی خود نیز در پژوهش و توسعه آنتروپیک نقش دارند، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». در این سند آمده است که چنین وضعیتی می‌تواند به کسب‌وکار شرکت آسیب بزند.

احتمال سوءاستفاده عوامل مخرب از فناوری

در این پرونده به نگرانی‌هایی اشاره شده است مبنی بر اینکه سیستم‌های پیشرفته هوش مصنوعی، اگر بدون تدابیر حفاظتی و نظارت کافی توسعه یابند و به کار گرفته شوند، «می‌توانند خطراتی فاجعه‌بار یا تهدیدهایی برای بقای بشریت ایجاد کنند؛ به‌ویژه اگر از این سیستم‌ها سوءاستفاده شود، نسخه‌های آن‌ها تکثیر شوند، به سلاح تبدیل شوند یا اجازه یابند با درجه بالایی از خودمختاری فعالیت کنند».

شرکت گفته است اگر استفاده عوامل مخرب از این فناوری به خسارت منجر شود، یا اگر سازوکارهای کنترلی و تدابیر حفاظتی مدل‌های آن نتوانند مانع چنین سوءاستفاده‌ای شوند، آنتروپیک نیز متضرر خواهد شد.

این شرکت احتمال داده است که افراد بدخواه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا این فناوری را برای سرکوب شهروندان خود به کار بگیرند. آنتروپیک در ماه سپتامبر اعلام کرد که تلاش‌هایی برای استفاده مخرب از مدل‌های هوش مصنوعی خود را مسدود کرده است؛ از جمله تلاش‌هایی برای حملات سایبری، نظارت و پژوهش‌هایی که می‌توانستند به توسعه سلاح‌های زیستی منجر شوند.

محدودیت در دسترسی به توان محاسباتی

توان محاسباتی، یعنی قدرت پردازش و منابع رایانشی موردنیاز برای ساخت مدل‌های هوش مصنوعی، آزمایش آن‌ها و بهبودشان، هزینه زیادی دارد و تقاضا برای آن بالاست.

آنتروپیک هشدار داده است که اگر نتواند به توان محاسباتی کافی دسترسی پیدا کند یا «نتوانیم منابع محاسباتی خود را به‌طور مؤثر میان حجم‌های مختلف کاری تخصیص دهیم»، ممکن است نتواند مدل‌هایی آموزش دهد که از نظر رقابتی با مدل‌های شرکت‌های رقیب هم‌سطح باشند یا نیازهای مشتریان را به‌درستی برآورده کنند.

آنتروپیک همچنین مخالفت جوامع محلی با مراکز داده را یکی از خطرات پیش روی کسب‌وکار خود دانسته است. در پرونده شرکت آمده است که توسعه مراکز داده «به‌دلیل تأثیرات زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق، بحث‌های عمومی و بررسی‌های نظارتی را برانگیخته است». شرکت افزوده است که اگر نهادهای ناظر در واکنش به این مسائل الزامات یا هزینه‌های جدیدی وضع کنند، توانایی آن برای ادامه فعالیت تجاری ممکن است آسیب ببیند.

علاوه بر این، بخش بزرگی از درآمد آنتروپیک به شمار محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و کانال‌های توزیع آن وابسته است. به گفته شرکت، اگر حتی یکی از مشتریان بزرگ تصمیم بگیرد همکاری خود را کاهش دهد یا به‌کلی قطع کند، چشم‌انداز تجاری و وضعیت مالی آنتروپیک ممکن است آسیب ببیند.

کاهش خطرات

از برخی جهات، ریسک‌های عظیم هوش مصنوعی در کنار ظرفیت‌های گسترده آن، به یکی از مهم‌ترین محورهای معرفی آنتروپیک به سرمایه‌گذاران تبدیل شده است. این شرکت تلاش کرده است خود را شرکتی مسئولیت‌پذیر در حوزه هوش مصنوعی معرفی کند و با تأکید بر توجه به ایمنی، مشتریان تجاری را جذب کند.

در پرونده شرکت آمده است: «ما معتقدیم شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته باید برای ایمنی و هم‌راستاسازی این فناوری با اهداف و ارزش‌های انسانی سرمایه‌گذاری کنند تا به گسترش مسئولانه آن کمک شود.»

برایان مالبری، استراتژیست ارشد بازار در شرکت زکس اینوستمنت منیجمنت، گفت شرکت‌هایی که سهام خود را از طریق عرضه اولیه وارد بازار می‌کنند، باید خطراتی را که سرمایه‌گذاران با آن مواجه‌اند، «به‌روشنی و به‌طور کامل» توضیح دهند.

او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه در داخل کشور ما، سطح شفافیتی است که شرکت‌ها متعهد می‌شوند رعایت کنند. برای اینکه یک شرکت در بورس آمریکا پذیرفته شود و سهامش معامله شود، باید این خطرات را به‌روشنی تشریح کند تا مردم بدانند اگر می‌خواهند با اختصاص پولی که به‌سختی به دست آورده‌اند در چنین عرضه‌ای مشارکت کنند و به تأمین مالی آن کمک کنند، با چه خطراتی روبه‌رو هستند.»

این گزارش برای اصلاح نام شرکت تحلیل‌گر به‌روزرسانی شده است: نام صحیح زکس اینوستمنت منیجمنت است، نه زکس اینوستمنت ریسرچ.

برنارد کاندون، نویسنده حوزه کسب‌وکار آسوشیتدپرس، و کیتلین هوامانی، نویسنده حوزه فناوری این خبرگزاری، در تهیه این گزارش مشارکت داشته‌اند.