هوش مصنوعی خودسر، حملات سایبری و تسلیحات؛ خطراتی که آنتروپیک پیش از عرضه سهامش به سرمایه‌گذاران گوشزد می‌کند
نویسنده: جاناتان بنتون، با همکاری آسوشیتدپرس
۲۷ اکتبر ۲۰۲۶، ساعت ۹:۵۲ به وقت گرینویچ+۱
اسناد عرضه اولیه سهام این شرکت هوش مصنوعی، در کنار چالش‌های مالی و نظارتی، درباره آسیب‌های احتمالی ناشی از سامانه‌های هرچه خودمختارتر هشدار می‌دهند.
سامانه‌های هوش مصنوعی خارج از کنترل، حملات سایبری و احتمال استفاده از هوش مصنوعی برای ساخت سلاح‌های خطرناک، از جمله خطراتی هستند که شرکت آنتروپیک در آستانه ورود به بازار سهام به اطلاع سرمایه‌گذاران رسانده است.
از مجموع ۳۳۵ صفحه اسناد مربوط به وضعیت مالی آنتروپیک، حقوق و مزایای مدیران اجرایی، سیاست تقسیم سود و موضوعات مشابه، ۹۳ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی عواملی که ممکن است به سرمایه‌گذاری سهامداران احتمالی زیان برسانند. برای مقایسه، شرکت رقیب، اسپیس‌ایکس، در اسنادی با بیش از ۲۵۰ صفحه، ۳۸ صفحه را به تشریح عوامل خطر اختصاص داده بود.
آنتروپیک هنگام معرفی خود به سرمایه‌گذاران، عرضه اولیه سهام را گامی در جهت کاهش خطراتی معرفی می‌کند که به باور این شرکت، هوش مصنوعی برای جهان به همراه دارد.
بنیان‌گذاران شرکت در نامه‌ای به سهامداران بالقوه که در اسناد عرضه اولیه درج شده است، می‌نویسند: «ساخت هوش مصنوعی به معنای به‌کارگیری خودِ توان شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای کارهای خوب و هم برای مقاصد بد استفاده شود. آنتروپیک سازمانی است که عمیقاً بر پایه ارزش‌های خود شکل گرفته و بخش بزرگی از انگیزه تأسیس آن، کمک به جهان برای بهره‌مندی از مزایای هوش مصنوعی و دوری از خطرات آن بوده است.»
با این حال، خطرات متعددی وجود دارد. این خطرات از مسائل نسبتاً معمول، مانند ناتوانی در حفظ کارکنان کلیدی یا عبور از موانع نظارتی، تا مشارکت در حملات سایبری و گسترش اطلاعات نادرست خطرناک را در بر می‌گیرند.
در ادامه، برخی از خطراتی را بررسی می‌کنیم که آنتروپیک در اسناد خود شرح داده است.
شتاب سریع توسعه فناوری
آنتروپیک می‌گوید این احتمال وجود دارد که مدل‌هایش چنان سریع پیشرفت کنند که شرکت نتواند تدابیر ایمنی کافی را به‌موقع اجرا کند. به گفته شرکت، چنین وضعیتی «می‌تواند احتمال بروز حوادث ایمنی، مداخله نهادهای نظارتی یا آسیب به اعتبار شرکت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد».
داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داده بود که هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه آینده بتواند هدایت گروهی از عامل‌های هوش مصنوعی را بر عهده بگیرد که قادر باشند کنترل کل اینترنت را به دست بگیرند. این هشدار و تصمیم کنونی آنتروپیک برای عرضه سهام در شرایطی مطرح شده‌اند که نگرانی‌ها در داخل و خارج از صنعت درباره سامانه‌های هرچه قدرتمندتر رو به افزایش است؛ سامانه‌هایی که می‌توانند مسائلی فراتر از توانایی انسان را حل کنند، اما در عین حال ممکن است مستقلاً برای انجام کارهای زیان‌بار اقدام کنند.
در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا (SEC) آمده است که با «خودمختارتر و توانمندتر شدن سامانه‌های هوش مصنوعی در انجام اقدامات مهم و پیامدساز، با نظارت کمتر انسان»، این خطر وجود دارد که چنین سامانه‌هایی «بدون دخالت انسان، مستقلاً و در مقیاسی گسترده دست به اقدامات زیان‌بار بزنند».
آنتروپیک هشدار داده است: «حتی اگر مدل‌های خود ما موجب چنین آسیب‌هایی نشوند، وقوع یک حادثه ایمنی جدی در ارتباط با هر یک از سامانه‌های پیشرفته هوش مصنوعی می‌تواند به آسیب گسترده به اعتبار کل صنعت هوش مصنوعی، واکنش منفی افکار عمومی و اقدامات نظارتی فراگیر منجر شود؛ تحولاتی که ممکن است بر کسب‌وکار ما تأثیر منفی بگذارند.»
از آنجا که مدل‌های هوش مصنوعی اکنون در فعالیت‌های تحقیق و توسعه خود آنتروپیک نیز نقش دارند، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». در این اسناد آمده است که چنین وضعیتی می‌تواند به کسب‌وکار شرکت آسیب برساند.
سوءاستفاده‌گران می‌توانند با این فناوری آشوب به پا کنند
در اسناد عرضه سهام، نگرانی‌هایی درباره این موضوع مطرح شده است که سامانه‌های پیشرفته هوش مصنوعی، در صورت توسعه و بهره‌برداری بدون تدابیر حفاظتی و نظارت کافی، «خطراتی فاجعه‌بار یا تهدیدکننده موجودیت بشر ایجاد می‌کنند؛ به‌ویژه اگر از این سامانه‌ها سوءاستفاده شود، نسخه‌هایشان تکثیر شود، به سلاح تبدیل شوند یا اجازه یابند با درجه بالایی از خودمختاری فعالیت کنند».
این شرکت می‌گوید اگر استفاده عوامل مخرب از فناوری به آسیب منجر شود، یا اگر سازوکارهای کنترلی و تدابیر حفاظتی مدل‌هایش نتوانند مانع چنین سوءاستفاده‌ای شوند، کسب‌وکار آنتروپیک نیز متضرر خواهد شد.
آنتروپیک احتمال داده است که افراد یا گروه‌های مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا این فناوری را برای سرکوب شهروندان خود به کار بگیرند. این شرکت در ماه سپتامبر اعلام کرده بود که تلاش‌هایی برای استفاده مخرب از مدل‌های هوش مصنوعی خود، از جمله در حملات سایبری، نظارت و پژوهش‌هایی که می‌توانست به توسعه سلاح‌های زیستی منجر شود، متوقف کرده است.
محدودیت در دسترسی به توان پردازشی
توان پردازشی، یعنی قدرت و منابع محاسباتی مورد نیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، هزینه‌بر است و تقاضای زیادی برای آن وجود دارد. آنتروپیک هشدار می‌دهد که اگر نتواند توان پردازشی کافی تأمین کند یا «نتوانیم منابع محاسباتی خود را به‌طور مؤثر میان فعالیت‌های مختلف توزیع کنیم، ممکن است نتوانیم مدل‌هایی آموزش دهیم که از نظر رقابتی هم‌سطح مدل‌های رقبایمان باقی بمانند یا نیازهای مشتریان را به‌خوبی برآورده کنند».
آنتروپیک همچنین مخالفت جوامع محلی با احداث مراکز داده را یکی از خطرات پیش روی کسب‌وکار خود دانسته است. در اسناد شرکت آمده است که توسعه مراکز داده «به‌دلیل تأثیرات زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق، بحث‌برانگیز شده و مورد بررسی نهادهای نظارتی قرار گرفته است». شرکت افزوده است که اگر در پی این نگرانی‌ها الزامات یا هزینه‌های جدیدی از سوی نهادهای نظارتی وضع شود، توانایی آن برای ادامه فعالیت تجاری ممکن است آسیب ببیند.
علاوه بر این، بخش قابل‌توجهی از درآمد آنتروپیک به تعداد محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و همچنین کانال‌های توزیع آن وابسته است. به گفته شرکت، اگر حتی یکی از مشتریان بزرگش تصمیم بگیرد همکاری را کاهش دهد یا به‌کلی قطع کند، چشم‌انداز تجاری و وضعیت مالی آنتروپیک ممکن است با مشکل مواجه شود.
کاهش خطرات
از برخی جهات، ترکیب خطرات عظیم هوش مصنوعی با ظرفیت بالقوه بسیار زیاد آن، به یکی از مهم‌ترین نقاط قوت آنتروپیک در معرفی خود به سرمایه‌گذاران تبدیل شده است. این شرکت تلاش کرده است خود را به‌عنوان شرکتی مسئولیت‌پذیر در حوزه هوش مصنوعی معرفی کند و با تأکید بر اهمیت ایمنی، مشتریان تجاری را جذب کند.
در اسناد عرضه اولیه آمده است: «ما معتقدیم شرکت‌هایی که در خط مقدم توسعه هوش مصنوعی قرار دارند، باید برای ایمنی و هم‌راستاسازی این فناوری با اهداف و ارزش‌های انسانی سرمایه‌گذاری کنند تا به گسترش مسئولانه آن کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در شرکت زکس اینوستمنت ریسرچ، گفت در عرضه‌های اولیه سهام باید خطراتی که سرمایه‌گذاران با خرید سهام یک شرکت تازه‌وارد به بازار با آن‌ها روبه‌رو می‌شوند، «به‌روشنی تمام» توضیح داده شوند.
او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه در داخل کشور ما، همین سطح شفافیتی است که شرکت‌ها ملزم به رعایت آن هستند. برای اینکه شرکتی در بورس آمریکا به‌صورت عمومی معامله شود، باید خطرات خود را به‌روشنی تشریح کند تا مردم بدانند اگر بخواهند با سرمایه‌ای که به‌سختی به دست آورده‌اند در این عرضه مشارکت کنند و به تأمین مالی چنین معامله‌ای کمک برسانند، با چه ریسک‌هایی روبه‌رو خواهند شد.»