آنتروپیک در اسناد عرضه سهام، از خطرات هوش مصنوعی خارج از کنترل و تهدیدهای احتمالی برای بشریت می‌گوید
هر شرکتی که قصد دارد سهام خود را در بازار بورس آمریکا عرضه کند، موظف است خطرات احتمالی سرمایه‌گذاری را برای خریداران سهام توضیح دهد. در مورد آنتروپیک، غول حوزه هوش مصنوعی، این خطرات حتی احتمال تهدید بشریت به‌دست محصولات خود شرکت را نیز در بر می‌گیرد.
خطراتی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا تشریح کرد، شامل احتمال سوءاستفاده افراد و گروه‌های مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار و همچنین خارج شدن خود این فناوری از کنترل، با پیامدهایی نامعلوم، است.
از مجموع ۳۳۵ صفحه اسناد مربوط به وضعیت مالی آنتروپیک، دستمزد مدیران، سیاست پرداخت سود سهام و موضوعات دیگر، ۹۳ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی عواملی که ممکن است به سرمایه‌گذاری سهام‌داران احتمالی آسیب بزنند. برای مقایسه، عوامل خطر اعلام‌شده از سوی شرکت رقیب، اسپیس‌ایکس، در ۳۸ صفحه از مجموعه‌ای شامل بیش از ۲۵۰ صفحه آمده است.
آنتروپیک در معرفی خود به سرمایه‌گذاران، عرضه اولیه سهام را گامی برای کاهش خطراتی معرفی می‌کند که به باور این شرکت، هوش مصنوعی برای جهان به همراه دارد.
بنیان‌گذاران شرکت در نامه‌ای به سهام‌داران بالقوه که در اسناد عرضه اولیه آمده است، می‌نویسند: «ساخت هوش مصنوعی به معنای به‌کارگیری خودِ توانایی شناخت و تفکر است و هر چیزی با چنین قدرتی می‌تواند هم برای خیر و هم برای شر به کار گرفته شود. آنتروپیک سازمانی است که عمیقاً بر ارزش‌های خود تکیه دارد و بخش بزرگی از انگیزه تأسیس آن، کمک به جهان برای بهره‌مندی از مزایای هوش مصنوعی و دوری از خطرات آن بوده است.»
با این حال، فهرست خطرات طولانی است. این خطرات از مسائل نسبتاً معمول، مانند ناتوانی در حفظ کارکنان کلیدی یا عبور از موانع مقرراتی، تا احتمال دست داشتن در حملات سایبری و گسترش اطلاعات نادرست خطرناک را شامل می‌شوند.
در ادامه، برخی از خطراتی که آنتروپیک در اسناد خود برشمرده است، آمده‌اند.
شتاب سریع توسعه فناوری
آنتروپیک اعلام کرده است که مدل‌هایش ممکن است چنان سریع پیشرفت کنند که شرکت نتواند تدابیر ایمنی کافی را به‌موقع اجرا کند. به گفته شرکت، چنین وضعیتی «ممکن است احتمال وقوع حوادث ایمنی، مداخله نهادهای ناظر یا آسیب به اعتبار شرکت را افزایش دهد و بر فعالیت تجاری ما تأثیر منفی بگذارد».
داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داد که هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه آینده بتواند گروهی از عامل‌های هوش مصنوعی را هدایت کند که کنترل کل اینترنت را به دست بگیرند. این هشدار و اکنون اقدام آنتروپیک برای عرضه سهام، در شرایطی مطرح می‌شود که نگرانی‌ها درباره هوش مصنوعی، چه در داخل صنعت و چه در خارج از آن، رو به افزایش است. سیستم‌های قدرتمندتر می‌توانند مسائلی فراتر از توانایی انسان را حل کنند، اما ممکن است به‌طور مستقل نیز دست به اقداماتی بزنند که پیامدهای زیان‌بارتری دارند.
در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا آمده است که هرچه سیستم‌های هوش مصنوعی «خودمختارتر شوند و بتوانند اقدامات مهم و اثرگذار بیشتری را با نظارت انسانی کمتر انجام دهند»، این خطر افزایش می‌یابد که چنین سیستم‌هایی «بدون دخالت انسان و در مقیاسی گسترده، مستقلاً دست به اقدامات زیان‌بار بزنند».
آنتروپیک هشدار داده است: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، وقوع یک حادثه ایمنی جدی در ارتباط با هر یک از سیستم‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی آسیب گسترده‌ای وارد کند، واکنش منفی افکار عمومی را برانگیزد و به اقدامات نظارتی فراگیری منجر شود که ممکن است بر کسب‌وکار ما تأثیر منفی بگذارند.»
مدل‌های هوش مصنوعی اکنون در پژوهش و توسعه خود آنتروپیک نیز مشارکت دارند. بر اساس اسناد شرکت، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». در این اسناد آمده است که چنین وضعیتی می‌تواند به فعالیت تجاری شرکت آسیب برساند.
سوءاستفاده افراد و گروه‌های مخرب از فناوری می‌تواند پیامدهای ویرانگری داشته باشد
در اسناد عرضه سهام، نگرانی‌هایی درباره سیستم‌های پیشرفته هوش مصنوعی مطرح شده است که در صورت توسعه و بهره‌برداری بدون تدابیر ایمنی و نظارت کافی، «می‌توانند خطراتی فاجعه‌بار یا تهدیدهایی وجودی برای بشریت ایجاد کنند؛ به‌ویژه اگر از این سیستم‌ها سوءاستفاده شود، نسخه‌هایشان تکثیر شود، به سلاح تبدیل شوند یا اجازه یابند با درجه بالایی از خودمختاری فعالیت کنند».
شرکت می‌گوید اگر استفاده افراد و گروه‌های مخرب از فناوری به آسیب منجر شود، یا اگر سازوکارهای کنترلی و حفاظتی مدل‌های آن نتوانند از چنین سوءاستفاده‌ای جلوگیری کنند، کسب‌وکار آنتروپیک نیز متضرر خواهد شد.
آنتروپیک احتمال داده است که افراد و گروه‌های مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا از این فناوری برای سرکوب شهروندان خود بهره بگیرند. این شرکت در ماه سپتامبر اعلام کرده بود که تلاش‌هایی برای استفاده مخرب از مدل‌های هوش مصنوعی خود را مسدود کرده است؛ از جمله تلاش‌هایی با هدف انجام حملات سایبری، نظارت و جاسوسی و پژوهش‌هایی که می‌توانست به توسعه سلاح‌های زیستی منجر شود.
محدودیت در دسترسی به توان پردازشی
توان پردازشی، یعنی قدرت و منابع محاسباتی موردنیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، پرهزینه است و تقاضای زیادی برای آن وجود دارد. آنتروپیک هشدار داده است که اگر نتواند به منابع محاسباتی کافی دسترسی پیدا کند، یا نتواند این منابع را به‌طور مؤثر میان فعالیت‌های مختلف خود تخصیص دهد، ممکن است نتواند مدل‌هایی آموزش دهد که در رقابت با محصولات شرکت‌های رقیب باقی بمانند یا نیازهای مشتریان را به‌اندازه کافی برآورده کنند.
آنتروپیک همچنین مخالفت جوامع محلی با ساخت مراکز داده را از خطرات پیش روی کسب‌وکار خود دانسته است. در اسناد شرکت آمده است که توسعه مراکز داده «به‌دلیل تأثیرات زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق، موجب مناقشه عمومی و نظارت نهادهای مقررات‌گذار شده است». شرکت افزوده است که اگر در پی این نگرانی‌ها الزامات یا هزینه‌های تازه‌ای از سوی نهادهای ناظر وضع شود، توانایی آن برای ادامه فعالیت تجاری ممکن است آسیب ببیند.
افزون بر این، بخش بزرگی از درآمد آنتروپیک به شمار محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و نیز کانال‌های توزیع آن وابسته است. به گفته شرکت، اگر حتی یکی از مشتریان بزرگش تصمیم بگیرد همکاری خود را کاهش دهد یا به‌طور کامل قطع کند، چشم‌انداز تجاری و وضعیت مالی آنتروپیک ممکن است با مشکل روبه‌رو شود.
کاهش خطرات
از برخی جهات، ترکیب خطرات عظیم هوش مصنوعی با ظرفیت‌های گسترده آن، به یکی از مهم‌ترین وجوه تمایز آنتروپیک در معرفی خود به سرمایه‌گذاران تبدیل شده است. این شرکت تلاش کرده است خود را شرکتی مسئولیت‌پذیر در حوزه هوش مصنوعی معرفی کند و با تأکید بر رویکرد ایمنی‌محور، مشتریان تجاری را جذب کند.
در اسناد عرضه سهام آمده است: «ما معتقدیم شرکت‌های فعال در زمینه هوش مصنوعی پیشرفته باید برای ایمنی و هم‌راستاسازی این فناوری با اهداف و ارزش‌های انسانی سرمایه‌گذاری کنند تا به گسترش مسئولانه آن کمک شود.»
برایان مال‌بری، استراتژیست ارشد بازار در شرکت زکس اینوستمنت ریسرچ، گفت شرکت‌هایی که سهام خود را برای نخستین بار عرضه می‌کنند، باید خطرات پیش روی افرادی را که در سهام تازه‌وارد به بازار سرمایه‌گذاری می‌کنند، «به‌روشنی کامل» توضیح دهند.
او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه ما در داخل کشور، سطح شفافیتی است که شرکت‌ها باید به آن متعهد باشند. برای تبدیل شدن به شرکتی سهامی عام در یکی از بورس‌های آمریکا، لازم است این خطرات را به‌روشنی توضیح دهید تا مردم بدانند اگر بخواهند با اختصاص پولی که به‌سختی به دست آورده‌اند در این طرح مشارکت کنند و به تأمین مالی آن کمک کنند، با چه خطراتی روبه‌رو خواهند شد.»
برنارد کاندون، خبرنگار حوزه کسب‌وکار آسوشیتدپرس، و کیتلین هوامانی، خبرنگار فناوری این خبرگزاری، در تهیه این گزارش مشارکت داشته‌اند.