آنتروپیک در اسناد عرضه اولیه سهام هشدار داد: هوش مصنوعی می‌تواند تهدیدی فاجعه‌بار یا وجودی برای بشریت باشد
شرکت‌هایی که قصد دارند سهام خود را در بازار بورس آمریکا عرضه کنند، موظف‌اند خطرهای احتمالی سرمایه‌گذاری را به‌طور شفاف اعلام کنند. در مورد آنتروپیک، غول صنعت هوش مصنوعی، این هشدارها حتی احتمال تهدید شدن خود بشریت به‌واسطه محصولات این شرکت را نیز دربر می‌گیرد.
خطرهایی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا تشریح کرد، شامل احتمال استفاده افراد مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار و همچنین این احتمال بود که خود فناوری از کنترل خارج شود و پیامدهایی پیش‌بینی‌ناپذیر به بار آورد.
از مجموع ۳۳۵ صفحه اسناد آنتروپیک که اطلاعات مالی، حقوق و مزایای مدیران، سیاست تقسیم سود و موارد دیگر را شرح می‌دهند، ۹۳ صفحه به «عوامل خطر» اختصاص یافته است؛ عواملی که ممکن است به سرمایه‌گذاری سهامداران احتمالی آسیب برسانند. برای مقایسه، در اسناد شرکت رقیب، اسپیس‌ایکس، این بخش ۳۸ صفحه از مجموع بیش از ۲۵۰ صفحه را تشکیل می‌داد.
آنتروپیک در تلاش برای جلب اعتماد سرمایه‌گذاران، عرضه اولیه سهام خود را گامی در جهت کاهش خطرهایی معرفی می‌کند که به باور این شرکت، هوش مصنوعی برای بشریت به همراه دارد.
بنیان‌گذاران شرکت در نامه‌ای به سهامداران بالقوه که در اسناد عرضه اولیه آمده است، نوشته‌اند: «ساخت هوش مصنوعی به معنای مهار خودِ توانایی شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای اهداف خوب و هم برای اهداف بد به کار گرفته شود. آنتروپیک سازمانی است که عمیقاً بر ارزش‌های خود پایبند است و بخش مهمی از انگیزه تأسیس آن، کمک به جهان برای بهره‌مندی از مزایای هوش مصنوعی و پرهیز از خطرهای آن بوده است.»
با این حال، خطرهای پیش روی شرکت بسیار متنوع‌اند. این خطرها از مسائل معمول، مانند ناتوانی در حفظ کارکنان کلیدی یا عبور از موانع قانونی، تا احتمال نقش داشتن در حملات سایبری و گسترش اطلاعات نادرست خطرناک را شامل می‌شوند.
در ادامه، برخی از خطرهایی را مرور می‌کنیم که آنتروپیک در اسناد خود به آن‌ها اشاره کرده است.
پیشرفت سریع فناوری
آنتروپیک اعلام کرده است که ممکن است مدل‌های هوش مصنوعی آن‌قدر سریع پیشرفت کنند که شرکت فرصت کافی برای اجرای تدابیر ایمنی مناسب را نداشته باشد. به گفته شرکت، چنین وضعیتی «می‌تواند احتمال بروز حوادث ایمنی، مداخله نهادهای نظارتی یا آسیب به اعتبار شرکت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد».
داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داده بود که هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه آینده بتواند هدایت گروهی از عامل‌های هوش مصنوعی را بر عهده بگیرد که قادر باشند کنترل کل اینترنت را به دست بگیرند. این هشدار و اکنون اقدام آنتروپیک برای عرضه سهام، در شرایطی مطرح می‌شود که نگرانی‌ها درباره هوش مصنوعی، هم در داخل صنعت و هم در خارج از آن، رو به افزایش است. این نگرانی‌ها از یک سو به توانایی روزافزون سامانه‌ها برای حل مسائلی فراتر از ظرفیت انسان مربوط می‌شوند و از سوی دیگر، به احتمال آن‌که این سامانه‌ها مستقلاً وظایف دیگری را انجام دهند که می‌تواند آسیب‌بارتر باشد.
در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا آمده است که با «خودمختارتر و توانمندتر شدن سامانه‌های هوش مصنوعی و افزایش توانایی آن‌ها برای انجام اقدامات مهم با نظارت انسانی کمتر»، این خطر وجود دارد که چنین سامانه‌هایی «بدون دخالت انسان، مستقلاً و در مقیاسی گسترده دست به اقدامات زیان‌بار بزنند».
آنتروپیک هشدار داده است: «حتی اگر مدل‌های خود ما موجب چنین آسیبی نشوند، وقوع یک حادثه ایمنی جدی در ارتباط با هر یک از سامانه‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی آسیب گسترده‌ای وارد کند، واکنش منفی افکار عمومی را برانگیزد و به وضع مقررات فراگیر منجر شود؛ تحولاتی که ممکن است بر کسب‌وکار ما تأثیر منفی بگذارند.»
از آنجا که مدل‌های هوش مصنوعی اکنون خود نیز در تحقیق و توسعه آنتروپیک نقش دارند، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». در این اسناد آمده است که چنین وضعیتی می‌تواند به کسب‌وکار شرکت آسیب برساند.
احتمال ایجاد آشوب با سوءاستفاده از فناوری
در اسناد عرضه اولیه سهام، نگرانی‌هایی درباره این موضوع مطرح شده است که اگر سامانه‌های پیشرفته هوش مصنوعی بدون تدابیر حفاظتی و نظارت کافی توسعه یابند و به کار گرفته شوند، «می‌توانند تهدیدهایی فاجعه‌بار یا وجودی برای بشریت ایجاد کنند؛ به‌ویژه اگر از این سامانه‌ها سوءاستفاده شود، نسخه‌های آن‌ها تکثیر شوند، به سلاح تبدیل شوند یا اجازه یابند با درجه بالایی از خودمختاری فعالیت کنند».
این شرکت گفته است اگر استفاده افراد مخرب از فناوری موجب خسارت شود، یا اگر سازوکارهای محدودکننده و تدابیر حفاظتی مدل‌های آن نتوانند از چنین سوءاستفاده‌ای جلوگیری کنند، کسب‌وکار آنتروپیک آسیب خواهد دید.
آنتروپیک احتمال داده است که افراد مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا این فناوری را برای سرکوب شهروندان خود به کار بگیرند. این شرکت در ماه سپتامبر اعلام کرده بود که تلاش‌هایی برای استفاده مخرب از مدل‌های هوش مصنوعی خود را خنثی کرده است؛ از جمله تلاش‌هایی مرتبط با حملات سایبری، نظارت و تحقیقات بالقوه منتهی به توسعه سلاح‌های زیستی.
محدودیت در دسترسی به توان پردازشی
توان پردازشی، یعنی منابع محاسباتی موردنیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، هزینه بالایی دارد و تقاضا برای آن نیز زیاد است. آنتروپیک هشدار داده است که اگر نتواند توان پردازشی کافی تأمین کند، یا نتواند «منابع محاسباتی خود را به‌طور مؤثر میان فعالیت‌های مختلف تخصیص دهد»، ممکن است نتواند مدل‌هایی آموزش دهد که از نظر رقابتی با مدل‌های رقیب برابری کنند یا نیازهای مشتریانش را به‌درستی برآورده سازند.
این شرکت همچنین مخالفت جوامع محلی با ساخت مراکز داده را یکی از خطرهای پیش روی کسب‌وکار خود دانسته است. در اسناد آمده است که توسعه مراکز داده «به مناقشه عمومی و بررسی‌های نظارتی درباره آثار زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق انجامیده است». آنتروپیک افزوده است که اگر نهادهای نظارتی در نتیجه این نگرانی‌ها الزامات یا هزینه‌های تازه‌ای وضع کنند، توانایی شرکت برای ادامه فعالیت تجاری ممکن است آسیب ببیند.
علاوه بر این، بخش بزرگی از درآمد شرکت به تعداد محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و همچنین کانال‌های توزیع آن وابسته است. به گفته آنتروپیک، اگر حتی یکی از مشتریان بزرگش تصمیم بگیرد همکاری را کاهش دهد یا به‌کلی قطع کند، چشم‌انداز تجاری و وضعیت مالی شرکت ممکن است آسیب ببیند.
کاهش خطرها
از برخی جهات، ترکیب خطرهای عظیم هوش مصنوعی با ظرفیت‌های گسترده آن، خود به یکی از مهم‌ترین ابزارهای آنتروپیک برای جلب سرمایه‌گذار تبدیل شده است. این شرکت تلاش کرده است خود را به‌عنوان شرکتی مسئولیت‌پذیر در حوزه هوش مصنوعی معرفی کند و با تأکید بر توجه به ایمنی، مشتریان تجاری را جذب کند.
در اسناد عرضه اولیه سهام آمده است: «ما معتقدیم شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته باید برای ایمنی و همسوسازی این فناوری با اهداف و ارزش‌های انسانی سرمایه‌گذاری کنند تا به گسترش مسئولانه آن کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در مؤسسه زکس اینوستمنت ریسرچ، گفت شرکت‌هایی که سهام خود را عرضه می‌کنند باید خطرهایی را که سرمایه‌گذاران هنگام خرید سهام یک شرکت تازه‌وارد به بورس با آن روبه‌رو هستند، «به‌روشنی توضیح دهند».
او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه داخلی ما همین سطح از شفافیتی است که شرکت‌ها ملزم به رعایت آن هستند. برای تبدیل شدن به شرکتی سهامی عام در یکی از بورس‌های آمریکا، باید این خطرها را به‌روشنی تشریح کرد تا مردم بدانند اگر بخواهند با سرمایه‌ای که به‌سختی به دست آورده‌اند در چنین عرضه‌ای مشارکت کنند و به تأمین مالی آن کمک برسانند، با چه خطرهایی روبه‌رو خواهند شد.»