افشای ریسک‌های سرمایه‌گذاری در آنتروپیک؛ از هوش مصنوعی مهارنشدنی تا تهدیدهای احتمالی علیه بشریت
افشای ریسک‌های سرمایه‌گذاری در آنتروپیک؛ از هوش مصنوعی مهارنشدنی تا تهدیدهای احتمالی علیه بشریت
هر شرکتی که قصد دارد سهام خود را در بازار بورس وال‌استریت عرضه کند، موظف است خطرهای احتمالی سرمایه‌گذاری را افشا کند. در مورد آنتروپیک، غول حوزه هوش مصنوعی، این خطرها حتی احتمال تهدید بشریت به‌دست محصولات خود شرکت را نیز در بر می‌گیرد.
در اسنادی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه به کمیسیون بورس و اوراق بهادار آمریکا ارائه کرد، به نگرانی‌هایی از جمله احتمال استفاده بازیگران مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار و خطر خارج شدن خود فناوری از کنترل اشاره شده است؛ وضعیتی که ممکن است پیامدهایی پیش‌بینی‌ناپذیر داشته باشد.
از مجموع ۱۱۱ صفحه اسناد مربوط به وضعیت مالی آنتروپیک، جبران خدمات مدیران، سیاست تقسیم سود و موضوعات مشابه، ۳۹ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی مواردی که می‌توانند به سرمایه‌گذاری سهام‌داران احتمالی آسیب برسانند. برای مقایسه، شرکت رقیب اسپیس‌ایکس در اسناد خود بیش از ۱۰۰ صفحه را به تشریح عوامل خطر اختصاص داده است.
آنتروپیک با عرضه سهام به سرمایه‌گذاران، در پی برداشتن گامی برای کاهش خطرهایی است که به باور این شرکت، هوش مصنوعی ایجاد می‌کند.
بنیان‌گذاران شرکت در نامه‌ای به سهام‌داران احتمالی نوشتند: «هدف از ساخت هوش مصنوعی، مهار توانایی‌های شناختی است و هر چیزی که چنین قدرتی داشته باشد، می‌تواند هم برای اهداف خوب و هم برای اهداف بد به کار گرفته شود.»
آن‌ها افزودند: «آنتروپیک سازمانی ارزش‌محور است که تا حد زیادی با این هدف تأسیس شد که به جهان کمک کند از مزایای هوش مصنوعی بهره‌مند شود و از خطرهای آن دور بماند.»
با این حال، فهرست خطرها طولانی است. این موارد از مشکلاتی نسبتاً معمول، مانند احتمال ناتوانی شرکت در حفظ کارکنان کلیدی یا عبور از موانع قانونی، تا مشارکت در حملات سایبری و گسترش اطلاعات نادرست خطرناک را شامل می‌شوند.
در ادامه، برخی از خطرهایی را مرور می‌کنیم که آنتروپیک در اسناد خود برشمرده است.
شتاب سریع پیشرفت فناوری
آنتروپیک اعلام کرده است که مدل‌هایش ممکن است آن‌قدر سریع پیشرفت کنند که شرکت نتواند به‌موقع تدابیر ایمنی مناسبی برای آن‌ها اجرا کند. به گفته این شرکت، چنین وضعیتی می‌تواند احتمال وقوع حوادث مرتبط با ایمنی، مداخله نهادهای ناظر یا لطمه به اعتبار شرکت را افزایش دهد و در نهایت به کسب‌وکار آن آسیب برساند.
آنتروپیک ایمنی هوش مصنوعی را یکی از محورهای اصلی فعالیت خود معرفی کرده است؛ با این حال، هشدارهای مطرح‌شده در اسناد این شرکت نشان می‌دهد که حتی توسعه‌دهندگان این فناوری نیز نمی‌توانند همه پیامدهای احتمالی پیشرفت آن را با اطمینان پیش‌بینی کنند.
این شرکت در ماه سپتامبر در یادداشتی هشدار داده بود که طی شش تا دوازده ماه آینده، مدل‌های هوش مصنوعی ممکن است قادر شوند انبوهی از عامل‌های هوشمند را هدایت کنند؛ عامل‌هایی که می‌توانند کنترل کل اینترنت را در دست بگیرند. این هشدار و تصمیم کنونی آنتروپیک برای عرضه سهام در شرایطی مطرح شده است که نگرانی‌ها در داخل و خارج از صنعت درباره افزایش قدرت سامانه‌هایی رو به رشد است که قادرند مسائلی فراتر از توان انسان را حل کنند، اما ممکن است مستقلاً به انجام وظایف دیگری با پیامدهای زیان‌بار نیز بپردازند.
این شرکت در اسناد خود اعلام کرده است: «با خودمختارتر شدن سامانه‌های ما و افزایش توانایی آن‌ها برای انجام اقدامات مهم با نظارت کمتر انسان، این خطر وجود دارد که چنین سامانه‌هایی بدون دخالت انسان، مستقلاً و در مقیاسی گسترده دست به اقدامات زیان‌بار بزنند.»
آنتروپیک افزوده است: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، وقوع یک حادثه مهم ایمنی مرتبط با هر یک از مدل‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی آسیب جدی وارد کند، واکنش منفی افکار عمومی را برانگیزد و به موجی از اقدامات نظارتی منجر شود که بر کسب‌وکار ما تأثیر منفی بگذارد.»
این شرکت همچنین هشدار داده است که مدل‌های هوش مصنوعی ممکن است به‌تدریج در بهبود و توسعه خودشان نقش بیشتری ایفا کنند. در چنین شرایطی، این احتمال وجود دارد که پیشرفت هوش مصنوعی از توانایی شرکت برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود. به گفته آنتروپیک، چنین وضعیتی می‌تواند بر فعالیت‌های تجاری آن اثر منفی بگذارد.
بازیگران مخرب ممکن است از فناوری سوءاستفاده کنند
در اسناد آنتروپیک آمده است که سامانه‌های پیشرفته هوش مصنوعی، اگر بدون تدابیر ایمنی و نظارت کافی توسعه یابند و به کار گرفته شوند، ممکن است خطرهای فاجعه‌بار یا حتی تهدیدهای وجودی برای بشریت ایجاد کنند؛ به‌ویژه اگر از آن‌ها سوءاستفاده شود، نسخه‌برداری شوند، به سلاح تبدیل شوند یا با سطح بالایی از خودمختاری فعالیت کنند.
این شرکت اعلام کرده است که در صورت استفاده بازیگران مخرب از فناوری برای وارد کردن خسارت، یا در صورتی که سازوکارهای حفاظتی و تدابیر ایمنی مدل‌های آن نتوانند از چنین سوءاستفاده‌هایی جلوگیری کنند، ممکن است با پیامدهای زیان‌بار مواجه شود.
آنتروپیک به احتمال استفاده از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی و همچنین سوءاستفاده حاکمان اقتدارگرا از این فناوری برای سرکوب شهروندان خود اشاره کرده است. این شرکت در ماه سپتامبر اعلام کرد که تلاش‌هایی را برای استفاده مخرب از مدل‌های هوش مصنوعی خود مسدود کرده است؛ از جمله حملات سایبری، نظارت و پژوهش‌هایی که می‌توانستند به توسعه سلاح‌های زیستی منجر شوند.
احتمال محدودیت در پردازش توان محاسباتی
محاسبات، یعنی توان پردازشی و منابع موردنیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، هزینه‌بر است و تقاضای زیادی برای آن وجود دارد. آنتروپیک هشدار داده است که اگر نتواند به توان محاسباتی کافی دسترسی پیدا کند یا منابع موجود را به‌طور مؤثر در بخش‌های مختلف فعالیت خود تخصیص دهد، ممکن است نتواند مدل‌هایی آموزش دهد که در رقابت با محصولات شرکت‌های رقیب همچنان توانمند باشند یا خدمات مناسبی به مشتریان ارائه کند.
آنتروپیک همچنین مخالفت‌ها و مناقشه‌های عمومی درباره مراکز داده را یکی از خطرهای پیش روی کسب‌وکار خود دانسته است. توسعه این مراکز به دلیل تأثیرات زیست‌محیطی، مصرف زمین و آب و نحوه تخصیص منابع محدود برق، به بحث‌های عمومی و بررسی‌های نظارتی دامن زده است. به گفته شرکت، اگر نهادهای ناظر در واکنش به این نگرانی‌ها الزامات یا هزینه‌های جدیدی وضع کنند، توانایی آنتروپیک برای ادامه فعالیت تجاری ممکن است آسیب ببیند.
افزون بر این، آنتروپیک به تعداد محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و نیز به کانال‌های توزیعی متکی است که بخش بزرگی از درآمد آن را تأمین می‌کنند. این شرکت هشدار داده است که حتی اگر یکی از مشتریان بزرگش تصمیم بگیرد فعالیت خود را کاهش دهد یا همکاری را به‌طور کامل متوقف کند، ممکن است چشم‌انداز تجاری و وضعیت مالی آنتروپیک آسیب ببیند.
افشای خطرها
ریسک‌های چشمگیر آنتروپیک، در کنار ظرفیت بالقوه عظیم فناوری آن، بخش مهمی از استدلال این شرکت برای عرضه سهام را تشکیل می‌دهند. آنتروپیک تلاش کرده است خود را شرکتی مسئول در حوزه هوش مصنوعی معرفی کند و با تأکید بر ایمنی و هم‌سویی این فناوری با ارزش‌های انسانی، اعتماد مشتریان تجاری را جلب کند.
این شرکت در اسناد خود نوشته است: «ما باور داریم شرکت‌های فعال در خط مقدم توسعه هوش مصنوعی باید برای ایمنی و هم‌سویی این فناوری سرمایه‌گذاری کنند تا به انتشار مسئولانه آن کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در شرکت زکس اینوستمنت ریسرچ، گفت شرکت‌های هوش مصنوعی باید هنگام عرضه سهام جدید در بازار، خطرهایی را که سرمایه‌گذاران با آن‌ها روبه‌رو هستند، «به‌روشنی» توضیح دهند.
او گفت: «یکی از ویژگی‌های مهم بازارهای سرمایه در کشور ما، سطح شفافیتی است که شرکت‌ها موظف‌اند به آن پایبند باشند. برای آنکه شرکتی در ایالات متحده به‌صورت عمومی در بورس معامله شود، باید این خطرها را به شکلی بسیار روشن شرح دهد تا مردم بتوانند درک کنند که آیا می‌خواهند سرمایه‌ای را که به‌سختی به دست آورده‌اند، در اختیار این شرکت بگذارند و به تأمین مالی چنین ایده‌ای کمک کنند یا خیر.»
برنارد کاندون، خبرنگار حوزه کسب‌وکار آسوشیتدپرس، و کیتلین هوامانی، خبرنگار فناوری این خبرگزاری، در تهیه این گزارش مشارکت داشته‌اند.
حق نشر © ۲۰۲۶ آسوشیتدپرس. تمامی حقوق محفوظ است.