خطرات احتمالی هوش مصنوعی مهارنشده در فهرست ریسک‌های سرمایه‌گذاری در آنتروپیک
هر شرکتی که قصد دارد سهام خود را در وال‌استریت عرضه کند، موظف است خطرات احتمالی سرمایه‌گذاری را برای سهام‌داران تشریح کند. در مورد آنتروپیک، غول صنعت هوش مصنوعی، این خطرات حتی احتمال تهدید موجودیت بشر به‌واسطه محصولات این شرکت را نیز دربر می‌گیرد.
خطراتی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه در اسناد تسلیمی خود به کمیسیون بورس و اوراق بهادار آمریکا (SEC) برشمرد، شامل احتمال استفاده بازیگران مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار و همچنین امکان خارج شدن خود این فناوری از کنترل، با پیامدهایی پیش‌بینی‌ناپذیر، می‌شود.
از مجموع ۳۳۵ صفحه اسناد مربوط به وضعیت مالی آنتروپیک، پرداخت‌های مدیران اجرایی، سیاست تقسیم سود و سایر موضوعات، ۹۳ صفحه به «عوامل خطر» اختصاص یافته است؛ یعنی مواردی که ممکن است به سرمایه‌گذاری سهام‌داران بالقوه آسیب برسانند. برای مقایسه، شرکت رقیب آن، اسپیس‌ایکس، در اسنادی با بیش از ۲۵۰ صفحه، ۳۸ صفحه را به تشریح این عوامل اختصاص داده است.
آنتروپیک در معرفی خود به سرمایه‌گذاران، عرضه اولیه سهام را گامی برای کاهش خطراتی مطرح می‌کند که به باور این شرکت، هوش مصنوعی برای جهان به همراه دارد.
بنیان‌گذاران شرکت در نامه‌ای خطاب به سهام‌داران بالقوه که در اسناد عرضه اولیه درج شده است، می‌نویسند: «ساخت هوش مصنوعی به معنای به‌کارگیری توان شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای اهداف خوب و هم برای اهداف مخرب استفاده شود. آنتروپیک سازمانی است که عمیقاً بر ارزش‌های خود تکیه دارد و تا حد زیادی با این هدف تأسیس شده است که به جهان کمک کند از مزایای هوش مصنوعی بهره‌مند شود و از خطرات آن دور بماند.»
با این حال، دامنه خطرات گسترده است. این خطرات از مسائل متعارف‌تری مانند ناتوانی در حفظ نیروهای کلیدی یا عبور از موانع قانونی گرفته تا مشارکت در حملات سایبری و گسترش اطلاعات نادرست خطرناک را شامل می‌شوند.
در ادامه، برخی از خطراتی را مرور می‌کنیم که آنتروپیک در اسناد خود به آن‌ها اشاره کرده است.
شتاب سریع توسعه فناوری
آنتروپیک اعلام کرده است که مدل‌های این شرکت ممکن است با چنان سرعتی پیشرفت کنند که فرصت اجرای تدابیر ایمنی کافی را از دست بدهد. به گفته شرکت، چنین وضعیتی «می‌تواند احتمال بروز حوادث ایمنی، مداخله نهادهای نظارتی یا آسیب به اعتبار شرکت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد».
داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داد که هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه آینده بتواند گروهی از عامل‌های هوش مصنوعی را هدایت کند که کنترل کل اینترنت را به دست بگیرند. این هشدار و اکنون اقدام آنتروپیک برای عرضه سهام، در شرایطی مطرح شده‌اند که نگرانی‌ها درباره هوش مصنوعی، چه در داخل صنعت و چه در خارج از آن، رو به افزایش است. سیستم‌های قدرتمندتر می‌توانند مسائلی را حل کنند که فراتر از توانایی انسان است، اما ممکن است به‌طور مستقل وظایف دیگری را نیز انجام دهند که آسیب‌های بیشتری به همراه داشته باشند.
در اسناد تسلیمی به کمیسیون بورس و اوراق بهادار آمریکا آمده است که با «خودمختارتر و توانمندتر شدن سیستم‌های هوش مصنوعی در انجام اقداماتی با پیامدهای مهم و با نظارت کمتر انسان»، این خطر وجود دارد که چنین سیستم‌هایی «بدون دخالت انسان، به‌طور مستقل و در مقیاسی گسترده دست به اقدامات زیان‌بار بزنند».
آنتروپیک هشدار داده است: «حتی اگر مدل‌های خود ما چنین آسیب‌هایی ایجاد نکنند، وقوع یک حادثه ایمنی مهم در ارتباط با هر یک از سیستم‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی لطمه گسترده‌ای وارد کند، واکنش منفی افکار عمومی را برانگیزد و به اقدامات نظارتی فراگیری منجر شود که ممکن است به کسب‌وکار ما آسیب بزند.»
از آنجا که مدل‌های هوش مصنوعی اکنون در پژوهش و توسعه خود آنتروپیک نیز مشارکت دارند، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». طبق این اسناد، چنین وضعیتی می‌تواند بر کسب‌وکار شرکت تأثیر منفی بگذارد.
احتمال سوءاستفاده بازیگران مخرب از فناوری و ایجاد آشوب
در اسناد عرضه اولیه، نگرانی‌هایی درباره این موضوع مطرح شده است که سیستم‌های پیشرفته هوش مصنوعی، در صورت توسعه و بهره‌برداری بدون تدابیر حفاظتی و نظارت کافی، «می‌توانند خطراتی فاجعه‌بار یا حتی تهدیدهایی برای بقای بشر ایجاد کنند؛ به‌ویژه اگر از این سیستم‌ها سوءاستفاده شود، نسخه‌های آن‌ها تکثیر شوند، به سلاح تبدیل شوند یا اجازه یابند با درجه بالایی از خودمختاری فعالیت کنند».
این شرکت گفته است در صورتی که استفاده بازیگران مخرب از مدل‌های آن به آسیب منجر شود، یا اگر سازوکارهای کنترلی و حفاظتی مدل‌ها نتوانند مانع چنین سوءاستفاده‌ای شوند، کسب‌وکار آنتروپیک نیز متضرر خواهد شد.
آنتروپیک احتمال داده است که بازیگران مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا این فناوری را برای سرکوب شهروندان خود به کار بگیرند. این شرکت در ماه سپتامبر اعلام کرده بود که تلاش‌هایی برای استفاده مخرب از مدل‌های هوش مصنوعی خود را مسدود کرده است؛ از جمله تلاش‌هایی برای انجام حملات سایبری، نظارت و اجرای پژوهش‌هایی که می‌توانستند به توسعه سلاح‌های زیستی منجر شوند.
محدودیت در دسترسی به توان پردازشی
توان پردازشی، یعنی قدرت و منابع محاسباتی موردنیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، هزینه زیادی دارد و تقاضا برای آن نیز بالاست. آنتروپیک هشدار داده است که اگر نتواند به توان پردازشی کافی دسترسی پیدا کند، یا نتواند این منابع را به‌طور مؤثر میان فعالیت‌های مختلف خود تخصیص دهد، ممکن است نتواند مدل‌هایی بسازد که در رقابت با محصولات رقبا جایگاه خود را حفظ کنند یا نیازهای مشتریان را به‌درستی برآورده سازند.
این شرکت همچنین مخالفت جوامع محلی با ساخت مراکز داده را از خطرات پیش روی کسب‌وکار خود دانسته است. در اسناد آمده است که توسعه مراکز داده «به دلیل تأثیرات زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق، بحث‌برانگیزی عمومی و نظارت نهادهای قانونی را به دنبال داشته است». آنتروپیک افزوده است که اگر در نتیجه این وضعیت، نهادهای نظارتی الزامات یا هزینه‌های جدیدی وضع کنند، توانایی شرکت برای ادامه فعالیت ممکن است آسیب ببیند.
علاوه بر این، بخش قابل‌توجهی از درآمد شرکت به تعداد محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و نیز کانال‌های توزیع آن وابسته است. به گفته آنتروپیک، اگر حتی یکی از مشتریان بزرگش تصمیم بگیرد همکاری را کاهش دهد یا به‌کلی قطع کند، چشم‌انداز تجاری و وضعیت مالی شرکت ممکن است تحت تأثیر منفی قرار گیرد.
کاهش خطرات
از برخی جهات، ترکیب خطرات عظیم هوش مصنوعی با ظرفیت بالای آن برای ایجاد تحول، یکی از مهم‌ترین ویژگی‌هایی است که آنتروپیک برای جذب سرمایه‌گذاران بر آن تکیه می‌کند. این شرکت تلاش کرده است خود را به‌عنوان شرکتی مسئولیت‌پذیر در حوزه هوش مصنوعی معرفی کند و با تأکید بر توجه به ایمنی، مشتریان تجاری را جذب کند.
در اسناد عرضه اولیه آمده است: «ما معتقدیم شرکت‌های فعال در توسعه پیشرفته‌ترین سیستم‌های هوش مصنوعی باید در زمینه ایمنی و هم‌راستاسازی این فناوری با اهداف و ارزش‌های انسانی سرمایه‌گذاری کنند تا به گسترش مسئولانه آن کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در شرکت زکس اینوستمنت ریسرچ، گفت در عرضه‌های اولیه سهام باید خطراتی که سرمایه‌گذاران هنگام خرید سهام یک شرکت تازه‌وارد به بازار عمومی با آن مواجه می‌شوند، «به‌روشنی کامل» بیان شوند.
او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه داخلی ما، سطح شفافیتی است که یک شرکت برای پذیرفته شدن در بورس آمریکا و تبدیل شدن به شرکتی سهامی عام باید متعهد به رعایت آن باشد. شرکت موظف است این خطرات را به‌روشنی تشریح کند تا مردم بدانند اگر بخواهند با سرمایه‌ای که به‌سختی به دست آورده‌اند در چنین عرضه‌ای مشارکت کنند و به تأمین مالی آن کمک کنند، با چه ریسک‌هایی روبه‌رو خواهند شد.»