خطرات پیش روی سرمایه‌گذاران آنتروپیک؛ از هوش مصنوعی خارج از کنترل تا تهدیدهای احتمالی علیه بشریت
خطرات پیش روی سرمایه‌گذاران آنتروپیک؛ از هوش مصنوعی خارج از کنترل تا تهدیدهای احتمالی علیه بشریت
هر شرکتی که قصد دارد سهام خود را در بازار بورس آمریکا عرضه کند، موظف است خطرهای احتمالی سرمایه‌گذاری را افشا کند. در مورد آنتروپیک، غول صنعت هوش مصنوعی، این خطرها حتی احتمال تهدید بشریت به‌واسطه محصولات خود شرکت را نیز در بر می‌گیرد.
خطرهایی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه در پرونده خود نزد کمیسیون بورس و اوراق بهادار آمریکا تشریح کرد، شامل احتمال استفاده بازیگران مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار و نیز احتمال خارج شدن خود این فناوری از کنترل، با پیامدهایی نامعلوم، بود.
از میان ۱۱۱ صفحه اسناد مربوط به امور مالی، پاداش مدیران، سیاست تقسیم سود و سایر موضوعات آنتروپیک، ۲۱ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی مسائلی که ممکن است به سرمایه‌گذاری سهام‌داران آسیب برسانند. در مقابل، شرکت رقیب، اسپیس‌ایکس، در اسناد خود بیش از ۱۰۰ صفحه را به شرح خطرها اختصاص داده است.
آنتروپیک عرضه اولیه سهام خود را راهی برای کاهش خطرهایی معرفی می‌کند که به باور این شرکت، هوش مصنوعی ایجاد می‌کند.
بنیان‌گذاران شرکت در نامه‌ای به سرمایه‌گذاران بالقوه نوشتند: «هدف ما ساخت هوش مصنوعی است که شناخت و توانایی‌های انسان را تقویت کند؛ زیرا هر چیزی که قدرت زیادی داشته باشد، هم می‌تواند برای کارهای نادرست و هم برای کارهای درست به کار گرفته شود.» آنان افزودند: «آنتروپیک سازمانی عمیقاً ارزش‌محور است که با هدف کمک به بهره‌مندی جهان از مزایای هوش مصنوعی و جلوگیری از خطرهای آن تأسیس شده است.»
با این حال، خطرها متعددند. این خطرها از مسائل نسبتاً معمول، مانند احتمال ناتوانی شرکت در حفظ کارکنان کلیدی یا عبور از موانع قانونی و نظارتی، تا مشارکت در حملات سایبری و گسترش اطلاعات نادرست خطرناک را شامل می‌شوند.
سرعت بالای توسعه فناوری
آنتروپیک هشدار داده است که مدل‌های این شرکت ممکن است چنان سریع پیشرفت کنند که شرکت نتواند تدابیر ایمنی کافی را به‌موقع اجرا کند. در چنین شرایطی، احتمال بروز حوادث ایمنی، مداخله نهادهای نظارتی یا آسیب به اعتبار شرکت افزایش می‌یابد و این اتفاق‌ها می‌توانند به کسب‌وکار آن لطمه بزنند.
آنتروپیک در سپتامبر هشدار داده بود که ممکن است ظرف شش تا ۱۲ ماه، سامانه‌هایی در اختیار داشته باشد که بتوانند مجموعه‌ای از عامل‌های هوش مصنوعی را هدایت کنند؛ عامل‌هایی که قادر باشند کنترل کل اینترنت را در دست بگیرند. انتشار این هشدار و اکنون تصمیم شرکت برای عرضه سهام، در شرایطی صورت می‌گیرد که نگرانی‌ها در داخل و خارج صنعت درباره توسعه سامانه‌های هرچه قدرتمندتری افزایش یافته است؛ سامانه‌هایی که می‌توانند مسائلی فراتر از ظرفیت انسان را حل کنند، اما در عین حال ممکن است مستقلاً دست به اقدام‌هایی زیان‌بار بزنند.
در اسناد عرضه سهام آمده است که با خودمختارتر و توانمندتر شدن سامانه‌های هوش مصنوعی در انجام اقدام‌های مهم و پیامدساز، در حالی که نظارت انسانی بر آن‌ها کاهش می‌یابد، این خطر وجود دارد که آن‌ها «بدون دخالت انسان، مستقلاً و در مقیاسی گسترده دست به اقدام‌های زیان‌بار بزنند».
آنتروپیک اعلام کرده است: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، وقوع یک حادثه ایمنی مهم مرتبط با هر یک از مدل‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی آسیب گسترده‌ای وارد کند، واکنش منفی افکار عمومی را برانگیزد و موجی از مقررات جدید را به دنبال داشته باشد که بر کسب‌وکار ما تأثیر نامطلوب بگذارد.»
در اسناد همچنین آمده است که اگر مدل‌های هوش مصنوعی از توان پژوهشی و توسعه خود آنتروپیک پیشی بگیرند، ممکن است پیشرفت این فناوری از «توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». به گفته شرکت، چنین وضعیتی می‌تواند بر عملکرد تجاری آن تأثیر منفی بگذارد.
بازیگران مخرب ممکن است از فناوری سوءاستفاده کنند
در این پرونده هشدار داده شده است که سامانه‌های پیشرفته هوش مصنوعی، اگر بدون تدابیر حفاظتی و نظارت کافی توسعه یابند و به کار گرفته شوند، ممکن است «خطرهای فاجعه‌بار یا حتی تهدیدهایی برای موجودیت بشریت ایجاد کنند»، به‌ویژه اگر از آن‌ها سوءاستفاده شود، نسخه‌برداری شوند، به سلاح تبدیل شوند یا با سطح بالایی از خودمختاری فعالیت کنند.
شرکت گفته است در صورت استفاده بازیگران مخرب از فناوری برای ایجاد خسارت، یا در صورت ناکامی سازوکارهای حفاظتی و ایمنی مدل‌ها در جلوگیری از چنین سوءاستفاده‌هایی، کسب‌وکار آنتروپیک آسیب خواهد دید.
آنتروپیک به احتمال استفاده بازیگران مخرب از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی یا تبدیل شدن حاکمان اقتدارگرا به کاربرانی اشاره کرده است که از این فناوری برای سرکوب شهروندان خود بهره می‌گیرند. این شرکت در ماه سپتامبر اعلام کرد تلاش‌هایی را برای استفاده مخرب از مدل‌های هوش مصنوعی خود، از جمله حملات سایبری، نظارت و پژوهش‌هایی که ممکن بود به توسعه سلاح‌های زیستی منجر شوند، مسدود کرده است.
احتمال مواجهه با محدودیت در پردازش و توان محاسباتی
توان محاسباتی، یعنی قدرت پردازشی و منابع موردنیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، پرهزینه است و تقاضای زیادی برای آن وجود دارد. آنتروپیک در اسناد خود خاطرنشان کرده است که اگر نتواند به توان محاسباتی کافی دسترسی پیدا کند یا منابع موجود را در سراسر زیرساخت‌های خود به‌طور مؤثر مدیریت کند، ممکن است نتواند مدل‌هایی آموزش دهد که در رقابت با محصولات رقیبان توانمند باقی بمانند یا خدمات مناسبی به مشتریان ارائه کند.
آنتروپیک همچنین مخالفت‌های عمومی با مراکز داده را از خطرهای پیش روی کسب‌وکار خود دانسته است. در اسناد آمده است که توسعه مراکز داده به دلیل تأثیرات زیست‌محیطی، مصرف زمین و آب و نحوه تخصیص منابع محدود برق، بحث‌برانگیز شده و زیر ذره‌بین نهادهای نظارتی قرار گرفته است. این شرکت هشدار داده است که اگر نهادهای نظارتی در نتیجه این نگرانی‌ها الزامات یا هزینه‌های جدیدی وضع کنند، توانایی آن برای فعالیت تجاری ممکن است آسیب ببیند.
افزون بر این، آنتروپیک به شمار محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و نیز به کانال‌های توزیعی متکی است که بخش بزرگی از درآمدش از طریق آن‌ها حاصل می‌شود. این شرکت هشدار داده است که حتی اگر یکی از مشتریان بزرگش تصمیم بگیرد همکاری خود را کاهش دهد یا به‌کلی قطع کند، ممکن است چشم‌انداز تجاری و وضعیت مالی آن تحت تأثیر قرار گیرد.
مواجهه با خطرها
از برخی جهات، ترکیب خطرهای عظیم و ظرفیت بالقوه بسیار بالای هوش مصنوعی، محور اصلی فعالیت تجاری آنتروپیک است. این شرکت کوشیده است خود را شرکتی مسئول در حوزه هوش مصنوعی معرفی کند و با تأکید بر ایمنی و هم‌سویی با ارزش‌های انسانی، اعتماد مشتریان تجاری را به دست آورد.
در اسناد آمده است: «ما معتقدیم شرکت‌های پیشرو در حوزه هوش مصنوعی باید برای ایمنی و هم‌سویی سرمایه‌گذاری کنند تا از گسترش مسئولانه این فناوری اطمینان حاصل شود.»
برایان مولبری، استراتژیست ارشد بازار در شرکت زاکس اینوستمنت ریسرچ، گفت شرکت‌ها هنگام عرضه عمومی سهام باید خطرهایی را که سرمایه‌گذاران با آن مواجه می‌شوند، «به‌روشنی و با صراحت کامل» بیان کنند.
او گفت: «یکی از ویژگی‌های مهم بازار سرمایه در آمریکا، سطح شفافیتی است که شرکت‌ها ملزم به رعایت آن هستند. برای عرضه سهام یک شرکت در بورس آمریکا، باید خطرها را به‌روشنی تشریح کرد تا مردم بتوانند درک کنند که آیا می‌خواهند پولی را که به‌سختی به دست آورده‌اند در این شرکت سرمایه‌گذاری کنند و به تأمین مالی چنین کسب‌وکاری کمک کنند یا نه.»
برنارد کاندون، نویسنده حوزه کسب‌وکار، و کیتلین هوامانی، نویسنده حوزه فناوری آسوشیتدپرس، در تهیه این گزارش مشارکت داشته‌اند.