خطرات پیش روی سرمایه‌گذاران آنتروپیک؛ از سوءاستفاده از هوش مصنوعی تا خارج شدن آن از کنترل
هر شرکتی که قصد دارد سهام خود را در بازار بورس آمریکا عرضه کند، موظف است خطرات احتمالی سرمایه‌گذاری را افشا کند. در مورد آنتروپیک، غول حوزه هوش مصنوعی، این خطرات حتی شامل احتمال تهدید شدن خود بشریت بر اثر محصولات این شرکت نیز می‌شود.
خطراتی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا تشریح کرد، از احتمال استفاده افراد بدخواه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار تا امکان خارج شدن خود این فناوری از کنترل و بروز پیامدهایی نامعلوم را در بر می‌گیرد.
از مجموع ۳۳۵ صفحه اسناد مربوط به وضعیت مالی آنتروپیک، حقوق مدیران اجرایی، سیاست تقسیم سود و سایر موضوعات، ۹۳ صفحه به «عوامل خطر» اختصاص یافته است؛ عواملی که ممکن است به سرمایه‌گذاری سهامداران بالقوه آسیب بزنند. برای مقایسه، عوامل خطر ذکرشده در اسناد رقیب این شرکت، اسپیس‌ایکس، ۳۸ صفحه از بیش از ۲۵۰ صفحه را تشکیل می‌داد.
آنتروپیک در معرفی خود به سرمایه‌گذاران، عرضه اولیه سهام را گامی در جهت کاهش خطراتی معرفی می‌کند که به باور این شرکت، هوش مصنوعی برای جهان به همراه دارد.
بنیان‌گذاران شرکت در نامه‌ای به سهامداران بالقوه که در اسناد عرضه اولیه آمده است، می‌نویسند: «ساخت هوش مصنوعی به معنای به‌کارگیری خودِ توانایی شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای اهداف خوب و هم برای اهداف بد استفاده شود. آنتروپیک سازمانی است که عمیقاً بر ارزش‌های خود تکیه دارد و تا حد زیادی با این هدف تأسیس شده است که به جهان کمک کند از مزایای هوش مصنوعی بهره‌مند شود و از خطرات آن دوری کند.»
با این حال، خطرات متعددند. برخی از آن‌ها نسبتاً معمول‌اند؛ مانند احتمال ناتوانی شرکت در حفظ کارکنان کلیدی یا عبور از موانع نظارتی. برخی دیگر به مشارکت احتمالی در حملات سایبری و گسترش اطلاعات نادرست خطرناک مربوط می‌شوند.
در ادامه، برخی از خطراتی را مرور می‌کنیم که آنتروپیک در اسناد خود برشمرده است.
شتاب سریع توسعه فناوری
آنتروپیک اعلام کرده است که ممکن است مدل‌های این شرکت چنان سریع پیشرفت کنند که فرصت اجرای تدابیر ایمنی کافی را نداشته باشد. در اسناد شرکت آمده است که چنین وضعیتی «می‌تواند احتمال وقوع حوادث ایمنی، مداخله نهادهای نظارتی یا آسیب به اعتبار شرکت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد».
داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داد که هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه آینده قادر شود هدایت گروهی از عامل‌های هوش مصنوعی را بر عهده بگیرد که بتوانند کنترل کل اینترنت را به دست بگیرند. این هشدار و تصمیم کنونی آنتروپیک برای عرضه سهام، در شرایطی مطرح می‌شود که نگرانی‌ها درباره هوش مصنوعی، هم در داخل صنعت و هم در خارج از آن، رو به افزایش است. سامانه‌های هرچه قدرتمندتر می‌توانند مسائلی فراتر از توانایی انسان را حل کنند، اما ممکن است مستقلاً دست به اقداماتی بزنند که پیامدهای زیان‌بارتری دارند.
در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا آمده است که با «خودمختارتر و توانمندتر شدن سامانه‌های هوش مصنوعی در انجام اقداماتی با پیامدهای مهم و با نظارت انسانی کمتر»، این خطر وجود دارد که چنین سامانه‌هایی «بدون دخالت انسان، مستقلاً و در مقیاسی گسترده دست به اقدامات زیان‌بار بزنند».
آنتروپیک همچنین هشدار داده است: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، وقوع یک حادثه ایمنی مهم در ارتباط با هر یک از سامانه‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی آسیب گسترده‌ای وارد کند، واکنش منفی افکار عمومی را برانگیزد و به اقدامات نظارتی فراگیری منجر شود که ممکن است بر کسب‌وکار ما تأثیر منفی بگذارند.»
اکنون مدل‌های هوش مصنوعی خود نیز در پژوهش و توسعه آنتروپیک مشارکت دارند. بر اساس اسناد شرکت، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». در این اسناد آمده است که چنین وضعیتی می‌تواند به کسب‌وکار آنتروپیک آسیب بزند.
احتمال سوءاستفاده مجرمانه از فناوری و ایجاد آشوب
در اسناد عرضه سهام، به این نگرانی اشاره شده است که سامانه‌های پیشرفته هوش مصنوعی، اگر بدون تدابیر حفاظتی و نظارت کافی توسعه یابند و به کار گرفته شوند، ممکن است «خطراتی فاجعه‌بار یا تهدیدکننده موجودیت بشریت ایجاد کنند؛ به‌ویژه اگر از این سامانه‌ها سوءاستفاده شود، نسخه‌های آن‌ها تکثیر شوند، به‌عنوان سلاح به کار روند یا اجازه داده شود با سطح بالایی از خودمختاری فعالیت کنند».
این شرکت گفته است اگر استفاده افراد بدخواه از فناوری موجب آسیب شود یا «سازوکارهای کنترلی و تدابیر حفاظتی مدل‌های ما نتوانند مانع چنین سوءاستفاده‌ای شوند»، کسب‌وکار آنتروپیک نیز متضرر خواهد شد.
آنتروپیک احتمال داده است که افراد بدخواه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا از این فناوری برای سرکوب شهروندان خود بهره بگیرند. این شرکت در ماه سپتامبر اعلام کرد تلاش‌هایی را برای استفاده مخرب از مدل‌های هوش مصنوعی خود مسدود کرده است؛ تلاش‌هایی که فعالیت‌هایی مانند حملات سایبری، نظارت و پژوهش‌هایی را شامل می‌شدند که می‌توانستند به تولید سلاح‌های زیستی منجر شوند.
محدودیت‌های احتمالی در تأمین قدرت پردازشی
منابع پردازشی، یعنی توان و امکانات محاسباتی مورد نیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، پرهزینه‌اند و تقاضای زیادی برای آن‌ها وجود دارد. آنتروپیک هشدار داده است که اگر نتواند منابع پردازشی کافی تأمین کند یا نتواند این منابع را به‌طور مؤثر میان فعالیت‌های مختلف خود تخصیص دهد، ممکن است نتواند مدل‌هایی بسازد که در رقابت با محصولات رقبایش باقی بمانند یا خدمات مورد نیاز مشتریان را به‌درستی ارائه کند.
این شرکت همچنین مخالفت جوامع محلی با مراکز داده را یکی از خطرات پیش روی کسب‌وکار خود دانسته است. در اسناد آمده است که توسعه مراکز داده «موجب مناقشات عمومی و بررسی‌های نظارتی درباره آثار زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق شده است». آنتروپیک افزوده است که اگر نهادهای نظارتی در واکنش به این مسائل الزامات یا هزینه‌های جدیدی وضع کنند، توانایی شرکت برای فعالیت تجاری ممکن است آسیب ببیند.
علاوه بر این، بخش بزرگی از درآمد آنتروپیک به شمار محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و کانال‌های توزیع آن وابسته است. بنابراین، حتی اگر تنها یکی از مشتریان بزرگ شرکت تصمیم بگیرد همکاری خود را کاهش دهد یا به‌کلی قطع کند، آنتروپیک ممکن است از نظر چشم‌انداز تجاری و وضعیت مالی متضرر شود.
کاهش خطرات
از برخی جهات، ترکیب خطرات عظیم هوش مصنوعی با ظرفیت‌های گسترده آن، یکی از مهم‌ترین امتیازهایی است که آنتروپیک در معرفی خود به سرمایه‌گذاران بر آن تکیه می‌کند. این شرکت تلاش کرده است خود را شرکتی مسئول در حوزه هوش مصنوعی معرفی کند و با تأکید بر توجه به ایمنی، مشتریان تجاری را جذب کند.
در اسناد شرکت آمده است: «ما معتقدیم شرکت‌های فعال در توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی باید برای ایمنی و هم‌راستاسازی این سامانه‌ها با اهداف و ارزش‌های انسانی سرمایه‌گذاری کنند تا به گسترش مسئولانه این فناوری کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در مؤسسه زکس اینوستمنت ریسرچ، گفت شرکت‌هایی که سهام خود را برای نخستین بار عرضه می‌کنند، باید خطراتی را که سرمایه‌گذاران با خرید سهام یک شرکت تازه‌وارد به بورس با آن روبه‌رو هستند، «به‌روشنی تمام» توضیح دهند.
او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه داخلی ما، میزان شفافیتی است که از شرکت‌ها انتظار می‌رود. برای تبدیل شدن به شرکتی سهامی عام و عرضه‌شده در یکی از بورس‌های آمریکا، باید این خطرات را به‌روشنی توضیح دهید تا مردم بدانند اگر می‌خواهند با سرمایه‌ای که به‌سختی به دست آورده‌اند در چنین عرضه‌ای مشارکت کنند و به تأمین مالی آن کمک برسانند، با چه خطراتی مواجه خواهند شد.»
برنارد کاندون، خبرنگار بخش کسب‌وکار آسوشیتدپرس، و کیتلین هوامانی، خبرنگار فناوری این خبرگزاری، در تهیه این گزارش مشارکت داشته‌اند.
