آنتروپیک در اسناد عرضه سهام، از خطرات هوش مصنوعی خارج از کنترل تا تهدیدهای احتمالی برای بشریت می‌گوید
نویسنده: باربارا اورتوتای، خبرنگار فناوری آسوشیتدپرس
هر شرکتی که قصد دارد سهام خود را در بازار بورس آمریکا عرضه کند، موظف است خطرات احتمالی سرمایه‌گذاری را افشا کند.
در مورد آنتروپیک، غول حوزه هوش مصنوعی، یکی از خطرات مطرح‌شده این است که محصولات این شرکت ممکن است حتی موجودیت بشریت را تهدید کنند. عرضه سهام در وال‌استریت شرکت‌ها را ملزم می‌کند خطرات احتمالی پیش روی سرمایه‌گذاران را آشکارا توضیح دهند؛ موضوعی که برای آنتروپیک به طرح احتمال آسیب‌های گسترده ناشی از هوش مصنوعی نیز منجر شده است.
خطراتی که این شرکت مستقر در سان‌فرانسیسکو روز دوشنبه در پرونده خود نزد کمیسیون بورس و اوراق بهادار آمریکا تشریح کرد، از احتمال استفاده افراد بدخواه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار تا خارج شدن خود فناوری از کنترل و بروز پیامدهایی نامعلوم را در بر می‌گیرد.
از مجموع ۳۳۵ صفحه اسناد مربوط به وضعیت مالی آنتروپیک، دستمزد مدیران، سیاست تقسیم سود و موضوعات مشابه، ۹۳ صفحه به «عوامل خطر» اختصاص یافته است؛ یعنی عواملی که ممکن است به سرمایه‌گذاری سهام‌داران احتمالی آسیب بزنند. برای مقایسه، در اسناد شرکت رقیب، اسپیس‌ایکس، این بخش ۳۸ صفحه از مجموع بیش از ۲۵۰ صفحه را تشکیل می‌دهد.
آنتروپیک در تلاش برای جلب اعتماد سرمایه‌گذاران، عرضه اولیه سهام خود را گامی در جهت کاهش خطراتی معرفی می‌کند که به باور این شرکت از هوش مصنوعی ناشی می‌شوند.
بنیان‌گذاران شرکت در نامه‌ای به سهام‌داران بالقوه که در اسناد عرضه اولیه آمده است، می‌نویسند: «ساخت هوش مصنوعی به معنای به‌کارگیری خود توانایی شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای اهداف نیک و هم برای اهداف زیان‌بار استفاده شود. آنتروپیک سازمانی است که عمیقاً بر پایه ارزش‌های خود فعالیت می‌کند و بخش مهمی از انگیزه تأسیس آن، کمک به جهان برای بهره‌مندی از مزایای هوش مصنوعی و دور ماندن از خطرات آن بوده است.»
با این حال، فهرست خطرات طولانی است. برخی از آن‌ها متعارف‌اند؛ مانند احتمال ناتوانی شرکت در حفظ کارکنان کلیدی یا عبور از موانع نظارتی. برخی دیگر به مشارکت در حملات سایبری و گسترش اطلاعات نادرست خطرناک مربوط می‌شوند.
در ادامه، برخی از خطراتی را می‌خوانید که آنتروپیک در اسناد خود برشمرده است.
شتاب سریع پیشرفت فناوری
آنتروپیک اعلام کرده است که ممکن است مدل‌هایش آن‌قدر سریع پیشرفت کنند که شرکت نتواند تدابیر ایمنی کافی را به‌موقع اجرا کند. به گفته شرکت، این وضعیت «می‌تواند احتمال وقوع حوادث ایمنی، مداخله نهادهای نظارتی یا آسیب به اعتبار شرکت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد».
داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر هشدار داد که هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه بتواند هدایت گروه بزرگی از عامل‌های هوش مصنوعی را بر عهده بگیرد؛ گروهی که قادر باشد کنترل کل اینترنت را به دست بگیرد. این هشدار و اقدام کنونی آنتروپیک برای عرضه سهام در شرایطی مطرح می‌شوند که نگرانی درباره هوش مصنوعی، هم در داخل صنعت و هم در خارج از آن، رو به افزایش است. سیستم‌های هوش مصنوعی هر روز توانمندتر می‌شوند و می‌توانند مسائلی فراتر از ظرفیت انسان را حل کنند، اما در عین حال ممکن است مستقلاً دست به اقداماتی بزنند که پیامدهای زیان‌بارتری دارند.
در پرونده ثبت‌شده نزد کمیسیون بورس و اوراق بهادار آمریکا آمده است که با «خودمختارتر و توانمندتر شدن سیستم‌های هوش مصنوعی در انجام اقداماتی با پیامدهای مهم و با نظارت انسانی کمتر»، این خطر وجود دارد که چنین سیستم‌هایی «بدون دخالت انسان و به‌طور مستقل و در مقیاسی گسترده، اقدامات زیان‌بار انجام دهند».
آنتروپیک هشدار داده است: «حتی اگر مدل‌های خود ما چنین آسیب‌هایی ایجاد نکنند، وقوع یک حادثه ایمنی مهم در ارتباط با هر یک از مدل‌های پیشرفته هوش مصنوعی می‌تواند به اعتبار کل صنعت هوش مصنوعی لطمه گسترده‌ای وارد کند، واکنش منفی افکار عمومی را برانگیزد و به اقدامات نظارتی فراگیری منجر شود که ممکن است به کسب‌وکار ما آسیب بزند.»
اکنون که مدل‌های هوش مصنوعی در تحقیقات و توسعه خود آنتروپیک نیز نقش دارند، این احتمال وجود دارد که پیشرفت هوش مصنوعی «از توانایی ما برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود». در این پرونده آمده است که چنین وضعیتی می‌تواند به کسب‌وکار شرکت آسیب برساند.
احتمال سوءاستفاده افراد بدخواه از فناوری و ایجاد آشوب
در اسناد شرکت به این نگرانی اشاره شده است که سیستم‌های پیشرفته هوش مصنوعی، اگر بدون تدابیر ایمنی و نظارت کافی توسعه یابند و به کار گرفته شوند، «می‌توانند خطراتی فاجعه‌بار یا تهدیدهایی برای موجودیت بشریت ایجاد کنند؛ به‌ویژه اگر از این سیستم‌ها سوءاستفاده شود، نسخه‌های آن‌ها تکثیر شوند، به سلاح تبدیل شوند یا اجازه داده شود با درجه بالایی از خودمختاری فعالیت کنند».
شرکت اعلام کرده است که اگر استفاده افراد بدخواه از فناوری به آسیب منجر شود، یا اگر سازوکارهای کنترلی و تدابیر حفاظتی مدل‌های آن نتوانند جلوی چنین سوءاستفاده‌هایی را بگیرند، کسب‌وکارش متضرر خواهد شد.
آنتروپیک احتمال داده است که افراد بدخواه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا این فناوری را برای سرکوب شهروندان خود به کار بگیرند. این شرکت در ماه سپتامبر اعلام کرد که تلاش‌هایی برای استفاده مخرب از مدل‌های هوش مصنوعی خود را مسدود کرده است؛ تلاش‌هایی که فعالیت‌هایی مانند حملات سایبری، نظارت و پژوهش‌هایی را شامل می‌شدند که می‌توانستند به توسعه سلاح‌های زیستی منجر شوند.
احتمال محدودیت در تأمین توان پردازشی
منابع محاسباتی یا توان پردازشی، به قدرت و امکانات رایانشی موردنیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی گفته می‌شود. تأمین این منابع پرهزینه است و تقاضا برای آن‌ها بالاست. آنتروپیک هشدار داده است که اگر نتواند توان پردازشی کافی فراهم کند، یا نتواند این منابع را به‌درستی میان فعالیت‌های مختلف خود تخصیص دهد، ممکن است نتواند مدل‌هایی بسازد که از نظر رقابتی هم‌سطح محصولات رقبایش باقی بمانند یا نیازهای مشتریانش را به‌خوبی برآورده کنند.
آنتروپیک مخالفت جوامع محلی با مراکز داده را نیز یکی از خطرات پیش روی کسب‌وکار خود دانسته است. در اسناد شرکت آمده است که توسعه مراکز داده «به مناقشه عمومی و بررسی‌های نظارتی درباره پیامدهای زیست‌محیطی، استفاده از زمین و آب و نحوه تخصیص منابع محدود برق دامن زده است». شرکت افزوده است که اگر نهادهای نظارتی در واکنش به این نگرانی‌ها الزامات یا هزینه‌های تازه‌ای وضع کنند، توانایی آن برای ادامه فعالیت ممکن است آسیب ببیند.
افزون بر این، بخش بزرگی از درآمد آنتروپیک به شمار محدودی از مشتریان، از جمله اسپیس‌ایکس و مایکروسافت، و همچنین کانال‌های توزیع آن وابسته است. به گفته شرکت، اگر حتی یکی از مشتریان بزرگش تصمیم بگیرد همکاری را کاهش دهد یا به‌کلی قطع کند، چشم‌انداز تجاری و وضعیت مالی آنتروپیک ممکن است با مشکل مواجه شود.
کاهش خطرات
از برخی جهات، ترکیب خطرات بسیار بزرگ هوش مصنوعی با ظرفیت عظیم آن برای ایجاد تحول، خود به یکی از مهم‌ترین ابزارهای آنتروپیک برای جلب سرمایه‌گذار تبدیل شده است. این شرکت تلاش کرده است خود را به‌عنوان شرکتی مسئول در حوزه هوش مصنوعی معرفی کند و با تأکید بر ایمنی، مشتریان تجاری را به همکاری ترغیب کند.
در اسناد عرضه سهام آمده است: «ما معتقدیم شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته باید در زمینه ایمنی و هم‌راستاسازی سرمایه‌گذاری کنند تا به انتشار و گسترش مسئولانه این فناوری کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در شرکت پژوهشی زکس اینوستمنت ریسرچ، گفت در معاملات عرضه اولیه سهام باید خطراتی که افراد با سرمایه‌گذاری در سهام یک شرکت تازه‌وارد به بازار عمومی با آن روبه‌رو می‌شوند، «به‌روشنی و با جزئیات کافی» توضیح داده شوند.
او گفت: «یکی از ویژگی‌های مثبت بازارهای سرمایه داخلی ما، سطح شفافیتی است که شرکت‌ها متعهد می‌شوند رعایت کنند. برای آنکه شرکتی در یکی از بورس‌های آمریکا به‌صورت عمومی معامله شود، باید این خطرات را به‌روشنی تشریح کند تا مردم بدانند اگر می‌خواهند با سرمایه‌ای که به‌سختی به دست آورده‌اند در چنین معامله‌ای مشارکت کنند و به تأمین مالی آن کمک برسانند، با چه مخاطراتی روبه‌رو هستند.»
برنارد کاندون، خبرنگار حوزه کسب‌وکار آسوشیتدپرس، و کیتلین هوامانی، خبرنگار فناوری این خبرگزاری، در تهیه این گزارش مشارکت داشته‌اند.