در پرونده عرضه اولیه سهام آنتروپیک بیش از ۹۰ صفحه به ریسک‌ها اختصاص یافته است؛ آیا باید نگران بود؟
گرتا رایش | USA TODAY
اسناد عرضه اولیه سهام (IPO) شرکت هوش مصنوعی آنتروپیک که ۲۶ اکتبر منتشر شد، تقریباً ۱۰۰ صفحه را به عوامل خطر اختصاص می‌دهد. در میان این خطرها، احتمال آن مطرح شده است که فناوری این شرکت پیامدهایی «فاجعه‌بار» برای بشریت داشته باشد.
درج عوامل خطر یکی از بخش‌های الزامی فرم S-1 است؛ بیانیه ثبت‌نامی که شرکت‌ها برای ورود به بورس ارائه می‌کنند. این بخش معمولاً تهدیدهایی را شرح می‌دهد که شرکت با آن‌ها روبه‌رو است تا سرمایه‌گذاران بالقوه بتوانند با آگاهی بیشتری تصمیم بگیرند.
بخش مربوط به عوامل خطر آنتروپیک از صفحه ۲۶ آغاز می‌شود و تا صفحه ۱۱۹ ادامه دارد؛ در مجموع، ۹۳ صفحه درباره خطرهای احتمالی. برای مقایسه، بخش عوامل خطر اسپیس‌ایکس ۳۷ صفحه، بخش مربوط به مایکروسافت ۴۰ صفحه و بخش مربوط به کوین‌بیس ۶۰ صفحه را در بر می‌گرفت.
جی ریتر، مدیر طرح مطالعات عرضه اولیه سهام در دانشگاه فلوریدا، گفت: «بعضی از این موارد خطرهایی هستند که هر شرکتی با آن‌ها مواجه می‌شود؛ مثلاً ممکن است نرخ بهره، قیمت نفت یا هزینه برق افزایش پیدا کند و مواردی از این دست.»
بااین‌حال، به گفته او، معمول نیست که شرکتی در بخش عوامل خطر خود احتمال وقوع رویدادی را مطرح کند که در آن محصولی که تولید و عرضه می‌کند، «به انقراض گسترده حیات منجر شود». ریتر به USA TODAY گفت: «به‌ندرت پیش می‌آید که چنین چیزی در دفترچه عرضه سهام به‌عنوان یک عامل خطر ذکر شود.»
«خطرهای وجودی برای بشریت»
آنتروپیک در صفحه ۴۶ اسناد خود می‌نویسد: «سامانه‌های هوش مصنوعی به‌اندازه کافی پیشرفته، اگر بدون تدابیر حفاظتی، نظارت و اقدامات امنیتی مناسب توسعه داده شوند، به کار گرفته شوند و تحت مدیریت قرار گیرند، ممکن است خطرهایی فاجعه‌بار یا حتی وجودی برای بشریت ایجاد کنند.»
این شرکت همچنین اعلام کرده است که پیش‌تر مواردی از رفتار «ناهمسو» در مدل‌های خود مشاهده کرده است؛ یعنی مواردی که سامانه‌های هوش مصنوعی اقداماتی انجام داده‌اند که انسان آن‌ها را هدایت نکرده یا اجازه انجامشان را نداده است. آنتروپیک به موردی اشاره کرده که در آن چهار مدل هوش مصنوعی به سامانه‌های واقعی متعلق به اشخاص ثالث، بدون مجوز دسترسی پیدا کردند.
در اسناد S-1 آمده است: «پس از آنکه یک نسخه اولیه از مدل نتوانست از انجام وظیفه‌ای ناممکن دست بکشد، از گذرواژه‌ای که پیدا کرده بود استفاده کرد تا به دسترسی مدیریتی یک سامانه متعلق به شخص ثالث دست یابد. سپس اطلاعات ورود دیگری را جمع‌آوری کرد، تنظیمات سامانه را تغییر داد و اطلاعات شخصی یک فرد را خواند.»
رفتار ناهمسوی مدل‌های هوش مصنوعی در چند ماه گذشته به موضوعی پربحث تبدیل شده است؛ به‌ویژه پس از انتشار گزارش‌های متعدد درباره رخدادهایی که در آن‌ها هوش مصنوعی از کنترل خارج شده بود و این اتفاق‌ها در زمان وقوع گزارش نشده بودند.
ریتر که به دلیل فعالیت‌هایش در حوزه عرضه اولیه سهام با لقب «آقای IPO» نیز شناخته می‌شود، گفت: «اگر این خطر واقعاً نگران‌کننده بود، باید شاهد افت قیمت همه دارایی‌های مالی می‌بودیم. مردم باید می‌گفتند: چرا پول پس‌انداز کنم، وقتی قرار است سال آینده مرده باشم؟ بهتر است همین حالا پولم را خرج کنم.»
او افزود: «بنابراین، اینکه فروش گسترده و جهانی دارایی‌های مالی رخ نداده است، نشان می‌دهد چنین خطری وجود دارد، اما شاید اگر خود شرکت نگران آن باشد و اقدامات احتیاطی را انجام دهد، امیدوار باشیم که این اتفاق رخ ندهد. لازم نیست ما نگران آن باشیم، چون خود شرکت نگران آن است.»
آنتروپیک می‌گوید اقدامات ایمنی ممکن است روند پیشرفت را کند کنند
یکی از عوامل خطر قابل‌پیش‌بینی‌تر در اسناد این شرکت، اذعان به این مسئله است که موفقیت آنتروپیک به توانایی آن در توسعه بهترین هوش مصنوعی بستگی دارد و رعایت الزامات ایمنی ممکن است روند پیشرفت آن را کُند کند.
در اسناد S-1 آمده است: «اگر منابع محاسباتی و تلاش‌های پژوهشی کافی را به توسعه با کمک هوش مصنوعی اختصاص ندهیم، یا اگر رقبای ما از هوش مصنوعی برای تقویت چرخه‌های نوآوری خود مؤثرتر استفاده کنند، ممکن است به‌تدریج از آن‌ها عقب بمانیم؛ زیرا رقبا پیوسته از هوش مصنوعی برای افزایش توانایی‌های توسعه خود بهره می‌گیرند.»
این شرکت همچنین اذعان می‌کند که ممکن است مدل‌های خودش با سرعتی بیش از توانایی آنتروپیک برای توسعه، اعتبارسنجی و اجرای تدابیر ایمنی پیشرفت کنند. آنتروپیک برای جلوگیری از رفتار ناهمسوی هوش مصنوعی و پیامدهای بالقوه فاجعه‌بار آن، ممکن است به اقداماتی احتیاطی مانند به‌تعویق انداختن عرضه مدل‌ها و محدود کردن قابلیت‌های آن‌ها ادامه دهد.
در اسناد S-1 آمده است: «این اقدامات ممکن است سرعت افزایش توانایی‌های ما را در مقایسه با رقبایی که محدودیت‌های مشابهی اعمال نمی‌کنند کاهش دهد و بر موقعیت رقابتی، رشد درآمد و نتایج عملیاتی ما تأثیر منفی بگذارد.»
گرتا رایش از طریق بورسیه مرکز تاربِل برای روزنامه‌نگاری هوش مصنوعی، صنعت هوش مصنوعی را برای USA TODAY پوشش می‌دهد. تأمین‌کنندگان مالی در محتوای تحریریه دخالت نمی‌کنند.