الیزابت وارن از مدیرعامل آنتروپیک خواست پیش از عرضه اولیه سهام، به خطرات وجودی هوش مصنوعی بپردازد
پس از آنکه شرکت آنتروپیک، یکی از شرکت‌های پیشرو هوش مصنوعی در آمریکا، مدارک لازم را برای عرضه اولیه سهام ثبت کرد؛ عرضه‌ای که انتظار می‌رود با استقبال گسترده سرمایه‌گذاران روبه‌رو شود، الیزابت وارن، سناتور دموکرات ایالت ماساچوست، از مدیرعامل این شرکت خواست درباره خطرات احتمالی هوش مصنوعی برای بقای بشر پاسخ‌گو باشد.
این شرکت روز دوشنبه اعلام کرد که سامانه‌های پیشرفته هوش مصنوعی آن، در صورت نبود نظارت مناسب، تدابیر حفاظتی و اقدامات امنیتی کافی، ممکن است تهدیدی فاجعه‌بار ایجاد کنند.
وارن در نامه‌ای ۱۱ صفحه‌ای خطاب به داریو آمودی، مدیرعامل آنتروپیک، نوشت: «به باور من، خطرات ناشی از این فناوری مستلزم بررسی و نظارت دقیق‌تری است؛ آن هم پیش از آنکه این فناوری با بازارهای سرمایه عمومی درآمیزد، اتفاقی که می‌تواند خطرات مربوط به ایمنی عمومی و ثبات نظام مالی را بیش از پیش افزایش دهد.» او در این نامه به بخش‌های متعددی از بیانیه ثبت اولیه آنتروپیک استناد کرد که این شرکت در هفته جاری به کمیسیون بورس و اوراق بهادار آمریکا ارائه داده بود. از مجموع ۹۰ صفحه این بیانیه، ۹۰ صفحه به عوامل خطر اختصاص یافته بود.
وارن که ارشدترین عضو دموکرات کمیته بانکداری، مسکن و امور شهری سنای آمریکا است، به اذعان آنتروپیک اشاره کرد که کارکنان خود این شرکت درباره احتمال سوءاستفاده از سامانه‌های هوش مصنوعی آن، تکثیر این سامانه‌ها، استفاده تسلیحاتی از آن‌ها یا فعالیتشان با درجات بالایی از خودمختاری ابراز نگرانی کرده‌اند.
او همچنین اظهارات آنتروپیک را برجسته کرد که بر اساس آن، مدل‌های هوش مصنوعی این شرکت ممکن است رفتارهایی در جهت حفظ بقای خود نشان دهند و در برابر تلاش‌ها برای خاموش کردنشان مقاومت کنند. افزون بر این، برخی از مدل‌های این شرکت تاکنون قابلیت‌هایی از خود نشان داده‌اند که می‌تواند به‌طور قابل‌توجهی به عوامل مخرب در تلاش برای تولید سلاح‌های زیستی یا شیمیایی کمک کند.
وارن نوشت: «خطراتی که خود آنتروپیک مطرح کرده است، عمیقاً مرا نگران می‌کند. این پرسش برایم مطرح است که شرکت چگونه می‌تواند بدون کاهش این خطرات برای بشریت، به‌گونه‌ای عمل کند که با هدف اعلام‌شده‌اش برای تأمین منافع عمومی و تعهدات امانی مرتبط با آن بر اساس قوانین ایالت دلاور سازگار باشد.»
آنتروپیک، شرکت مستقر در سان‌فرانسیسکو که چت‌بات کلود را توسعه داده است، در اسناد ثبت‌شده خود در هفته جاری اعلام کرد که می‌تواند «به بشریت کمک کند تا مسیری ایمن را در تحول فناورانه خود ترسیم کند، افق‌های تازه‌ای برای اکتشاف بگشاید و عصر معجزه‌ها را به ارمغان آورد.»
با این حال، وارن هشدار داد که ابعاد عظیم این شرکت و نوسان‌های شدید قیمت سهام آن می‌تواند پس از عرضه عمومی و ورود سهام به سبد سرمایه‌گذاری حساب‌های بازنشستگی، بازارهای مالی را دچار آشفتگی کند.
او در نامه خود نوشت: «این حجم عظیم از ورود سرمایه عمومی احتمالاً توسعه و به‌کارگیری فناوری شما را شتاب خواهد داد؛ آن هم در زمانی که درباره خطرات مدل‌های هوش مصنوعی پیشرفته شما بحث‌ها و نگرانی‌های عمومی شدیدی وجود دارد.» وارن همچنین از شرکت خواست تا روز سه‌شنبه به ۱۰ پرسش چندبخشی پاسخ دهد.
به گزارش یاهو فایننس، عرضه اولیه سهام آنتروپیک ممکن است در حوالی هفته منتهی به ۱۶ نوامبر انجام شود. طبق مقررات کمیسیون بورس و اوراق بهادار آمریکا، پس از ثبت عمومی مدارک عرضه باید یک دوره انتظار ۱۵ روزه سپری شود.
تحلیلگران مالی انتظار دارند عرضه اولیه آنتروپیک بزرگ‌ترین عرضه اولیه سهام در تاریخ باشد و تا ۱۰۰ میلیارد دلار سرمایه جذب کند. رکورد پیشین اوایل همین سال با عرضه اولیه اسپیس‌ایکس ثبت شد که ۷۵ میلیارد دلار سرمایه به دست آورد. تحلیلگران ارزش آنتروپیک را بین ۱.۵ تا ۲ تریلیون دلار برآورد می‌کنند؛ رقمی که این شرکت را در شمار باارزش‌ترین شرکت‌های جهان قرار می‌دهد.
عرضه اولیه آنتروپیک در شرایطی انجام خواهد شد که بدبینی عمومی نسبت به این فناوری رو به افزایش است. نتایج نظرسنجی مشترک ای‌بی‌سی نیوز، واشنگتن‌پست و مؤسسه ایپسوس در ماه جاری نشان داد که ۵۷ درصد آمریکایی‌ها هوش مصنوعی را برای جامعه مضر می‌دانند، در حالی که ۴۲ درصد آن را مفید ارزیابی می‌کنند. همچنین، بر اساس نظرسنجی ماه گذشته پولیتیکو، ۶۱ درصد آمریکایی‌ها معتقدند هوش مصنوعی این خطر را دارد که بشریت را نابود کند و ۱۷ درصد گفته‌اند که وقوع چنین اتفاقی تقریباً قطعی است.
وارن از آمودی خواست اقداماتی را تشریح کند که آنتروپیک برای اطمینان از جلوگیری از ایجاد خطرات وجودی برای بشریت به‌وسیله فناوری خود انجام می‌دهد. او همچنین خواستار پاسخ‌گویی درباره نگرانی‌ها از این شد که هوش مصنوعی توسعه و استفاده از سلاح‌های زیستی را تسهیل کند.
او همچنین پرسید آنتروپیک چگونه می‌تواند حوادثی را گزارش کند که در آن‌ها مدل‌های هوش مصنوعی به‌صورت خودمختار حملات سایبری انجام می‌دهند و آیا تاکنون چنین حوادثی رخ داده که شرکت آن‌ها را به‌طور عمومی اعلام نکرده باشد.
این شرکت در ماه ژوئیه اعلام کرده بود که مدل‌های هوش مصنوعی آن در جریان آزمایش‌ها به سه سازمان نفوذ سایبری کرده‌اند. به گفته آنتروپیک، این اتفاق باعث شد شرکت بررسی امنیت سایبری گسترده‌ای را آغاز کند که به‌طور ویژه به دنبال شواهدی بود مبنی بر اینکه آیا مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی‌ای که قرار بود کاملاً از شبکه جدا باشند، به اینترنت دسترسی پیدا کنند یا خیر. این شرکت این اطلاعات را در وب‌سایت خود منتشر کرده بود.
آنتروپیک پیش از انتشار این گزارش به درخواست اسپکتروم نیوز برای اظهارنظر درباره نامه وارن پاسخی نداد.