چالش تازه برای عرضه اولیه سهام آنتروپیک؛ مقام نیویورکی خواستار توقف موقت آن شد
مارک لوین، حسابرس کل شهر نیویورک، از شرکت آنتروپیک خواسته است عرضه اولیه سهام خود (IPO) را تا زمانی که نگرانی‌ها درباره ایمنی هوش مصنوعی، حاکمیت شرکتی و خطرات ناشی از پیشرفت سریع این فناوری برطرف نشده، به تعویق بیندازد.
لوین در نامه‌ای به تاریخ ۱۴ اکتبر خطاب به داریو آمودی، مدیرعامل آنتروپیک، تأکید کرد که این شرکت باید پیش از اقدام برای عرضه اولیه سهام، که ممکن است ارزش آن را به حدود ۲ تریلیون دلار برساند، تقویت تدابیر ایمنی و افزایش شفافیت را در اولویت قرار دهد.
او در این نامه این پرسش را مطرح کرده است که سرمایه‌گذاران بازار سهام چگونه می‌توانند ارزش کسب‌وکار آنتروپیک را ارزیابی کنند، در حالی که خود شرکت درباره خطرات احتمالی سامانه‌های هوش مصنوعیِ روزبه‌روز توانمندتر هشدار می‌دهد.
لوین به افزایش نگرانی‌ها در داخل آنتروپیک درباره خطرات مدل‌های قدرتمندتر هوش مصنوعی اشاره کرد. آمودی در مقاله‌ای که ۱۲ سپتامبر منتشر شد، هشدار داده بود که توانایی‌های هوش مصنوعی ممکن است سریع‌تر از ظرفیت جامعه برای مهار و کنترل آن پیشرفت کند. او در همان مقاله خواستار کاهش سرعت توسعه این فناوری شده بود.
حسابرس کل نیویورک همچنین به استعفای جیکوب کاکسون، پژوهشگر آنتروپیک، در ۹ سپتامبر اشاره کرد. کاکسون هشدار داده بود که برخی افراد در داخل شرکت معتقدند هوش مصنوعی ممکن است تا پایان دهه جاری تهدیدی برای بقای بشریت ایجاد کند.
۸۰ صفحه افشای اطلاعات درباره خطرات
لوین نوشت که این نگرانی‌ها در پیش‌نویس مدارک عرضه اولیه سهام آنتروپیک نیز بازتاب یافته است. بر اساس گزارش‌ها، این شرکت در اسناد خود هشدار داده که هوش مصنوعی پیشرفته ممکن است «خطراتی فاجعه‌بار یا تهدیدهایی علیه بقای بشریت» ایجاد کند.
بخش مربوط به افشای خطرات در پیش‌نویس فرم ثبت عرضه سهام S-1 آنتروپیک حدود ۸۰ صفحه است؛ حجمی که تقریباً دو برابر بخش توضیحات مربوط به فعالیت‌های تجاری شرکت است.
لوین در نامه خود نوشت: «این موارد افشای خطرات، عادی و معمول نیستند و از خطراتی بی‌سابقه حکایت دارند؛ به‌ویژه در عرضه عمومی سهامی با چنین ابعادی.»
او همچنین به هشدارهای مدیران آنتروپیک درباره احتمال وارد آمدن خسارت‌های گسترده از سوی عامل‌های هوش مصنوعی اشاره کرد. آمودی پیش‌تر هشدار داده بود که سامانه‌های هوش مصنوعی با توانایی‌های فزاینده، در صورت نبود تدابیر حفاظتی کافی، ممکن است امکان اجرای حملات سایبری هماهنگ و سایر فعالیت‌های مخرب و اختلال‌آفرین را فراهم کنند.
لوین در ادامه نوشت: «این نگرانی‌ها نشان می‌دهد خطرات مورد بحث تا چه اندازه جدی هستند. حتی اگر بعدها مشخص شود که در پیش‌بینی چنین پیامدهایی اغراق شده است، همین هشدارهای هولناک نشان‌دهنده خطرات اقتصادی گسترده‌ای است که پیشرفت نسنجیده هوش مصنوعی می‌تواند به همراه داشته باشد.»
نگرانی‌های مربوط به حاکمیت شرکتی می‌تواند عرضه سهام را پیچیده‌تر کند
نگرانی‌های لوین تنها به ایمنی هوش مصنوعی محدود نمی‌شود. او همچنین این پرسش را مطرح کرد که آیا ساختار حاکمیت شرکتی مورد نظر آنتروپیک می‌تواند پاسخ‌گویی کافی در برابر سهام‌داران عمومی را تضمین کند یا خیر.
آنتروپیک در ایالت دلاور به‌عنوان یک شرکت عام‌المنفعه ثبت شده و دارای نهادی به نام «تراست منافع بلندمدت» است. لوین با استناد به گزارش‌هایی اعلام کرد که این شرکت قصد دارد ساختاری را به کار بگیرد که ممکن است کنترل تصمیم‌گیری‌ها را در دست بنیان‌گذاران و متولیان تراست متمرکز کند.
او استدلال کرد که احتمال ایجاد فاصله میان قدرت تصمیم‌گیری و مسئولیت پاسخ‌گویی، با توجه به خطراتی که خود آنتروپیک به آن‌ها اذعان کرده، به‌ویژه نگران‌کننده است.
لوین همچنین از توافق اخیر آنتروپیک و پنج شرکت دیگر با کاخ سفید انتقاد کرد و گفت توافقی که صرفاً «از نظر اخلاقی الزام‌آور» توصیف شده، برای رسیدگی به چالش‌های صنعت هوش مصنوعی کافی نیست.
او در مقابل از آنتروپیک خواست جزئیات برنامه‌های خود برای انجام ممیزی‌ها و اجرای تدابیر حفاظتی را ارائه دهد، مشخص کند این اقدامات برای مقابله با چه خطراتی طراحی شده‌اند و جدول زمانی اجرای آن‌ها را نیز اعلام کند. لوین همچنین خواستار توضیح شرکت درباره این موضوع شد که آیا اقدامات پیشنهادی آن با درخواست آمودی برای کاهش سرعت توسعه هوش مصنوعی همسو خواهد بود یا خیر.
لوین در نامه خود نوشت: «احتیاط و دوراندیشی نباید فقط در تعیین سرعت پیشرفت در مرزهای فناوری هوش مصنوعی رعایت شود؛ زمان‌بندی عرضه اولیه سهام نیز باید با همین ملاحظه تعیین شود.»
او از آمودی خواست پاسخی کتبی به این نگرانی‌ها ارائه دهد و آمادگی خود را برای گفت‌وگوی بیشتر درباره آن‌ها اعلام کرد.
آنتروپیک هنوز تاریخ عرضه اولیه سهام خود را به‌طور رسمی اعلام نکرده است. با این حال، منابع پیش‌تر گفته بودند که سازنده هوش مصنوعی کلود قصد دارد حدود اواسط نوامبر وارد بازار سهام شود. به گفته این منابع، مذاکرات همچنان ادامه دارد و ممکن است زمان عرضه بار دیگر تغییر کند.
عکس: شاتراستاک
این مطلب تا حدی با کمک ابزارهای هوش مصنوعی تهیه شده و پس از بررسی توسط دبیران بنزینگا منتشر شده است.