عرضه اولیه سهام آنتروپیک؛ پایان دورهای از رشد انفجاری و تناقضهای متعدد
آنتروپیک تنها پنج سال پیش از آنکه با عرضه اولیه سهام خود رکورد بزرگترین عرضه عمومی سهام در تاریخ را بشکند، یک استارتاپ کوچک در سیلیکونولی بود. این شرکت را گروهی از مدیران و پژوهشگران سابق اوپنایآی تأسیس کردند که با دیدگاههایی متفاوت درباره چگونگی توسعه هوش مصنوعی، از این شرکت جدا شده بودند.
امروز آنتروپیک، شرکتی که ایمنی را در اولویت فعالیتهای خود قرار داده و در همین مسیر چتبات کلاد (Claude) را توسعه داده است، به یکی از صریحترین منتقدان خطرات این فناوری تبدیل شده و بارها درباره پیامدهای فاجعهبار احتمالی هوش مصنوعی هشدار داده است.
یکی از تناقضهایی که تاریخچه کوتاه اما پرفرازونشیب آنتروپیک را شکل داده، از همان نخستین روز حضور این شرکت در بازار سهام والاستریت آشکار شد؛ روزی که عرضه عمومی سهام آن با ارزشگذاری چندصد میلیارد دلاری، نقطه عطفی در مسیر رشد این شرکت رقم زد.
آنتروپیک که همچنان بر تعهد خود به اولویت دادن به منافع بشریت تأکید میکند، اکنون با فشار سهامداران برای کسب سود از فناوریای روبهرو است که برخی از عالیترین مقامهای شرکت، آن را تهدیدی بالقوه برای موجودیت انسان توصیف کردهاند.
داریو آمودی، مدیرعامل و از بنیانگذاران آنتروپیک، روز پنجشنبه در اینباره گفت که تقابل میان ایمنی و پیشرفت هوش مصنوعی، یکی از «تنشهای اساسی در قلب فعالیتهای شرکت» است.
او در مصاحبهای با آسوشیتدپرس، به سرعت چشمگیر پیشرفت هوش مصنوعی اشاره کرد؛ پیشرفتی که تا حد زیادی حاصل توسعه مدلهای پیشرفتهتر و توانایی آنها در کمک به ساخت نسخههای بعدی خودشان است. آمودی برای توضیح این روند از مثالی استفاده کرد: تصور کنید فردی که پیشتر با سرعت ۸۰ مایل در ساعت رانندگی میکرده، اکنون میتواند با سرعت ۱۰۰ مایل در ساعت حرکت کند. به گفته او، بهجای آنکه صرفاً سرعت را افزایش دهیم، باید زمان و منابع لازم را برای یافتن راههایی جهت انجام ایمن این کار اختصاص دهیم. او تأکید کرد که شرکتش در تلاش است این پیشرفتها را به شکلی ایمن مدیریت کند.
آمودی گفت: «کاری که در زمینه ایمنی انجام دادهایم، اساساً به این معناست که گفتهایم: ببینید، میتوانیم با سرعت ۱۰۰ مایل در ساعت حرکت کنیم، اما شاید بهتر باشد فعلاً با سرعت ۸۰ مایل در ساعت پیش برویم و زمانی را صرف کنیم تا بفهمیم چگونه میتوان این کار را با ایمنی انجام داد. سپس، باقی منابع و توان خود را صرف ساخت مدل در مسیر درست میکنیم.»
هشدار درباره خطرات احتمالی، در کنار تلاش برای پیشرفت
هفت بنیانگذار آنتروپیک، از جمله داریو آمودی، ۴۳ ساله، خواهرش دانیلا آمودی، رئیس شرکت، ۴۱ ساله، و پنج کارمند سابق دیگر اوپنایآی، این شرکت رقیب را با هدف ایجاد سازمانی تأسیس کردند که در توسعه هوش مصنوعی، ایمنی را به شکلی روشنتر در اولویت قرار دهد.
آنتروپیک در مواضع عمومی خود همواره بر ایمنی و شفافیت در زمینه مدلهای هوش مصنوعی تأکید کرده است؛ بااینحال، در ماههای اخیر برخی افراد در داخل شرکت نسبت به مسیر پیش رو ابراز نگرانی کردهاند.
در سپتامبر، یکی از پژوهشگران آنتروپیک از این شرکت استعفا داد و از رویههای ایمنی آنتروپیک و اوپنایآی انتقاد کرد. جیکوب کاکسون در پیامی که بحثهای گستردهای در صنعت فناوری درباره سرعت رشد هوش مصنوعی به راه انداخت، نوشت که هر دو شرکت «با زندگی ما قمار میکنند». او هشدار داد برخی فعالان حوزه توسعه هوش مصنوعی معتقدند این فناوری ممکن است تا پایان دهه جاری حیات انسان را تهدید کند.
داریو آمودی در واکنش به این انتقادها مقالهای منتشر کرد که در آن خواستار کندتر شدن روند توسعه این فناوری در سطح صنعت شده بود. او در این مقاله، برنامههایی دقیق برای کاهش سرعت توسعه و استفاده هماهنگ شرکتها و کشورهای مختلف از هوش مصنوعی مطرح کرد و از ایده حضور ارزیابان مستقل در داخل آنتروپیک و سایر آزمایشگاههای هوش مصنوعی حمایت کرد.
بااینحال، نتایج دستکم یکی از ارزیابیهای مستقل، نگرانیهای کاکسون را تقویت کرد. گزارش اخیر مؤسسه غیرانتفاعی «ارزیابی مدل و پژوهش تهدید» نشان داد که آنتروپیک، عمدتاً به کمک خود فناوری هوش مصنوعی، سامانههایش را تقریباً دو برابر سریعتر از یک سال قبل توسعه میدهد.
آمودی روز پنجشنبه، در مراسم به صدا درآمدن زنگ آغاز معاملات بورس نزدک، گفت: «دشوارترین کارهای مربوط به ایمنی هنوز پیش روی ما قرار دارند.»
او افزود: «برای اینکه هیچ ابهامی باقی نماند، آموزش و عرضه سامانههای هوش مصنوعی را تا زمانی که اطمینان پیدا کنیم ایمن هستند و تحت کنترل انسان باقی خواهند ماند، به تعویق خواهیم انداخت؛ هرقدر که این فرایند زمان ببرد.»
وعده خدمت به بشریت و ثروتاندوزی بنیانگذاران
آنتروپیک یک شرکت عامالمنفعه (Public Benefit Corporation) است؛ ساختاری حقوقی که شرکت را موظف میکند در کنار منافع سهامداران، منافع عمومی را نیز در نظر بگیرد. بااینحال، چنین شرکتهایی بهندرت وارد بازار سهام میشوند و نمونههای بورسی این ساختار نیز معمولاً بسیار کوچکتر از آنتروپیک هستند. به همین دلیل، این شرکت وارد حوزهای شده که تجربه چندانی از حضور شرکتهایی با چنین ابعادی در آن وجود ندارد.
آنتروپیک اعلام کرده است که برای ساخت آیندهای تلاش میکند که در آن «مزایای هوش مصنوعی میان همه مردم تقسیم شود». بااینحال، عرضه اولیه سهام این شرکت به تمرکز چشمگیر ثروت در اختیار بنیانگذاران، کارکنان و دیگر سرمایهگذاران آن منجر شده است.
بر اساس برآورد فوربز، پیش از عرضه اولیه سهام، دارایی خالص هر یک از دو خواهر و برادر آمودی بیش از ۱۰۰ میلیارد دلار بود. بعدازظهر پنجشنبه، ارزش دارایی خالص داریو آمودی به حدود ۱۰۰ میلیارد دلار و دانیلا آمودی به حدود ۱۰۰ میلیارد دلار رسید.
آمودیها و دیگر همبنیانگذاران شرکت اعلام کردهاند که متعهد شدهاند ۸۰ درصد از سهام خود را به امور خیریه اختصاص دهند؛ هرچند این تعهد داوطلبانه است. آنتروپیک همچنین برنامهای برای تطبیق کمکهای مبتنی بر سهام کارکنان دارد؛ به این معنا که شرکت کمکهای کارکنان را نیز با مشارکت خود تکمیل میکند. علاوه بر این، آنتروپیک متعهد شده است دستکم ۱۰ درصد از سهام خود را به یک صندوق عامالمنفعه اختصاص دهد.
دانیلا آمودی روز پنجشنبه در گفتوگو با آسوشیتدپرس گفت که ایده تبدیل شرکت به یک مؤسسه عامالمنفعه از همان زمان شکلگیری آنتروپیک در ذهن بنیانگذاران وجود داشت.
او گفت: «ما واقعاً تلاش میکنیم کاری انجام دهیم که به اعتقادمان میتواند ارزش اقتصادی و تأثیرگذاری فوقالعادهای داشته باشد؛ اما میخواهیم این هدف در ساختار اصلی شرکتمان نیز منعکس شود؛ ساختاری که ما را ملزم میکند در کنار توسعه فناوری، به منافع مردم نیز توجه کنیم.»
آنتروپیک خود را راهکاری برای نگرانیها درباره آینده هوش مصنوعی میداند
آنتروپیک در گزارشی ۳۲ صفحهای که ماه گذشته برای کمیسیون بورس و اوراق بهادار آمریکا ارائه کرد، مجموعهای از عوامل خطر را برای سرمایهگذاران برشمرد. از جمله این نگرانیها آن بود که سامانههای پیشرفته هوش مصنوعی ممکن است خطرات فاجعهبار یا تهدیدهای وجودی برای بشریت ایجاد کنند.
برخی معتقدند آنتروپیک با تأکید بر خطرات احتمالی فناوری خود و رقبایش، در واقع پیامدهای ویرانگر احتمالی را بهعنوان بخشی از استدلال خود برای شفافیت بیشتر مطرح میکند. در مقابل، منتقدان این پرسش را مطرح کردهاند که چرا شرکتی که خود را بر پایه ایمنی بنا کرده، تا این اندازه بر سناریوهای آخرالزمانی تأکید میکند و همزمان خود را راهحل منطقی مقابله با این خطرات معرفی میکند.
این تناقض در برنامه تلویزیونی «شنبهشب زنده» در ماه سپتامبر نیز دستمایه طنز قرار گرفت. در این برنامه، کمدینها به مواضع داریو آمودی پرداختند و یکی از آنها در نقش او گفت: «سام آلتمن، من و تمام بازیگران اصلی حوزه هوش مصنوعی بارها درباره این موضوع مفصل صحبت کردهایم و همگی در این زمینه همنظر هستیم: ما نمیدانیم داریم چه کار میکنیم.»
مصاحبه طنزآمیز این برنامه با جملهای پایان یافت که به نظر میرسید بازتابی از تردیدهای منتقدان باشد. در این بخش، فردی در مقابل دفتر مرکزی آنتروپیک در سانفرانسیسکو تابلویی اعتراضی در دست داشت که روی آن نوشته شده بود: «از شما خواهش میکنم، خواهش میکنم مرا مجبور کنید متوقف شوم.»
وایات گرانتام-فیلیپس، خبرنگار حوزه کسبوکار آسوشیتدپرس، در تهیه این گزارش مشارکت داشته است.
