عرضه اولیه سهام آنتروپیک؛ چهار ریسک کلیدی در مسیر احتمالی یک رکوردشکنی
عرضه اولیه سهام آنتروپیک که ممکن است رکوردشکن باشد، برای نخستین بار تصویری از وضعیت مالی حسابرسی‌شده این شرکت و در عین حال، شرحی صریح از خطرهای مرتبط با کسب‌وکار هوش مصنوعی آن در اختیار سرمایه‌گذاران قرار می‌دهد. این شرکت درخواست عرضه عمومی سهام خود در آمریکا را ثبت کرده و در اسناد مربوط، از رشد سریع، هزینه‌های سنگین و بیش از ۹۰ صفحه عوامل خطرآفرین برای کسب‌وکارش پرده برداشته است.
اسناد عرضه اولیه که روز دوشنبه منتشر شدند، شرکتی را به تصویر می‌کشند که میان توسعه فعالیت‌ها و هزینه‌ها و عدم‌قطعیت‌های ناشی از ساخت هوش مصنوعی پیشرفته در حال موازنه است. این اسناد خطرهایی از حملات سایبری گرفته تا احتمال عقب‌ماندن تدابیر حفاظتی از سرعت پیشرفت فناوری را نیز شرح می‌دهند.
با انتشار این اطلاعات، آنتروپیک این نگرانی‌ها را مستقیماً پیش روی سهامداران بالقوه قرار داده است.
رشد سریع با هزینه‌های سنگین همراه است
به گزارش گاردین، سندی که آنتروپیک در قالب فرم S-1 به نهادهای ناظر مالی آمریکا ارائه کرده، نخستین فرصت عمومی برای بررسی صورت‌های مالی حسابرسی‌شده این آزمایشگاه پژوهشی هوش مصنوعی است. در این سند، انتظارات شرکت از آینده هوش مصنوعی در کنار الزامات عملی اداره یک کسب‌وکار با رشد سریع قرار گرفته‌اند.
بخش مربوط به افشای ریسک‌ها مفصل است. بر اساس گزارشی جداگانه از یاهو فایننس، ۹۳ صفحه از مجموع ۳۳۵ صفحه این پرونده به عوامل خطرآفرین اختصاص دارد؛ عواملی که ممکن است به دارایی‌های سرمایه‌گذاران آسیب بزنند. این خطرها هم چالش‌های متعارف کسب‌وکار، مانند حفظ کارکنان کلیدی و عبور از موانع مقرراتی، را در بر می‌گیرند و هم نگرانی‌های ویژه هوش مصنوعی پیشرفته را.
گستردگی این بخش برای سرمایه‌گذاران اهمیت دارد، زیرا اسناد نشان می‌دهند که منشأ زیان‌های احتمالی تنها هزینه‌ها یا مشکلات تجاری نیست، بلکه خود محصولات نیز می‌توانند خطرآفرین باشند. آنتروپیک هشدار داده است که سوءاستفاده از محصولات یا وقوع یک حادثه جدی ایمنی ممکن است به اعتبار شرکت لطمه بزند، واکنش منفی افکار عمومی را برانگیزد و به اقدامات نظارتی منجر شود؛ پیامدهایی که می‌توانند بر فعالیت‌های شرکت تأثیر بگذارند.
ممکن است تدابیر ایمنی از سرعت پیشرفت عقب بمانند
آنتروپیک در اسناد عرضه اولیه هشدار داده است که مدل‌های این شرکت ممکن است سریع‌تر از توان آن برای ایجاد تدابیر ایمنی کافی پیشرفت کنند. به گفته شرکت، چنین فاصله‌ای می‌تواند احتمال وقوع حوادث ایمنی، مداخله نهادهای نظارتی و آسیب به اعتبار آن را افزایش دهد و بر عملکرد کسب‌وکار تأثیر منفی بگذارد.
در این اسناد همچنین احتمال داده شده است که با افزایش توانمندی سامانه‌های هوش مصنوعی و کاهش نیاز آن‌ها به نظارت انسانی، این سامانه‌ها بتوانند به‌طور مستقل و در مقیاس گسترده دست به اقدامات زیان‌بار بزنند. آنتروپیک گفته است که اکنون در فعالیت‌های پژوهشی و توسعه‌ای خود نیز از مدل‌های هوش مصنوعی استفاده می‌کند؛ موضوعی که خطر دیگری به همراه دارد: پیشرفت فناوری ممکن است از توانایی شرکت برای ارزیابی و ایمن‌سازی مدل‌های جدید فراتر برود.
این مسئله مستقیماً به کسب‌وکار شرکت مربوط می‌شود. اگر سازوکارهای حفاظتی شکست بخورند، سوءاستفاده از فناوری می‌تواند خسارت به بار آورد و ناتوانی شرکت در جلوگیری از چنین پیامدهایی نیز ممکن است به خود آنتروپیک آسیب برساند.
سوءاستفاده و پیامدهای گسترده برای صنعت
خطرها تنها به محصولات خود آنتروپیک محدود نمی‌شوند. این شرکت هشدار داده است که وقوع یک حادثه جدی ایمنی در ارتباط با هر یک از سامانه‌های پیشرفته هوش مصنوعی می‌تواند به کل صنعت آسیب بزند، واکنش منفی افکار عمومی را در پی داشته باشد و به وضع مقررات گسترده‌ای منجر شود که بر فعالیت‌های آنتروپیک تأثیر بگذارد.
در دفترچه عرضه اولیه شرکت همچنین به این احتمال اشاره شده است که عوامل مخرب از هوش مصنوعی پیشرفته برای تولید سلاح‌های شیمیایی استفاده کنند یا حاکمان اقتدارگرا این فناوری را برای سرکوب شهروندان به کار بگیرند. آنتروپیک هشدار داده است که در صورت سوءاستفاده از سامانه‌های پیشرفته، تکثیر آن‌ها، تسلیحاتی‌کردنشان یا واگذاری استقلال عمل گسترده به آن‌ها، این فناوری‌ها ممکن است خطرهایی فاجعه‌بار یا حتی تهدیدهایی برای موجودیت انسان ایجاد کنند.
بنیان‌گذاران شرکت، عرضه عمومی سهام را بخشی از تلاش برای مقابله با این خطرها معرفی کرده‌اند. آن‌ها در نامه‌ای به سرمایه‌گذاران بالقوه نوشته‌اند: «ساخت هوش مصنوعی به معنای به‌کارگرفتن خودِ توانایی شناختی است و هر چیزی با چنین قدرتی می‌تواند هم برای خیر و هم برای شر به کار گرفته شود.» آن‌ها افزوده‌اند که آنتروپیک تا حدی با این هدف تأسیس شده است که به جهان در بهره‌مندی از مزایای هوش مصنوعی و دوری از خطرهای آن کمک کند.
یاهو فایننس همچنین گزارش داده است که اسناد عرضه اولیه آنتروپیک خطرهای مرتبط با حملات سایبری و انتشار اطلاعات نادرست خطرناک را نیز در بر می‌گیرند. این شرکت گفته است که سرعت بالای توسعه مدل‌ها ممکن است از توان ارزیابی ایمنی آن‌ها پیشی بگیرد. در دفترچه عرضه اولیه نیز هشدار داده شده است که شکست تدابیر حفاظتی می‌تواند هم برای شرکت و هم برای کل بخش هوش مصنوعی پیامدهایی به همراه داشته باشد.
ثبت این اسناد، آنتروپیک را یک گام به عرضه عمومی سهام نزدیک‌تر کرده است. اکنون اطلاعات منتشرشده، مجموعه‌ای از ریسک‌های مالی و ایمنی را پیش روی سرمایه‌گذاران بالقوه قرار می‌دهد تا هنگام تصمیم‌گیری درباره سرمایه‌گذاری در این شرکت آن‌ها را ارزیابی کنند.
منبع: گاردین