هشدارهای داریو آمودی درباره ایمنی هوش مصنوعی با برنامه زمانی عرضه اولیه سهام آنتروپیک در تضاد قرار گرفته است
مدیرعامل آنتروپیک، داریو آمودی، در ماه‌های اخیر بارها هشدار داده است که مدل‌های هوش مصنوعی ممکن است سریع‌تر از سازوکارهای حفاظتی لازم برای مهار آن‌ها پیشرفت کنند. بااین‌حال، گزارش‌ها حاکی از آن است که آنتروپیک همچنان قصد دارد عرضه اولیه سهام خود را در ماه نوامبر انجام دهد.
۱۴ اکتبر، مارک لوین، کنترلر مالی شهر نیویورک، از این شرکت خواست عرضه اولیه سهام خود را تا زمان رسیدگی به نگرانی‌های مربوط به ایمنی هوش مصنوعی و حاکمیت شرکتی به تعویق بیندازد. به گزارش بلومبرگ، آنتروپیک پس از آن با لوین تماس گرفت، اما گزارشی از تغییر برنامه زمانی عرضه اولیه منتشر نشد.
نگرانی‌های ایمنی پیش‌تر نیز روند توسعه هوش مصنوعی را مختل کرده‌اند
آمودی در مقاله‌ای که در ماه سپتامبر منتشر کرد، درباره پدیده «خودبهبوددهی بازگشتی» در هوش مصنوعی ابراز نگرانی کرد؛ پدیده‌ای که به توانایی سامانه‌ها برای تغییر برنامه‌نویسی خود و تکامل مستقل اشاره دارد. به باور او، این روند ممکن است به ساخت سامانه‌های هوش مصنوعی قدرتمندی منجر شود که کنترل آن‌ها یا درک رفتارشان از توان توسعه‌دهندگانشان فراتر برود. از دید آمودی، سازوکارهای حفاظتی فعلی برای همگام‌شدن با این سرعت پیشرفت کافی نخواهند بود.
او خواستار ارزیابی‌های مستقل ایمنی و همکاری بیشتر میان شرکت‌های هوش مصنوعی و دولت‌ها شده است. شین لگ، از بنیان‌گذاران گوگل دیپ‌مایند، شرکت متعلق به آلفابت، نیز هشدار داده است که پیشرفت هوش مصنوعی ممکن است از توان سازوکارهای ایمنی برای کنترل آن پیشی بگیرد.
این نگرانی‌ها پیش‌تر بر فعالیت‌های آنتروپیک تأثیر گذاشته‌اند. این شرکت در ۳۱ اوت اعلام کرد که برخی فعالیت‌های آموزشی پرخطر مربوط به مدل‌های هوش مصنوعی معرفی‌نشده خود را برای چند هفته متوقف کرده است. بیشتر این توقف‌ها به فعالیت‌های مرتبط با یادگیری تقویتی مربوط می‌شد؛ فعالیت‌هایی که پس از اضافه‌شدن سازوکارهای نظارتی بیشتر از سر گرفته شدند.
آنتروپیک در ۹ اکتبر از وقوع موارد دیگری از ناهماهنگی رفتاری و رخدادهای امنیتی مرتبط با مدل‌های هوش مصنوعی خود خبر داد. این شرکت همچنین اعلام کرد که محدودیت دسترسی زنده مدل‌ها به اینترنت را به تمام ارزیابی‌های داخلی مدل‌ها گسترش می‌دهد و این محدودیت‌ها تا زمانی ادامه خواهند داشت که سامانه‌های نظارتی بتوانند موارد مشابه را به‌طور قابل‌اعتماد شناسایی کنند. هنوز مشخص نیست این محدودیت‌ها چه تأثیر مالی‌ای بر شرکت خواهند گذاشت.
تصمیم‌های آنتروپیک درباره ایمنی هوش مصنوعی
آنتروپیک در حال تقویت فرایندهای مستقل ارزیابی ایمنی است، اما ارزیابان بیرونی اختیار جلوگیری از عرضه یک مدل هوش مصنوعی را ندارند. این شرکت در ۱۵ اکتبر اعلام کرد که شش پژوهشگر از مؤسسه غیرانتفاعی «متر» (METR) به سطحی از دسترسی دست یافته‌اند که با دسترسی تیم‌های داخلی ایمنی آنتروپیک قابل‌مقایسه است. متر می‌تواند یافته‌های خود را بدون تأیید آنتروپیک منتشر کند، اما اختیار تصمیم‌گیری درباره عرضه یا عدم عرضه مدل‌های هوش مصنوعی را ندارد.
تراست منافع بلندمدت آنتروپیک (Long-Term Benefit Trust) اکثریت اعضای هیئت‌مدیره شرکت را منصوب می‌کند تا میان منافع مالی و ایمنی هوش مصنوعی تعادل برقرار شود. رویترز همچنین گزارش داده است که بر اساس ساختار پیشنهادی عرضه اولیه سهام، هفت بنیان‌گذار شرکت از طریق نهادی جدید به نام «فاندر ال‌ال‌سی» (Founder LLC)، در تصمیم‌های کلیدی شرکتی ۵۰٫۱ درصد از قدرت رأی را در اختیار خواهند داشت. در پیش‌نویس دفترچه عرضه اولیه آنتروپیک نیز هشدار داده شده است که این ساختار حاکمیتی ممکن است به تصمیم‌هایی منجر شود که با اولویت‌دادن به عملکرد مالی یا ارزش سهام‌داران همسو نباشند. بنابراین، اگر تأخیرهای ناشی از ملاحظات ایمنی به عملکرد مالی آنتروپیک لطمه بزنند، سهام‌داران عمومی پیامدهای آن را متحمل خواهند شد، درحالی‌که نفوذ محدودی بر تصمیم‌های مهم شرکت دارند.
آنتروپیک همچنین تلاش می‌کند دولت ایالات متحده را به‌طور مستقیم‌تر در اعمال محدودیت‌های ایمنی هوش مصنوعی دخیل کند. به گزارش رویترز، این شرکت پیش‌نویس قانونی را به کنگره پیشنهاد کرده است که به وزارت بازرگانی و دادگاه‌های فدرال اجازه می‌دهد در صورت خطرناک تشخیص‌دادن برخی مدل‌های هوش مصنوعی، مانع عرضه آن‌ها شوند. در صورت تصویب چنین قانونی، تجاری‌سازی مدل‌های هوش مصنوعی ممکن است به تأخیر بیفتد و انتظارات مربوط به رشد شرکت را که زیربنای ارزش‌گذاری موردنظر آنتروپیک برای عرضه اولیه است، تحت تأثیر قرار دهد.
تصمیم‌های مرتبط با ایمنی ممکن است بر ارزش‌گذاری آنتروپیک در عرضه اولیه تأثیر بگذارند
درآمد آنتروپیک در سه‌ماهه سوم، نسبت به سه‌ماهه قبل ۴۵ درصد افزایش یافت و به ۱۶٫۸ میلیارد دلار رسید. بااین‌حال، گزارش شده است که برخی از سرمایه‌گذاران کلیدی دعوت‌شده به روز سرمایه‌گذاران آنتروپیک در سان‌فرانسیسکو در هفته گذشته، درباره مناسب‌بودن عرضه اولیه با ارزش‌گذاری حدود ۱٫۵ تریلیون دلار بحث کرده‌اند؛ رقمی پایین‌تر از هدف ۲ تریلیون دلاری شرکت. این سرمایه‌گذاران نگران کاهش سرعت رشد درآمد و افزایش هزینه‌های زیرساخت هوش مصنوعی هستند. شواهد مستندی در دست نیست که نشان دهد محدودیت‌های مرتبط با ایمنی در بازنگری این ارزش‌گذاری نقش داشته‌اند.
بنابراین، اگرچه هشدارهای آمودی درباره خطرات هوش مصنوعی تاکنون برنامه زمانی عرضه اولیه آنتروپیک را برهم نزده‌اند، این شرکت همچنان باید نشان دهد که می‌تواند ضمن اجرای تدابیر ایمنی لازم، رشد و سودآوری موردنیاز برای توجیه ارزش‌گذاری بلندپروازانه خود را نیز محقق کند.