واکنش تند مدیرعامل آنتروپیک: مدل مایثوس چهار ماه مخفی ماند؛ شرکت برای ایمنی هوش مصنوعی از درآمد پرسود خود گذشت
در ساعات پایانی شب در سیلیکون‌ولی، فضای صنعت هوش مصنوعی به‌شدت ملتهب شده است.
داریو آمودی، مدیرعامل آنتروپیک که به‌ندرت در شبکه اجتماعی ایکس از کوره در می‌رود، لحظاتی پیش شخصاً مطلبی بلندبالا در حدود هزار کلمه منتشر کرد و مستقیماً به یکی از تندترین پرسش‌هایی پاسخ داد که افکار عمومی درباره این شرکت مطرح کرده‌اند:
آیا آنچه شما امنیت هوش مصنوعی می‌نامید، صرفاً بهانه‌ای برای کسب درآمد بیشتر است؟
آمودی در پاسخ، برای نخستین بار فاش کرد که یک مدل پیشرفته از خانواده مایثوس، پس از تکمیل آموزش، حدود چهار ماه از دسترس عموم دور نگه داشته شده بود.
او همچنین جزئیات هزینه‌هایی را مطرح کرد که شرکتش طی یک سال گذشته، به‌دلیل تصمیم‌های مرتبط با ایمنی، آگاهانه متحمل شده است.
در صنعتی که رتبه‌بندی مدل‌ها ممکن است هر چند هفته یک‌بار تغییر کند، چهار ماه زمان کافی است تا موج‌های متعددی از مدل‌های جدید وارد میدان شوند.
انتخاب آنتروپیک برای به‌تعویق‌انداختن عرضه، به احتمال زیاد باعث شد این شرکت بخش قابل‌توجهی از برتری چندماهه‌ای را که می‌توانست به دست آورد، از دست بدهد.
«آنتروپیک فقط می‌خواهد در رقابت ابرهوش پیروز شود»
کسی که این بار آمودی را وادار کرد آرامش همیشگی خود را کنار بگذارد، نیتن کالوین، پژوهشگر شناخته‌شده حوزه امنیت هوش مصنوعی، بود.
چند ساعت پیش، یادداشت انتقادی حدوداً هزارکلمه‌ای کالوین منتشر شد و به‌سرعت در سراسر جامعه هوش مصنوعی بازتاب گسترده‌ای پیدا کرد.
او فهرستی بلند از آنچه «نه خطای آنتروپیک» در یک سال گذشته می‌دانست، منتشر کرد و در هر بند، اتهامی مشخص را مطرح ساخت.
از سفارش ۵۰۰ میلیارد دلاری برای تأمین توان محاسباتی و تشکیل مخفیانه تیم طراحی تراشه‌های اختصاصی گرفته تا سپردن ۲۶ درصد از وظایف داخلی تحقیق‌وتوسعه به کلود برای «بهبود تکرارشونده عملکرد خود» و تغییر بی‌سروصدای تعهدات ایمنی شرکت؛ این‌ها بخشی از مواردی بودند که کالوین مطرح کرد.
پیام اصلی او صریح و تند بود: تظاهر را کنار بگذارید؛ شما فقط می‌خواهید پیش از دیگران به ابرهوش دست پیدا کنید!
جرقه این جدال، پیش‌نویس یک قانون فدرال درباره امنیت هوش مصنوعی بود که در آخر هفته به بیرون درز کرد.
کالوین و شماری از پژوهشگران حوزه سیاست‌گذاری پس از مطالعه این پیش‌نویس خشمگین شدند. از نظر آن‌ها، طرحی که آنتروپیک پشت‌پرده از آن حمایت کرده بود، در ظاهر خواهان تنظیم‌گری بود، اما در عمل سازوکارهایی پنهان داشت.
به گفته منتقدان، این طرح نه‌تنها می‌کوشید قوانین سخت‌گیرانه‌تر ایالت‌های مختلف را کنار بزند، بلکه آستانه بسیار بالایی برای مداخله دولت فدرال و متوقف‌کردن فعالیت‌های خطرناک هوش مصنوعی تعیین می‌کرد.
آنتونی چیمینو، مسئول امور فدرال آنتروپیک، در ابتدا قصد داشت در آخر هفته با انتشار پاسخی از شدت تنش‌ها بکاهد، اما واکنش او در نهایت خشم کالوین را بیشتر برانگیخت.
کالوین مجموعه‌ای از پرسش‌های اساسی را مطرح کرد: آنتروپیک واقعاً چه نوع شرکتی است؟
اگر اظهارات مدیران در نامه سرگشاده شرکت را ملاک قرار دهیم، آنتروپیک نهادی متعهد به ایمنی است که هر زمان لازم باشد، برای محافظت از بشریت ترمز پیشرفت را می‌کشد.
آمودی نیز چندی پیش علناً هشدار داده بود که خوشه‌های محاسباتی هوش مصنوعی ممکن است ظرف ۶ تا ۱۲ ماه آینده کنترل کل اینترنت را به دست بگیرند و از فعالان این صنعت خواسته بود سرعت پیشرفت را کاهش دهند.
کالوین با لحنی طعنه‌آمیز گفت اگر شرکت اوپن‌ای‌آی همین ۹ اقدام را انجام داده بود، کارکنان آنتروپیک مدت‌ها پیش برای محکوم‌کردن آن به میدان آمده بودند و این اقدامات را مدرکی محکم از «پول‌پرستی و بی‌اعتنایی به جان انسان‌ها» می‌دانستند.
آمودی نیمه‌شب جزئیات تصمیم‌های شرکت را فاش می‌کند
برای حفظ ایمنی، آگاهانه از چه میزان درآمدی گذشتیم؟
آمودی در برابر اتهام‌هایی که بنیان اخلاقی شرکتش را زیر سؤال برده بودند، سکوت نکرد.
او پاسخ خود را با قدردانی از نظارت و انتقادهای کالوین آغاز کرد؛ اما پس از این مقدمه دیپلماتیک، مستقیماً به اصل موضوع پرداخت.
سپس ۹ مورد از تصمیم‌هایی را برشمرد که به گفته او، شرکت آگاهانه به زیان منافع تجاری خود اتخاذ کرده است؛ تصمیم‌هایی که می‌توانستند بسیاری از سرمایه‌گذاران سیلیکون‌ولی را نگران کنند.
مدل پیشرفته را ساختیم، اما چهار ماه آن را پنهان نگه داشتیم
این افشاگری مهم‌ترین نکته در تمام نوشته بلند آمودی بود.
او برای نخستین بار به‌طور علنی تأیید کرد که آنتروپیک در فوریه سال جاری میلادی، آموزش یک مدل پیشرفته در سطح مایثوس را به پایان رسانده بود.
بااین‌حال، شرکت تصمیم گرفت از عرضه عمومی آن خودداری کند.
در آن مقطع، سازوکارهای دفاع امنیت سایبری متناسب با توانایی‌های این مدل هنوز به بلوغ کافی نرسیده بودند. به همین دلیل، آنتروپیک دسترسی را به شمار بسیار محدودی از شرکای خود محدود کرد تا از مدل برای تقویت آزمون‌های دفاع سایبری استفاده شود.
این مدل سرانجام در ژوئن همان سال، پس از آماده‌شدن سازوکارهای حفاظتی، در دسترس عموم قرار گرفت.
در رقابت هوش مصنوعی که هر ثانیه اهمیت دارد، آنتروپیک به انتخاب خود یک بازه چهارماهه از برتری احتمالی‌اش را کنار گذاشت.
آمودی صریحاً گفت همین فرصت چهارماهه به بسیاری از شرکت‌ها اجازه داد پیش از فراگیرشدن مدل‌های هوش مصنوعی با توانایی‌های قدرتمند حمله سایبری، زیرساخت‌های امنیتی خود را تقویت کنند.
مدل فِیبل ۵ که آنتروپیک در ۹ ژوئن سال جاری برای کاربران عادی عرضه کرد، در همین رده قرار می‌گیرد و از محدودیت‌های حفاظتی سخت‌گیرانه برخوردار است.
در همان رویداد، مدل مایثوس ۵ نیز معرفی شد، اما در ابتدا تنها گروه محدودی از شرکای فعال در حوزه دفاع سایبری و زیرساخت به نسخه‌ای با برخی قابلیت‌های آزادشده دسترسی پیدا کردند.
بنابراین، در دوره‌ای که مدل از دسترس عموم دور نگه داشته شده بود، استفاده از آن کاملاً متوقف نشده بود؛ بلکه دسترسی به آن محدود بود. پس از عرضه در ژوئن نیز سطوح دسترسی متفاوتی برای کاربران در نظر گرفته شد.
البته آمودی رقم مشخصی درباره درآمدی که شرکت به‌دلیل این تأخیر از دست داده یا میزان خطری که با این تصمیم کاهش یافته است، ارائه نکرد.
بااین‌حال، این انتخاب دست‌کم نشان می‌دهد که زمان عرضه مدل نیز به یکی از مؤلفه‌های ایمنی هوش مصنوعی تبدیل شده است.
سیاست «تحمل صفر» در برابر خطرهای زیستی
هزینه تصمیم‌های آنتروپیک در حوزه زیست‌شناسی برای آمودی اهمیت ویژه‌ای دارد؛ زیرا او خود سابقه فعالیت در این رشته را دارد.
او گفت نتایج برخی آزمون‌های مربوط به توانایی‌های زیستی مدل‌ها نگران‌کننده بوده و شرکت مواردی از تلاش برای سوءاستفاده احتمالی با هدف به‌کارگیری عوامل زیستی به‌عنوان سلاح را شناسایی و متوقف کرده است. به همین دلیل، آنتروپیک برای کاربردهای پرخطر محدودیت‌های سخت‌گیرانه‌ای اعمال می‌کند.
مشکل اینجاست که فیلترهای ایمنی نمی‌توانند همیشه نیت کاربران را با دقت تشخیص دهند.
اگر یک درخواست خطرناک از فیلتر عبور کند، با خطای منفی کاذب روبه‌رو هستیم؛ اگر درخواست یک پژوهشگر برای انجام تحقیق عادی مسدود شود، خطای مثبت کاذب رخ داده است. آنتروپیک برای به حداقل رساندن خطای نخست، پذیرفته است که موارد بیشتری از خطای دوم اتفاق بیفتد.
در نتیجه، پژوهشگران عادی گاهی در انجام کار خود با مانع روبه‌رو می‌شوند و شرکت‌های رقیب نیز محدودیت‌های کمتر را به‌عنوان مزیت رقابتی تبلیغ می‌کنند.
کاربران نیز هزینه این رویکرد را می‌پردازند.
آنتروپیک پیش‌تر در بیانیه‌ای رسمی تأیید کرده بود که وقتی فِیبل ۵ یک درخواست را از نظر ایمنی زیستی پرخطر تشخیص می‌دهد، پردازش آن به مدلی با توانایی کمتر واگذار می‌شود.
به‌روزرسانی ماه اوت، بر اساس آزمون‌های داخلی شرکت، میزان پاسخ‌های مسدودشده در حوزه زیست‌شناسی را حدود ۸۵ درصد کاهش داد؛ بااین‌حال، محدودیت‌های مربوط به پژوهش‌های دومنظوره، یعنی تحقیقاتی که می‌توانند کاربردهای مفید یا زیان‌بار داشته باشند، همچنان برقرار است.
موضوع دیگر، مقررات دولتی است.
آمودی گفت آنتروپیک از قوانینی مانند لایحه اس‌بی ۵۳ کالیفرنیا حمایت کرده و حتی پشتیبان پیشنهادهایی سخت‌گیرانه‌تر از نسخه نهایی تصویب‌شده بوده است. او در ژوئن همان سال نیز علناً از این موضع دفاع کرد که دولت باید اختیار متوقف‌کردن عرضه مدل‌های هوش مصنوعی را داشته باشد.
چنین موضعی در عمل به معنای حمایت از این است که نهادهای بیرونی نیز بتوانند اختیار توقف عرضه محصولات خود شرکت را در دست داشته باشند.
آخرین مورد به واگذاری ۵ درصد از سهام شرکت مربوط می‌شود. آنتروپیک چند روز پیش اعلام کرد قصد دارد ۵ درصد از سهام خود را به یک صندوق عام‌المنفعه اختصاص دهد؛ اجرای این برنامه منوط به تأیید سهام‌داران است. بر اساس این طرح، پس از آنکه ارزش‌گذاری شرکت از حد مشخصی فراتر برود، هیئت‌مدیره می‌تواند به صلاحدید خود، به‌ازای هر ۵۰ درصد افزایش دیگر در ارزش شرکت، ۲ درصد دیگر از سهام را به این صندوق اختصاص دهد.
هوش مصنوعی هر روز سریع‌تر می‌شود؛ چه کسی ترمز را می‌کشد؟
اگر آنتروپیک واقعاً بر ایمنی تأکید دارد، چرا همچنان با تمام توان برای خرید ظرفیت محاسباتی و تسریع تحقیق‌وتوسعه تلاش می‌کند؟
منطق اصلی آمودی برای پاسخ به این پرسش، رویکردی است که می‌توان آن را «رقابت برای رسیدن به استانداردهای برتر» نامید.
از نظر او، شرکت‌هایی که در خط مقدم فناوری قرار دارند، تنها زمانی می‌توانند همتایان خود را به رعایت استانداردهای بالاتر ترغیب کنند که نشان دهند توسعه مسئولانه هوش مصنوعی پیشرفته امکان‌پذیر است.
اما نگرانی کالوین نیز روشن است: اگر شرکت مجبور باشد در هر دور از رقابت پیروز شود، تا چه اندازه حاضر خواهد بود برای ایمنی از منافع خود چشم‌پوشی کند؟
این پرسش به‌ویژه زمانی اهمیت پیدا می‌کند که هوش مصنوعی در فرایند تحقیق‌وتوسعه نسل بعدی سیستم‌های هوش مصنوعی مشارکت می‌کند. در چنین شرایطی، سرعت ارتقای قابلیت‌ها بیشتر می‌شود و ممکن است فرصت انسان‌ها برای بررسی مشکلات و رفع آسیب‌پذیری‌ها روزبه‌روز محدودتر شود.
آنتروپیک این بار حاضر شد چهار ماه صبر کند.
اما اگر در آینده با مدلی قدرتمندتر و سفارش‌هایی بزرگ‌تر روبه‌رو شود، آیا باز هم حاضر خواهد بود منتظر بماند؟
منابع:
این مقاله از حساب رسمی وی‌چت «شین‌ژی‌یوان» با نویسندگی ای‌اس‌آی رویلیشن و ویراستاری تائوزی منتشر شده است. انتشار آن با اجازه وب‌سایت 36Kr صورت گرفته است. منبع اصلی مقاله