آمودی: تأخیر آنتروپیک در عرضه مدل‌های هوش مصنوعی به‌دلیل ملاحظات ایمنی ممکن است برتری رقابتی آن را از بین برده باشد
آنتروپیک نخستین مدل‌های رده مایتوس خود را در فوریه ۲۰۲۶ عرضه کرد، اما داریو آمودی، مدیرعامل شرکت، می‌گوید این شرکت دسترسی گسترده‌تر به این مدل‌ها را تا ژوئن به تعویق انداخت تا تدابیر امنیت سایبری قدرتمندتری ایجاد کند.
آمودی روز سه‌شنبه در مطلبی مفصل در شبکه اجتماعی ایکس، در پاسخ به انتقادهای نیتن کالوین، دلایل این تصمیم را توضیح داد و از رویکرد آنتروپیک در زمینه ایمنی هوش مصنوعی دفاع کرد. او پذیرفت که این تصمیم ممکن است به بهای از دست رفتن بخشی از برتری رقابتی شرکت تمام شده باشد. به گفته او، عرضه زودتر مدل‌ها فرصت کمتری برای آماده‌سازی زیرساخت‌ها در اختیار سازمان‌ها می‌گذاشت تا بتوانند در برابر حملات سایبری فزاینده و مبتنی بر هوش مصنوعی مقابله کنند.
آمودی می‌نویسد: «احتمالاً بخش قابل‌توجهی از برتری چندماهه‌مان در توسعه مدل‌ها را فدا کردیم.»
آنتروپیک به وب‌سایت د نیو استک اعلام کرد که این تأخیر با تعهدات مندرج در سیاست توسعه مسئولانه در مقیاس این شرکت مطابقت دارد. طبق این سیاست، باید استدلالی قوی وجود داشته باشد که نشان دهد خطر فاجعه‌بار مهار شده است. همچنین، توسعه و عرضه مدل‌ها باید تا هر اندازه لازم به تعویق بیفتد تا زمانی که شرکت دیگر معتقد نباشد برتری چشمگیری در این حوزه دارد.
Thank you for this, @_NathanCalvin. I appreciate and am a fan of the investigative work you’ve done on behalf of AI safety and believe your comments are coming from a constructive, honest place, and that it benefits the public to have people whose job is to scrutinize the actions… https://t.co/QZgPvh4tX4
— Dario Amodei (@DarioAmodei) ۲۱ اکتبر ۲۰۲۶
جدال بر سر راهبردی که زیر ذره‌بین قرار گرفته است
کالوین در انتقادهایی که روز دوشنبه منتشر کرد، استدلال کرد که آنتروپیک بیش از پیش به شرکتی شبیه شده است که برای ساخت ابرهوش با شتاب رقابت می‌کند، اما هم‌زمان تعهدات خود برای جلوگیری از پیامدهای خطرناک هوش مصنوعی را تضعیف می‌کند.
او به قراردادهای محاسباتی آنتروپیک به ارزش بیش از ۵۰۰ میلیارد دلار، استفاده روزافزون شرکت از هوش مصنوعی برای توسعه مدل‌های جدید و تغییرات در سیاست توسعه مسئولانه در مقیاس اشاره کرد؛ سیاستی که با قدرتمندتر شدن مدل‌ها، تدابیر حفاظتی لازم را مشخص می‌کند.
Thank you for taking the time to respond thoroughly on a weekend. I realize that drafting legislation is difficult and some degree of iteration and response to feedback is inevitable and appropriate.
— Nathan Calvin (@_NathanCalvin) ۱۹ اکتبر ۲۰۲۶
However, I feel like your response is still not really engaging with the heart…
«وقتی آنتروپیک از مسیر خود منحرف می‌شود و اشتباه می‌کند، چرا این اشتباه‌ها به‌طور نظام‌مند در جهت حفظ و تأمین منافع خود شرکت تمام می‌شوند؟»
کالوین می‌پرسد: «وقتی آنتروپیک از مسیر خود منحرف می‌شود و اشتباه می‌کند، چرا این اشتباه‌ها به‌طور نظام‌مند در جهت حفظ و تأمین منافع خود شرکت تمام می‌شوند؟»
نسخه ۳.۰ سیاست آنتروپیک که در فوریه منتشر شد، الزامات پیشین را که آمودی اکنون آن‌ها را بیش از حد سخت‌گیرانه می‌داند، با رویکردی جایگزین کرد که بر شفافیت، گزارش‌دهی خطرات و ارزیابی مستقل تأکید دارد. نسخه فعلی این سیاست، نسخه ۳.۴، از ۸ ژوئیه اجرایی شده است.
آنتروپیک در نقشه راه ایمنی مدل‌های پیشرفته خود می‌گوید: «تلاش خواهیم کرد از موقعیت‌هایی اجتناب کنیم که در آن‌ها صرفاً به این دلیل که توان اجرای اهدافمان را نداریم، اهداف را به سمت سطحی کم‌جاه‌طلبانه‌تر تغییر می‌دهیم.»
چرا آنتروپیک تعهد ایمنی خود را حذف کرد؟
در بازنگری فوریه، تعهدی که شرکت در سال ۲۰۲۳ پذیرفته بود نیز حذف شد؛ تعهدی مبنی بر اینکه آنتروپیک هیچ سامانه هوش مصنوعی‌ای را آموزش ندهد، مگر اینکه بتواند از پیش تضمین کند تدابیر ایمنی آن کافی هستند. کالوین معتقد است این تغییر، تعهد یک‌جانبه آنتروپیک به کند کردن یا متوقف کردن توسعه را تضعیف می‌کند.
آنتروپیک می‌گوید سیاست به‌روزشده آن، قوی‌ترین سیاست این شرکت تاکنون از نظر پاسخ‌گویی عمومی و شفافیت است.
جرد کاپلان، مدیر ارشد علمی آنتروپیک، در گفت‌وگویی با مجله تایم برای گزارشی که در فوریه منتشر شد، گفت این تصمیم دلایل عملی دارد.
کاپلان می‌گوید: «به این نتیجه رسیدیم که متوقف کردن آموزش مدل‌های هوش مصنوعی از سوی ما، در عمل کمکی به هیچ‌کس نمی‌کند.» او افزود که تعهدات یک‌جانبه زمانی منطقی نیستند که «رقبا با سرعت به پیش می‌تازند».
«راهبرد ما همواره چیزی بوده است که من آن را «رقابت برای رسیدن به بالاترین استانداردها» نامیده‌ام.»
آمودی نیز در مطلب روز سه‌شنبه خود در ایکس، دفاعی مشابه مطرح کرد.
او می‌نویسد: «راهبرد ما همواره چیزی بوده است که من آن را «رقابت برای رسیدن به بالاترین استانداردها» نامیده‌ام.» به اعتقاد او، آنتروپیک با باقی ماندن در خط مقدم فناوری می‌تواند استانداردهای ایمنی صنعت را مؤثرتر شکل دهد.
آمودی می‌پذیرد که آنتروپیک می‌توانست در برخورد با سه مورد از انتقادهای کالوین، از جمله نحوه مواجهه با پیش‌نویس لایحه، عملکرد بهتری داشته باشد. او انتقاد مربوط به سیاست توسعه مسئولانه در مقیاس را «مهم‌ترین و اساسی‌ترین مورد» می‌خواند، اما می‌گوید شرکت بارها برای رعایت ایمنی از مزیت‌های تجاری خود چشم‌پوشی کرده است. او علاوه بر تأخیر در عرضه مایتوس، به محدودیت‌های سخت‌گیرانه زیستی، حمایت از مقررات‌گذاری هوش مصنوعی و کنترل صادرات تراشه‌های پیشرفته و تجهیزات ساخت آن‌ها اشاره می‌کند.
از نظر آمودی، این تصمیم‌ها نشان می‌دهند که شرکت حاضر است ایمنی را حتی در صورت تحمیل هزینه‌های سنگین، بر سود کوتاه‌مدت مقدم بداند و راهبرد آن در طول زمان تغییر نکرده است.
آوریل تا ژوئن: گسترش دسترسی به مایتوس
آنتروپیک نخستین بار در آوریل، نسخه آزمایشی کلود مایتوس را از طریق پروژه گلس‌وینگ در اختیار گروهی منتخب از شرکا قرار داد. آمازون، اپل، مایکروسافت، کراوداسترایک و بنیاد لینوکس از جمله این شرکا بودند. هدف این بود که آن‌ها بتوانند از قابلیت‌های مدل برای کشف آسیب‌پذیری‌ها در راستای دفاع سایبری استفاده کنند، در حالی که دسترسی توسعه‌دهندگان عادی به آن همچنان محدود بماند.
آنتروپیک در ۲ ژوئن این برنامه را گسترش داد و حدود ۱۵۰ سازمان دیگر را در بیش از ۱۵ کشور به آن افزود. این شرکت هشدار می‌دهد که برآورد خودش نشان می‌دهد حمله‌ای بزرگ می‌تواند برای بیشتر شرکای آن بیش از ۱۰۰ میلیون نفر را تحت تأثیر قرار دهد. آنتروپیک همچنین می‌گوید پیش از آنکه بتواند مدل‌هایی در سطح مایتوس را به‌طور گسترده‌تر عرضه کند، احتمالاً «صدها هزار سازمان، پژوهشگر و نگه‌دارنده نرم‌افزار» باید به قابلیت‌های پیشرفته امنیت سایبری دسترسی پیدا کنند.
ژوئن: عرضه فابل و سپس محدود شدن دوباره دسترسی
آنتروپیک در ۹ ژوئن کلود فابل ۵ را عرضه کرد؛ مدلی در رده مایتوس که تدابیر حفاظتی بیشتری در حوزه امنیت سایبری و زیست‌شناسی و شیمی داشت. شرکت اعلام کرد این محدودیت‌ها استفاده عمومی از مدل را امکان‌پذیر می‌کنند. مدل هم‌خانواده آن، مایتوس ۵، بر همان مدل پایه استوار بود، اما محدودیت‌های امنیت سایبری کمتری داشت و فقط در اختیار شرکای مورد اعتماد قرار می‌گرفت. آنتروپیک این تفاوت را در اطلاعیه عرضه خود توضیح داد.
سه روز بعد، در ۱۲ ژوئن، دستورالعمل دولت آمریکا درباره کنترل صادرات، آنتروپیک را وادار کرد عرضه هر دو مدل را متوقف کند. این دستور دسترسی اتباع خارجی، از جمله کارکنان خود شرکت، را ممنوع می‌کرد. از آنجا که این محدودیت در هر نقطه از جهان شامل اتباع خارجی می‌شد، آنتروپیک اعلام کرد تنها راه پایبندی به آن، غیرفعال کردن مدل‌ها برای تمام مشتریان است؛ هرچند شرکت علناً با این دستور مخالفت کرد.
وزارت بازرگانی آمریکا در ۳۰ ژوئن محدودیت‌های صادراتی را لغو کرد. آنتروپیک در اطلاعیه تأیید این تصمیم اعلام کرد که قصد دارد همکاری نزدیک‌تری با دولت در زمینه آزمایش پیش از عرضه، تبادل اطلاعات و تدوین استانداردهای امنیت سایبری برای مدل‌های آینده داشته باشد. فابل ۵ از اول ژوئیه در سراسر جهان از طریق پلتفرم‌های خود آنتروپیک دوباره در دسترس قرار گرفت؛ در حالی که دسترسی برخی سازمان‌های منتخب آمریکایی به مایتوس ۵ از ۲۶ ژوئن از سر گرفته شده بود.
اکنون مقررات دسترسی تعیین می‌کنند که توسعه‌دهندگان از کدام مدل‌ها می‌توانند استفاده کنند. برنامه گسترش‌یافته تأیید صلاحیت امنیت سایبری آنتروپیک، از طریق سه سطح متناسب با دامنه فعالیت‌های امنیت سایبری، دسترسی متخصصان این حوزه را به توانمندترین مدل‌های شرکت، از جمله کلود مایتوس ۵.۱، فراهم می‌کند. اعضای فعلی گلس‌وینگ به سطحی با کمترین محدودیت دسترسی دارند؛ اما سازمان‌های جدیدی که برای این سطح درخواست می‌دهند، باید فرایند بررسی با مشارکت آنتروپیک و دولت آمریکا را پشت سر بگذارند.
بر اساس آزمایش‌های خود آنتروپیک، سطح «دسترسی دفاعی» که محدودترین سطح از میان این سه سطح است، در ۴۶ مورد از ۵۰ آزمایش، کلود اپوس ۵.۵ را در مرحله‌ای از اجرای آزمون متوقف کرد. این آزمایش‌ها با استفاده از CyScenarioBench انجام شدند؛ معیاری برای ارزیابی امنیت تهاجمی چندمرحله‌ای. در مقابل، سطح «دسترسی تیم قرمز» در هیچ‌یک از آزمایش‌ها مانع اجرای مدل نشد.
در اطلاعیه شرکت، نتایج معیار آزمایشی مشابهی برای کارهای دفاعی ارائه نشده است؛ بنابراین مشخص نیست این محدودیت‌ها با چه فراوانی ممکن است در فعالیت‌های مشروع امنیتی اختلال ایجاد کنند. آنتروپیک می‌پذیرد که تدابیر حفاظتی آن گاهی در تشخیص کدهای امن دچار مثبت کاذب می‌شوند و برای گزارش موارد مسدودسازی اشتباه، فرم ویژه‌ای در اختیار کاربران قرار داده است.
تنظیم سرعت پیشرفت فناوری و برنامه سیاست‌گذاری
آمودی می‌پذیرد که سرعت توسعه هوش مصنوعی ممکن است به‌زودی از سرعت شکل‌گیری تدابیر حفاظتی و مقررات لازم برای کنترل آن پیشی بگیرد. او در مطلب خود در ایکس می‌نویسد: «به آن نقطه نزدیک می‌شویم.»
پژوهش‌های خود آنتروپیک نشان می‌دهند چرا این شرکت نگران است. در گزارش ژوئن این شرکت با عنوان «وقتی هوش مصنوعی خودش را می‌سازد» آمده است که تا ماه مه، کلود بیش از ۸۰ درصد کدهایی را نوشته بود که در مخزن کد آنتروپیک ادغام شده‌اند.
این رقم میزان خطوط کد تولیدی منتسب به کلود را اندازه‌گیری می‌کند، نه کنترل مستقل این سامانه بر تصمیم‌های مهندسی شرکت. آنتروپیک این برآورد را محافظه‌کارانه می‌داند و مدیران شرکت جداگانه تخمین زده‌اند که اگر اسکریپت‌ها و کدهای آزمایشی نیز محاسبه شوند، سهم کلود از کدنویسی به ۹۰ درصد یا بیشتر می‌رسد.
«هنوز به آن نقطه نرسیده‌ایم و خودبهبوددهی بازگشتی اجتناب‌ناپذیر نیست.»
نویسندگان گزارش تأکید می‌کنند: «هنوز به آن نقطه نرسیده‌ایم و خودبهبوددهی بازگشتی اجتناب‌ناپذیر نیست.»
آمودی در مقاله ژوئن خود با عنوان «سیاست‌گذاری در عصر رشد نمایی هوش مصنوعی» خواستار نظارت دولتی قوی‌تر بر توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی شد. پیشنهاد او شامل ارزیابی‌های مستقل، گزارش‌دهی عمومی درباره خطرات و اعطای اختیار قانونی به دولت‌ها برای متوقف کردن یا بازداشتن از عرضه مدل‌هایی است که خطرات فاجعه‌بار ایجاد می‌کنند. طبق پیش‌نویس لایحه آنتروپیک در ماه اکتبر، چنین مداخله‌ای تنها زمانی مجاز خواهد بود که تشخیص داده شود یک مدل به‌طور قریب‌الوقوع خطر کشتن یا مجروح کردن بیش از ۵۰ نفر یا وارد کردن خسارتی بیش از یک میلیارد دلار را ایجاد می‌کند.
آمودی در سپتامبر، در مقاله‌ای با عنوان «باید سرعت پیشرفت فناوری را مدیریت کنیم»، برنامه‌ای سه‌مرحله‌ای تشریح کرد. این برنامه با فعالیت ارزیابان مستقل در داخل شرکت‌های هوش مصنوعی آغاز می‌شود، سپس به هماهنگی میان کشورهای دموکراتیک گسترش می‌یابد و در نهایت توافق‌هایی میان دولت‌های دموکراتیک و اقتدارگرا را در بر می‌گیرد. آنتروپیک استدلال می‌کند که مدیریت سرعت پیشرفت فناوری به هماهنگی در سطح صنعت و جهان نیاز دارد و در کنار آن، آزمایشگاه‌های منفرد نیز می‌توانند اقداماتی مستقل انجام دهند.
در نقشه راه ایمنی مدل‌های پیشرفته آنتروپیک که تازه‌ترین موارد آن به ۱۹ اکتبر مربوط می‌شود، تاریخ ۱۵ دسامبر ۲۰۲۶ به‌عنوان موعد هدف برای ارائه پیشنهادی سیاستی تعیین شده است. این پیشنهاد قرار است توضیح دهد دولت‌ها چگونه می‌توانند دسترسی گسترده‌تر ارزیابان مستقر در شرکت‌ها را پشتیبانی کنند.
آنتروپیک قصد دارد تا ۱۵ ژانویه ۲۰۲۷ یا چارچوبی سیاستی برای شکل دادن به سرعت توسعه هوش مصنوعی منتشر کند یا توضیح دهد چرا از انتشار آن صرف‌نظر کرده است. در نقشه راه شرکت هشدار داده شده که پژوهش خودکار با هوش مصنوعی «ممکن است پیشرفت را سریع‌تر از آن شتاب دهد که نظام حکمرانی یا تدابیر ایمنی بتوانند با آن همگام شوند».
این شرکت می‌پذیرد که ممکن است نقشه‌های راه آن در آینده تغییر کنند و می‌گوید درباره میزان تحقق اهداف تعیین‌شده، گزارش‌های به‌روزرسانی منتشر خواهد کرد.