مدیرعامل آنتروپیک از توسعه هوش مصنوعی پیشرفته در میانه بحث‌های ایمنی دفاع کرد
داریو آمودی، مدیرعامل آنتروپیک، در ۲۱ اکتبر از تلاش این شرکت برای توسعه مدل‌های پیشرفته هوش مصنوعی دفاع کرد. او استدلال کرد که فعالیت در مرزهای فناوری به آنتروپیک امکان می‌دهد برای تقویت رویه‌های ایمنی در سراسر صنعت هوش مصنوعی تلاش کند.
این اظهارات در پی انتقادها از پیش‌نویس لایحه ایمنی هوش مصنوعی که آنتروپیک با قانون‌گذاران آمریکایی به اشتراک گذاشته بود و همچنین تغییرات سیاست مقیاس‌پذیری مسئولانه این شرکت مطرح شد. این لایحه همچنان در حد یک پیشنهاد است. محور اصلی اختلاف این است که آنتروپیک چگونه می‌تواند هم‌زمان با پایبندی به تعهدات اعلام‌شده خود در زمینه ایمنی، به توسعه مدل‌هایی با قابلیت‌های روزافزون ادامه دهد.
نیتن کالوین، مسئول راهبرد در سازمان انکود ای‌آی (Encode AI)، این پرسش را مطرح کرد که آیا تعهدات آنتروپیک در زمینه ایمنی همگام با تلاش‌های این شرکت برای توسعه فناوری پیش رفته‌اند یا خیر. او به سرمایه‌گذاری‌های شرکت در حوزه توان محاسباتی، افزایش استفاده از کلود در پژوهش‌های هوش مصنوعی و بازنگری سیاست ایمنی آن در ماه فوریه اشاره کرد.
در نسخه بازنگری‌شده این سیاست، اقداماتی که آنتروپیک قصد دارد در مقام یک شرکت دنبال کند، از توصیه‌های بلندپروازانه‌تر برای کل صنعت هوش مصنوعی جدا شده‌اند. آنتروپیک اعلام کرده است که نمی‌تواند به‌تنهایی متعهد شود همه توصیه‌های مربوط به کل صنعت را اجرا کند. این شرکت در سیاست قبلی خود گفته بود تا زمانی که تدابیر حفاظتی خطرهای یک مدل را برای ایجاد آسیب فاجعه‌بار به سطحی قابل‌قبول کاهش نداده باشند، از آموزش یا عرضه چنین مدلی خودداری خواهد کرد.
آمودی پذیرفت که آنتروپیک مرتکب اشتباهاتی شده است، اما همچنان تأکید کرد که رقابت برای ساخت مدل‌های پیشرو از مأموریت این شرکت در زمینه ایمنی حمایت می‌کند. او به ۹ تصمیم اشاره کرد که به گفته خودش هزینه‌های تجاری برای شرکت به همراه داشته‌اند. از جمله این تصمیم‌ها می‌توان به محدود کردن دسترسی به مدل‌های هم‌رده مایتوس (Mythos) برای چند ماه و اعمال محدودیت بر درخواست‌های مرتبط با زیست‌شناسی اشاره کرد.
این اختلاف تنها به تصمیم‌گیری درباره عرضه مدل‌های مشخص محدود نمی‌شود. نقشه راه ایمنی آنتروپیک که در ۱۹ اکتبر منتشر شد، بیان می‌کند که ممکن است در آینده لازم باشد سیاست‌هایی که بر عرضه مدل‌های خطرناک تمرکز دارند، با اقداماتی برای کنترل سرعت توسعه هوش مصنوعی نیز همراه شوند. در این صورت، سرعت پیشرفت پژوهش‌ها در کنار تدابیر حفاظتی مربوط به مدل‌ها به یکی از محورهای بحث سیاست‌گذاری تبدیل خواهد شد.
آمودی پیش‌تر نیز خواستار تدوین تدابیر حفاظتی بین‌المللی برای مقابله با سلاح‌های زیستی با کمک هوش مصنوعی شده بود. آنتروپیک قصد دارد تا ۱۵ ژانویه ۲۰۲۷ چارچوبی سیاستی درباره سرعت توسعه هوش مصنوعی منتشر کند؛ در غیر این صورت، توضیح خواهد داد که چرا تصمیم گرفته است چنین چارچوبی را منتشر نکند.
