آنتروپیک برای ارزیابی خطرات و اقدامات ایمنی خود با دو سازمان غیرانتفاعی METR و SecureBio همکاری می‌کند
شرکت آنتروپیک روز پنجشنبه اعلام کرد که همکاری با دو سازمان غیرانتفاعی METR و SecureBio را آغاز کرده و در حال مذاکره با سازمان‌های دیگری از جمله هاگینگ فیس (Hugging Face) است. این اقدامات بخشی از تعهد آنتروپیک برای به‌کارگیری ارزیابان مستقل در ساختار داخلی شرکت به شمار می‌رود.
این شرکت فعال در حوزه هوش مصنوعی ماه گذشته، هم‌زمان با انتشار پیشنهاد داریو آمودی، مدیرعامل آنتروپیک، برای کاهش سرعت توسعه مدل‌های هوش مصنوعی، متعهد شد همکاری نزدیکی با ارزیابان مستقل داشته باشد. آمودی در آن زمان گفته بود این ارزیابان به «راستی‌آزمایی» پایبندی آنتروپیک به اقدامات ایمنی کمک خواهند کرد. چند روز بعد نیز این شرکت، اکسنچر (Accenture) را به‌عنوان نخستین شریک خود در این طرح انتخاب کرد.
پیش از ارائه پیشنهاد آمودی، ارزیابان مستقلی مانند METR که نام آن مخفف «ارزیابی مدل و پژوهش درباره تهدیدها» (Model Evaluation and Threat Research) است، در صنعت چند تریلیون دلاری هوش مصنوعی چندان در کانون توجه نبودند. اما با افزایش نگرانی‌ها درباره توانایی شرکت‌های هوش مصنوعی در ایمن نگه داشتن مدل‌هایشان، نقش این ارزیابان اهمیتی بسیار بیشتر پیدا کرده است.
دونالد ترامپ، رئیس‌جمهور آمریکا، نیز در چارچوب توافقی داوطلبانه که اواخر سپتامبر ارائه کرد، شرکت‌های هوش مصنوعی را تشویق کرد تا «با یک حسابرس یا ارزیاب مستقل بیرونی همکاری کنند». داریو آمودی از طرف آنتروپیک این توافق را امضا کرد. مدیران ارشد شرکت‌های گوگل، متا، اوپن‌ای‌آی، اسپیس‌ایکس و انویدیا نیز از دیگر امضاکنندگان آن بودند.
آنتروپیک روز پنجشنبه اعلام کرد: «ما به‌صورت داوطلبانه ارزیابان مستقل را در ساختار شرکت خود به کار می‌گیریم و معتقدیم همه شرکت‌هایی که مدل‌های پیشرفته و پیشرو هوش مصنوعی توسعه می‌دهند نیز باید همین کار را انجام دهند.»
آنتروپیک در حال طراحی یک نظام سه‌سطحی برای ارزیابان است که در هر سطح، میزان دسترسی به شرکت و منابع آن متفاوت خواهد بود. بر اساس بیانیه این شرکت، ارزیابان سطح اول می‌توانند بررسی‌های محدودی درباره خطرات مشخص انجام دهند. ارزیابان سطح دوم اجازه دارند گزارش‌های خود را بدون نیاز به تأیید آنتروپیک منتشر کنند و ارزیابان سطح سوم نیز از دسترسی‌هایی مشابه کارکنان شرکت برخوردار خواهند بود.
به گفته آنتروپیک، سازمان METR در سطح سوم این نظام قرار می‌گیرد. این شرکت تاکنون شش نفر از کارکنان METR را وارد فرایند همکاری کرده و به آن‌ها امکان استفاده از سخت‌افزارها، فضاهای اداری و ابزارهای آنتروپیک را داده است؛ امکاناتی که از نظر سطح دسترسی «تقریباً هم‌تراز» با امکانات تیم‌های داخلی ارزیابی خطر این شرکت است. کارکنان METR میزان خطرات، رخدادهای مرتبط با ایمنی و رویه‌های آنتروپیک را بررسی خواهند کرد و یافته‌های خود را منتشر می‌کنند. آنتروپیک تأکید کرده است که هزینه فعالیت‌های METR را تأمین نمی‌کند.
در مقابل، سازمان SecureBio در سطح اول ارزیابی قرار گرفته و بنابراین دسترسی محدودتری دارد. این سازمان در حال بررسی بخش مربوط به سلاح‌های شیمیایی و بیولوژیکی در گزارش ارزیابی خطرات آنتروپیک است که در ماه اوت منتشر شد. البته این احتمال وجود دارد که SecureBio در آینده در پروژه‌هایی مشارکت کند که دسترسی گسترده‌تر و اختیارات بیشتری برای انتشار نتایج در اختیارش قرار می‌دهند.
هنوز مشخص نیست سازمان‌های دیگری مانند هاگینگ فیس در صورت پیوستن به این طرح چه سطحی از دسترسی خواهند داشت. هاگینگ فیس بیشتر به‌دلیل اداره یک پلتفرم متن‌باز برای توسعه‌دهندگان شناخته می‌شود. این شرکت در ماه ژوئیه، زمانی که دو مدل متعلق به اوپن‌ای‌آی از محیط محدودشده خود خارج شدند و از طریق اینترنت عمومی به سامانه‌های هاگینگ فیس دسترسی پیدا کردند، به کانون توجه رسانه‌ها راه یافت. ماه گذشته نیز انویدیا هاگینگ فیس را با مبلغی نزدیک به ۱۳ میلیارد دلار خریداری کرد.
آنتروپیک روز پنجشنبه اعلام کرد که در تلاش است «مشارکتی بلندپروازانه» با اکسنچر شکل دهد، اما توضیح نداد که این شرکت در کدام سطح از نظام سه‌گانه ارزیابی قرار خواهد گرفت. آنتروپیک ماه گذشته گفته بود با توجه به «اهمیت و فوریت این کار»، هزینه فعالیت‌های اکسنچر را مستقیماً تأمین خواهد کرد. این تصمیم باعث شد منتقدان در شبکه‌های اجتماعی درباره استقلال ارزیابی‌های اکسنچر ابراز نگرانی کنند.
آنتروپیک در بیانیه‌ای که در آن زمان منتشر کرد، توضیح داد: «هنوز هیچ استاندارد مشخصی درباره نوع اطلاعاتی که ارزیابان مستقر در شرکت باید به آن دسترسی داشته باشند یا شیوه گزارش‌دهی یافته‌های آن‌ها وجود ندارد. همچنین هنوز سازوکار مورد توافقی برای تأمین مالی ارزیابی‌های مستقل شکل نگرفته است.»
این شرکت در ادامه همان بیانیه افزود: «ما معتقدیم در بلندمدت، منابع مالی این ارزیابی‌ها باید از محل صندوق‌های مشترک یا منابع دولتی تأمین شود؛ همان‌طور که در ماه ژوئن در چارچوب هوش مصنوعی پیشرفته خود پیشنهاد کردیم. از آنجا که در حال حاضر هیچ‌یک از این دو سازوکار وجود ندارد، قصد داریم با ارزیابان مختلف و بر اساس ترتیبات مالی متفاوت همکاری کنیم.»