آنتروپیک به ارزیاب مستقل هوش مصنوعی METR دسترسی در سطح کارکنان خود به مدل‌ها و سامانه‌های ایمنی داد
شرکت آنتروپیک به شش نفر از کارکنان مؤسسه METR اجازه داده است به سامانه‌های داخلی و ابزارهای ارزیابی ریسک این شرکت دسترسی داشته باشند. این دسترسی به آن‌ها امکان می‌دهد اقدامات ایمنی آنتروپیک را به‌طور مستقل بررسی کنند و یافته‌های خود را بدون نیاز به تأیید قبلی شرکت منتشر کنند.
گروهی از ارزیابان هوش مصنوعی در مؤسسه غیرانتفاعی METR به سامانه‌های آنتروپیک دسترسی در سطح کارکنان این شرکت پیدا کرده‌اند. اعضای این گروه می‌توانند به‌طور مستقل مدل‌های پیشرفته، اقدامات ایمنی و فرایندهای مدیریت ریسک آنتروپیک را بررسی کنند. اعلام این تصمیم در حالی صورت گرفته است که پژوهشگران و ارزیابان پیش‌تر درباره نفوذ بیش‌ازحد آزمایشگاه‌های بزرگ هوش مصنوعی بر ارزیابی‌های مستقل ابراز نگرانی کرده بودند؛ نفوذی که از طریق محدودیت‌های انتشار نتایج و کنترل دسترسی به اطلاعات حساس اعمال می‌شود.
آنتروپیک اعلام کرده است که شش نفر از کارکنان METR تجهیزات سازمانی، فضای اداری و دسترسی به ابزارها و سامانه‌های داخلی این شرکت را دریافت کرده‌اند. سطح این دسترسی به‌طور کلی با امکاناتی که در اختیار تیم‌های ارزیابی ریسک خود آنتروپیک قرار دارد، قابل مقایسه است.
به گفته آنتروپیک، مؤسسه METR می‌تواند ارزیابی‌های مستقل خود درباره خطرات، رخدادها و اقدامات ایمنی این آزمایشگاه هوش مصنوعی را بدون دریافت تأیید قبلی منتشر کند. تنها محدودیت، حذف بخش‌های مشخص و محدودی از اطلاعات، از جمله داده‌های مشتریان، اطلاعات محرمانه دارای حمایت قانونی و جزئیات معماری سامانه‌ها خواهد بود.
دسترسی ارزیابان به سامانه‌های داخلی
آنتروپیک در مطلبی که در وبلاگ رسمی خود منتشر کرده، توضیح داده است که شش نفر از کارکنان METR به تجهیزات سازمانی، فضای اداری و ابزارها و سامانه‌های داخلی این شرکت دسترسی یافته‌اند؛ امکاناتی که با آنچه در اختیار تیم‌های ارزیابی ریسک آنتروپیک قرار دارد، هم‌سطح است. به‌جز تعداد محدودی از دسته‌های اطلاعاتی که به‌روشنی مشخص شده‌اند، کارکنان آنتروپیک تشویق شده‌اند اطلاعات را همان‌گونه با این ارزیابان به اشتراک بگذارند که با یکی از همکاران خود در حوزه هم‌راستاسازی هوش مصنوعی با اهداف انسانی و ارزیابی ریسک همکاری می‌کنند.
مؤسسه METR می‌تواند تحلیل‌های خود درباره خطرات، رخدادها و رویه‌های آنتروپیک را منتشر کند و این شرکت حق جلوگیری از انتشار آن‌ها را نخواهد داشت. آنتروپیک همچنین تأکید کرده است که همکاری با METR به گروه کوچکی محدود می‌شود که فعالیت آن تحت توافق‌نامه‌های الزام‌آور و قابل اجرا قرار دارد. سایر کارکنان METR، از جمله پژوهشگرانی که در پروژه‌های دیگری با آنتروپیک همکاری می‌کنند، به فعالیت‌ها و اطلاعات این گروه دسترسی ندارند.
سه سطح متفاوت دسترسی برای ارزیابان
آنتروپیک در مطلب وبلاگی خود همچنین توضیح داده است که در حال طراحی نظامی سه‌سطحی برای تعیین میزان دسترسی ارزیابان است. در این ساختار، هر تیم ارزیابی تحلیل مستقل خود را درباره وضعیت ریسک شرکت و تصمیم‌های کلیدی آن منتشر خواهد کرد.
در سطح نخست، ارزیابان بررسی‌های محدودی را درباره خطرات مشخص انجام می‌دهند و آنتروپیک تعیین می‌کند که چه نوع دسترسی به اطلاعات و سامانه‌ها در اختیار آن‌ها قرار گیرد.
در سطح دوم، ارزیابان به اطلاعات بیشتری دسترسی خواهند داشت و می‌توانند یافته‌های خود را بدون نیاز به تأیید آنتروپیک منتشر کنند. بااین‌حال، آنتروپیک همچنان می‌تواند حذف دسته‌های مشخصی از اطلاعات را الزامی کند. ارزیابان نیز حق خواهند داشت نظر خود را درباره موجه بودن یا نبودن این حذف‌ها به‌صورت عمومی منتشر کنند.
در سطح سوم، ارزیابان از همان میزان دسترسی برخوردار می‌شوند که اکنون در اختیار METR قرار گرفته است؛ یعنی دسترسی در سطح کارکنان شرکت، همراه با حقوق انتشار نتایج مشابه سطح دوم.
آنتروپیک از شرکت‌های پیشگام در ایجاد چنین نظام سطح‌بندی‌شده‌ای به شمار می‌رود. این شرکت پیش‌تر نیز از نخستین مجموعه‌هایی بود که در مقاله‌ای بر ضرورت ارزیابی هوش مصنوعی از سوی نهادهای مستقل تأکید کرد. انتشار آن مقاله پس از نگرانی‌هایی صورت گرفت که جیکوب کاکسون، پژوهشگر هوش مصنوعی آنتروپیک، درباره سرعت بالای توسعه این فناوری و ناکافی بودن تدابیر حفاظتی برای مهار خطرات ناشی از عامل‌های هوش مصنوعی مطرح کرده بود.