آنتروپیک دسترسی در سطح کارمندی به سیستم‌های خود را برای ارزیابی ریسک‌های هوش مصنوعی در اختیار METR می‌گذارد
دسترسی در سطح کارمندی به METR
آنتروپیک به شش پژوهشگر از METR، سازمانی غیرانتفاعی که مدل‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند، دسترسی در سطح کارمندی به سیستم‌های داخلی خود می‌دهد و METR نیز نتایج ارزیابی‌های ریسک خود را منتشر خواهد کرد. پژوهشگران METR به سخت‌افزار شرکت، فضای اداری و ابزارهای داخلی‌ای دسترسی خواهند داشت که تقریباً هم‌سطح دسترسی تیم‌های ارزیابی ریسک خود آنتروپیک است. آنتروپیک همچنین توافق‌نامه کاخ سفید درباره ابرهوش مصنوعی را امضا کرده است؛ توافقی که در آن شرکت‌ها متعهد شده‌اند با حسابرسان یا ارزیابان مستقل خارجی همکاری کنند.
آنتروپیک در حال همکاری با SecureBio و Accenture به‌عنوان ارزیاب است و مذاکرات اولیه‌ای نیز با چند سازمان دیگر، از جمله Hugging Face، انجام می‌دهد. هدف آنتروپیک این است که فاصله میان میزان شناخت ارزیابان از سیستم‌های یک شرکت فعال در حوزه هوش مصنوعی پیشرفته و آنچه خود شرکت درباره این سیستم‌ها می‌داند، کاهش یابد.
انتشار نتایج بدون حق وتو، با حذف محدود اطلاعات
METR می‌تواند تحلیل‌های خود درباره سطح ریسک، حوادث یا رویه‌های آنتروپیک را منتشر کند و آنتروپیک حق وتوی انتشار را ندارد؛ با این حال، می‌تواند در دسته‌های محدود و از پیش تعیین‌شده، خواستار حذف برخی اطلاعات شود. METR آزاد است درباره موارد حذف‌شده به‌صورت عمومی توضیح دهد و اعلام کند که آیا از نظر این سازمان، حذف اطلاعات موجه بوده است یا خیر؛ مشروط بر اینکه اطلاعات حذف‌شده را افشا نکند. همکاری آنتروپیک با METR به تیم کوچکی محدود می‌شود که تحت توافق‌نامه‌های قابل اجرا فعالیت می‌کند و سایر کارکنان METR از کار این تیم جدا نگه داشته می‌شوند.
آنتروپیک در حال طراحی یک مدل سه‌سطحی برای دسترسی ارزیابان است. در سطح نخست، ارزیابان می‌توانند بررسی‌های محدودی درباره ریسک انجام دهند و انتشار نتایج به تأیید آنتروپیک نیاز دارد. در سطح دوم، ارزیابان می‌توانند بدون تأیید آنتروپیک نتایج خود را منتشر کنند، هرچند آنتروپیک همچنان می‌تواند حذف دسته‌های مشخصی از اطلاعات را درخواست کند.
چرا مدل دسترسی اهمیت دارد؟
آنتروپیک رویکرد خود را با نظارت بر بانک‌ها مقایسه کرده است و می‌گوید زمانی که ریسک‌پذیری یک بانک می‌تواند برای عموم مردم تهدید ایجاد کند، نهادهای ناظر، بازرسان مقیم را برای کار در داخل بزرگ‌ترین بانک‌ها مستقر می‌کنند. آنتروپیک نمی‌تواند همه اطلاعات مرتبط با فعالیت‌های ایمنی خود را به‌صورت عمومی منتشر کند، زیرا بخشی از این اطلاعات ممکن است برای عوامل مخرب مفید باشد یا ماهیتی تجاری و حساس داشته باشد؛ برای مثال اطلاعات مربوط به توان محاسباتی یا آموزش مدل‌ها. به گفته تک‌کرانچ، METR تاکنون تنها ارزیابی است که در بالاترین سطح از مدل سه‌سطحی آنتروپیک قرار گرفته است؛ در پایین‌ترین سطح نیز SecureBio بررسی‌های محدودی انجام می‌دهد که انتشار نتایج آنها به تأیید آنتروپیک نیاز دارد.
آنتروپیک می‌خواهد ارزیابان از تخصص لازم برای سنجش توانایی‌های مدل‌های پیشرفته برخوردار باشند، از نظر مالی مستقل باشند، به اندازه کافی به سیستم‌ها دسترسی داشته باشند تا بتوانند ریسک‌ها را به‌طور معنادار ارزیابی کنند و برای انتشار مشاهدات و ارزیابی‌های خود آزادی عمل داشته باشند. آنتروپیک می‌گوید با چندین ارزیاب به‌سرعت در حال پیشروی است و به‌طور فعال در حال یادگیری درباره انواع همکاری‌هایی است که می‌تواند از آنها پشتیبانی کند.