Anthropic به ارزیابان بیرونی اجازه بررسی سامانه‌های هوش مصنوعی خود را می‌دهد
Anthropic، شرکت سازنده مدل‌های هوش مصنوعی Claude، به سازمان غیرانتفاعی Model Evaluation and Threat Research (METR) دسترسی در سطح کارکنان به سامانه‌های خود داده است. این اقدام بخشی از تلاش گسترده‌تر شرکت‌های هوش مصنوعی برای مشارکت دادن ارزیابان بیرونی در فعالیت‌های خود است تا بتوانند فناوری را با رعایت ملاحظات ایمنی توسعه دهند، بدون آنکه روند پیشرفت آن متوقف شود.
دسترسی METR به سامانه‌های Anthropic
Anthropic به شش نفر از کارکنان METR اجازه دسترسی به سخت‌افزار، فضای اداری و سامانه‌های داخلی شرکت را داده است؛ سطحی از دسترسی که مشابه دسترسی تیم‌های ارزیابی ریسک این شرکت است.
این شرکت اعلام کرده است که نمی‌تواند یافته‌های METR درباره ریسک‌ها یا رویه‌های شرکت را وتو کند، اما می‌تواند درخواست حذف بخش‌هایی محدود و مشخص را مطرح کند. این موارد ممکن است شامل داده‌های مشتریان، اطلاعات مشمول محرمانگی حقوقی و جزئیات معماری مدل‌ها باشد.
تعهد به شفافیت
گزارش METR روند ارزیابی را تشریح خواهد کرد
METR در راستای سیاست‌های شفافیت خود اعلام کرده است که گزارشش دامنه بررسی، سطح دسترسی و سایر محدودیت‌های این ارزیابی را به‌روشنی توضیح خواهد داد.
این سازمان غیرانتفاعی پیشنهاد کرده بود که توسعه‌دهندگان امکان مصاحبه خصوصی با کارکنان، انتشار به‌موقع ارزیابی‌ها و شفافیت درباره محدودیت‌های دسترسی و موارد حذف‌شده را فراهم کنند.
این اقدام بخشی از بحث گسترده‌تر درباره ایجاد توازن میان ایمنی هوش مصنوعی و سرعت توسعه این فناوری است.
سطوح دسترسی
نظام جدید سه‌سطحی برای دسترسی ارزیابان
Anthropic همچنین در حال طراحی یک نظام دسترسی سه‌سطحی برای ارزیابان است.
در سطح نخست، بررسی‌ها با دامنه‌ای محدود انجام می‌شوند و برای انتشار نتایج به تأیید نیاز است.
در سطح دوم، ارزیابان به اطلاعات بیشتری دسترسی خواهند داشت و می‌توانند بدون دریافت تأیید، نتایج را منتشر کنند؛ با این حال، انتشار همچنان مشمول حذف بخش‌هایی خواهد بود که ارزیابان می‌توانند به‌صورت عمومی نسبت به آنها اعتراض کنند.
سطح سوم، که METR از آن استفاده می‌کند، دسترسی مشابه کارکنان شرکت را فراهم می‌کند و حقوق انتشار آن نیز مشابه سطح دوم است.
ارزیابی‌های در حال انجام
SecureBio در سطح نخست این نظام دسترسی قرار دارد
SecureBio، یک سازمان غیرانتفاعی فعال در حوزه امنیت زیستی، در سطح نخست این نظام دسترسی قرار دارد. این سازمان در حال حاضر فصل مربوط به سلاح‌های شیمیایی و زیستی در گزارش ریسک Anthropic در ماه اوت را بررسی می‌کند.
این شرکت اعلام کرده است که پس از پایان این بررسی، گسترش سطح دسترسی و حقوق انتشار SecureBio را بررسی خواهد کرد.
این رویکرد نشان‌دهنده تعهد Anthropic به شفافیت و همکاری در تلاش‌های مرتبط با ایمنی هوش مصنوعی است.