Anthropic به METR دسترسی داخلی می‌دهد تا مدل‌های هوش مصنوعی و رویه‌های ایمنی این شرکت را ممیزی کند

Anthropic اعلام کرد دسترسی داخلی به تیمی از مؤسسه غیرانتفاعی METR داده است تا مدل‌های هوش مصنوعی و رویه‌های ایمنی این شرکت را بررسی و ممیزی کند. شش عضو METR سخت‌افزار شرکت، فضای اداری و دسترسی به ابزارهای داخلی Anthropic را دریافت کرده‌اند؛ به گفته Anthropic، این سطح از دسترسی آنها را تقریباً در جایگاهی هم‌سطح تیم‌های داخلی ارزیابی ریسک این شرکت قرار می‌دهد.

داده‌های مشتریان، اطلاعات مشمول محرمانگی وکیل-موکل و جزئیات مربوط به معماری مدل‌ها همچنان خارج از دسترس METR خواهند بود. METR یافته‌های خود را به‌طور مستقل منتشر خواهد کرد. Anthropic می‌گوید می‌تواند در برخی دسته‌های از پیش تعیین‌شده درخواست حذف یا پوشاندن اطلاعات را مطرح کند، اما METR این اختیار را دارد که به‌صورت عمومی اعلام کند آیا این حذف‌ها را موجه می‌داند یا خیر.

Anthropic استدلال می‌کند که همه اطلاعات مرتبط با ایمنی را نمی‌توان عمومی کرد؛ زیرا انتشار برخی از آنها ممکن است به مهاجمان کمک کند یا اطلاعات تجاری حساسی را فاش کند. توافق با METR از سطح دسترسی‌ای که این شرکت تاکنون در اختیار دیگر ارزیابان مستقل قرار داده، فراتر است. مؤسسات SecureBio، Accenture و Faculty تاکنون دسترسی محدودتری داشته‌اند و محدودیت‌های بیشتری نیز برای انتشار یافته‌هایشان اعمال شده است. Anthropic همچنین گفت‌وگوهای اولیه با Hugging Face را آغاز کرده است.

این اقدام پس از آن صورت می‌گیرد که Anthropic «پیمان کاخ سفید درباره ابرهوش» را امضا کرد؛ توافقی که شامل تعهد به همکاری با ارزیابان مستقل بیرونی نیز می‌شود.

منبع: Anthropic