آنتروپیک برای تقویت ایمنی هوش مصنوعی، دسترسی پژوهشگران بیرونی به سامانه‌های داخلی خود را فراهم می‌کند

www.independent.co.uk

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

عکس: رویترز
  • شرکت آنتروپیک برای ارزیابی خطرات ایمنی و افزایش شفافیت در حوزه هوش مصنوعی، دسترسی پژوهشگران خارج از شرکت به سامانه‌های داخلی خود را در سطحی مشابه دسترسی کارکنان فراهم می‌کند.
  • شش پژوهشگر از مؤسسه ارزیابی METR در آنتروپیک مستقر شده‌اند تا خطرات سامانه‌های این شرکت را بررسی کنند و گزارشی مستقل از یافته‌های خود منتشر کنند.
  • آنتروپیک همچنین با شرکت SecureBio همکاری می‌کند تا اطمینان حاصل شود مدل‌های هوش مصنوعی این شرکت برای کمک به ساخت سلاح‌های شیمیایی یا زیستی قابل استفاده نیستند.
  • این ابتکار با تعهدات آنتروپیک ذیل توافق‌نامه کاخ سفید دونالد ترامپ درباره ابرهوش مصنوعی همسو است؛ توافق‌نامه‌ای که انجام ممیزی‌های ایمنی توسط نهادهای بیرونی را الزامی می‌کند.
  • ایلان ماسک در شبکه اجتماعی ایکس اعلام کرد که شرکت اسپیس‌ایکس نیز احتمالاً برای فراهم کردن دسترسی پژوهشگران بیرونی به فناوری‌های خود، رویکرد مشابهی را در پیش خواهد گرفت.

منابع دیگر این خبر