آنتروپیک در راستای ارتقای ایمنی هوش مصنوعی، دسترسی در سطح کارکنان را برای ارزیاب مستقل METR فراهم کرد

نویسنده: آدیتیا سونی

۱۵ اکتبر (رویترز) ـ شرکت آنتروپیک دسترسی به سامانه‌های خود را در سطح کارکنان این شرکت برای مؤسسه غیرانتفاعی METR فراهم کرده و با نهادهای دیگری، از جمله Hugging Face، نیز در حال مذاکره است. شرکت‌های هوش مصنوعی می‌کوشند با اتکا به ارزیابان مستقل، این فناوری را با ایمنی بیشتری توسعه دهند، بی‌آنکه روند پیشرفت آن را کُند کنند.

آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی Claude، روز پنجشنبه در مطلبی در وبلاگ خود اعلام کرد که با مؤسسه غیرانتفاعی SecureBio در حوزه امنیت زیستی و شرکت Faculty، زیرمجموعه کسب‌وکار هوش مصنوعی Accenture، نیز برای ارزیابی مدل‌هایش همکاری می‌کند.

رویترز اوایل همین هفته به‌طور اختصاصی گزارش داده بود که آنتروپیک و OpenAI خواهان کنترل قابل‌توجهی بر محتوایی شده‌اند که ارزیابان بیرونی اجازه انتشار آن را دارند؛ زیرا نگران بودند یافته‌های این ارزیابی‌ها به افشای اسرار تجاری منجر شود.

فردی آگاه از موضوع به رویترز گفت مذاکرات با آنتروپیک اخیراً تغییر کرده و این شرکت در جریان گفت‌وگوها آمادگی بیشتری برای همکاری نشان داده است.

فرد دیگری که از این مذاکرات اطلاع دارد، به رویترز گفت یکی از مهم‌ترین نقاط اختلاف میان ارزیابان و آزمایشگاه‌های هوش مصنوعی این است که اطلاعاتی که شرکت‌ها ممکن است مالکیت فکری بسیار مهم خود بدانند، می‌تواند برای ارزیابی خطرات مدل‌ها نیز ضروری باشد. این مسئله به اختلاف بر سر انتشار اطلاعات و حذف بخش‌هایی از گزارش‌ها منجر می‌شود.

کارشناسان همچنین درباره استقلال ارزیابان ابراز نگرانی کرده‌اند، زیرا انتخاب افرادی که بررسی‌ها را انجام می‌دهند بر عهده خود آنتروپیک و OpenAI است.

نتیجه این مذاکرات به تعیین چگونگی نظارت جهانی بر فناوری هوش مصنوعی کمک خواهد کرد؛ فناوری‌ای که برخی از سازندگانش هشدار داده‌اند ممکن است با سرعتی پیشرفت کند که توانایی بشر برای مدیریت آن را پشت سر بگذارد.

توافق با METR

آنتروپیک روز پنجشنبه اعلام کرد شش نفر از کارکنان METR، مخفف «ارزیابی مدل و پژوهش تهدید» (Model Evaluation and Threat Research)، به تجهیزات سخت‌افزاری شرکت، فضای اداری و سامانه‌های داخلی آن دسترسی دارند. سطح این دسترسی تقریباً با دسترسی تیم‌های ارزیابی ریسک آنتروپیک برابر است. با این حال، داده‌های مشتریان، اطلاعات تحت حمایت محرمانگی قانونی و معماری مدل‌ها همچنان خارج از محدوده دسترسی این ارزیابان خواهد بود.

این شرکت اعلام کرد نمی‌تواند یافته‌های METR درباره خطرات، حوادث و رویه‌های خود را وتو کند، اما می‌تواند خواستار حذف بخش‌هایی با دامنه‌ای محدود و مشخص شود. METR نیز این اختیار را دارد که بدون افشای اطلاعات حذف‌شده، علناً به چنین محدودیت‌هایی اعتراض کند.

METR اعلام کرد: «مطابق با سیاست‌های شفافیت ما، در گزارش خود دامنه کار، میزان دسترسی و سایر محدودیت‌های فعالیت‌مان را به‌روشنی توضیح خواهیم داد.» این مؤسسه غیرانتفاعی روز چهارشنبه پیشنهاد کرده بود که توسعه‌دهندگان هوش مصنوعی امکان مصاحبه خصوصی با کارکنان شرکت‌ها، انتشار به‌موقع ارزیابی‌ها و شفافیت درباره محدودیت‌های دسترسی و اطلاعات حذف‌شده از گزارش‌ها را فراهم کنند.

آنتروپیک گفت همکاری‌هایش با سایر ارزیابان هنوز در مراحل اولیه قرار دارد و در این همکاری‌ها، دسترسی و حقوق انتشار محدودتر است.

این شرکت در حال طراحی نظامی سه‌سطحی برای دسترسی ارزیابان است. ارزیابان سطح نخست بررسی‌هایی با دامنه محدود انجام می‌دهند و برای انتشار نتایج به تأیید شرکت نیاز دارند. ارزیابان سطح دوم به اطلاعات بیشتری دسترسی خواهند داشت و می‌توانند بدون دریافت تأیید قبلی گزارش‌های خود را منتشر کنند؛ البته مشروط به حذف اطلاعاتی که امکان اعتراض علنی به این حذف‌ها برای ارزیابان وجود دارد.

سطح سوم که METR از آن برخوردار است، دسترسی مشابه کارکنان شرکت را فراهم می‌کند و حقوق انتشار نتایج آن نیز مشابه سطح دوم است.

SecureBio در حال بررسی فصل مربوط به سلاح‌های شیمیایی و زیستی در گزارش ارزیابی ریسک آنتروپیک است که در ماه اوت منتشر شد. این مؤسسه پیش‌تر نیز یک ارزیابی آزمایشی از گزارش قبلی آنتروپیک منتشر کرده بود. آنتروپیک اعلام کرد پس از پایان بررسی کنونی، امکان گسترش سطح دسترسی SecureBio را بررسی خواهد کرد.

آنتروپیک همچنین ماه گذشته اعلام کرده بود که در حال همکاری با Faculty برای ایجاد مشارکتی در زمینه ارزیابی مدل‌ها، آزمون‌های خصمانه و بررسی این موضوع است که آیا مدل‌ها مطابق با اهداف تعیین‌شده رفتار می‌کنند یا خیر؛ این همکاری حوزه‌های دیگری را نیز در بر می‌گیرد.

گزارش از آدیتیا سونی و آنهاتا روپرای در بنگلورو؛ ویرایش از جاناتان آناندا.