آنتروپیک برای تقویت ایمنی هوش مصنوعی، دسترسی در سطح کارکنان خود را به نهاد ارزیاب مستقل METR داد

۱۵ اکتبر (رویترز) ـ شرکت آنتروپیک (Anthropic) به مؤسسه غیرانتفاعی METR اجازه داده است در سطح کارکنان این شرکت به سامانه‌های داخلی آن دسترسی داشته باشد. آنتروپیک همچنین با نهادهای دیگری از جمله هاگینگ فیس (Hugging Face) در حال مذاکره است. این اقدامات در شرایطی انجام می‌شود که شرکت‌های فعال در حوزه هوش مصنوعی، استفاده از ارزیابان بیرونی را راهی برای پیشبرد ایمن این فناوری، بدون کاهش سرعت توسعه آن، معرفی می‌کنند.

آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی کلود (Claude)، روز پنجشنبه در یک پست وبلاگی اعلام کرد که برای ارزیابی مدل‌های خود با مؤسسه غیرانتفاعی فعال در حوزه امنیت زیستی SecureBio و همچنین Faculty، کسب‌وکار هوش مصنوعی شرکت اکسنچر (Accenture)، همکاری می‌کند.

رویترز اوایل این هفته در گزارشی اختصاصی فاش کرده بود که آنتروپیک و اوپن‌ای‌آی (OpenAI) خواستار کنترل قابل‌توجهی بر اطلاعاتی شده‌اند که ارزیابان بیرونی اجازه انتشار آن را دارند. نگرانی این دو شرکت آن است که انتشار یافته‌های ارزیابی‌ها به افشای اسرار تجاری آن‌ها منجر شود.

با این حال، فردی آگاه از موضوع به رویترز گفت که مذاکرات با آنتروپیک اخیراً تغییر کرده و این شرکت در جریان گفت‌وگوها انعطاف‌پذیری بیشتری از خود نشان داده است.

به گفته فرد دیگری که از این مذاکرات اطلاع دارد، یکی از مهم‌ترین اختلافات میان ارزیابان مستقل و آزمایشگاه‌های هوش مصنوعی به اطلاعاتی مربوط می‌شود که شرکت‌ها آن‌ها را بخش مهمی از مالکیت فکری خود می‌دانند، اما همان اطلاعات ممکن است برای سنجش خطرات یک مدل نیز ضروری باشند. این تعارض به اختلاف‌نظر بر سر انتشار اطلاعات و حذف بخش‌هایی از گزارش‌ها منجر می‌شود.

کارشناسان همچنین درباره استقلال ارزیابان ابراز نگرانی کرده‌اند، زیرا این آنتروپیک و اوپن‌ای‌آی هستند که تصمیم می‌گیرند چه کسانی اجازه انجام ارزیابی‌ها را داشته باشند.

نتیجه این مذاکرات می‌تواند در تعیین شیوه نظارت و بررسی جهانی بر فناوری هوش مصنوعی نقش مهمی داشته باشد؛ فناوری‌ای که برخی از سازندگان آن هشدار می‌دهند ممکن است با سرعتی فراتر از توان بشر برای مدیریت و کنترل آن پیشرفت کند.

جزئیات همکاری آنتروپیک با METR

آنتروپیک روز پنجشنبه اعلام کرد که شش نفر از کارکنان مؤسسه METR، مخفف «ارزیابی مدل و پژوهش درباره تهدیدها» (Model Evaluation and Threat Research)، به تجهیزات سخت‌افزاری و فضای اداری شرکت دسترسی دارند. سطح دسترسی آن‌ها به سامانه‌های داخلی نیز تقریباً مشابه دسترسی تیم‌های ارزیابی ریسک آنتروپیک است. با این حال، اطلاعات مشتریان، داده‌های مشمول محرمانگی قانونی و جزئیات معماری مدل‌ها همچنان از دسترس این ارزیابان خارج خواهد بود.

آنتروپیک اعلام کرد که نمی‌تواند مانع انتشار یافته‌های METR درباره خطرات، رخدادها و رویه‌های شرکت شود، اما این اختیار را دارد که خواستار حذف بخش‌های مشخص و محدودی از گزارش‌ها شود. در مقابل، METR نیز می‌تواند بدون افشای اطلاعات حذف‌شده، ضرورت این حذف‌ها را به‌صورت عمومی زیر سؤال ببرد.

مؤسسه METR اعلام کرد: «مطابق با سیاست‌های شفافیت ما، گزارشمان دامنه فعالیت‌ها، سطح دسترسی و سایر محدودیت‌های کارمان را به‌روشنی و به‌صورت عمومی تشریح خواهد کرد.» این مؤسسه روز چهارشنبه پیشنهاد کرده بود که توسعه‌دهندگان هوش مصنوعی امکان مصاحبه محرمانه با کارکنان، انتشار به‌موقع نتایج ارزیابی‌ها و شفاف‌سازی درباره محدودیت‌های دسترسی و بخش‌های حذف‌شده از گزارش‌ها را فراهم کنند.

آنتروپیک اعلام کرد که همکاری‌هایش با سایر نهادهای ارزیاب هنوز در مراحل اولیه قرار دارد و این نهادها در مقایسه با METR از سطح دسترسی و حقوق انتشار محدودتری برخوردارند.

این شرکت در حال طراحی ساختاری سه‌سطحی برای دسترسی ارزیابان است. در سطح نخست، ارزیابان بررسی‌هایی با دامنه مشخص و محدود انجام می‌دهند و برای انتشار نتایج باید مجوز بگیرند. در سطح دوم، ارزیابان به اطلاعات بیشتری دسترسی خواهند داشت و می‌توانند یافته‌های خود را بدون دریافت تأیید قبلی منتشر کنند؛ البته ممکن است بخش‌هایی از گزارش آن‌ها حذف شود، اما ارزیابان حق دارند این حذف‌ها را به‌صورت عمومی به چالش بکشند.

سطح سوم که برای همکاری با METR در نظر گرفته شده است، دسترسی مشابه کارکنان شرکت را فراهم می‌کند و از نظر حقوق انتشار گزارش‌ها، تابع شرایطی مشابه سطح دوم است.

مؤسسه SecureBio در سطح نخست این ساختار قرار دارد و در حال بررسی فصل مربوط به سلاح‌های شیمیایی و بیولوژیکی در گزارش ارزیابی ریسک آنتروپیک است که در ماه اوت منتشر شد. این مؤسسه پیش‌تر نیز یک ارزیابی آزمایشی از گزارش قبلی آنتروپیک منتشر کرده بود. آنتروپیک اعلام کرد پس از پایان بررسی کنونی، امکان گسترش سطح دسترسی و حقوق انتشار SecureBio را بررسی خواهد کرد.

آنتروپیک همچنین ماه گذشته اعلام کرده بود که در حال برنامه‌ریزی برای همکاری با Faculty است. این همکاری حوزه‌هایی از جمله ارزیابی مدل‌های هوش مصنوعی، آزمون‌های خصمانه برای شناسایی آسیب‌پذیری‌ها و بررسی میزان انطباق رفتار مدل‌ها با اهداف و عملکرد مورد انتظار را در بر می‌گیرد.

گزارش: آدیتیا سونی و آنهاتا روپ‌رای، بنگلور؛ ویراستاری: جاناتان آناندا

نویسنده: آدیتیا سونی