Anthropic در بحبوحه نگرانی‌ها درباره سامانه‌های هوش مصنوعی سرکش، به پژوهشگران بیرونی اجازه دسترسی به درون شرکت را می‌دهد
[Anthropic](https://www.independent.co.uk/topic/anthropic?utm_source=chatgpt.com) اعلام کرده است که در بحبوحه نگرانی‌ها درباره قدرت فزاینده هوش مصنوعی، به افراد خارج از شرکت اجازه خواهد داد دسترسی عمیقی به سامانه‌هایش داشته باشند.
این شرکت به پژوهشگران مستقل اجازه می‌دهد برای ارزیابی فناوری خود، با سطحی از دسترسی مشابه کارکنان شرکت، به آن دسترسی پیدا کنند. شرکت‌های دیگری نیز ممکن است همین رویکرد را در پیش بگیرند؛ از جمله [SpaceX](https://www.independent.co.uk/topic/spacex?utm_source=chatgpt.com) متعلق به [ایلان ماسک](https://www.independent.co.uk/topic/elon-musk?utm_source=chatgpt.com).
این تصمیم در شرایطی اتخاذ شده است که نگرانی‌ها درباره قدرت روزافزون [هوش مصنوعی](https://www.independent.co.uk/topic/ai?utm_source=chatgpt.com) و شرکت‌هایی که این سامانه‌ها را توسعه می‌دهند، افزایش یافته است. همچنین نگرانی‌هایی وجود دارد مبنی بر اینکه این شرکت‌ها برای کاهش این خطرات اقدامات کافی انجام نمی‌دهند. در واکنش به این تهدید، دولت‌ها و گروه‌های مدافع شفافیت بیش از پیش از شرکت‌های هوش مصنوعی خواسته‌اند درباره فعالیت‌های خود شفاف‌تر عمل کنند.
Anthropic اعلام کرد در پاسخ به این درخواست‌ها، به پژوهشگران مؤسسه ارزیابی هوش مصنوعی METR اجازه دسترسی به سامانه‌های خود را خواهد داد. به گفته این شرکت، شش پژوهشگر به فضای اداری و سامانه‌های داخلی آن دسترسی‌ای در حد کارکنان Anthropic پیدا کرده‌اند و کارکنان نیز تشویق شده‌اند بیشتر اطلاعات را همان‌گونه که با همکاران خود به اشتراک می‌گذارند، در اختیار این پژوهشگران قرار دهند.
تیم METR از این دسترسی برای تهیه و انتشار گزارشی درباره یافته‌های خود استفاده خواهد کرد؛ از جمله اینکه سامانه‌های Anthropic را تا چه اندازه خطرناک ارزیابی می‌کند. Anthropic نمی‌تواند مانع انتشار این گزارش شود، اما می‌تواند درخواست کند اطلاعات حساسی مانند داده‌های مربوط به مشتریان در آن منتشر نشود.
این شرکت همچنین اعلام کرد در حال همکاری با سازمان‌های دیگری نیز هست. یکی از این همکاری‌ها پروژه‌ای با SecureBio است که فعالیت‌های Anthropic را ارزیابی می‌کند تا اطمینان حاصل شود سامانه‌های این شرکت، برای مثال با فراهم کردن امکان ساخت سلاح‌های شیمیایی و زیستی، خطری ایجاد نمی‌کنند.
Anthropic گفت پژوهشگران بیرونی را به داخل شرکت راه داده است زیرا می‌خواهد «در قبال تصمیم‌هایی که می‌گیریم، در برابر افکار عمومی پاسخگو باشیم». با این حال، به گفته این شرکت، امکان انتشار همه اطلاعات مرتبط به‌صورت عمومی وجود ندارد، زیرا برخی اطلاعات ممکن است «برای عوامل مخرب مفید باشند یا از نظر تجاری حساس باشند».
این شرکت برای حل این مشکل قصد دارد دسترسی پژوهشگران بیشتری را فراهم کند تا آنها بتوانند یافته‌های خود را به اشتراک بگذارند. Anthropic گفت: «هدف ما این است که فاصله میان آنچه ارزیابان درباره سامانه‌های یک شرکت پیشرو در حوزه هوش مصنوعی می‌دانند و آنچه خود شرکت می‌داند، کاهش دهیم.»
Anthropic یکی از شش شرکتی بود که به «توافق کاخ سفید درباره ابرهوش» [دونالد ترامپ](https://www.independent.co.uk/topic/donald-trump?utm_source=chatgpt.com) پیوست؛ توافقی که از جمله آنها را متعهد می‌کند برای اطمینان از ایمن بودن عملکردشان، با حسابرسان مستقل همکاری کنند. [Google](https://www.independent.co.uk/topic/google?utm_source=chatgpt.com)، [Meta](https://www.independent.co.uk/topic/meta?utm_source=chatgpt.com)، [OpenAI](https://www.independent.co.uk/topic/openai?utm_source=chatgpt.com)، [Nvidia](https://www.independent.co.uk/topic/nvidia?utm_source=chatgpt.com) و xAI نیز به این توافق پیوسته‌اند.
در واکنش به اعلام Anthropic، ایلان ماسک، مدیرعامل SpaceX که xAI نیز بخشی از آن است، گفت شرکت او ممکن است همین مسیر را دنبال کند. او در [X](https://www.independent.co.uk/topic/x?utm_source=chatgpt.com) نوشت: «احتمالاً SpaceX هم همین کار را خواهد کرد»، اما جزئیات بیشتری درباره شکل احتمالی این اقدام ارائه نکرد.