اختصاصی رویترز؛ پشت درخواست صنعت هوش مصنوعی برای ارزیابی‌های مستقل، نبردی بر سر اطلاعات قابل انتشار در جریان است
نیویورک، ۱۳ اکتبر (رویترز) - بر اساس گفته دو فرد آگاه از مذاکرات، شرکت‌های Anthropic و OpenAI تلاش کرده‌اند کنترل قابل‌توجهی بر آنچه ارزیاب‌های بیرونی می‌توانند منتشر کنند داشته باشند؛ زیرا نگرانند یافته‌های این ارزیابی‌ها اسرار تجاری آن‌ها را آشکار کند.
داریو آمودی، مدیرعامل Anthropic، ماه گذشته گفت ارزیاب‌های خارجی باید حق انتشار یافته‌های کلیدی خود را «بدون کنترل تحریریه» داشته باشند. چند روز بعد، OpenAI نیز اعلام کرد که ارزیاب‌ها باید «استقلال تحریریه» داشته باشند.
به گفته این افراد که به دلیل خصوصی بودن موضوع حاضر به افشای نام خود نشدند، شرکت‌های هوش مصنوعی نگران هستند کارکنان ارزیاب که در قالب «ارزیابی تعبیه‌شده» در داخل شرکت‌ها فعالیت می‌کنند، ممکن است اطلاعات اختصاصی را به رقبای آن‌ها منتقل کنند.
یکی از این افراد افزود، اقداماتی که برای جلوگیری از نشت مالکیت فکری در حال بررسی است شامل حضور کارکنان آزمایشگاه‌های هوش مصنوعی در کنار تیم‌های ارزیابی تعبیه‌شده هنگام فعالیت آن‌ها و جلوگیری از همکاری هم‌زمان ارزیابان مستقر در یک آزمایشگاه با آزمایشگاه دیگر است.
فرد دیگری که از تعاملات گذشته با این آزمایشگاه‌ها اطلاع داشت، گفت آنچه شرکت‌ها آن را مالکیت فکری حیاتی می‌دانند، ممکن است با اطلاعات مورد نیاز برای ارزیابی خطرهای یک مدل هم‌پوشانی داشته باشد؛ موضوعی که می‌تواند به اختلاف بر سر حذف بخش‌هایی از گزارش‌ها و اعمال سانسور منجر شود.
کارشناسان گفته‌اند استقلال ارزیاب‌ها، در شرایطی که Anthropic و OpenAI خود انتخاب می‌کنند چه کسانی این بررسی‌ها را انجام دهند، یک نگرانی مهم است. رویترز برای نخستین بار جزئیات مذاکرات میان ارزیاب‌ها و آزمایشگاه‌های هوش مصنوعی درباره این موضوع را گزارش می‌کند.
این مذاکرات تنش میان دو نیاز را برجسته می‌کند: آگاه کردن جهان از خطرهای احتمالی هوش مصنوعی قدرتمند و در عین حال محافظت از اسرار تجاری شرکت‌هایی که در پی ارزش‌گذاری‌های چند تریلیون دلاری و احتمال عرضه اولیه سهام بزرگ هستند.
نتیجه این گفت‌وگوها می‌تواند تعیین کند جهان چگونه فناوری‌ای را بررسی خواهد کرد که برخی از سازندگان آن هشدار داده‌اند ممکن است با سرعتی پیشرفت کند که توانایی بشر برای مدیریت آن را پشت سر بگذارد.
برخی کارشناسان می‌گویند در نبود استانداردها و قوانین مشخص برای ارزیابی مستقل، شرکت‌هایی که قدرتمندترین مدل‌های هوش مصنوعی را می‌سازند ممکن است خود تعیین کنند این سامانه‌ها چگونه بررسی شوند و ارزیاب‌ها را به تصمیم‌های خود وابسته کنند.
مذاکرات بر سر حقوق انتشار گزارش‌ها
ماهیت این مذاکرات به‌سرعت تغییر کرد. دو فرد آگاه از موضوع گفتند که تا پنجم اکتبر، Anthropic و OpenAI خواهان کنترل سخت‌گیرانه بر محتوایی بودند که ارزیاب‌ها اجازه انتشار آن را داشتند. به گفته یکی از افراد مطلع، تا هشتم اکتبر مذاکرات میان Anthropic و برخی ارزیاب‌ها ظاهراً تغییر مسیر داده بود.
Anthropic در پاسخ به پرسش‌های رویترز اعلام کرد این توصیف که این شرکت در همه مذاکرات و همکاری‌های خود با ارزیاب‌های مستقل به دنبال کنترل قابل‌توجه بر انتشار گزارش‌ها بوده، دقیق نیست.
این شرکت سازنده مدل‌های هوش مصنوعی Claude گفت در گفت‌وگوهای فعلی با ارزیاب‌هایی که پیش‌تر با آن همکاری داشته، روشن کرده است که بررسی‌کنندگان خارجی بر روش‌ها، معیارهای ارزیابی، نتیجه‌گیری‌ها و محتوایی که منتشر می‌کنند کنترل دارند.
Anthropic افزود برای شرکت‌های ارزیابی جدید، این حق را برای خود محفوظ می‌داند که هنگام آشنایی ارزیاب‌ها با نحوه عملکرد مدل‌هایش و شکل‌گیری رابطه کاری، درباره گزارش‌ها اظهارنظر کند و آن‌ها را تأیید کند.
OpenAI نیز اعلام کرد به دنبال حق تأیید متن کامل گزارش‌های تهیه‌شده توسط ارزیاب‌ها نیست. این شرکت گفت رویه معمول آن حذف اطلاعات محرمانه است و ارزیاب‌ها می‌توانند اعلام کنند که آیا بخش‌های مهمی از گزارش حذف شده است یا خیر.
سازنده ChatGPT ماه گذشته گفت آزمایشگاه‌های هوش مصنوعی و ارزیاب‌ها باید پیش از آزمایش درباره دامنه کار و میزان دسترسی توافق کنند، روش‌ها و تعارض منافع را افشا کنند و به ارزیاب‌ها اجازه دهند یافته‌های خود را کنترل کنند؛ در حالی که شرکت‌ها نیز بتوانند از اطلاعات حساس محافظت کنند.
بر اساس قراردادی که رویترز مشاهده کرده، زبان مورد استفاده در برخی قراردادهای شرکت‌های هوش مصنوعی با مؤسساتی که مدل‌های آن‌ها را ارزیابی می‌کنند، می‌تواند این مؤسسات را از انتشار اطلاعات محرمانه در گزارش‌های خود بدون رضایت شرکت‌ها منع کند.
وعده‌های استقلال
Anthropic ماه گذشته اعلام کرد شرکت Faculty، واحد تخصصی هوش مصنوعی Accenture، نخستین ارزیاب تعبیه‌شده این شرکت خواهد بود، اما گفت جزئیات مربوط به میزان دسترسی ارزیاب‌ها و نحوه گزارش یافته‌ها هنوز در حال تعیین است.
مارک وارنر، مدیرعامل Faculty، به رویترز گفت: «ارزیاب‌ها تنها زمانی مفید هستند که مردم بتوانند به گزارش‌های آن‌ها اعتماد کنند؛ بنابراین استقلال و شفافیت بسیار مهم است.»
شرکت‌های فناوری معمولاً مؤسساتی را که با آن‌ها همکاری می‌کنند از به اشتراک گذاشتن چنین اطلاعاتی با دیگران بدون رضایت خود منع می‌کنند.
اما کارشناسان می‌گویند اهمیت این موضوع در مورد هوش مصنوعی بیشتر است؛ زیرا این فناوری، به گفته توسعه‌دهندگانش، پیامدهای بزرگی برای انسان‌ها خواهد داشت.
رومان چودهری، فرستاده پیشین علم ایالات متحده در حوزه هوش مصنوعی در دولت بایدن و مدیرعامل Humane Intelligence PBC، به رویترز گفت در نبود استانداردها، آزمایشگاه‌ها می‌توانند دسترسی‌ای را که ارزیاب‌ها به آن وابسته‌اند کنترل کنند و از این طریق بر آنچه گزارش می‌شود نفوذ داشته باشند.
چودهری گفت: «ارزیاب‌ها دسترسی بسیار ویژه‌ای دارند، اما چه به‌طور صریح و چه ضمنی، می‌دانند که این دسترسی هزینه‌ای دارد.»
ارزیابی مستقل یکی از چهار اقدام ایمنی در توافق‌نامه یک‌صفحه‌ای کاخ سفید درباره ابرهوش مصنوعی بود که ماه گذشته توسط دونالد ترامپ، رئیس‌جمهور آمریکا، و مدیران ارشد شرکت‌های هوش مصنوعی امضا شد. با این حال، این توافق‌نامه که ترامپ آن را «از نظر اخلاقی الزام‌آور» خوانده، توضیحی درباره نحوه انجام این بررسی‌ها ارائه نکرد.
ارزیاب‌ها نیز ماه گذشته در نامه‌ای عمومی، حداقل شرایط مورد نیاز خود را اعلام کردند؛ نامه‌ای که بیش از ۲۰۰ پژوهشگر، از جمله جفری هینتون، یکی از چهره‌های پیشگام هوش مصنوعی، آن را امضا کرده‌اند. این نامه خواستار کنترل مستقل بر یافته‌ها، دسترسی گسترده به آزمایشگاه‌های هوش مصنوعی و محافظت در برابر اقدامات تلافی‌جویانه شده است.
حذف اطلاعات و محدودیت دسترسی
OpenAI اطلاعات غیرعمومی را از گزارشی که توسط سازمان‌های Model Evaluation and Threat Research (METR) و Redwood Research درباره حادثه Hugging Face تهیه شده بود، حذف کرد؛ حادثه‌ای که در آن عامل‌های خودمختار مجهز به مدل‌های پیشرفته OpenAI از کنترل خارج شدند و حمله‌ای را رقم زدند که زیرساخت Hugging Face را به خطر انداخت.
بررسی این دو سازمان غیرانتفاعی حوزه ایمنی هوش مصنوعی که ابتدا قرار بود دو روز در OpenAI انجام شود، به شش روز و سه بازدید گسترش یافت و مجموعه کامل‌تر متن‌های ثبت‌شده تنها در آخرین بازدید، پس از آنکه پژوهشگران کمبودهایی در داده‌ها را مطرح کردند، در اختیار آن‌ها قرار گرفت.
METR و Redwood اعلام کردند بر اساس بازخورد OpenAI، ساختار، تأکیدها، شفافیت و لحن گزارش را ویرایش کردند، اما هیچ مورد مهم دیگری که بر نتیجه‌گیری‌هایشان اثر بگذارد حذف نشد. آن‌ها همچنان بر یافته‌های خود تأکید کردند و از دسترسی‌ای که OpenAI در نهایت فراهم کرد قدردانی کردند، اما گفتند نگرانی از اینکه حوادث جدی باعث شود توسعه‌دهندگان دیگر از دعوت ارزیاب‌های خارجی خودداری کنند، بر تصمیم‌های آن‌ها درباره نگارش، ویرایش و حذف بخش‌هایی از گزارش تأثیر گذاشت.
گزارش از آدیتیا سونی در نیویورک؛ ویرایش توسط کنت لی و متیو لوئیس
حق نشر: Reuters یا USA Today از طریق Reuters Connect