اختصاصی؛ پشت درخواست صنعت هوش مصنوعی برای ارزیابی‌های مستقل، نزاعی بر سر آنچه باید علنی شود
نویسنده: آدیتیا سونی
نیویورک، ۱۳ اکتبر (رویترز) - به گفته دو فرد آگاه از مذاکرات، Anthropic و OpenAI تلاش کرده‌اند کنترل قابل توجهی بر آنچه ارزیاب‌های بیرونی می‌توانند منتشر کنند داشته باشند؛ زیرا نگران هستند یافته‌های این ارزیابی‌ها ممکن است اسرار تجاری آنها را آشکار کند.
داریو آمودئی، مدیرعامل Anthropic، ماه گذشته گفت ارزیاب‌های خارجی باید حق انتشار یافته‌های کلیدی خود را «بدون کنترل تحریریه» داشته باشند. OpenAI نیز چند روز بعد اعلام کرد ارزیاب‌ها باید از «استقلال تحریریه» برخوردار باشند.
به گفته منابعی که نخواستند نامشان فاش شود، شرکت‌های هوش مصنوعی نگران هستند کارکنان ارزیابی که در قالب «ارزیابی تعبیه‌شده» در داخل شرکت‌ها فعالیت می‌کنند، ممکن است اطلاعات اختصاصی را به رقبای این شرکت‌ها منتقل کنند.
یکی از این افراد افزود اقداماتی برای جلوگیری از نشت مالکیت فکری در دست بررسی است؛ از جمله اینکه کارکنان آزمایشگاه‌ها روند کار تیم‌های ارزیابی تعبیه‌شده را مشاهده کنند و ارزیابانی که در یک آزمایشگاه فعالیت می‌کنند، هم‌زمان نتوانند در آزمایشگاه دیگری کار کنند.
با این حال، فرد دیگری که از تعاملات پیشین با آزمایشگاه‌های هوش مصنوعی اطلاع داشت گفت آنچه شرکت‌ها مالکیت فکری حیاتی می‌دانند، ممکن است با اطلاعاتی که برای ارزیابی خطرات یک مدل لازم است همپوشانی داشته باشد؛ موضوعی که می‌تواند به اختلاف بر سر حذف بخش‌هایی از گزارش‌ها یا اعمال سانسور منجر شود.
کارشناسان گفته‌اند استقلال ارزیاب‌ها یک نگرانی مهم است، زیرا Anthropic و OpenAI خود انتخاب می‌کنند چه کسانی بررسی مدل‌هایشان را انجام دهند. رویترز برای نخستین بار جزئیات این مذاکرات میان ارزیاب‌ها و آزمایشگاه‌های هوش مصنوعی را گزارش می‌کند.
این گفت‌وگوها تنش میان دو نیاز را برجسته می‌کند: آگاه کردن جهان از هوش مصنوعی‌های قدرتمند و بالقوه خطرناک، و حفاظت از اسرار تجاری شرکت‌هایی که در تلاش برای رسیدن به ارزش‌گذاری‌های چند تریلیون دلاری و احتمالاً عرضه اولیه سهام بزرگ هستند.
نتیجه این مذاکرات می‌تواند تعیین کند جهان چگونه فناوری‌ای را زیر نظر خواهد گرفت که برخی از سازندگان آن هشدار داده‌اند ممکن است با سرعتی پیشرفت کند که توانایی بشر برای مدیریت آن را پشت سر بگذارد.
برخی کارشناسان می‌گویند بدون استانداردهای مورد توافق و قوانین مشخص برای ارزیابی‌های مستقل، شرکت‌هایی که قدرتمندترین مدل‌های هوش مصنوعی را می‌سازند ممکن است تعیین کنند سیستم‌هایشان چگونه بررسی شوند و ارزیاب‌ها به تصمیم‌های خود این شرکت‌ها وابسته بمانند.
مذاکرات بر سر حق انتشار نتایج
دو فرد مطلع از این موضوع گفتند ماهیت مذاکرات به‌سرعت تغییر کرده است. آنها افزودند که تا پنجم اکتبر، Anthropic و OpenAI به دنبال کنترل سخت‌گیرانه بر آنچه ارزیاب‌ها می‌توانستند منتشر کنند بودند، اما تا هشتم اکتبر، مذاکرات میان Anthropic و برخی ارزیاب‌ها ظاهراً تغییر کرده بود.
Anthropic در پاسخ به پرسش‌های رویترز گفت توصیف این موضوع که این شرکت به دنبال کنترل قابل توجه بر انتشار گزارش‌های ارزیاب‌های تعبیه‌شده بوده، همه گفت‌وگوها و همکاری‌های آن با ارزیاب‌های مستقل را به‌درستی منعکس نمی‌کند.
این شرکت سازنده مدل‌های هوش مصنوعی Claude گفت در گفت‌وگوهای کنونی با ارزیاب‌هایی که پیش‌تر با آنها همکاری داشته، روشن کرده است که بررسی‌کنندگان خارجی کنترل روش‌ها، معیارهای ارزیابی، نتیجه‌گیری‌ها و محتوای قابل انتشار را در اختیار دارند.
Anthropic افزود در همکاری با شرکت‌های ارزیاب جدید، این حق را برای خود محفوظ می‌داند که درباره گزارش‌ها اظهارنظر کند و آنها را تأیید کند؛ زیرا این ارزیاب‌ها در حال یادگیری نحوه عملکرد مدل‌ها و ایجاد رابطه کاری با شرکت هستند.
OpenAI نیز اعلام کرد که به دنبال حق تأیید متن کامل گزارش‌های تهیه‌شده توسط ارزیاب‌ها نیست. این شرکت گفت رویه معمول آن حذف اطلاعات محرمانه است و ارزیاب‌ها می‌توانند اعلام کنند که آیا حذف‌های عمده‌ای از گزارش انجام شده است یا خیر.
سازنده ChatGPT ماه گذشته اعلام کرد آزمایشگاه‌های هوش مصنوعی و ارزیاب‌ها باید پیش از آغاز آزمایش درباره دامنه دسترسی و محدوده بررسی توافق کنند، روش‌ها و تضاد منافع را افشا کنند و اجازه دهند ارزیاب‌ها کنترل یافته‌های خود را در دست داشته باشند؛ در حالی که شرکت‌ها بتوانند از اطلاعات حساس محافظت کنند.
طبق قراردادی که رویترز مشاهده کرده است، برخی قراردادهای فعلی شرکت‌های هوش مصنوعی با مؤسسات ارزیاب مدل‌ها، این مؤسسات را از انتشار اطلاعات محرمانه در گزارش‌هایشان بدون رضایت شرکت‌ها منع می‌کند.
وعده‌های استقلال
Anthropic ماه گذشته اعلام کرد Faculty، کسب‌وکار تخصصی هوش مصنوعی شرکت Accenture، نخستین ارزیاب تعبیه‌شده آن خواهد بود، اما گفت جزئیات مربوط به اینکه ارزیاب‌ها به چه اطلاعاتی دسترسی خواهند داشت و چگونه یافته‌های خود را گزارش می‌کنند، هنوز در حال بررسی است.
مارک وارنر، مدیرعامل Faculty، به رویترز گفت: «ارزیاب‌ها تنها زمانی مفید هستند که مردم بتوانند به گزارش‌های آنها اعتماد کنند؛ بنابراین استقلال و شفافیت حیاتی است.»
شرکت‌های فناوری معمولاً مؤسساتی را که با آنها همکاری می‌کنند از به‌اشتراک گذاشتن چنین اطلاعاتی با دیگران بدون رضایت خود منع می‌کنند.
اما کارشناسان می‌گویند در مورد هوش مصنوعی، اهمیت موضوع بیشتر است؛ زیرا این فناوری، به گفته توسعه‌دهندگانش، پیامدهای بزرگی برای انسان‌ها خواهد داشت.
رومان چودری، فرستاده پیشین علم آمریکا در حوزه هوش مصنوعی در دولت بایدن و مدیرعامل Humane Intelligence PBC، به رویترز گفت در نبود استانداردها، آزمایشگاه‌ها می‌توانند کنترل دسترسی‌هایی را که ارزیاب‌ها به آنها وابسته‌اند در اختیار داشته باشند و از این طریق بر آنچه گزارش می‌شود اثر بگذارند.
چودری گفت: «ارزیاب‌ها دسترسی بسیار ویژه‌ای دارند، اما چه به‌طور آشکار و چه ضمنی، می‌دانند که این دسترسی هزینه‌ای دارد.»
ارزیابی مستقل یکی از چهار اقدام ایمنی در «توافق‌نامه کاخ سفید درباره ابرهوش مصنوعی» بود که ماه گذشته توسط دونالد ترامپ، رئیس‌جمهور آمریکا، و مدیران ارشد شرکت‌های هوش مصنوعی امضا شد. با این حال، این توافق‌نامه که ترامپ آن را «از نظر اخلاقی الزام‌آور» خوانده، مشخص نکرده بود این بررسی‌ها چگونه باید انجام شوند.
ارزیاب‌ها نیز ماه گذشته در نامه‌ای عمومی، حداقل شرایط مورد نیاز خود را اعلام کردند. این نامه که بیش از ۲۰۰ پژوهشگر، از جمله جفری هینتون، یکی از چهره‌های پیشگام هوش مصنوعی، آن را امضا کرده‌اند، خواستار کنترل مستقل بر یافته‌ها، دسترسی گسترده به آزمایشگاه‌های هوش مصنوعی و محافظت در برابر اقدامات تلافی‌جویانه شده است.
حذف اطلاعات و دسترسی محدود
OpenAI اطلاعات غیرعمومی را از گزارشی که توسط سازمان‌های Model Evaluation and Threat Research (METR) و Redwood Research درباره حادثه Hugging Face تهیه شده بود، حذف کرد؛ حادثه‌ای که در آن عامل‌های خودکار مبتنی بر مدل‌های پیشرفته OpenAI از کنترل خارج شدند و باعث یک حمله هکری شدند که زیرساخت Hugging Face را به خطر انداخت.
بررسی این دو سازمان غیرانتفاعی ایمنی هوش مصنوعی که ابتدا قرار بود دو روز در OpenAI انجام شود، به شش روز و طی سه بازدید گسترش یافت. مجموعه کامل‌تری از متن‌های ثبت‌شده نیز تنها در آخرین بازدید و پس از آن در اختیار پژوهشگران قرار گرفت که آنها شکاف‌های موجود در داده‌ها را مطرح کردند.
METR و Redwood گفتند بر اساس بازخورد OpenAI، ساختار، تأکیدها، شفافیت و لحن گزارش را ویرایش کردند، اما هیچ بخش مهم دیگری که برای نتیجه‌گیری‌هایشان ضروری باشد حذف نشد. آنها همچنان بر یافته‌های خود تأکید کردند و از دسترسی‌ای که در نهایت OpenAI فراهم کرد تمجید کردند، اما گفتند نگرانی از اینکه حوادث جدی باعث شود توسعه‌دهندگان دیگر از همکاری با ارزیاب‌های خارجی خودداری کنند، بر تصمیم‌های آنها هنگام تدوین، ویرایش و حذف بخش‌هایی از گزارش اثر گذاشته است.
(گزارش از آدیتیا سونی در نیویورک؛ ویرایش توسط کنت لی و متیو لوئیس)