پشت درخواست صنعت هوش مصنوعی برای ارزیابی مستقل؛ نبرد بر سر اطلاعاتی که منتشر می‌شود
نیویورک — به گفته دو فرد آگاه از مذاکرات، شرکت‌های Anthropic و OpenAI تلاش کرده‌اند کنترل قابل‌توجهی بر آنچه ارزیابان بیرونی می‌توانند منتشر کنند داشته باشند؛ زیرا نگران‌اند یافته‌های این ارزیابی‌ها اسرار تجاری آن‌ها را آشکار کند.
داریو آمودی، مدیرعامل Anthropic، ماه گذشته گفت ارزیابان خارجی باید حق انتشار یافته‌های مهم را «بدون کنترل تحریریه» داشته باشند. OpenAI نیز چند روز بعد اعلام کرد ارزیابان باید از «استقلال تحریریه» برخوردار باشند.
به گفته این افراد که به دلیل خصوصی بودن موضوع نخواستند نامشان فاش شود، شرکت‌های هوش مصنوعی نگران‌اند کارکنان ارزیاب که در قالب «ارزیابی تعبیه‌شده» در داخل شرکت‌ها فعالیت می‌کنند، ممکن است اطلاعات اختصاصی را به رقبای آن‌ها منتقل کنند.
یکی از این افراد افزود، از جمله اقداماتی که برای جلوگیری از نشت مالکیت فکری در حال بررسی است، حضور کارکنان آزمایشگاه‌های هوش مصنوعی در کنار تیم‌های ارزیابی تعبیه‌شده هنگام کار و جلوگیری از فعالیت هم‌زمان ارزیابان مستقر در یک آزمایشگاه برای آزمایشگاه دیگر است.
فرد دیگری که از تعاملات پیشین با این آزمایشگاه‌ها آگاه است گفت، اما آنچه شرکت‌ها اطلاعات مالکیت فکری حیاتی می‌دانند ممکن است با اطلاعاتی که برای ارزیابی خطرات یک مدل ضروری است هم‌پوشانی داشته باشد؛ موضوعی که می‌تواند به اختلاف بر سر حذف بخش‌هایی از گزارش‌ها و اعمال سانسور منجر شود.
کارشناسان گفته‌اند استقلال ارزیابان، در شرایطی که Anthropic و OpenAI خود انتخاب می‌کنند چه کسانی بررسی‌ها را انجام دهند، یک نگرانی مهم است. رویترز برای نخستین بار جزئیات مذاکرات میان ارزیابان و آزمایشگاه‌های هوش مصنوعی درباره این موضوع را گزارش می‌کند.
این گفت‌وگوها تنشی اساسی را برجسته می‌کند: از یک سو نیاز به آگاه کردن جهان از هوش مصنوعی قدرتمند و بالقوه خطرناک وجود دارد و از سوی دیگر شرکت‌های هوش مصنوعی که به دنبال ارزش‌گذاری‌های چند تریلیون دلاری در عرضه‌های اولیه احتمالی سهام هستند، خواهان حفاظت از اسرار تجاری خود هستند.
نتیجه این مذاکرات به تعیین چگونگی نظارت جهان بر فناوری‌ای کمک خواهد کرد که برخی از سازندگان آن هشدار داده‌اند ممکن است با سرعتی پیش برود که توانایی بشر برای مدیریت آن را پشت سر بگذارد.
برخی کارشناسان می‌گویند در نبود استانداردهای مورد توافق و قوانین مشخص برای ارزیابی‌های مستقل، شرکت‌هایی که قدرتمندترین مدل‌های هوش مصنوعی را می‌سازند ممکن است تعیین کنند سیستم‌هایشان چگونه بررسی شوند و ارزیابان در نهایت به تصمیم‌های خود این آزمایشگاه‌ها وابسته بمانند.
مذاکرات بر سر حقوق انتشار
ماهیت این مذاکرات به‌سرعت تغییر کرد. دو فرد آگاه از موضوع گفتند که تا پنجم اکتبر، Anthropic و OpenAI خواهان کنترل سخت‌گیرانه بر محتوایی بودند که ارزیابان می‌توانستند منتشر کنند. به گفته یکی از افراد مطلع، تا هشتم اکتبر، مذاکرات میان Anthropic و برخی ارزیابان ظاهراً تغییر کرده بود.
Anthropic در پاسخ به پرسش‌های رویترز گفت این توصیف که این شرکت در همه گفت‌وگوها و همکاری‌های خود با ارزیابان مستقل به دنبال کنترل قابل‌توجه بر انتشار گزارش‌ها بوده، دقیق نیست.
این شرکت سازنده مدل‌های هوش مصنوعی Claude گفت در گفت‌وگوهای کنونی با ارزیابانی که پیش‌تر با آن‌ها همکاری داشته، روشن کرده است که بررسی‌کنندگان خارجی کنترل روش‌ها، معیارهای ارزیابی، نتیجه‌گیری‌ها و محتوای قابل انتشار را در اختیار دارند.
Anthropic افزود، درباره شرکت‌های ارزیاب جدید، این شرکت حق اظهارنظر و تأیید گزارش‌ها را برای خود محفوظ می‌داند؛ زیرا این ارزیابان در حال آشنایی با نحوه عملکرد مدل‌های آن و ایجاد رابطه کاری هستند.
OpenAI نیز اعلام کرد که به دنبال حق تأیید متن کامل گزارش‌های تولیدشده توسط ارزیابان نیست. این شرکت گفت رویه معمول آن حذف اطلاعات محرمانه است و ارزیابان می‌توانند اعلام کنند آیا حذف‌های گسترده‌ای از گزارش انجام شده است یا خیر.
سازنده ChatGPT ماه گذشته گفت آزمایشگاه‌های هوش مصنوعی و ارزیابان باید پیش از آزمایش درباره دامنه بررسی و سطح دسترسی توافق کنند، روش‌ها و تعارض‌های منافع را افشا کنند و اجازه دهند ارزیابان کنترل یافته‌های خود را در دست داشته باشند، در حالی که شرکت‌ها نیز بتوانند از اطلاعات حساس محافظت کنند.
بر اساس قراردادی که رویترز مشاهده کرده است، زبان مورد استفاده در برخی قراردادهای فعلی آزمایشگاه‌های هوش مصنوعی با شرکت‌های ارزیاب مدل‌ها می‌تواند این شرکت‌ها را از انتشار اطلاعات محرمانه در گزارش‌هایشان بدون رضایت آزمایشگاه‌ها منع کند.
وعده‌های استقلال
Anthropic ماه گذشته اعلام کرد شرکت Faculty، واحد تخصصی هوش مصنوعی Accenture، نخستین ارزیاب تعبیه‌شده این شرکت خواهد بود، اما گفت جزئیات مربوط به سطح دسترسی ارزیابان و نحوه گزارش یافته‌ها همچنان در حال نهایی شدن است.
مارک وارنر، مدیرعامل Faculty، به رویترز گفت: «ارزیابان تنها زمانی مفید هستند که مردم بتوانند به گزارش‌های آن‌ها اعتماد کنند؛ بنابراین استقلال و شفافیت بسیار مهم است.»
شرکت‌های فناوری معمولاً شرکت‌هایی را که با آن‌ها همکاری می‌کنند از به‌اشتراک‌گذاری چنین اطلاعاتی با دیگران بدون رضایت خود منع می‌کنند.
اما کارشناسان می‌گویند با توجه به اینکه توسعه‌دهندگان این فناوری معتقدند هوش مصنوعی پیامدهای بزرگی برای انسان‌ها خواهد داشت، اهمیت موضوع در مورد هوش مصنوعی بیشتر است.
رومان چودری، فرستاده پیشین علمی آمریکا در حوزه هوش مصنوعی در دولت بایدن و مدیرعامل Humane Intelligence PBC، به رویترز گفت در نبود استانداردها، آزمایشگاه‌ها می‌توانند دسترسی‌ای را که ارزیابان به آن وابسته‌اند کنترل کنند و از این طریق بر آنچه گزارش می‌شود نفوذ داشته باشند.
چودری گفت: «ارزیابان به این دسترسی بسیار ویژه دست دارند، اما چه به‌طور صریح و چه ضمنی، می‌دانند که این دسترسی هزینه‌ای دارد.»
ارزیابی مستقل یکی از چهار اقدام ایمنی در «توافق‌نامه کاخ سفید درباره ابرهوش» بود که ماه گذشته دونالد ترامپ، رئیس‌جمهور آمریکا، و مدیران ارشد شرکت‌های هوش مصنوعی آن را امضا کردند. اما این توافق‌نامه که ترامپ آن را «از نظر اخلاقی الزام‌آور» خوانده، مشخص نکرده بود این بررسی‌ها چگونه باید انجام شوند.
ارزیابان نیز ماه گذشته در نامه‌ای عمومی که بیش از ۲۰۰ پژوهشگر، از جمله جفری هینتون، یکی از چهره‌های پیشگام هوش مصنوعی، آن را امضا کرده‌اند، حداقل شرایط خود را اعلام کردند. این نامه خواستار کنترل مستقل بر یافته‌ها، دسترسی گسترده به آزمایشگاه‌های هوش مصنوعی و محافظت در برابر اقدامات تلافی‌جویانه شده است.
حذف اطلاعات و دسترسی محدود
OpenAI اطلاعات غیرعمومی را از گزارشی که توسط مؤسسه Model Evaluation and Threat Research یا METR و Redwood Research درباره حادثه Hugging Face تهیه شده بود، حذف کرد؛ حادثه‌ای که در آن عامل‌های خودمختار مجهز به مدل‌های پیشرفته OpenAI از کنترل خارج شدند و با آغاز یک حمله سایبری، زیرساخت Hugging Face را به خطر انداختند.
بررسی این دو سازمان غیرانتفاعی حوزه ایمنی هوش مصنوعی که ابتدا قرار بود طی دو روز در OpenAI انجام شود، به شش روز و سه نوبت حضور در این شرکت کشید. نسخه کامل‌تر رونوشت‌ها تنها در آخرین بازدید ارائه شد، پس از آنکه پژوهشگران وجود شکاف‌هایی در داده‌ها را مطرح کردند.
METR و Redwood اعلام کردند ساختار، میزان تأکید، شفافیت و لحن گزارش را بر اساس بازخورد OpenAI ویرایش کردند، اما هیچ اطلاعات مهم دیگری که بر نتیجه‌گیری‌های آن‌ها اثر بگذارد حذف نشد. آن‌ها همچنان بر یافته‌های خود تأکید کردند و از دسترسی‌ای که OpenAI در نهایت فراهم کرد تمجید کردند، اما گفتند نگرانی از اینکه گزارش‌های انتقادی باعث شود توسعه‌دهندگان دیگر تمایل کمتری به استفاده از ارزیابان خارجی داشته باشند، بر تصمیم‌های آن‌ها هنگام نگارش، ویرایش و حذف بخش‌هایی از گزارش تأثیر گذاشت.
گزارش از آدیتیا سونی در نیویورک؛ ویرایش توسط کنت لی و متیو لوئیس