گزارش‌ها: آنتروپیک و اوپن‌ای‌آی خواهان کنترل قابل‌توجه بر انتشار نتایج ارزیابی‌های مستقل شده‌اند

زمینه

تنش میان توسعه‌دهندگان پیشرفته‌ترین سامانه‌های هوش مصنوعی و ارزیابان مستقل بیرونی، الگویی آشنا در صنایعی دارد که ارزیابی ایمنی به دسترسی به محصول یا فناوری مورد بررسی وابسته است. در چنین شرایطی، تولیدکنندگان معمولاً با استناد به مالکیت فکری تلاش کرده‌اند دامنه اطلاعاتی را که حسابرسان یا ارزیابان می‌توانند منتشر کنند، محدود کنند و همین اختلاف‌ها اغلب به نقطه اتکایی برای ایجاد سازوکارهای رسمی نظارت تبدیل شده است.

پیامد عملی نمونه‌های مشابه این بوده است که نظام‌های ارزیابی مبتنی بر خودتنظیمی، زمانی اعتبار خود را از دست می‌دهند که مشخص شود خود شرکت‌های مورد ارزیابی، شرایط انتشار نتایج را تعیین می‌کنند. همین مسئله معمولاً استدلالی برای حرکت از توافق‌های داوطلبانه به سمت الزام‌های قانونی برای افشای اطلاعات ایجاد می‌کند.

در این میان، نقش این دو شرکت اهمیت دارد: آنتروپیک و اوپن‌ای‌آی هر دو به‌طور عمومی از ارزیابی‌های شخص ثالث حمایت کرده‌اند، اما هم‌زمان در تلاش بوده‌اند از وزن‌های مدل‌ها و روش‌های آموزش خود محافظت کنند. بنابراین، تفاوت مهم میان حفاظت مشروع از اسرار تجاری و اعمال حق وتو بر انتشار یافته‌های نامطلوب است؛ زیرا در صنایع دیگر، نهادهای ناظر و مشتریان بزرگ، مورد دوم را عاملی دانسته‌اند که اعتبار یک سازوکار ارزیابی را از بین می‌برد.

اکنون باید دید آیا ارزیابان بزرگ، شرایط محدودکننده را می‌پذیرند، با وجود این محدودیت‌ها نتایج خود را منتشر می‌کنند یا از همکاری کنار می‌کشند. همچنین باید زیر نظر داشت که آیا مشتریان بزرگ این شرکت‌ها در فرایند خرید و استفاده از فناوری، درخواست تأیید مستقل را افزایش می‌دهند یا خیر.

برای شرکت‌های بورسی مرتبط، اثر احتمالی این موضوع بیشتر از مسیر احساسات بازار نسبت به سهام نرم‌افزارهای مرتبط با هوش مصنوعی و افزایش صرف ریسک‌های نظارتی منتقل می‌شود، نه از طریق تأثیر فوری بر درآمدها.