آزمایشگاه‌های هوش مصنوعی درباره ارزیابی‌های مستقل ایمنی دچار تردید شده‌اند
درخواست برای نظارت بر هوش مصنوعی ممکن است از داخل خود این صنعت مطرح شده باشد، اما مطرح‌کنندگان آن نمی‌خواهند این نظارت بیش از حد گسترش پیدا کند. تنها چند هفته پس از توافق OpenAI و Anthropic برای اجرای برنامه‌ای داوطلبانه که به ارزیابان بیرونی اجازه می‌دهد به درون آزمایشگاه‌های آن‌ها دسترسی داشته باشند، این دو شرکت در تلاش هستند کنترل کنند ارزیابان با اطلاعاتی که جمع‌آوری می‌کنند چه کاری می‌توانند انجام دهند.
بر اساس گزارشی از رویترز در روز سه‌شنبه ۱۳ اکتبر، منابع آگاه گفته‌اند شرکت‌های هوش مصنوعی نگران هستند کارکنان ارزیابی که در قالب برنامه‌ای موسوم به «ارزیابی تعبیه‌شده» در داخل شرکت‌ها فعالیت می‌کنند، اطلاعات اختصاصی را به رقبا منتقل کنند. به همین دلیل این شرکت‌ها خواهان محدودیت‌هایی درباره اطلاعاتی هستند که می‌تواند منتشر شود.
ارزیابی مستقل یکی از چهار اقدام ایمنی در توافق یک‌صفحه‌ای نظارت بر هوش مصنوعی بود که ماه گذشته میان دونالد ترامپ، رئیس‌جمهور آمریکا، و مدیران ارشد شرکت‌های هوش مصنوعی امضا شد. با این حال، این اقدامات داوطلبانه هستند و این توافق مشخص نکرده است که بررسی‌های ایمنی باید چگونه انجام شوند.
ماه گذشته، هر دو شرکت Anthropic و OpenAI اعلام کردند ارزیابان باید حق انتشار یافته‌های کلیدی خود را بدون دخالت تحریریه‌ای داشته باشند. اما آزمایشگاه‌های هوش مصنوعی اکنون نگران شده‌اند که اطلاعات لازم برای سنجش خطرات یک مدل ممکن است شامل مالکیت فکری حساس و دیگر اطلاعات اختصاصی باشد که احتمال دارد در اختیار رقبا قرار گیرد.
بر اساس اطلاعات منابع رویترز، اقداماتی که اکنون در حال بررسی هستند شامل حضور کارکنان آزمایشگاه‌ها در کنار ارزیابان مستقل هنگام انجام کار و ممنوعیت فعالیت ارزیابانی است که در یک آزمایشگاه کار می‌کنند برای همکاری با آزمایشگاه دیگر. Anthropic و OpenAI همچنین در حال بازنگری در این موضوع هستند که آیا باید بر محتوای گزارش‌هایی که ارزیابان می‌توانند منتشر کنند، کنترل تحریریه‌ای اعمال شود یا خیر.
Anthropic به رویترز گفت در گفت‌وگوهای فعلی با ارزیابانی که پیش‌تر با آن‌ها همکاری داشته، روشن کرده است که بررسی‌کنندگان خارجی کنترل روش‌ها، معیارهای ارزیابی، نتیجه‌گیری‌ها و محتوای قابل انتشار را در اختیار دارند. با این حال، این شرکت اعلام کرد درباره شرکت‌های ارزیابی جدید، حق اظهار نظر و تأیید گزارش‌ها را برای خود محفوظ می‌داند.
OpenAI به این خبرگزاری گفت که به دنبال داشتن حق تأیید متن کامل گزارش‌های تهیه‌شده توسط ارزیابان نیست، اما رویه معمول این شرکت حذف اطلاعات محرمانه از گزارش‌هاست. ارزیابان اجازه خواهند داشت اعلام کنند که آیا بخش‌های مهمی از گزارش‌ها حذف شده‌اند یا خیر.
در نامه‌ای سرگشاده که ماه گذشته به امضای ۲۰۰ پژوهشگر، از جمله جفری هینتون، رسید، ارزیابان احتمالی خواستار کنترل مستقل بر یافته‌ها، دسترسی گسترده به آزمایشگاه‌های هوش مصنوعی و حمایت در برابر اقدامات تلافی‌جویانه شدند.
این اختلاف‌نظر در شرایطی شکل گرفته است که قانون‌گذاران و برخی مدیران فناوری خواستار نظارت دولتی سخت‌گیرانه‌تر بر شرکت‌های هوش مصنوعی شده‌اند و معتقدند نباید تنها به خودنظارتی داوطلبانه صنعت اتکا کرد. چندین طرح قانونی نیز اخیراً در کنگره آمریکا ارائه شده‌اند که هدف آن‌ها افزایش شفافیت درباره عملکرد داخلی آزمایشگاه‌های هوش مصنوعی است. ماه گذشته، سه سناتور دموکرات قانون مدیریت ریسک و امنیت هوش مصنوعی را معرفی کردند که بر اساس آن وزارت بازرگانی مسئول تدوین استانداردهای فنی برای ارزیابی خطرات مدل‌های هوش مصنوعی و ایجاد قالب‌های استاندارد برای انتشار جزئیات فنی خواهد بود.
طرح قانونی دیگری که توسط سناتور جمهوری‌خواه جاش هاولی از ایالت میزوری ارائه شده، وزارت انرژی را مسئول آزمون فشار قدرتمندترین سامانه‌های هوش مصنوعی پیش از عرضه عمومی می‌کند. این طرح همچنین جریمه‌های مالی سنگینی برای شرکت‌هایی در نظر می‌گیرد که مدل‌های پیشرفته جدید را بدون انجام بررسی‌های قبلی منتشر کنند.
همچنین برد اسمیت، رئیس شرکت مایکروسافت، در مصاحبه‌ای با بی‌بی‌سی در روز دوشنبه گفت زمان اقدام دولت‌ها فرا رسیده است. او به موارد اخیری اشاره کرد که در آن‌ها آزمایشگاه‌ها کنترل برخی عامل‌های هوش مصنوعی خود را در محیط واقعی از دست داده‌اند. او گفت: «لحظه اقدام فرا رسیده است. همین حالا ماشین لباسشویی شما تحت قوانین ایمنی بیشتری نسبت به هوش مصنوعی قرار دارد. هر بسته شیری که در فروشگاه می‌بینید مشمول قوانین و بازرسی‌های ایمنی است.»
او خواستار توافق دولت‌های سراسر جهان بر سر قوانین مشترک برای تضمین ایمنی هوش مصنوعی شد و گفت شرکت‌ها باید هنگام نفوذ عامل‌های هوش مصنوعی خارج از کنترل به سامانه‌ها، این رخدادها را اعلام کنند و گزارش‌های رسمی درباره آن‌ها ارائه دهند.
با این حال، برای OpenAI و Anthropic، درخواست‌ها برای شفافیت بیشتر در شرایطی مطرح می‌شود که این شرکت‌ها در آستانه عرضه اولیه سهام احتمالی خود به دنبال ارزش‌گذاری‌هایی در مقیاس تریلیون دلار هستند. افشای اسرار تجاری ارزشمند می‌تواند این برنامه‌ها را با کمک به رقبا به خطر بیندازد. این مسئله همچنین می‌تواند بر نحوه بررسی شرکت‌ها توسط سرمایه‌گذاران احتمالی و ارزیابی ریسک آن‌ها تأثیر بگذارد.
با توجه به تعهدات عظیم بدهی در داخل و خارج از ترازنامه‌های مالی و نیاز دائمی به جذب سرمایه جدید، آزمایشگاه‌های پیشرو هوش مصنوعی نمی‌توانند کاهش اعتماد سرمایه‌گذاران را تحمل کنند.