آنتروپیک ارزیاب‌های مستقل هوش مصنوعی را در ساختار خود مستقر می‌کند
آنچه آنتروپیک اعلام کرد
این اقدام پس از آن صورت می‌گیرد که داریو آمودی، مدیرعامل آنتروپیک، ماه گذشته پیشنهاد کرد سرعت توسعه مدل‌ها کاهش یابد و همکاری با ارزیاب‌های شخص ثالث افزایش پیدا کند. آمودی در آن زمان گفت این ارزیاب‌ها به «راستی‌آزمایی» پایبندی آنتروپیک به رویه‌های ایمنی کمک خواهند کرد.
چند روز پس از این پیشنهاد، آنتروپیک شرکت اَکسنچر را به‌عنوان نخستین شریک خود معرفی کرد. این شرکت ماه گذشته اعلام کرد با توجه به «اهمیت و فوریت این کار»، مستقیماً هزینه فعالیت اَکسنچر را تأمین خواهد کرد؛ موضوعی که در شبکه‌های اجتماعی درباره استقلال این ارزیابی‌ها پرسش‌هایی ایجاد کرد. آنتروپیک روز پنجشنبه افزود که با اَکسنچر برای ایجاد «مشارکتی بلندپروازانه» در حال همکاری است، اما مشخص نکرد اَکسنچر در چارچوب چندسطحی این شرکت دقیقاً چه جایگاهی خواهد داشت. آنتروپیک اعلام کرد: «ما به‌صورت داوطلبانه ارزیاب‌ها را در ساختار خود مستقر می‌کنیم و معتقدیم هر شرکت فعال در توسعه هوش مصنوعی پیشرفته نیز باید همین کار را انجام دهد.»
سیستم سه‌سطحی چگونه کار می‌کند
آنتروپیک سه سطح دسترسی برای ارزیاب‌ها تعریف کرده است. در سطح نخست، ارزیاب‌ها فقط به بررسی‌های کوچک و مشخصی درباره ریسک دسترسی دارند. در سطح دوم، ارزیاب‌ها می‌توانند یافته‌های خود را بدون نیاز به تأیید آنتروپیک به‌صورت عمومی منتشر کنند. ارزیاب‌های سطح سوم نیز دسترسی‌ای مشابه کارکنان شرکت خواهند داشت.
METR در سطح سوم قرار گرفته است. آنتروپیک اعلام کرده است که شش نفر از کارکنان METR به این شرکت پیوسته‌اند و به سخت‌افزار و دفاتر آنتروپیک و همچنین ابزارهایی در سطح مشابه ابزارهای مورد استفاده تیم‌های ارزیابی ریسک خود آنتروپیک دسترسی دارند. مأموریت آنها ارزیابی وضعیت ریسک آنتروپیک، بررسی رخدادها و رویه‌های روزمره شرکت و انتشار عمومی نتایج است. آنتروپیک تأکید کرده که هزینه فعالیت METR را تأمین نمی‌کند.
SecureBio در سطح نخست قرار دارد و در نتیجه دسترسی محدودتری دارد. این سازمان در حال بررسی بخش مربوط به سلاح‌های شیمیایی و زیستی در گزارش ریسک آنتروپیک در ماه اوت است. در اقدامات بعدی، ممکن است SecureBio در قالب ترتیباتی با دسترسی گسترده‌تر و آزادی بیشتر برای انتشار یافته‌ها مشارکت کند.
زمینه گسترده‌تر و پرسش‌های بی‌پاسخ
آنتروپیک اعلام کرده است که با گروه‌های دیگری، از جمله Hugging Face، نیز درباره نوع دسترسی احتمالی آنها در حال گفت‌وگو است. Hugging Face که بیشتر به‌خاطر پلتفرم توسعه‌دهندگان متن‌باز خود شناخته می‌شود، در ماه ژوئیه مورد توجه قرار گرفت؛ زمانی که دو مدل OpenAI از محیط کنترل‌شده خارج شدند و از طریق اینترنت عمومی به سامانه‌های این شرکت رسیدند. ماه گذشته، انویدیا Hugging Face را با قیمتی کمی کمتر از ۱۳ میلیارد دلار خریداری کرد.
این شرکت همچنین به نبود هنجارهای مشخص درباره نظارت درون‌سازمانی توسط ارزیاب‌های مستقل اشاره کرد. آنتروپیک در چارچوب «چارچوب هوش مصنوعی پیشرفته» خود در ماه ژوئن، در بلندمدت خواستار تأمین مالی مشترک یا دولتی شده بود. از آنجا که هنوز هیچ‌یک از این دو سازوکار ایجاد نشده است، آنتروپیک می‌گوید با ارزیاب‌های مختلف همکاری خواهد کرد و هر یک از آنها تحت سازوکار تأمین مالی مستقل خود فعالیت خواهند کرد.
چرا این موضوع برای سبد سرمایه‌گذاری شما اهمیت دارد
نهادهای ناظر مستقل بیش از گذشته در کانون توجه قرار گرفته‌اند. ارزیاب‌های مستقل تا پیش از آنکه نگرانی‌های ایمنی به رشد اهمیت آنها منجر شود، جایگاهی تخصصی و محدود در صنعت چندتریلیون‌دلاری هوش مصنوعی داشتند. در اواخر سپتامبر، دونالد ترامپ، رئیس‌جمهور آمریکا، از شرکت‌های هوش مصنوعی خواست در قالب یک توافق داوطلبانه با «یک حسابرس یا ارزیاب مستقل خارجی» همکاری کنند؛ توافقی که آمودی نیز همراه با مدیران گوگل، متا، OpenAI، اسپیس‌ایکس و انویدیا آن را امضا کرد. برنامه آنتروپیک نشان می‌دهد نظارت درون‌سازمانی توسط ارزیاب‌های مستقل در عمل چگونه می‌تواند اجرا شود؛ از اینکه چه کسانی به دسترسی عمیق دست پیدا می‌کنند تا اینکه چه کسانی می‌توانند بدون دریافت مجوز، یافته‌های خود را منتشر کنند.
برای افرادی که در معرض سرمایه‌گذاری‌های مرتبط با حوزه هوش مصنوعی هستند، مسئله اصلی این است که آیا شرکت‌ها حاضرند از طرف‌های ثالث معتبر دعوت کنند تا سامانه‌هایشان را تحت آزمون‌های سخت قرار دهند و نتایج را گزارش کنند یا نه. قواعد این حوزه هنوز در حال شکل‌گیری است، مدل‌های تأمین مالی همچنان مشخص نیست و میزان استقلال این ارزیاب‌ها نیز زیر ذره‌بین خواهد بود. این ترکیب می‌تواند بر ریسک، اعتماد و در نهایت بر این موضوع اثر بگذارد که کدام شرکت‌ها بتوانند اعتماد مشتریان و نهادهای نظارتی را جلب کنند.