آنتروپیک دسترسی بی‌سابقه‌ای به ارزیابان مستقل ایمنی هوش مصنوعی می‌دهد
آنتروپیک در حال کنار زدن پرده از سازوکارهای داخلی خود است. این شرکت فعال در حوزه ایمنی هوش مصنوعی اعلام کرده که به ارزیابان مستقل و شخص ثالث، دسترسی‌ای در سطح دسترسی کارکنان به سامانه‌های خود می‌دهد. این اقدام نخستین مورد از مشارکت داوطلبانه ناظران مستقل در فرایندهای عملیاتی یکی از آزمایشگاه‌های بزرگ هوش مصنوعی به شمار می‌رود. این تصمیم در شرایطی گرفته شده که آنتروپیک به قرار گرفتن نامش در فهرست سیاه پنتاگون اعتراض کرده است و با فشار فزاینده‌ای روبه‌روست تا ثابت کند ادعاهایش درباره ایمنی، صرفاً شعارهای تبلیغاتی نیستند.
آنتروپیک امیدوار است شفافیت به مزیتی رقابتی تبدیل شود. این شرکت مستقر در سان‌فرانسیسکو اعلام کرده است که ارزیابان مستقل ایمنی، به سطحی از دسترسی دست خواهند یافت که معمولاً به کارکنان اختصاص دارد؛ از جمله دسترسی کامل به فرایندهای آموزش، معماری مدل‌ها و ارزیابی‌های داخلی خطر. این تصمیم در صنعتی کم‌سابقه است که شرکت‌های فعال در آن همواره از مالکیت فکری خود با حساسیتی بسیار بالا محافظت کرده‌اند.
در چارچوب این برنامه، ارزیابان شرکت‌های مستقل ارزیابی ایمنی مستقیماً در فرایند توسعه محصولات آنتروپیک مشارکت خواهند کرد. آن‌ها می‌توانند در لحظه بررسی کنند که مدل‌های کلاود چگونه آموزش داده می‌شوند، چه داده‌هایی برای آموزش آن‌ها به کار می‌رود و شرکت پیش از عرضه عمومی چگونه خطرات احتمالی را می‌سنجد. می‌توان این سازوکار را به حضور دائمی بازرسان بهداشت در آشپزخانه تشبیه کرد؛ نه اینکه فقط در بازدیدهای از پیش تعیین‌شده به آنجا سر بزنند.
زمان اعلام این تصمیم نیز اهمیت دارد. تنها چند روز پیش، آنتروپیک و اوپن‌ای‌آی در پارلمان بریتانیا حاضر شدند و از قانون‌گذاران خواستند فعالیت آن‌ها را قانون‌گذاری کنند. پیام آن‌ها روشن بود: خواهان وضع مقررات هستند، اما می‌خواهند در تدوین آن‌ها نیز نقش داشته باشند. فراهم کردن دسترسی برای ارزیابان می‌تواند به این درخواست اعتبار بیشتری بدهد. دشوار است شرکتی ادعا کند که ایمنی را جدی می‌گیرد، اما در همان حال همه‌چیز را پشت توافق‌نامه‌های محرمانگی پنهان نگه دارد.
این اقدام همچنین در زمانی صورت می‌گیرد که ارزیابان مستقل ایمنی هوش مصنوعی بیش از پیش در کانون توجه صنعت قرار گرفته‌اند و به بازیگرانی مهم در صنعتی با ارزش تریلیون‌دلاری تبدیل شده‌اند؛ صنعتی که شرکت‌های آن برای عرضه مدل‌هایی هرچه قدرتمندتر با یکدیگر رقابت می‌کنند. این شرکت‌های ارزیابی که بسیاری از کارکنانشان را پژوهشگران سابق هوش مصنوعی و کارشناسان سیاست‌گذاری تشکیل می‌دهند، مدت‌هاست خواهان چنین سطحی از دسترسی هستند. اکنون دست‌کم در یکی از آزمایشگاه‌های بزرگ این حوزه، به این خواسته دست یافته‌اند.
با این حال، انگیزه آنتروپیک صرفاً خیرخواهانه نیست. این شرکت در حال مقابله با قرار گرفتن در فهرست سیاه پنتاگون است؛ اقدامی که آن را از دسترسی به قراردادهای پرسود دفاعی محروم کرده است. گشودن درهای شرکت به روی ارزیابان مستقل می‌تواند به بازسازی اعتماد سازمان‌های دولتی کمک کند؛ سازمان‌هایی که نسبت به ادعاهای آزمایشگاه‌های هوش مصنوعی درباره نظارت بر عملکرد خودشان بدبین‌تر شده‌اند. آنتروپیک همچنین با افزایش گمانه‌زنی‌ها درباره عرضه اولیه سهام، اطلاعات مالی خود را در اختیار شماری از سرمایه‌گذاران منتخب قرار می‌دهد. تأیید مستقل ایمنی نیز می‌تواند یکی از مدارک مهم در فرایند بررسی موشکافانه پیش از سرمایه‌گذاری باشد.
جزئیات فنی این برنامه نشان می‌دهد که دسترسی در نظر گرفته‌شده تا چه اندازه گسترده است. ارزیابان قرار نیست فقط گزارش‌های پالایش‌شده یا نتایج آزمایش‌های گزینشی را دریافت کنند. آن‌ها می‌توانند ارزیابی‌های خود را روی زیرساخت آنتروپیک اجرا کنند، وضعیت‌های مرزی و غیرمعمولی را که ممکن است از چشم شرکت دور مانده باشند بیازمایند و دستورالعمل‌های واکنش به حوادث را بررسی کنند. اگر کلاود رفتاری غیرمنتظره نشان دهد، مثلاً گزارش‌های جعلی درباره وقوع جرم تولید کند؛ اتفاقی که هفته گذشته رخ داد، ارزیابان می‌توانند بررسی کنند که شرکت چگونه موضوع را پیگیری و برطرف می‌کند.
اهمیت این موضوع در آن است که ایمنی هوش مصنوعی تا حد زیادی بر پایه اعتماد به خود شرکت‌ها پیش رفته است. آزمایشگاه‌ها مقالاتی درباره ایمنی منتشر می‌کنند، نتایج آزمون‌های موسوم به تیم قرمز را ارائه می‌دهند و اطمینان می‌دهند که با احتیاط عمل می‌کنند. اما افراد و نهادهای بیرونی، بدون دسترسی به سامانه‌های واقعی، راهی برای راستی‌آزمایی این ادعاها نداشتند. برنامه آنتروپیک این وضعیت را تغییر می‌دهد؛ دست‌کم اگر شرکت‌های دیگر نیز به اجرای چنین رویکردی روی بیاورند.
پیامدهای رقابتی این تصمیم قابل توجه است. اکنون اوپن‌ای‌آی، گوگل و متا با فشار روبه‌رو هستند تا از این سطح از شفافیت پیروی کنند یا توضیح دهند که چرا حاضر به انجام چنین کاری نیستند. آنتروپیک عملاً رقبای خود را به چالش کشیده است تا نشان دهند به همان اندازه به ایمنی متعهدند. این اقدام، حرکتی راهبردی و حساب‌شده است که در قالب ابتکاری برای بهبود سازوکارهای نظارتی ارائه شده است.
نهادهای قانون‌گذار نیز این تحولات را از نزدیک دنبال می‌کنند. قانون هوش مصنوعی اتحادیه اروپا، طرح‌های قانونی در دست بررسی برای ایمنی هوش مصنوعی در کالیفرنیا و پیشنهادهای ارائه‌شده در سطح فدرال آمریکا، همگی موضوع الزام به ارزیابی مستقل و شخص ثالث را مطرح کرده‌اند. آنتروپیک با این اقدام پیشاپیش خود را با این روند هماهنگ می‌کند و ممکن است بر شکل‌گیری الزامات آینده حسابرسی و ارزیابی تأثیر بگذارد. اگر این برنامه موفق باشد، می‌تواند به الگویی برای دیگران تبدیل شود. اما اگر شکست بخورد، رقبا ممکن است به آن استناد کنند و خواهان مقرراتی کم‌سخت‌گیرانه‌تر شوند.
این برنامه همچنین به تنشی پاسخ می‌دهد که از زمان هشدار آنتروپیک درباره احتمال تکثیر مدل‌های هوش مصنوعی در دستگاه‌های مختلف رو به افزایش بوده است. هرچه سامانه‌های هوش مصنوعی مستقل‌تر و توانمندتر می‌شوند، فاصله میان آنچه آزمایشگاه‌ها درباره قابلیت‌های مدل‌هایشان ادعا می‌کنند و آنچه پژوهشگران مستقل می‌توانند راستی‌آزمایی کنند، بیشتر شده است. دسترسی ارزیابان در سطح کارکنان، دست‌کم در تئوری، می‌تواند این فاصله را کاهش دهد.
با این همه، پرسش‌های مهمی همچنان بی‌پاسخ مانده‌اند. چه کسی ارزیابان را انتخاب می‌کند؟ اگر آن‌ها به یافته‌ای برسند که آنتروپیک نخواهد علنی شود، چه اتفاقی خواهد افتاد؟ چه میزان از نتایج ارزیابی‌ها منتشر خواهد شد؟ این شرکت هنوز جزئیات کامل برنامه را اعلام نکرده است و همین جزئیات تعیین می‌کنند که آیا با شفافیتی واقعی روبه‌رو هستیم یا صرفاً نمایشی پیچیده برای جلب اعتماد. تفاوت میان این دو اهمیت زیادی دارد، به‌ویژه در شرایطی که درخواست‌ها برای همکاری در زمینه ایمنی هوش مصنوعی حتی به رقبای ژئوپلیتیکی نیز گسترش یافته است.
با وجود این ابهام‌ها، اعلام این برنامه معیارهای رایج درباره آنچه در حکمرانی هوش مصنوعی پذیرفتنی تلقی می‌شود، تغییر می‌دهد. شش ماه پیش، ایده دسترسی افراد خارج از شرکت به اطلاعات و سامانه‌های داخلی در سطح کارکنان، احتمالاً ساده‌لوحانه و از نظر تجاری خودکشی تلقی می‌شد. اکنون این اتفاق در حال رخ دادن است و واکنش صنعت نشان خواهد داد که سایر شرکت‌ها تا چه اندازه به تعهدات ایمنی‌ای پایبندند که بارها در جلسات استماع کنگره و نوشته‌های وبلاگی خود مطرح کرده‌اند.
برنامه دسترسی ارزیابان آنتروپیک یا نقطه عطفی در شفافیت هوش مصنوعی است یا تلاشی حساب‌شده برای جلب اعتماد پیش از عرضه اولیه سهام و رویارویی‌های قانونی. پاسخ به این پرسش به جزئیات اجرایی بستگی دارد که هنوز مشخص نشده‌اند. با این حال، این اقدام رقبا را در موقعیتی دشوار قرار می‌دهد: یا باید چنین سطحی از گشودگی را بپذیرند یا اعتراف کنند که تعهدشان به ایمنی، به اندازه آنچه در تبلیغاتشان ادعا می‌کنند، جدی نیست. در صنعتی که سال‌ها وعده داده است مسئولانه بر فعالیت خود نظارت کند، اکنون یک شرکت دیگران را به چالش کشیده تا نشان دهند واقعاً به وعده‌هایشان عمل می‌کنند. حالا باید دید چه کسانی عقب‌نشینی می‌کنند و چه کسانی حاضرند دست خود را رو کنند.