آنتروپیک دسترسی بی‌سابقه‌ای به سیستم‌های داخلی خود در اختیار نهاد مستقل ناظر بر هوش مصنوعی قرار می‌دهد
آنتروپیک در اقدامی بی‌سابقه، به گروهی از ارزیابان مستقل هوش مصنوعی اجازه می‌دهد به سیستم‌های داخلی این شرکت دسترسی داشته باشند. این همکاری به ارزیابان امکان می‌دهد خطرات مدل‌های هوش مصنوعی و شیوه‌های ایمنی آنتروپیک را از نزدیک بررسی کنند و با محدودیت‌های کمتری یافته‌های خود را به‌صورت عمومی منتشر کنند.
آنتروپیک در مطلبی در وبلاگ رسمی خود اعلام کرد که توافق با سازمان غیرانتفاعی METR با هدف فراهم‌کردن امکان بررسی دقیق‌تر شیوه ارزیابی خطرات احتمالی در این شرکت انجام شده است. بر اساس این توافق، پژوهشگران مستقل به اطلاعاتی دسترسی خواهند داشت که راستی‌آزمایی آن‌ها از بیرون شرکت معمولاً دشوار است.
آنتروپیک اعلام کرد که شش نفر از کارکنان METR را برای فعالیت در این چارچوب به مجموعه خود وارد کرده و تجهیزات کاری شرکت، امکان حضور در محیط کار و دسترسی به ابزارها و سیستم‌های داخلی را در اختیار آن‌ها قرار داده است.
به گفته آنتروپیک، سازمان METR می‌تواند یافته‌های خود درباره ارزیابی خطرات، حوادث و رویه‌های ایمنی را بدون آنکه این شرکت اختیار جلوگیری از انتشار آن‌ها را داشته باشد، منتشر کند. بااین‌حال، آنتروپیک می‌تواند در موارد محدودی درخواست حذف یا پوشاندن بخش‌هایی از اطلاعات را مطرح کند. این موارد به دسته‌بندی‌هایی محدود می‌شوند که از پیش تعیین شده‌اند؛ از جمله داده‌های مشتریان، اطلاعات مشمول محرمانگی ارتباط میان وکیل و موکل و جزئیات حساس مربوط به معماری مدل‌های هوش مصنوعی.
این توافق گسترده‌ترین سطح دسترسی در چارچوب سه‌سطحی همکاری با ارزیابان مستقل محسوب می‌شود. در این چارچوب، سطح دسترسی از بررسی‌های محدود و مشخص که به تأیید شرکت نیاز دارند آغاز می‌شود و تا همکاری نزدیک و مستقر در داخل شرکت پیش می‌رود؛ مدلی که در آن ارزیابان می‌توانند مستقیماً با سیستم‌های داخلی آنتروپیک کار کنند.
آنتروپیک همچنین اعلام کرد که با شرکت‌های SecureBio، Accenture و Faculty همکاری می‌کند و گفت‌وگوهای مقدماتی با سازمان‌های دیگری از جمله Hugging Face نیز در جریان است.
سازمان SecureBio در حال حاضر بر اساس سطح نخست این چارچوب فعالیت می‌کند. این سازمان پس از تکمیل یک بررسی آزمایشی از گزارش پیشین آنتروپیک، اکنون مشغول ارزیابی بخش مربوط به سلاح‌های شیمیایی و بیولوژیکی در گزارش خطرات ماه اوت این شرکت است. آنتروپیک اعلام کرده پس از پایان ارزیابی فعلی، گسترش سطح دسترسی SecureBio را بررسی خواهد کرد.
اعلام این همکاری در شرایطی صورت می‌گیرد که توسعه‌دهندگان هوش مصنوعی با پرسش‌های فزاینده‌ای درباره کفایت ارزیابی‌های ایمنی داخلی خود روبه‌رو هستند. یکی از نگرانی‌های اصلی این است که آیا این ارزیابی‌ها امکان نظارت مستقل و مؤثر بر مدل‌هایی را فراهم می‌کنند که توانایی‌هایشان روزبه‌روز بیشتر می‌شود یا خیر.
اوایل همین هفته، کمیسیون تجارت فدرال آمریکا در پی تشدید بررسی‌های نهادهای نظارتی درباره حوادث مرتبط با ایمنی هوش مصنوعی و احتمال نقض مقررات حمایت از مصرف‌کنندگان، احضاریه‌های مدنی برای دو شرکت اوپن‌ای‌آی و آنتروپیک صادر کرد.
در همین حال، مارک لوین، حسابرس کل شهر نیویورک، از آنتروپیک خواسته است عرضه اولیه سهام خود در بورس (IPO) را تا زمان رسیدگی به نگرانی‌های مربوط به ایمنی هوش مصنوعی، حاکمیت شرکتی و خطرات ناشی از پیشرفت سریع این فناوری به تعویق بیندازد.
آنتروپیک می‌گوید رویکرد جدید این شرکت با هدف کاهش شکاف اطلاعاتی میان پژوهشگران مستقل و توسعه‌دهندگان هوش مصنوعی طراحی شده است؛ شکافی میان آنچه پژوهشگران بیرونی می‌توانند درباره عملکرد سیستم‌ها مشاهده کنند و اطلاعاتی که شرکت‌ها از سیستم‌های خود در اختیار دارند.
این شرکت همچنین به امضای توافق‌نامه کاخ سفید درباره ابرهوش اشاره کرده است؛ توافق‌نامه‌ای که از جمله تعهدات آن، همکاری با ارزیابان مستقل خارج از شرکت است.
آنتروپیک الگوی نظارتی پیشنهادی خود را با نظارت بر صنعت بانکداری مقایسه کرده است. در صنعت بانکداری، نهادهای نظارتی بیرونی می‌توانند برای ارزیابی خطراتی که صرفاً از طریق اطلاعات منتشرشده برای عموم قابل شناسایی نیستند، به فعالیت‌ها و فرایندهای داخلی مؤسسات دسترسی پیدا کنند.
آنتروپیک در توضیح این رویکرد اعلام کرد: «این اقدام برای صنعت هوش مصنوعی گامی به سوی نظارت قدرتمند و مؤثر بر ایمنی است. ما همکاری با چندین نهاد ارزیاب را با سرعت پیش می‌بریم و هم‌زمان به‌طور مستمر در حال یادگیری این موضوع هستیم که چه نوع مشارکت‌هایی بهتر نتیجه می‌دهند. متعهد هستیم که در طول این مسیر، تازه‌ترین اطلاعات مربوط به پیشرفت کار را منتشر کنیم.»
عکس: شاتراستاک
این مطلب تا حدی با کمک ابزارهای هوش مصنوعی تهیه شده و پس از بررسی ویراستاران بنزینگا به انتشار رسیده است.