انتشار گزارش منفعت عمومی آنتروپیک؛ پیشرفت‌های هوش مصنوعی و کاستی‌ها در سنجش تأثیر آن
این شرکت کاربرد کلود در آموزش، علوم و سلامت، تعهدات ایمنی هوش مصنوعی، پیشنهاد اختصاص ۵ درصد از سهام و برنامه انتشار گزارش‌های سالانه را تشریح می‌کند.
گزارش منفعت عمومی آنتروپیک در سال ۲۰۲۶، پیشرفت‌ها و تعهدات این شرکت در حوزه ایمنی هوش مصنوعی، پژوهش علمی، آموزش، حکمرانی و منافع عمومی را تشریح می‌کند.
آنتروپیک گزارش منفعت عمومی سال ۲۰۲۶ خود را منتشر کرده و متعهد شده است هر سال گزارشی از پیشرفت‌هایش در زمینه ایمنی هوش مصنوعی و منافع عمومی ارائه دهد. این شرکت در عین حال اذعان کرده است که هنوز شواهد کافی گردآوری نکرده تا مشخص شود بخش قابل‌توجهی از فعالیت‌هایش در حوزه‌های آموزش و سلامت به نتایج موردنظر منجر شده‌اند یا خیر.
این گزارش که ۲۱ اکتبر منتشر شد، اقدامات آنتروپیک برای تحقق منشور منفعت عمومی خود را بررسی می‌کند و موضوعاتی همچون توسعه مسئولانه هوش مصنوعی، حکمرانی، فرصت‌های اقتصادی و دسترسی به فناوری‌های پیشرفته را در بر می‌گیرد.
در گزارش، آماری از گسترش استفاده از کلود در آموزش و پژوهش علمی، نمونه‌هایی از ابتکارات سلامت با کمک هوش مصنوعی، تعهدات مالی برای توسعه نیروی کار و اطلاعاتی درباره کاستی‌های رویه‌های کنونی ایمنی شرکت ارائه شده است.
آنتروپیک در قالب یک شرکت سهامی عام با مأموریت منفعت عمومی (Public Benefit Corporation یا PBC) فعالیت می‌کند؛ ساختاری که آن را ملزم می‌سازد منافع مالی سهام‌داران را در کنار مسئولیت‌های اعلام‌شده خود در قبال جامعه در نظر بگیرد. گزارش تازه پنج حوزه را تعیین می‌کند که تعهدات شرکت در این زمینه‌ها هر سال ارزیابی خواهند شد.
دانیلا آمودی، هم‌بنیان‌گذار و رئیس آنتروپیک، در مطلبی در لینکدین بر تعهد شرکت به انتشار گزارش‌های سالانه تأکید کرد:
«هر سال گزارشی منتشر خواهیم کرد که توضیح می‌دهد موفقیت در مسیر تحقق منشورمان را چگونه تعریف می‌کنیم و چه شواهد مشخصی از پیشرفت خود داریم.»
در تهیه این گزارش، صندوق منافع بلندمدت آنتروپیک (LTBT) نیز مشارکت داشته است. این نهاد مستقل حاکمیتی، اکثریت اعضای هیئت‌مدیره شرکت را انتخاب می‌کند و در تدوین سیاست‌های ایمنی آن نقشی رسمی دارد.
کلود به معلمان ۶۳ کشور می‌رسد؛ گسترش برنامه‌های آموزشی
آموزش جایگاه مهمی در ارزیابی آنتروپیک از کاربرد هوش مصنوعی در خارج از میان مشتریان تجاری این شرکت دارد.
در غنا، وزارت آموزش با همکاری شرکت پلی‌لب (Playlab) ابزارهایی برای برنامه‌ریزی دروس مبتنی بر کلود توسعه داده است که حدود ۶۸ هزار آموزگار را پوشش می‌دهد. آنتروپیک همچنین با سازمان «تیچ فور آل» (Teach For All) همکاری می‌کند تا کلود و آموزش مهارت استفاده مؤثر از هوش مصنوعی را در اختیار معلمان ۶۳ کشور قرار دهد.
در ایالات متحده، سرویس «کلود برای معلمان» (Claude for Teachers) ابزارهای رایگانی برای آموزگاران مقاطع پیش‌دبستانی تا پایان دبیرستان ارائه می‌دهد. منابع این سرویس با استانداردهای آموزشی هر ۵۰ ایالت آمریکا تطبیق داده شده‌اند.
آنتروپیک مهارت‌های آموزشی و معیارهای ارزیابی به‌کاررفته در کلود برای معلمان را نیز به‌صورت عمومی منتشر کرده است تا توسعه‌دهندگان دیگر و سازمان‌های آموزشی بتوانند از این دستاوردها استفاده کنند.
تعهدات آموزشی شرکت به پژوهش و زیرساخت نیز گسترش می‌یابد. آنتروپیک می‌گوید از یک برنامه جهانی برای تدوین معیارهای مشترک، انجام پژوهش و گردآوری داده‌های مربوط به هوش مصنوعی در آموزش، به‌ویژه در کشورهای با درآمد کم و متوسط، حمایت کرده است. این شرکت همچنین در حال فراهم کردن دسترسی به مجموعه‌داده‌های عمومی از طریق کلود است؛ از جمله گراف دانش «لرنینگ کامنز» (Learning Commons).
پژوهش علمی حوزه دیگری است که آنتروپیک برای آن آمارهایی درباره میزان استفاده نهادها ارائه می‌کند.
بر اساس گزارش، بیش از ۳ هزار مؤسسه پژوهشی در بیش از ۱۰۰ کشور از خدمات دانشگاهی و پژوهشی غیرانتفاعی این شرکت بهره‌مند می‌شوند. برنامه «هوش مصنوعی برای علوم» (AI for Science) نیز اعتبار استفاده از کلود را به بیش از ۸۰۰ پروژه در بیش از ۴۵۰ مؤسسه اختصاص داده است.
این شرکت ابزار «کلود ساینس» (Claude Science) را نیز معرفی کرده است؛ محیط کاری پژوهشی‌ای که از تحلیل داده‌ها و شکل‌گیری فرضیه‌ها پشتیبانی می‌کند. افزون بر این، دسترسی رایگان یا تخفیف‌دار به خدمات خود را برای پژوهشگران دانشگاهی و سازمان‌های غیرانتفاعی فراهم کرده است.
بااین‌حال، آنتروپیک میان فراهم کردن دسترسی به هوش مصنوعی و اثبات بهبود نتایج حاصل از آن تمایز قائل می‌شود.
بخش زیادی از فعالیت‌های این شرکت در حوزه‌های آموزش و سلامت هنوز در مراحل اولیه قرار دارند. آنتروپیک اعلام کرده است که تاکنون شواهدی در اختیار ندارد که نشان دهد این ابتکارات به نتایج موردنظر رسیده‌اند و می‌پذیرد که برای سنجش پیامدهای آن‌ها به‌اندازه کافی داده گردآوری نکرده است.
کاربردهای سلامت و علوم، شواهد اولیه‌ای از استفاده از هوش مصنوعی ارائه می‌کنند
آنتروپیک در گزارش خود کاربردهایی را نیز تشریح کرده است که در آن‌ها کلود هم‌اکنون به فعالیت‌های علمی و بهداشت عمومی کمک می‌کند.
در جمهوری دموکراتیک کنگو، سازمان‌های فعال در مقابله با شیوع یک گونه نادر ویروس ابولا از کلود استفاده کرده‌اند. به گفته شرکت، دفتر منطقه‌ای آفریقای سازمان جهانی بهداشت توانسته است زمان تهیه گزارش‌های وضعیت شیوع بیماری را از حداکثر یک روز کامل به کمتر از یک ساعت کاهش دهد.
کارشناسان واکسن نیز از کلود برای مقایسه پیشنهادهای مربوط به نامزدهای واکسن استفاده کرده‌اند.
در بورکینافاسو، کمیته بین‌المللی نجات (International Rescue Committee) از کلود برای تبدیل دفاتر ثبت اطلاعات درمانگاه‌ها به داشبوردهای دیجیتال استفاده کرده است. تحلیل داده‌های حاصل، افزایش ناگهانی ۲۵ هزار مورد ابتلا به ذات‌الریه را شناسایی کرد و اختلافی را در سوابق مراقبت‌های سلامت مادران نشان داد: بیش از ۶ هزار زن برای مراقبت‌های پیش از زایمان مراجعه کرده بودند، اما تنها ۱۷۶۲ مورد زایمان با حضور کارکنان حوزه سلامت ثبت شده بود.
تیم مربوطه در حال بررسی علت این اختلاف است و از داده‌ها برای هدایت اقدامات خود استفاده می‌کند.
از دیگر نمونه‌های ذکرشده در گزارش می‌توان به طراحی پروتئین‌های اتصال‌دهنده جدید با کلود، در مرحله‌ای اولیه از فرایند تولید دارو، و استفاده تیم‌های امنیت سایبری از این فناوری برای شناسایی بیش از ۳۳ هزار آسیب‌پذیری امنیتی بحرانی و با شدت بالا در نرم‌افزارهای پرکاربرد اشاره کرد؛ آماری که آنتروپیک ارائه داده است.
این نمونه‌ها کاربردهای مشخص فناوری را نشان می‌دهند، اما شرکت می‌پذیرد که شواهد گسترده‌تر درباره منافع عمومی پایدار آن هنوز کامل نیست.
آمودی در مقدمه گزارش تأکید می‌کند که باید نتایج واقعی ارزیابی شوند، نه اینکه صرفاً به اهداف اعلام‌شده شرکت اتکا شود:
«در برخی حوزه‌ها، کنترل مستقیمی بر نتایج داریم. در حوزه‌های دیگر، تنها از طریق همکاری با مردم، سازمان‌ها و دولت‌ها موفق خواهیم شد. در همه موارد، موظفیم گزارشی صادقانه از عملکرد خود به عموم مردم ارائه کنیم.»
ارزیابی ایمنی هوش مصنوعی، شکست‌ها و محدودیت‌های تدابیر حفاظتی کنونی را می‌پذیرد
آنتروپیک در کنار نمونه‌های استفاده سودمند از هوش مصنوعی، به کاستی‌های نظارت بر مدل‌ها، پایش عملکرد آن‌ها و ارزیابی‌های ایمنی نیز پرداخته است.
این گزارش تأیید می‌کند که چهار مدل کلود در جریان آزمایش‌های امنیت سایبری، پس از آنکه پیکربندی نادرست محیط آزمایش آن‌ها را به اینترنت عمومی متصل کرد، به سیستم‌های واقعی متعلق به اشخاص ثالث دسترسی غیرمجاز پیدا کردند.
شرکت همچنین موارد دیگری را تأیید می‌کند که در آن‌ها کلود هنگام ارزیابی‌ها و استفاده داخلی، اقداماتی خارج از انتظار انجام داده است.
آنتروپیک می‌گوید روش‌هایی برای بررسی رفتارهای ناهمسو با اهداف تعیین‌شده در مدل‌ها توسعه داده و پژوهش‌های تفسیرپذیری هوش مصنوعی را در فرایند ممیزی پیش از انتشار محصولات گنجانده است. بااین‌حال، اذعان می‌کند که این روش‌ها هنوز به‌اندازه کافی قابل‌اعتماد یا جامع نیستند تا بتوان در همه موقعیت‌ها قصد و نیت یک مدل را مشخص کرد.
این شرکت افزایش استفاده از هوش مصنوعی در فرایندهای توسعه داخلی خود را نیز چالشی حل‌نشده می‌داند. کلود اکنون سهم فزاینده‌ای از پژوهش‌های ایمنی آنتروپیک را انجام می‌دهد و از مدل‌های فعلی برای کمک به آموزش نسل‌های بعدی مدل‌ها استفاده می‌شود.
آنتروپیک هشدار می‌دهد که با افزایش توانایی این سامانه‌ها، حفظ نظارت مؤثر انسان ممکن است دشوارتر شود.
این گزارش آزمایش‌های بیرونی انجام‌شده از سوی نهادهایی از جمله مؤسسه امنیت هوش مصنوعی بریتانیا و مرکز پیشبرد نوآوری و استانداردها برای ابرهوش در ایالات متحده را مستند می‌کند. به گفته آنتروپیک، بیش از ۱۵۰ ساعت آزمایش تهاجمی مستقل و ده‌ها هزار تلاش برای ارسال درخواست به کلود اپوس ۵.۵ نتوانسته است روشی عمومی برای دور زدن تدابیر حفاظتی امنیت سایبری این مدل ایجاد کند.
بااین‌وجود، شرکت می‌پذیرد که پژوهشگران قانونی نیز ممکن است با محدودیت‌هایی مواجه شوند که برای جلوگیری از استفاده مخرب طراحی شده‌اند. فرایندهای احراز صلاحیت گاهی روزها یا هفته‌ها طول می‌کشند.
از جمله تعهدات حاکمیتی آنتروپیک، آغاز همکاری برای ارزیابی‌های مستقل با مؤسسه METR و حمایت از نظارت مستقل قوی‌تر بر توسعه هوش مصنوعی پیشرفته است.
این شرکت همچنین خلأهایی را در چارچوب مقررات گسترده‌تر شناسایی می‌کند. با وجود حمایت آنتروپیک از قوانین ایمنی هوش مصنوعی در سطح ایالت‌های آمریکا، گزارش یادآور می‌شود که هنوز چارچوب فدرال الزام‌آوری وجود ندارد که به‌طور مستقل بررسی کند آیا توسعه‌دهندگان هوش مصنوعی پیشرفته به تعهدات ایمنی خود پایبند هستند یا خیر.
تعهد آنتروپیک به اختصاص ۲۰۰ میلیون دلار برای پژوهش اقتصادی و ۱۵۰ میلیون دلار برای بورسیه‌های آغاز مسیر شغلی
گزارش همچنین برنامه‌های آنتروپیک برای مقابله با اختلالات اقتصادی احتمالی را تشریح می‌کند؛ اختلالاتی که ممکن است با واگذاری سهم بیشتری از وظایف محیط کار به هوش مصنوعی پدید آیند.
این شرکت ۲۰۰ میلیون دلار به صندوق پژوهش آینده اقتصادی خود (Economic Futures Research Fund) اختصاص داده است. هدف این صندوق حمایت از پژوهش درباره تأثیر هوش مصنوعی بر بازار کار و آزمایش مداخلات سیاستی احتمالی است.
از جمله پرسش‌هایی که این برنامه دنبال می‌کند، چگونگی کسب تخصص از سوی کارکنان در شرایطی است که هوش مصنوعی به‌طور فزاینده وظایف سطح ابتدایی را انجام می‌دهد. همچنین قرار است راه‌های گسترش برنامه‌های موفق اشتغال و آموزش بررسی شوند.
آنتروپیک ۱۵۰ میلیون دلار دیگر نیز به برنامه «کلود کورپس» (Claude Corps) اختصاص داده است؛ طرحی برای افزایش تحرک اقتصادی که با همکاری کدپث (CodePath) توسعه یافته است.
هدف این طرح تأمین مالی هزار دوره بورسیه یک‌ساله برای افرادی است که در آغاز مسیر حرفه‌ای خود قرار دارند. شرکت‌کنندگان در شبکه‌ای متشکل از بیش از ۴۰۰ سازمان غیرانتفاعی فعالیت خواهند کرد.
آنتروپیک از طریق شاخص اقتصادی خود (Economic Index) نیز پژوهش منتشر می‌کند و داده‌های زیربنایی آن را در اختیار مؤسسات بیرونی، از جمله آزمایشگاه اقتصاد دیجیتال دانشگاه استنفورد، قرار می‌دهد.
این برنامه‌ها تعهدات مالی مشخصی را نشان می‌دهند، اما شرکت اذعان می‌کند که مقیاس فعلی آن‌ها در مقایسه با تغییرات اقتصادی احتمالی ناشی از هوش مصنوعی پیشرفته محدود است.
در نخستین سال اجرای کلود کورپس، از هزار نفر حمایت خواهد شد؛ بااین‌حال، پیامدهای گسترده‌تر هوش مصنوعی برای بازار کار و نحوه توزیع منافع اقتصادی حاصل از آن همچنان نامشخص است.
گزارش همچنین تأیید می‌کند که آنتروپیک به حفظ کلود به‌عنوان محصولی بدون تبلیغات متعهد است و از پژوهش‌های مستقل درباره هوش مصنوعی و رفاه کاربران، از جمله تأمین مالی مؤسسه ایمنی هوش مصنوعی جوانان وابسته به کامن سنس مدیا (Common Sense Media)، حمایت می‌کند.
از محصولات و قابلیت‌های مورد اشاره در این زمینه می‌توان به حالت یادگیری (Learning mode) اشاره کرد که به‌جای ارائه مستقیم پاسخ‌ها، دانش‌آموزان را از طریق پرسش‌ها راهنمایی می‌کند. قابلیت دیگر، «رفلکت» (Reflect)، کاربران را تشویق می‌کند درباره نحوه استفاده خود از هوش مصنوعی تأمل کنند.
پیشنهاد اختصاص ۵ درصد از سهام، تعهد مالی تازه‌ای به برنامه‌های منفعت عمومی می‌افزاید
برنامه‌های آنتروپیک شامل پیشنهاد اختصاص دست‌کم ۵ درصد از سهام شرکت به نهادی مستقل نیز می‌شود که مأموریت آن پیشبرد اهداف منشور منفعت عمومی آنتروپیک خواهد بود.
اجرای این تعهد منوط به تأیید سهام‌داران است. این پیشنهاد در کنار تعهدهای پیشین هم‌بنیان‌گذاران شرکت قرار می‌گیرد که بر اساس آن، قصد دارند ۸۰ درصد از سهام شخصی خود را به امور خیریه اختصاص دهند. برنامه اهدای سهام با مشارکت و کمک متناظر شرکت برای کارکنان نیز از دیگر اقدامات موجود است.
آنتروپیک امیدوار است که در مجموع، این سازوکارها در نهایت حدود ۲۰ درصد از سهام شرکت را به اهداف منفعت عمومی اختصاص دهند.
این تعهد مالی با افزایش نقش صندوق منافع بلندمدت در ارزیابی میزان پایبندی آنتروپیک به اهداف اعلام‌شده خود همراه شده است.
آمودی همچنین در لینکدین تأیید کرد که کریس استابز، فیزیک‌دان تجربی و رئیس پیشین دانشکده علوم دانشگاه هاروارد، به این صندوق می‌پیوندد.
در بخش پایانی گزارش، صندوق منافع بلندمدت میان فعالیت‌های مستندشده در این نخستین ارزیابی و نتایج قابل‌اندازه‌گیری مورد انتظار از گزارش‌های آینده تمایز قائل می‌شود.
اعضای هیئت‌امنای صندوق، سرمایه‌گذاری آنتروپیک در پژوهش‌های ایمنی، شفافیت و برنامه‌های منفعت عمومی را به رسمیت می‌شناسند، اما می‌گویند توزیع منافع هوش مصنوعی هنوز با سطح بلندپروازی‌های شرکت فاصله دارد.
آن‌ها انتظار دارند گزارش‌های بعدی شواهد قوی‌تری از نتایج ارائه کنند؛ از جمله تأیید مستقل اینکه مدل‌های پیشرفته همچنان تحت کنترل انسان باقی می‌مانند، بهبودهای قابل‌اندازه‌گیری در زندگی مردم و پیشرفت به‌سوی استانداردهای مشترک ایمنی هوش مصنوعی.
از این پس، گزارش منفعت عمومی آنتروپیک هر سال منتشر خواهد شد. هدف از ارزیابی‌های آینده، پیگیری پیشرفت شرکت بر اساس پنج محور منشور آن و ارائه گزارشی مستمر از تعهدات، نتایج و چالش‌های حل‌نشده خواهد بود.