انتشار نخستین گزارش منفعت عمومی آنتروپیک؛ طرحی برای نجات بشریت
آنتروپیک روز گذشته نخستین گزارش منفعت عمومی (Public Benefit Report) در تاریخ این شرکت را منتشر کرد.
می‌توان این گزارش را نوعی «طرح نجات بشریت» دانست.
البته این عبارت عنوان رسمی گزارش نیست، بلکه برداشتی اغراق‌آمیز از عبارت «منفعت بلندمدت بشریت» است؛ عبارتی که دانیلا آمودی، رئیس آنتروپیک، در مقدمه گزارش مطرح کرده است.
اما کافی است نسخه اصلی PDF این گزارش را باز کنید تا متوجه شوید محتوای آن حتی از بسیاری از فیلم‌های علمی‌تخیلی نیز تکان‌دهنده‌تر است.
آنتروپیک در این گزارش نه‌تنها از برنامه‌ای برای تخصیص بخشی از سهام شرکت به توزیع منافع اقتصادی سخن گفته، بلکه به‌ندرت و به‌صراحت اعتراف کرده است که هوش مصنوعی عملاً وارد مرحله‌ای شده که به شکل‌گیری نسل بعدی خود کمک می‌کند.
ترک برداشتن در جعبه پاندورا: «هوش مصنوعی در حال آموزش هوش مصنوعی است»
در دو سال گذشته، کدام مسئله بیش از همه فعالان حوزه هوش مصنوعی را به دردسر انداخته است؟ کمبود توان محاسباتی؟ نه؛ مشکل این است که داده‌های انسانی تقریباً به پایان رسیده‌اند.
با بلعیده شدن بخش عمده متون باکیفیت اینترنت به‌دست مدل‌های بزرگ، به نظر می‌رسد مسیر رسیدن به ابرهوش مصنوعی (ASI) به سقفی محدودکننده برخورد کرده است.
راه شکستن این بن‌بست چیست؟ پاسخی که در سیلیکون‌ولی کمتر به‌صراحت درباره آن صحبت می‌شود، استفاده از داده‌های مصنوعی و تکرار فرایند توسعه به‌صورت خودکار است؛ به بیان ساده، سپردن آموزش هوش مصنوعی به خود آن.
آنتروپیک در این گزارش برای نخستین بار پیشرفت‌های داخلی و خطرهای پنهان این فرایند، یعنی «آموزش هوش مصنوعی به‌وسیله هوش مصنوعی»، را آشکارا مطرح کرده است.
لحن گزارش در بخش‌هایی نگران‌کننده است. در متن اصلی آمده است:
«کلود سهم فزاینده‌ای از کارهای پژوهشی ما در زمینه ایمنی را بر عهده گرفته است و ما بیش از پیش برای آموزش مدل‌های آینده به مدل‌های موجود متکی هستیم.»
جمله محوری مقدمه گزارش از این هم شگفت‌انگیزتر است:
«هوش مصنوعی هر روز به ساخت جانشینان خود نزدیک‌تر می‌شود.»
(هوش مصنوعی بیش از پیش به ساخت نسل‌های بعدی خود نزدیک می‌شود.)
این حرف صرفاً هشداری اغراق‌آمیز نیست. اگر آن را در کنار مجموعه‌ای از داده‌های داخلی درباره روند پژوهش و توسعه آنتروپیک قرار دهیم که این شرکت در پایان ماه گذشته منتشر کرده بود، با روندی به‌شدت صعودی روبه‌رو می‌شویم:
- در فوریه امسال، سهم وظایف پژوهش و توسعه داخلی آنتروپیک که کلود هدایت آن‌ها را بر عهده داشت، یعنی کارهایی که مدل با دریافت دستورهای کلی از انسان بخش عمده آن‌ها را انجام می‌داد، هنوز کمتر از یک درصد بود.
- تا اوت امسال، این رقم تنها در شش ماه به ۲۶ درصد رسید.
- کلود همچنین در بیش از ۹۰ درصد وظایف پژوهش و توسعه، نقشی فعال در همکاری با پژوهشگران داشته است.
این ارقام نشان می‌دهند که مدل‌های بزرگ در حال عبور از محدودیت داده‌های انسانی هستند و به آستانه مرحله‌ای از «تکامل خودکار» نزدیک می‌شوند.
بااین‌حال، آنتروپیک به‌جای استقبال بی‌قیدوشرط از این پیشرفت، زنگ خطر را به صدا درآورده است. این شرکت در گزارش خود می‌پذیرد که با آغاز آموزش هوش مصنوعی به‌وسیله هوش مصنوعی، بررسی و تأیید واقعی عملکرد مدل‌ها برای انسان‌ها بسیار دشوارتر خواهد شد.
تصور کنید هوش مصنوعی نسل اول، به‌طور نامحسوس نوعی «رفتار زیان‌بار» یا «گرایش به فریبکاری» را در حجم عظیمی از کدها یا داده‌های مصنوعی وارد کند؛ درحالی‌که ارزیابان انسانی نه توان درک آن را داشته باشند و نه بتوانند آن را شناسایی کنند. در این صورت، این نقص مانند یک جهش ژنتیکی مستقیماً به نسل بعدی مدل‌ها منتقل می‌شود؛ مدل‌هایی که قدرتمندتر از نسل قبل‌اند، اما از همان ابتدا این ایراد را به ارث برده‌اند.
این روند می‌تواند نسل به نسل ادامه یابد تا سرانجام کاملاً از کنترل خارج شود.
کنار رفتن فیلترهای ایمنی: مدل‌های بزرگ یاد گرفته‌اند «تظاهر به مطیع بودن» کنند و محدودیت‌ها را دور بزنند
بسیاری از غول‌های فناوری هنگام انتشار گزارش‌های خود ترجیح می‌دهند هوش مصنوعی‌شان را کاملاً بی‌خطر جلوه دهند.
اما جنجالی‌ترین بخش گزارش آنتروپیک این است که این شرکت در گزارش رسمی خود حتی به کاستی‌هایش نیز پرداخته و پذیرفته است که مسئله ایمنی هوش مصنوعی هنوز فاصله زیادی با حل شدن دارد.
آنتروپیک در ژانویه امسال نسخه جدیدی از «فایل روح» هوش مصنوعی خود را به‌روزرسانی و به‌صورت متن‌باز منتشر کرد؛ مجموعه‌ای از اصول ارزشی که قرار است رفتار مدل را هدایت کند. این شرکت همچنین سیاست سخت‌گیرانه توسعه مسئولانه متناسب با مقیاس (Responsible Scaling Policy یا RSP) را برای جلوگیری از خطرهای فاجعه‌بار اجرا کرده است.
با وجود این اقدامات، گزارش سه واقعیت نگران‌کننده را آشکار می‌کند:
مدل می‌تواند تشخیص دهد که تحت آزمایش قرار گرفته است.
رفتار فریبکارانه و معضل جعبه سیاه.
موارد واقعی عبور از مرزهای مجاز رخ داده‌اند. گزارش به‌صراحت اشاره می‌کند که در برخی آزمون‌های ارزیابی اخیر، مواردی ثبت شده است که مدل بدون مجوز به سامانه‌های متعلق به اشخاص ثالث دسترسی پیدا کرده است.
حتی یکی از آزمایشگاه‌های پیشرو جهان که ایمنی را در مرکز هویت خود قرار داده است، اذعان می‌کند که «کنترل هوش مصنوعی به‌سرعت دشوارتر می‌شود». پس شرکت‌هایی که همچنان بی‌محابا پیش می‌روند و از «متن‌باز بودن بدون محدودیت» یا «شتاب تمام‌عیار برای رسیدن به هوش مصنوعی عمومی» دفاع می‌کنند، به چه چیزی اطمینان دارند؟
دلیل همین نگرانی‌هاست که آنتروپیک، درحالی‌که دیگر فعالان صنعت فریاد «شتاب بدهید» سر می‌دهند، در گزارش خود آشکارا خواستار این شده است: «از سرعت اکتشاف در مرزهای پیشرفته هوش مصنوعی بکاهید!»
این شرکت حتی داوطلبانه نهادهای مستقل ارزیابی خارجی، از جمله METR، را وارد فرایند کرده است تا عملکردش را بررسی کنند و ایرادهای آن را بیابند.
در تب‌وتاب هجوم برای کسب ثروت، عده‌ای با تمام توان معدن حفر می‌کنند و عده‌ای دیگر بیل می‌فروشند؛ اما آنتروپیک ترجیح داده است در لبه پرتگاه بایستد و نوار هشدار نصب کند.
اختصاص ۲۰ درصد از سهام به‌عنوان پشتوانه: نگاه متفاوت یک شرکت سیلیکون‌ولی به پول
شعار دادن به‌تنهایی روابط عمومی است؛ اما وقتی شرکتی حاضر می‌شود منابع مالی واقعی خود را در میان بگذارد، می‌توان آن را نشانه‌ای از باور عملی به تعهداتش دانست.
برای درک این گزارش، ابتدا باید هویت خاص آنتروپیک را شناخت: این شرکت یک بنگاه تجاری معمولی نیست، بلکه یک شرکت عام‌المنفعه (Public Benefit Corporation یا PBC) است.
ساختار حقوقی چنین شرکتی آن را ملزم می‌کند میان «کسب سود برای سهام‌داران» و «تأمین منافع همه بشریت» تعادل برقرار کند.
آنتروپیک برای نشان دادن اینکه تعهداتش صرفاً وعده‌هایی توخالی نیستند، در این گزارش پنج محور اصلی را تشریح کرده است که هیئت‌مدیره و «تراست منفعت بلندمدت» به‌طور مشترک تعیین کرده‌اند:
- حل چالش‌های فنی مرتبط با ایمنی هوش مصنوعی؛
- تبدیل ایمنی هوش مصنوعی به دانشی مشترک در صنعت و پشتیبانی از آن از طریق قانون‌گذاری؛
- تقویت دموکراسی و ثبات جهانی؛
- گسترش رفاه اقتصادی و بهزیستی انسان‌ها؛
- تضمین اینکه منافع حاصل از هوش مصنوعی به عموم مردم برسد.
اما چگونه می‌توان اطمینان حاصل کرد که «منافع به همه می‌رسد»؟ آنتروپیک تنها سه روز پیش از انتشار گزارش، از طرحی مهم رونمایی کرد و تأسیس صندوق منفعت عمومی آنتروپیک (Anthropic Public Benefit Fund) را اعلام کرد.
ارقام این طرح به‌اندازه‌ای بزرگ‌اند که می‌توانند سرمایه‌گذاران وال‌استریت را شگفت‌زده کنند.
شرکت وعده داده است که با کسب تأیید سهام‌داران، دست‌کم ۵ درصد از سهام خود را مستقیماً به این صندوق اختصاص دهد. افزون بر این، هر بار که ارزش‌گذاری شرکت ۵۰ درصد افزایش یابد، هیئت‌مدیره می‌تواند بنا به صلاحدید خود دو درصد دیگر از سهام را به صندوق اضافه کند.
اگر ۸۰ درصد از سهام شخصی اعضای تیم مؤسس را که از مدت‌ها پیش وعده اهدای آن داده شده، به‌اضافه کمک‌های متناظر کارکنان در نظر بگیریم، در نهایت حدود ۲۰ درصد از سهام آنتروپیک به‌طور کامل در مسیر منافع عمومی قرار خواهد گرفت.
با توجه به اینکه ارزش‌گذاری کنونی آنتروپیک به‌سمت صدها میلیارد و حتی یک تریلیون دلار در حرکت است، ارزش این سهم‌ها می‌تواند به رقمی نجومی برسد.
این منابع مالی قرار است صرف چه کاری شوند؟
گزارش در این زمینه صریح است: منابع صندوق علاوه بر حمایت مالی از سازمان‌های غیرانتفاعی، برای مقابله با تأثیر شدید هوش مصنوعی بر بازار کار انسانی نیز به کار گرفته خواهند شد. همچنین این احتمال منتفی نیست که در آینده، بخشی از منابع به‌طور مستقیم میان گروه‌های مشخصی که از این تحولات آسیب دیده‌اند توزیع شود. آنتروپیک پیش‌تر نیز به‌طور جداگانه ۲۰۰ میلیون دلار برای تأسیس صندوق پژوهش آینده اقتصادی اختصاص داده بود تا این هدف را دنبال کند.
به بیان ساده، قرار است از پولی که هوش مصنوعی به دست می‌آورد برای کمک به افرادی استفاده شود که هوش مصنوعی شغلشان را از آن‌ها گرفته است.
امیدواریم وقتی ابرهوش واقعاً از راه رسید و انسان‌ها به پاییز سال ۲۰۲۶ بازگشتند و به گذشته نگاه کردند، از اینکه کسی زمانی چنین گزارشی نوشته بود، خرسند باشند.
منابع:
این مقاله نخست در حساب رسمی وی‌چت «AI Era» (شناسه: AI_era) منتشر شده است. نویسنده آن ASI Apocalypse و ویراستار آن دیوید است. انتشار این مطلب با اجازه 36Kr انجام شده است.