جک کلارک از انتروپیک به سیاست‌گذاران گفت تکینگی آغاز شده است
جک کلارک می‌گوید تکینگی آغاز شده است. پیشرفت‌های اخیر هوش مصنوعی در ریاضیات و علوم، دلایل ملموسی در اختیار سیاست‌گذاران اقتصادی قرار می‌دهد تا این ادعا را جدی بگیرند.
جک کلارک، از بنیان‌گذاران شرکت انتروپیک، ۱۷ اکتبر در نشست سالانه صندوق بین‌المللی پول و بانک جهانی در بانکوک به اقتصاددانان و سیاست‌گذاران گفت که تکینگی «اکنون آغاز شده است». او استدلال کرد که هوش مصنوعی در آستانه مرحله‌ای قرار دارد که در آن، سرعت پیشرفت و کشف‌های علمی از توان انسان برای دنبال کردن آن‌ها فراتر می‌رود.
کلارک در اظهاراتی که متن آن‌ها ۱۹ اکتبر منتشر شد، به پیشرفت مدل‌های هوش مصنوعی در آزمون‌های دشوار اشاره کرد و چشم‌انداز حضور «یک میلیارد دانشمند مجازی» را مطرح ساخت. او از کشورها خواست برای آماده شدن در برابر چنین جهشی احتمالی در فعالیت‌های پژوهشی، آزمایشگاه‌ها، ربات‌ها و تجهیزات علمی بیشتری ایجاد کنند.
ارقام پشتوانه این ادعا
کلارک برای پشتیبانی از ادعای خود به نتایج هوش مصنوعی در آزمون «آخرین آزمون بشریت» (Humanity’s Last Exam) اشاره کرد؛ آزمونی که دانش تخصصی را می‌سنجد. به گفته او، امتیاز مدل‌ها در این آزمون از ۸ درصد در سال ۲۰۲۵ به ۶۷٫۷ درصد افزایش یافته است. او همچنین اعلام کرد که امتیازها در آزمون FrontierMath از ۲ درصد در نوامبر ۲۰۲۴ به ۹۴ درصد رسیده‌اند.
انتروپیک اعلام کرده است که مدل Claude Opus 5.5 با استفاده از ابزارها در آزمون Humanity’s Last Exam به امتیاز ۶۷٫۷ درصد دست یافته است. با این حال، این مقایسه روشن نمی‌کند که هر دو امتیاز در شرایط آزمون یکسانی به دست آمده‌اند یا خیر. انتروپیک همچنین هشدار می‌دهد که با افزایش توانایی مدل‌ها، اختلاف امتیازهای آن‌ها در آزمون‌های معیار دیگر مانند گذشته شاخص قابل اتکایی برای سنجش تفاوت عملکرد عملی نیست.
مثالی که کلارک درباره اقتصاد مطرح می‌کند نیز به مجموعه‌ای از فرض‌ها وابسته است. در افراطی‌ترین سناریوی انتروپیک، تولید ناخالص داخلی آمریکا در سال ۲۰۳۰، بر مبنای قیمت‌های سال ۲۰۲۵، به ۴۴٫۴ تریلیون دلار می‌رسد؛ رقمی که ۳۲٫۴ درصد بیشتر از برآورد اقتصاد مدل‌شده بدون هوش مصنوعی است. تحقق این سناریو مستلزم آن است که سامانه‌های خودمختار با توانایی بسیار بالا توسعه یابند و به‌سرعت مورد استفاده قرار گیرند.
چرا این موضوع اهمیت دارد؟
نتایج اخیر در ریاضیات و علوم، شواهد قابل توجهی در حمایت از استدلال کلارک فراهم می‌کنند. یکی از افرادی که در ساخت این فناوری نقش دارد، ادعایی را مستقیماً در برابر نهادهایی مطرح کرده است که در شکل‌دهی به اقتصاد جهانی نقش دارند؛ ادعایی که مدت‌ها بیشتر با داستان‌های علمی‌تخیلی شناخته می‌شد.
انتروپیک در ماه اوت از پیشرفتی در پژوهش درباره تابع زتای ریمان خبر داد. مدل پژوهشی منتشرنشده این شرکت توانست کران پایین سهم صفرهای مرتبطی را که روی خط بحرانی قرار دارند، از ۴۱٫۶ درصد به ۶۷٫۲ درصد افزایش دهد. این شرکت اعلام کرده است که ریاضی‌دانانش نتایج را بررسی کرده‌اند و درستی آن‌ها با استفاده از سامانه اثبات صوری Lean نیز ارزیابی شده است. با این حال، انتروپیک تأکید می‌کند که این پیشرفت مسئله فرضیه ریمان را حل نمی‌کند و انتظار ندارد این روش‌ها به اثبات آن منجر شوند.
نتایج حوزه فیزیک نیز چشمگیرند. در مقاله‌ای که ۹ اکتبر منتشر شد، سازندگان مجموعه ارزیابی TheoPhysEval گزارش دادند که مدل GPT-6-Astra در محیط Codex توانسته است با استفاده از ابزارها، به ۴۹ مورد از ۵۰ مسئله منتشرنشده فیزیک نظری پاسخ درست بدهد. میانگین هزینه حل هر مسئله کمتر از ۳ دلار بوده است. این مجموعه، توانایی حل محاسبات تازه با استفاده از روش‌های شناخته‌شده را می‌سنجد و مسائل مهم و حل‌نشده پژوهشی را شامل نمی‌شود.
گروه‌های پژوهشی ممکن است بتوانند انجام محاسبات تخصصی‌تر و بخشی از کارهای ریاضی را به هوش مصنوعی واگذار کنند و در عوض، تمرکز خود را بر انتخاب پرسش‌های پژوهشی، بررسی نتایج و آزمودن ایده‌ها بگذارند. با وجود این، نمونه‌های یادشده هنوز مشخص نمی‌کنند که هوش مصنوعی تا چه اندازه می‌تواند به‌تنهایی تمام مراحل فرایند پژوهش را مدیریت کند.
توسعه سامانه‌های پژوهشی قدرتمندتر پیامدهای امنیتی نیز دارد. انتروپیک گزارش داده است که Claude Mythos Preview به توسعه حمله‌های مؤثرتر علیه HAWK، یک طرح پیشنهادی برای امضای دیجیتال، و نسخه تضعیف‌شده‌ای از الگوریتم رمزنگاری AES کمک کرده است. به گفته این شرکت، هیچ‌یک از این یافته‌ها مستلزم ایجاد تغییر در سامانه‌های عملیاتی مورد استفاده در دنیای واقعی نبوده‌اند. این پژوهش نشان می‌دهد که هوش مصنوعی می‌تواند به مدافعان برای شناسایی نقاط ضعف کمک کند، اما هم‌زمان راه‌های تازه‌ای برای حمله به سامانه‌ها نیز آشکار سازد؛ ازاین‌رو، بررسی کارشناسان و افشای مسئولانه آسیب‌پذیری‌ها اهمیت دارد.
درخواست کلارک برای ساخت آزمایشگاه‌ها، استفاده از ربات‌ها و تأمین تجهیزات، پژوهش علمی را به تصمیم‌هایی پیوند می‌دهد که دولت‌ها می‌توانند همین حالا اتخاذ کنند. افزایش ایده‌های پیشنهادی برای آزمایش‌های علمی ممکن است ظرفیت موجود برای اجرای آن‌ها را تحت فشار قرار دهد. سرمایه‌گذاری در زیرساخت‌های فیزیکی پژوهش کمک می‌کند مشخص شود که دستاوردهای علمی هوش مصنوعی با چه سرعتی به پیشرفت‌های عملی تبدیل می‌شوند.
با افزایش تولید و بهره‌وری، کارکنان نیز ممکن است با اختلال در وضعیت شغلی خود روبه‌رو شوند. در سناریوی رشد افراطی انتروپیک، دستمزد کارکنان مشاغل دانشی بیش از ۱۰ درصد کاهش می‌یابد و نرخ بیکاری از سطوح معمول در دوره‌های رکود اقتصادی فراتر می‌رود. این نتایج حاصل مدل‌سازی‌اند و مدل مورد استفاده، واکنش‌های سیاستی، چرخه‌های تجاری و دیگر عوامل ایجادکننده اختلال را در نظر نمی‌گیرد. سیاست‌گذاران باید در کنار سرمایه‌گذاری برای پیشبرد اکتشافات علمی، درباره حمایت از کارکنانی که ناچار به جابه‌جایی میان مشاغل می‌شوند و نیز نحوه تقسیم منافع حاصل از این پیشرفت‌ها تصمیم‌گیری کنند.