هشدار پژوهشگر آنتروپیک: اگر هوش عمومی مصنوعی تا سه سال دیگر محقق شود، شاید دکتری و تصدی استادی دانشگاه دیگر انتخاب‌های آینده‌داری نباشند
سخنرانی یاشکا سول-دیکستاین، پژوهشگر شرکت آنتروپیک، که در ماه ژوئن در کنفرانسی درباره فیزیک و هوش مصنوعی در دانشگاه استنفورد ارائه شده بود، به‌تازگی بار دیگر در شبکه اجتماعی ایکس مورد توجه قرار گرفته و بحث‌هایی را برانگیخته است. سول-دیکستاین که از پژوهشگران اولیه مدل‌های انتشار است، بر این نکته تأکید می‌کند که اگر قابلیت‌های هوش مصنوعی طی چند سال آینده ساختار پژوهش علمی را دگرگون کنند، مسیر دانشگاهی چندده‌ساله‌ای که پژوهشگران جوان معمولاً در پیش می‌گیرند، شاید دیگر نتواند ثبات و امنیت شغلی مورد انتظار آنان را فراهم کند.
عنوان سخنرانی او «توصیه‌هایی برای پژوهشگران جوان در نخستین و واپسین روزهای آنتروپوسن» بود. استدلال سول-دیکستاین بر مجموعه‌ای از ارقام مربوط به رشد مقیاس مدل‌ها استوار است: طی دهه گذشته، توان محاسباتی مورد استفاده برای آموزش بزرگ‌ترین مدل‌های هوش مصنوعی حدود ۱۰ میلیون برابر شده است. به برآورد تقریبی او، این مقیاس به‌تدریج به میزان محاسباتی نزدیک می‌شود که مغز انسان در طول یک عمر انجام می‌دهد. او پیش‌بینی می‌کند که اگر روند رشد ادامه یابد، توان محاسباتی در سال ۲۰۳۰ ممکن است به حدود ۱۰ هزار برابر سطح سال ۲۰۲۵ برسد.
| شاخص | برآورد سول-دیکستاین |
|---|---|
| رشد توان محاسباتی آموزش بزرگ‌ترین مدل‌ها طی دهه گذشته | حدود ۱۰ میلیون برابر |
| توان محاسباتی در سال ۲۰۳۰ در مقایسه با سال ۲۰۲۵ | حدود ۱۰ هزار برابر |
| مدت‌زمان وظایف نرم‌افزاری که مدل می‌تواند به‌طور مستقل انجام دهد | حدود ۱۰ برابر افزایش در کمتر از یک سال |
| پیشرفت در ریاضیات | آغاز حل برخی مسائل اردوش در حدود هفت ماه گذشته |
توضیح: این ارقام برآوردهای سول-دیکستاین و ارجاع‌های مطرح‌شده در سخنرانی او هستند؛ ضرایب مربوط به توان محاسباتی تقریبی‌اند.
از دیدگاه او، یکی از خطرناک‌ترین سناریوها در شرایط رشد نمایی این است که پژوهشگری دو سال برای دستیابی به نتیجه‌ای ظاهراً مهم وقت بگذارد، اما در پایان کار، فرد دیگری تنها با وارد کردن یک دستور به جدیدترین مدل پایه به نتیجه‌ای بهتر برسد. به همین دلیل، او به پژوهشگران جوان توصیه می‌کند پروژه‌هایی با اهداف روشن انتخاب کنند، با دیگران همکاری داشته باشند و سریع پیش بروند تا کار پژوهشی‌شان با افزایش توانایی مدل‌ها همگام بماند.
نتیجه این استدلال، بازنگری در ارزش و جذابیت مسیر سنتی دانشگاهی است. جرقه اصلی این سخنرانی گفت‌وگو با دانشجوی تحصیلات تکمیلی بسیار توانمندی بود که معتقد بود هوش عمومی مصنوعی (AGI) ممکن است ظرف سه سال آینده ظهور کند؛ بااین‌حال، تنها چند دقیقه بعد، برنامه خود را برای گرفتن مدرک دکتری، گذراندن دوره پسادکتری و سپس درخواست موقعیت هیئت علمی توضیح داد. سول-دیکستاین این دو موضع را آشکارا متناقض می‌داند: اگر فردی باور دارد فناوری‌ای که قادر به تغییر جهان است به‌زودی از راه می‌رسد، سایر قضاوت‌ها و تصمیم‌هایش نیز باید با این باور سازگار باشند.
او محدودیت‌های دانش خود را نیز می‌پذیرد و می‌گوید نمی‌داند پژوهش دانشگاهی در ۱۰ یا ۲۰ سال آینده چه شکلی خواهد داشت، اما تقریباً مطمئن است که بیشتر مشاغل با وضعیت امروزی تفاوت چشمگیری خواهند داشت. مردم معمولاً خطر را در برابر پاداش احتمالی می‌سنجند و مسیری را انتخاب می‌کنند که امن به نظر می‌رسد. اما اگر هوش مصنوعی واقعاً بتواند تغییرات اجتماعی گسترده‌ای ایجاد کند، افراد از همین حالا در معرض خطرهای سیستمی بزرگی قرار دارند. در چنین شرایطی، انتخاب سنتیِ به‌ظاهر امن لزوماً این خطر را کاهش نمی‌دهد و حتی ممکن است باعث شود افراد از فرصت‌های بالقوه ارزشمندتر چشم‌پوشی کنند. توصیه او این است که به‌جای دنبال کردن صرفِ گزینه‌های امن، به انجام کارهای جالب و ارزشمند روی بیاورند.
یکی از جمله‌هایی که بیش از همه از این سخنرانی نقل شده، چنین است: «نوشتن همان اندیشیدن است. اگر نوشتن خود را برون‌سپاری کنید، در واقع اندیشیدن را برون‌سپاری کرده‌اید.» او استفاده از هوش مصنوعی برای یافتن ضعف‌های استدلال، طرح ایرادها و بررسی منطق را تشویق می‌کند، اما توصیه نمی‌کند که مدل پیش‌نویس اولیه متن را بنویسد. در غیر این صورت، ممکن است پژوهشگر پیش از آنکه واقعاً کار خود را درک کرده باشد، با مقاله‌ای ظاهراً کامل روبه‌رو شود.
سول-دیکستاین درباره استفاده از ابزارها می‌گوید هر روز از کلود (Claude) استفاده می‌کند و آن را به دانشجوی تحصیلات تکمیلی‌ای تشبیه می‌کند که توان اجرایی بسیار بالایی دارد و با اشتیاق فراوان کار می‌کند، اما در شهود و قضاوت پژوهشی ضعف‌های مشخصی دارد. او اکنون عملاً دیگر خودش کدنویسی نمی‌کند و حتی به‌ندرت کدها را می‌خواند، بااین‌حال هر روز برای انجام وظایف پژوهشی از کد استفاده می‌کند. به تأکید او، استفاده از ابزارهای پیشرفته‌تر به این معناست که لازم نیست همه جزئیات درون رایانه را بدانیم؛ اما باید بتوانیم نتایجی را که مدل ارائه می‌کند به چالش بکشیم، نه اینکه توضیحات آن را بی‌چون‌وچرا بپذیریم.
او با اشاره به مقاله سال ۲۰۱۹ ریچارد ساتن با عنوان «درس تلخ» (The Bitter Lesson) یادآوری می‌کند که در بلندمدت، روش‌های عمومی‌ای که از توان محاسباتی به‌طور کامل بهره می‌گیرند، معمولاً از روش‌های خاصی که به طراحی انسانی متکی‌اند، عملکرد بهتری دارند. این درس دو سویه دارد: اگر پژوهش بتواند همگام با افزایش توان محاسباتی و هوش به پیشرفت ادامه دهد، ارزش آن ممکن است بسیار بیشتر از انتظارات باشد؛ اما اگر قرار است مسئله‌ای در نهایت صرفاً با بزرگ‌تر کردن مدل‌ها حل شود، باید جدی بررسی کرد که آیا تا زمان پایان پژوهش، آن کار همچنان ارزش مستقلی خواهد داشت یا نه. او همچنین انتظار دارد طی ۱۰ تا ۱۵ سال آینده، ربات‌ها وارد آزمایشگاه‌ها شوند و آزمایش‌های فیزیکی واقعی را انجام دهند.
سول-دیکستاین در زمینه انتخاب حوزه‌های پژوهشی، چند زمینه را شایسته سرمایه‌گذاری می‌داند: استفاده از هوش مصنوعی برای پیشبرد پژوهش‌های علمی، از جمله کشف مواد، بررسی ساختار پروتئین‌ها، مدل‌سازی آب‌وهوا و پژوهش درباره راکتورهای همجوشی؛ مطالعه خود مدل‌های هوش مصنوعی با بهره‌گیری از روش‌هایی مانند تفسیرپذیری، فیزیک آماری، روان‌شناسی و اقتصاد برای درک سازوکارهای درونی آن‌ها؛ و همچنین ایمنی هوش مصنوعی، پیش‌بینی قابلیت‌های فناوری، عدالت در توسعه فناوری، دسترسی به منابع و سیاست‌گذاری و حکمرانی. او خاطرنشان می‌کند که در حوزه ایمنی هوش مصنوعی هنوز تعداد زیادی مسئله مهم وجود دارد که حتی تعریف روشنی از آن‌ها ارائه نشده است و اهمیت این حوزه بسیار بیشتر از میزان منابع پژوهشی‌ای است که در حال حاضر به آن اختصاص می‌یابد.
سول-دیکستاین همچنین با این دیدگاه مخالفت می‌کند که «توسعه هوش مصنوعی دیگر از دست افراد خارج شده است». بر اساس روندهای کنونی، توان محاسباتی در سال ۲۰۳۰ ممکن است به ۱۰ هزار برابر سطح سال ۲۰۲۵ برسد. اگر این مقیاس روی نموداری خطی نمایش داده شود، توان محاسباتی امروز تقریباً در حد صفر به نظر خواهد رسید. به گفته او، این موضوع نشان می‌دهد که هنوز در مراحل ابتدایی رشد نمایی قرار داریم؛ مرحله‌ای که در آن تصمیم‌های کوچک می‌توانند در بلندمدت تأثیرهای بسیار بزرگی داشته باشند. او برای توضیح این نکته به نمونه‌هایی مانند استانداردسازی پروتکل‌های ایمیل، فرایند هابر–بوش که امکان تولید آمونیاک در مقیاس صنعتی را فراهم کرد، و شکل‌گیری نهادهای اولیه پزشکی و حقوقی در آمریکا اشاره می‌کند. هیچ‌یک از این تحولات از پیش اجتناب‌ناپذیر نبودند؛ انتخاب‌های فناورانه و ترتیبات نهادی در مراحل اولیه، در نهایت به شکل‌گیری جهان امروز کمک کردند.
بازگشت دوباره این سخنرانی به بحث‌های روز، با گزارشی داخلی درباره نیروی کار که آنتروپیک اخیراً منتشر کرده است، ارتباط دارد. طبق این گزارش، سهم کارکنان تازه‌کار در بخش فنی شرکت از ۲۱ درصد در ابتدای سال ۲۰۲۵ به ۱۴ درصد کاهش یافته و سهم استخدام‌های تازه‌کار در مشاغل فنی نیز از ۲۷ درصد به ۹ درصد رسیده است. این کاهش در حالی رخ داده که اندازه شرکت در همین دوره سه برابر شده است؛ بنابراین، آنچه کوچک‌تر شده، درگاه ورود به شرکت بوده است، نه کل نیروی کار آن. گزارش همچنین نشان می‌دهد که تا اوت سال جاری، عامل‌های تعاملی تحت نظارت مستقیم کارکنان، مجموعاً شش برابر ساعات کاری انسان‌ها فعالیت می‌کردند و میانگین تعداد ارسال‌های کد به مخازن پروژه به‌ازای هر مهندس نیز طی شش ماه پنج برابر شده بود.
هشدار سول-دیکستاین و یافته‌های این گزارش، در کنار یکدیگر به مسئله‌ای مشترک اشاره دارند: هرچه وظایف سطح ورودی بیشتری به مدل‌ها واگذار شود، فرصت تازه‌واردان برای پرورش قدرت قضاوت کمتر خواهد شد؛ درحالی‌که همین قدرت قضاوت پیش‌شرط ارزیابی خروجی‌های هوش مصنوعی و انتخاب مسیرهای پژوهشی است. برای جوانانی که قصد ورود به پژوهش یا صنعت فناوری را دارند، این وضعیت به معنای ضرورت بازنگری در افق زمانی برنامه‌ریزی شغلی است؛ نه اینکه لزوماً تحصیلات تکمیلی را کنار بگذارند، بلکه باید هنگام انتخاب حوزه و مسیر پژوهش، این پرسش را نقطه شروع قرار دهند که با افزایش توان محاسباتی، کدام مهارت‌ها و قابلیت‌ها ارزش بیشتری پیدا خواهند کرد.