گوگل: خودبهبودی هوش مصنوعی هنوز دور از دسترس است، اما کارشناسانی مانند هینتون فرصت انتظار ندارند
هیدن بلفیلد، مهندس گوگل دیپ‌مایند، به‌تازگی آماری از فعالیت‌های داخلی گوگل منتشر کرده است که نشان می‌دهد بیش از ۷۵ درصد کدهای مورد استفاده در محیط عملیاتی این شرکت را هوش مصنوعی می‌نویسد. این رقم در نگاه نخست نشان می‌دهد هوش مصنوعی تا چه اندازه در فعالیت‌های تحقیق و توسعه گوگل نقش پیدا کرده است.
اما بلفیلد آمار دیگری نیز ارائه کرده است: حدود ۸۸ درصد تغییرات کد همچنان به نظارت یا بازبینی انسانی نیاز دارند و تمام تغییرات باید پیش از ثبت نهایی به‌صورت دستی بررسی شوند. در همین حال، سهم تغییراتی که انجام آن‌ها به‌طور کامل به هوش مصنوعی واگذار می‌شود، از ۷.۵ درصد به ۱۱.۹ درصد افزایش یافته است.
فاصله میان این دو رقم، یعنی ۷۵ درصد و ۱۱.۹ درصد، مرز واقعی توانایی هوش مصنوعی برای بهبود مستقل خود را در شرایط کنونی نشان می‌دهد.
هرچه وظایف پیچیده‌تر باشند، انجام مستقل آن‌ها برای هوش مصنوعی دشوارتر می‌شود
آمار منتشرشده از سوی بلفیلد بر فعالیت‌های واقعی و داخلی گوگل استوار است. به گفته او، گوگل دیپ‌مایند تاکنون هیچ شواهد قابل‌اندازه‌گیری از شتاب‌گرفتن تحقیقات هوش مصنوعی به کمک خود این فناوری پیدا نکرده است. هرچند میزان خودکارسازی به‌شکل چشمگیری افزایش یافته، هنوز فاصله زیادی تا مرحله‌ای وجود دارد که بتوان گفت «هوش مصنوعی خودش را بهبود می‌دهد».
نتایج آزمون‌های معیار داخلی گوگل نیز این ارزیابی را تأیید می‌کنند. در ۱۳۸۹ نوبت اجرای آزمایشی عامل هوش مصنوعی آرگون (Argon)، با افزایش پیچیدگی وظایف، نرخ موفقیت بدون دخالت انسان به‌شدت کاهش یافته است. به بیان دیگر، هرچه انجام یک کار پیچیده‌تر و زمان‌برتر باشد، احتمال اینکه هوش مصنوعی بتواند آن را به‌تنهایی به پایان برساند کمتر می‌شود.
در آزمون معیار داخلی دیپ‌مایند با نام RE-Bench که شامل ۷۴ وظیفه واقعی در حوزه مهندسی یادگیری ماشین است، آرگون توانسته حدود نیمی از وظایف را حل کند. این نتیجه در مقایسه با نرخ موفقیت ۲۷ درصدی Gemini 3.7 Flash پیشرفت قابل‌توجهی محسوب می‌شود، اما همچنان با عملکرد تقریباً بی‌نقصی که برای خودکارسازی کامل لازم است، فاصله زیادی دارد.
بلفیلد تأکید کرده است که انسان‌ها همچنان در پژوهش‌های خلاقانه، طراحی آزمایش‌های نوآورانه، تشخیص ناپایداری‌های ظریف در فرایند آموزش مدل‌ها و برنامه‌ریزی بلندمدت نقشی حیاتی دارند. نظرسنجی از ۱۲ پژوهشگر ارشد دیپ‌مایند نیز همین الگو را تأیید می‌کند: بیشترین میزان خودکارسازی در وظایفی دیده می‌شود که تعریف مشخصی دارند و می‌توان درستی نتایج آن‌ها را بررسی کرد؛ در مقابل، کمترین میزان خودکارسازی مربوط به ایده‌پردازی علمی در مسائل باز و فاقد پاسخ ازپیش‌تعیین‌شده است.
به زبان ساده، هوش مصنوعی می‌تواند بر اساس یک نقشه آماده، کار ساخت‌وساز را به‌خوبی پیش ببرد، اما هنوز نمی‌تواند خودش آن نقشه را طراحی کند.
تیم گوگل برای بررسی نظام‌مند پیشرفت هوش مصنوعی، شاخصی با عنوان «شاخص توانایی عمومی» (GCI) طراحی کرده که ۱۲۳ مدل و ۹۲ آزمون معیار را پوشش می‌دهد. داده‌های این شاخص نشان می‌دهد توانایی مدل‌های جمینای با آهنگی نسبتاً ثابت، معادل حدود ۰.۱ واحد GCI در ماه، افزایش یافته و سرعت این پیشرفت تغییر محسوسی نکرده است.
به اعتقاد این تیم، عملکرد Gemini 4 Argon اندکی بالاتر از خط روند قرار دارد، اما این برتری بیشتر ناشی از افزایش توان محاسباتی و منابعی است که سازمان به توسعه آن اختصاص داده، نه شتابی که خود هوش مصنوعی ایجاد کرده باشد. این تفاوت اهمیت زیادی دارد: پیشرفت مدل در حال حاضر نتیجه «سرمایه‌گذاری بیشتر انسان‌ها و اختصاص منابع بیشتر» است، نه اینکه «هوش مصنوعی به‌تنهایی هوشمندتر شده باشد».
تیم گوگل در شرایط کنونی خطر ناشی از خودکارسازی تحقیقات هوش مصنوعی به دست خود این فناوری را نسبتاً پایین ارزیابی می‌کند. بااین‌حال، در حال ایجاد زیرساخت‌های اندازه‌گیری است تا بتواند نشانه‌های احتمالی شتاب‌گرفتن توسعه هوش مصنوعی را در آینده رصد کند.
اما گروه دیگری از متخصصان با این ارزیابی موافق نیستند
یافته‌های بلفیلد با نتایج بسیاری از پژوهش‌های اخیر همخوانی دارد، اما همه متخصصان صنعت هوش مصنوعی با این برداشت موافق نیستند.
بیش از ۲۰ پژوهشگر هوش مصنوعی، از جمله جفری هینتون، یوشوا بنجیو و یاکوب پاخوکی از شرکت OpenAI، به‌تازگی در مقاله‌ای پژوهشی درباره احتمال وقوع «انفجار هوش» در حوزه هوش مصنوعی هشدار داده‌اند. این مقاله با عنوان «اگر خودکارسازی تحقیق و توسعه هوش مصنوعی به انفجار هوش منجر شود، چه اتفاقی می‌افتد؟» از سوی برنامه علم و سیاست‌گذاری هوش مصنوعی کمبریج منتشر شده است. در میان ۲۲ نویسنده این مقاله، دو نفر از چهره‌های شناخته‌شده به‌عنوان پدرخوانده‌های هوش مصنوعی، اندرو بارتو از پیشگامان یادگیری تقویتی، یاکوب پاخوکی دانشمند ارشد OpenAI و جک کلارک هم‌بنیان‌گذار آنتروپیک حضور دارند.
استدلال اصلی مقاله این است که اگر هوش مصنوعی بتواند به‌طور کامل در تحقیق و توسعه نسل بعدی خود مشارکت کند، امکان شکل‌گیری چرخه‌ای واقعی از «خودبهبودی بازگشتی» وجود خواهد داشت؛ چرخه‌ای که در آن، هوش مصنوعی با مشارکت در ساخت نسخه‌های پیشرفته‌تر خود، توانایی‌اش را پیوسته افزایش می‌دهد. اگر خودکارسازی تحقیق و توسعه هوش مصنوعی از نقطه بحرانی مشخصی عبور کند، پیشرفت‌هایی که پیش‌تر چند سال زمان می‌بردند، ممکن است در چند ماه یا حتی کمتر محقق شوند. در سناریوهای افراطی، میزان پیشرفتی که امروز به یک سال نیاز دارد، شاید در آینده تنها ظرف حدود پنج هفته به دست آید.
از جمله داده‌های مورد استناد مقاله این است که در ژانویه ۲۰۲۵، سهم کدهای تولیدشده با هوش مصنوعی که تأیید می‌شدند، تنها درصدی تک‌رقمی و پایین بود، اما این سهم تا مه ۲۰۲۶ از ۸۰ درصد فراتر رفت. همچنین در مارس ۲۰۲۶، مدل کلود می‌توانست حدود یک درصد فعالیت‌های تحقیق و توسعه را با نظارت انسانی صرفاً در سطح کلان، به‌طور مستقل انجام دهد. این رقم تا اوت همان سال به ۲۶ درصد رسید؛ یعنی طی حدود شش ماه بیش از ۲۰ برابر شد.
البته نویسندگان مقاله به این نکته نیز اشاره می‌کنند که خود شرکت آنتروپیک تأکید دارد کلود هنوز در هیچ‌یک از دسته‌بندی‌های آزمایش‌شده مربوط به تحقیق و توسعه هوش مصنوعی، به سطحی نرسیده که بتواند وظایف را کاملاً بدون نظارت انجام دهد. بااین‌حال، از نگاه پژوهشگران، روند پیشرفت به‌تنهایی به‌اندازه کافی هشداردهنده است.
واقعیتی که پشت ارقام ۷۵ و ۸۸ درصد پنهان شده است
داده‌های ارائه‌شده از سوی این دو گروه در واقع با یکدیگر تناقض ندارند، بلکه جنبه‌های متفاوتی از یک پدیده واحد را توصیف می‌کنند.
رقم ۷۵ درصدی گوگل به «سهم کدهایی که با مشارکت هوش مصنوعی نوشته می‌شوند» اشاره دارد؛ یعنی هوش مصنوعی قطعه‌ای کد تولید می‌کند و سپس انسان آن را بررسی و تأیید می‌کند. رقم بیش از ۸۰ درصدی مورد استناد در مقاله هینتون نیز بر مبنای معیار آماری مشابهی محاسبه شده است. در مقابل، رقم ۸۸ درصدی بلفیلد به «سهم تغییرات کدی که به نظارت یا بازبینی انسانی نیاز دارند» مربوط می‌شود. کنار هم قرار دادن این ارقام تصویری روشن ارائه می‌دهد: هوش مصنوعی حجم زیادی کد می‌نویسد، اما تنها بخش کوچکی از تغییرات کد را می‌تواند کاملاً مستقل انجام دهد.
این فاصله به مسئله‌ای اساسی اشاره دارد: توانایی کنونی هوش مصنوعی بیشتر در حد «کمک به انسان» است، نه «عملکرد مستقل». این فناوری می‌تواند تعداد زیادی راه‌حل پیشنهادی تولید کند، اما همچنان انسان باید تشخیص دهد کدام راه‌حل درست است، کدام‌یک ایمنی لازم را دارد و کدام‌یک ارزش ثبت و استفاده را خواهد داشت.
نتایج آزمون RE-Bench گوگل نیز همین مسئله را تأیید می‌کند. آرگون می‌تواند حدود نیمی از وظایف را حل کند و این یعنی برای انجام نیم دیگر همچنان مشارکت انسان ضروری است. در زمینه ایده‌پردازی علمی برای مسائل باز و بدون پاسخ مشخص نیز سهم هوش مصنوعی تقریباً ناچیز است.
هینتون و همکارانش نیز در مقاله خود می‌پذیرند که خودکارسازی تحقیق و توسعه هوش مصنوعی هنوز در مراحل ابتدایی قرار دارد. اما نگرانی اصلی آن‌ها وضعیت امروز نیست. استدلالشان این است که با عبور از یک نقطه بحرانی مشخص، تحولات ممکن است با سرعتی بسیار زیاد رخ دهند. در مقابل، موضع گوگل این است که هنوز به چنین نقطه‌ای نرسیده‌ایم و داده‌های موجود نشان می‌دهند منحنی رشد توانایی هوش مصنوعی خطی است، نه نمایی.
در همین حال، فارغ از اینکه اختلاف‌نظرهای علمی به چه نتیجه‌ای برسند، استفاده از هوش مصنوعی برای تولید کد در شرکت‌ها با سرعت بیشتری در حال گسترش است و روند خودکارسازی همچنان ادامه دارد.
بر اساس گزارش «وضعیت برنامه‌نویسی با هوش مصنوعی در سال ۲۰۲۶» که شرکت نیو رلیک (New Relic) منتشر کرده است، ۶۷ درصد مدیران فناوری شرکت‌کننده در نظرسنجی گفته‌اند هوش مصنوعی اکنون بین ۵۱ تا ۷۵ درصد کدهای تولیدشده هفتگی سازمان آن‌ها را می‌نویسد یا به‌شکل اساسی بازنویسی و بهینه‌سازی می‌کند. این گزارش همچنین به آمار چند شرکت بزرگ اشاره دارد: مایکروسافت اعلام کرده هوش مصنوعی ۳۰ درصد کدهای این شرکت را نوشته است؛ مارک بنیوف، مدیرعامل سیلزفورس، تخمین می‌زند عامل‌های هوش مصنوعی اکنون ۳۰ تا ۵۰ درصد حجم کار را بر عهده دارند و متا نیز برای سال ۲۰۲۶ هدف ۵۰ درصدی تعیین کرده است.
رقم ۷۵ درصدی گوگل در میان شرکت‌های بزرگ فناوری بالاترین میزان است. بااین‌حال، گزارش نیو رلیک تناقض قابل‌توجهی را آشکار می‌کند: ۹۴ درصد پاسخ‌دهندگان معتقدند کدهای تولیدشده با هوش مصنوعی هنگام بازبینی از کیفیت بالاتری نسبت به کدهای نوشته‌شده به دست انسان برخوردارند. اما پس از استقرار این کدها در محیط عملیاتی واقعی، ۷۸ درصد از پاسخ‌دهندگان از افزایش تعداد رخدادها و مشکلات خبر داده‌اند و ۸۶ درصد نیز گفته‌اند تعداد اصلاحات اضطراری که به دخالت مهندسان ارشد نیاز دارند، بیشتر شده است.
به بیان دیگر، کدهای تولیدشده با هوش مصنوعی ممکن است در مرحله بازبینی مطلوب به نظر برسند، اما در محیط عملیاتی واقعی عملکرد ضعیف‌تری داشته باشند. همین فاصله میان ارزیابی هنگام بازبینی و عملکرد واقعی در محیط عملیاتی، یکی از مهم‌ترین موانع کنونی در مسیر خودبهبودی هوش مصنوعی است. این فناوری می‌تواند کدی بنویسد که ظاهراً درست است، اما برای تشخیص اینکه آیا واقعاً درست کار می‌کند یا نه، همچنان به قضاوت انسان نیاز دارد.
بازار سرمایه از هم‌اکنون برای خودبهبودی بازگشتی هوش مصنوعی ارزش‌گذاری می‌کند
با آنکه تحقق فنی خودبهبودی بازگشتی هوش مصنوعی هنوز فاصله زیادی با شرایط کنونی دارد، بازار سرمایه از هم‌اکنون این مفهوم را به‌عنوان یکی از روایت‌های مهم سرمایه‌گذاری در ارزش‌گذاری‌ها لحاظ کرده است.
دویچه بانک در گزارش پژوهشی تازه‌ای اعلام کرده است که اگر هوش مصنوعی بتواند به گسترش مقیاس توان محاسباتی ادامه دهد و به خودبهبودی بازگشتی واقعی دست یابد، ممکن است توانایی‌های آن وارد مرحله‌ای از رشد شتابان شود. در چنین شرایطی، ظهور ابرهوش مصنوعی که در همه زمینه‌ها از متخصصان انسانی پیشی بگیرد، تا سال ۲۰۳۰ دور از تصور نخواهد بود. البته این گزارش نیز اذعان دارد که ادامه اعتبار قوانین مقیاس‌پذیری همچنان محل اختلاف است و خودبهبودی بازگشتی واقعی هنوز تحقق نیافته است.
مفهوم خودبهبودی بازگشتی یا RSI در نیمه دوم سال ۲۰۲۶ به‌سرعت مورد توجه قرار گرفت. بر اساس گزارش‌های رسانه TMTPost، بحث‌های مربوط به این مفهوم برداشت‌های متفاوتی ایجاد کرده، اما واکنش بازار سرمایه نسبتاً مثبت بوده است. نگرانی از «کندشدن روند پیشرفت» برای مدتی کوتاه باعث نوسان بازار شد، اما خیلی زود جای خود را به توجه گسترده به روایت خودبهبودی بازگشتی داد. هم‌زمان، رویدادهایی مانند معرفی Muse از سوی متا، به‌عنوان یک عامل هوش مصنوعی شخصی برای مصرف‌کنندگان، به بهبود قابل‌توجه سهام شرکت‌های فناوری آمریکا کمک کرد؛ بخشی که پیش‌تر به‌دلیل کاهش سرعت رشد درآمد تکرارشونده سالانه (ARR) شرکت‌های فعال در حوزه هوش مصنوعی تحت فشار قرار گرفته بود.
پیش‌بینی می‌شود بازار جهانی سامانه‌های هوش مصنوعی خودبهبوددهنده بین سال‌های ۲۰۲۵ تا ۲۰۳۰ حدود ۶۹.۵ میلیارد دلار رشد کند و نرخ رشد مرکب سالانه آن به ۳۸.۸ درصد برسد. ارزش‌گذاری استارتاپ‌های فعال در برنامه‌نویسی با هوش مصنوعی نیز به‌شدت افزایش یافته است. شرکت Cursor در حال مذاکره برای جذب سرمایه با ارزش‌گذاری بیش از ۵۰ میلیارد دلار است و ارزش‌گذاری شرکت Cognition AI پس از جذب سرمایه به ۲۶ میلیارد دلار رسیده است.
اهمیت اندازه‌گیری پیشرفت هوش مصنوعی
اکنون باید به فعالیت تیم گوگل بازگردیم. بلفیلد گفته است این تیم در حال ایجاد زیرساخت‌هایی برای اندازه‌گیری و رصد نشانه‌های شتاب‌گرفتن توسعه هوش مصنوعی در آینده است. اهمیت این گفته بسیار بیشتر از چیزی است که در نگاه نخست به نظر می‌رسد.
اگر خودبهبودی هوش مصنوعی واقعاً در آینده نزدیک اتفاق بیفتد، هرچه ابزارهای اندازه‌گیری زودتر آماده شوند، امکان شناسایی نشانه‌های اولیه شتاب‌گرفتن پیشرفت نیز زودتر فراهم خواهد شد. اگر چنین تحولی رخ ندهد، همین داده‌ها می‌توانند مبنایی معتبر در اختیار عموم مردم و نهادهای نظارتی قرار دهند تا مانع از آن شوند که روایت‌های اغراق‌آمیز، مسیر بازار را تعیین کنند.
داده‌های کنونی تصویر روشنی ارائه می‌دهند: هوش مصنوعی ۷۵ درصد کدها را نوشته است، اما تنها ۱۱.۹ درصد تغییرات کد به‌طور کامل به آن واگذار می‌شود. فاصله میان این دو رقم خود نشانه مهمی است؛ نشانه‌ای که مشخص می‌کند هوش مصنوعی هنوز تا مرحله «بهبود مستقل خود» چقدر فاصله دارد.
بااین‌حال، هیچ‌کس نمی‌تواند دقیقاً بگوید این وضعیت تا چه زمانی ادامه خواهد داشت. هشدارهای هینتون و دیگر پژوهشگران و تلاش گوگل برای اندازه‌گیری روند پیشرفت، در اصل یک هدف مشترک دارند: آماده‌شدن برای نقطه عطفی که شاید هرگز فرا نرسد یا ممکن است هر لحظه اتفاق بیفتد.
این مقاله از حساب رسمی «Tech Business» در وی‌چت است، به قلم تحریریه Tech Business نوشته شده و با مجوز در رسانه 36Kr منتشر شده است.