آندری کارپاتی از شکاف چشمگیر در دسترسی به توانمندی‌های هوش مصنوعی می‌گوید

www.therundown.ai

انتشار در منبع: ۲۴ مهر ۱۴۰۵، ۰۰:۳۳ · تهرانانتشار در سایت ما: ۲۴ مهر ۱۴۰۵، ۰۱:۵۶ · تهران

آندری کارپاتی، از بنیان‌گذاران OpenAI، بار دیگر به دیدگاهی که در ماه آوریل درباره نحوه ارزیابی هوش مصنوعی مطرح کرده بود بازگشته و از وجود نوعی «قیف باریک و محدودکننده» در دسترسی به پیشرفته‌ترین سامانه‌های هوش مصنوعی سخن گفته است. به اعتقاد او، تجربه کاربرانی که پرسش‌های کوتاه و روزمره خود را از چت‌بات‌ها می‌پرسند، می‌تواند با آنچه پژوهشگران در آزمایشگاه‌های هوش مصنوعی از توانمندی این فناوری می‌بینند، تفاوت چشمگیری داشته باشد.

کارپاتی این شکاف را که پیش‌تر نیز در رسانه The Rundown به آن پرداخته شده بود، ناشی از چند عامل می‌داند: سطوح متفاوت دسترسی به سامانه‌ها، گستردگی و پیچیدگی وظایفی که به آن‌ها سپرده می‌شود و توانمندی ویژه مدل‌ها در حوزه‌هایی مانند برنامه‌نویسی و ریاضیات که هم امکان بررسی درستی پاسخ‌ها در آن‌ها وجود دارد و هم از نظر تجاری ارزشمند هستند.

وظایف متفاوت، توانمندی‌های متفاوتی را آشکار می‌کنند

کارپاتی در شرحی که ۳۰ آوریل از سخنرانی خود در رویداد Sequoia منتشر کرد، توضیح داد که نقاط قوت مدل‌های هوش مصنوعی به دو عامل مهم بستگی دارد: اینکه آزمایشگاه‌ها در مرحله آموزش بر چه نوع وظایفی تمرکز می‌کنند و اینکه تا چه اندازه می‌توان درستی نتایج آن وظایف را سنجید.

بر اساس پژوهشی که OpenAI در ۱۵ سپتامبر ۲۰۲۵ منتشر کرد، نزدیک به ۸۰ درصد مکالمات کاربران عادی با ChatGPT به دریافت راهنمایی‌های کاربردی، جست‌وجوی اطلاعات و نوشتن متن اختصاص داشته است. در مقابل، تنها ۴٫۲ درصد پیام‌ها مربوط به برنامه‌نویسی بوده‌اند. این پژوهش فعالیت کاربران ChatGPT را در سال‌های ۲۰۲۴ و ۲۰۲۵ و در حساب‌های رایگان، پلاس و پرو بررسی کرده و حساب‌های تجاری و سازمانی را دربر نگرفته است.

OpenAI همچنین در گزارش فنی منتشرشده در ۱۱ فوریه اعلام کرد که Codex کدهای یک نسخه آزمایشی داخلی از یک نرم‌افزار را تولید کرده است. در این پروژه، مهندسان به‌جای نوشتن مستقیم کدها، ابزارها، محیط کاری و سازوکارهای بازخورد موردنیاز سامانه را طراحی و آماده کردند. به گفته این شرکت، اجرای برخی وظایف مستقل توسط عامل‌های هوش مصنوعی بیش از شش ساعت طول کشیده است.

چرا این موضوع اهمیت دارد؟

مشاهده کارپاتی به روشن شدن یکی از اختلاف‌نظرهای رایج در بحث‌های مربوط به هوش مصنوعی کمک می‌کند. کسی که توانمندی یک چت‌بات را صرفاً بر اساس پاسخ‌های سریع آن ارزیابی می‌کند، ممکن است تقریباً هیچ شناختی از کارهای فنی پیچیده و طولانی‌مدتی نداشته باشد که برخی عامل‌های هوش مصنوعی هم‌اکنون قادر به انجام آن‌ها هستند. در نتیجه، تصور چنین فردی از توانمندی این فناوری ممکن است از واقعیتی که متخصصانِ درگیر با این سامانه‌ها مستقیماً تجربه می‌کنند، عقب‌تر باشد.

برای کارکنان و مدیران، انتخاب وظیفه‌ای که هوش مصنوعی با آن آزمایش می‌شود اهمیت زیادی دارد. آزمودن یک مدل در انجام کاری آشنا که نتیجه آن قابل بررسی باشد، می‌تواند توانمندی‌هایی را آشکار کند که در گفت‌وگوهای معمولی با چت‌بات‌ها دیده نمی‌شوند. بااین‌حال، ارزش عملی این توانمندی‌ها همچنان به زمانی بستگی دارد که برای بازبینی، اصلاح و به‌کارگیری خروجی در فرایند واقعی کار صرف می‌شود. بنابراین، هنگام مقایسه عملکرد سامانه‌های هوش مصنوعی باید علاوه بر خود مدل، ابزارهای در اختیار آن و مدت‌زمانی را که برای انجام وظیفه داشته است نیز در نظر گرفت.

گزارشی که شرکت Anthropic در ۲۵ سپتامبر منتشر کرد، نمونه‌ای از تأثیر تأیید صحت نتایج بر تغییر انتظارات از هوش مصنوعی را نشان می‌دهد. این گزارش توضیح می‌دهد که سامانه Claude Science توانسته است با راهنمایی محدود، یک محاسبه دشوار در فیزیک نظری را انجام دهد. لنس دیکسون صحت نتیجه را بررسی کرده است. در انجام این محاسبه از روش‌های علمی تثبیت‌شده استفاده شده بود. شرکت Anthropic برای تهیه این مقاله به نویسنده آن، مت فون هیپل، دستمزد پرداخت کرده و به دیکسون نیز اعتبار استفاده از Claude داده بود.

البته بررسی صحت چنین نتایجی همچنان به تلاش انسانی نیاز دارد. OpenAI در گزارش خود درباره تولید کد با هوش مصنوعی توضیح داده است که ظرفیت انسان‌ها برای بازبینی خروجی‌ها به یکی از محدودیت‌های اصلی تبدیل شده است. هرچه حجم محتوای تولیدشده افزایش یابد، ممکن است فشار کاری افرادی که مسئول بررسی درستی آن هستند نیز بیشتر شود. افزون بر این، میزان قابل‌اعتماد بودن این سامانه‌ها در انجام وظایف دیگر همچنان باید به‌طور مستقل آزمایش شود.

سامانه‌های داخلی شرکت‌ها نیز عامل دیگری در ایجاد این شکاف هستند. OpenAI در ۶ اکتبر نتایج ریاضی به‌دست‌آمده از یک مدل داخلی را منتشر کرد و اعلام کرد که برای عرضه آن تلاش می‌کند. بااین‌حال، در زمان انتشار این خبر، افراد خارج از شرکت تنها به مجموعه‌ای منتخب از خروجی‌های مدل برای بررسی دسترسی داشتند و هنوز نمی‌توانستند خودشان سامانه را آزمایش کنند.

برای عموم مردم و نهادهای نظارتی، وجود مدل‌هایی که تنها در داخل آزمایشگاه‌ها در دسترس هستند، برطرف کردن این اختلاف در شناخت توانمندی‌های هوش مصنوعی را دشوارتر می‌کند. متخصصان داخل شرکت‌ها ممکن است پیشرفت سریع این فناوری را مدت‌ها پیش از آنکه افراد بیرونی بتوانند همان سامانه‌ها را بررسی کنند، از نزدیک تجربه کرده باشند. هنوز مشخص نیست این فاصله در میزان شناخت و درک توانمندی‌های هوش مصنوعی دقیقاً چقدر است. فراهم کردن امکان ارزیابی مدل‌ها، همراه با مستندسازی ابزارها و شرایطی که سامانه‌ها در آن فعالیت می‌کنند، می‌تواند به نهادهای نظارتی کمک کند تا توانمندی واقعی آن‌ها را دقیق‌تر بسنجند.

منابع و مطالب تکمیلی

این مقاله بر پایه گزارشی از خبرنامه The Rundown در تاریخ ۱۳ اکتبر ۲۰۲۶ تهیه شده است.