دکس هورثی: اوپن‌ای‌آی همه‌چیز را عرضه کرد، اما «حماقت بسیار خطرناک‌تر از تزریق پرامپت است»

رویداد اخیر Dev Day اوپن‌ای‌آی با مجموعه‌ای از محصولات جدید همراه بود، اما کارشناسانی که هر روز مدل‌های پیشرفته را آزمایش می‌کنند، چندان تحت تأثیر قرار نگرفته‌اند. به باور آن‌ها، بسیاری از تغییرات جدید در عمل به معنای عقب‌گرد است و کانون اصلی پیشرفت دیگر چت‌بات‌ها نیست، بلکه دستیارهای شخصی هوش مصنوعی هستند که بتوان با اطمینان، از جمله برای مدیریت ایمیل، به آن‌ها اعتماد کرد. شرکت‌کنندگان در میزگرد پادکست Latent Space معتقدند فاصله میان این دو رویکرد، هم فرصت‌های تازه‌ای برای خلق ارزش در صنعت هوش مصنوعی ایجاد می‌کند و هم منبع نارضایتی کاربران خواهد بود.

دکس هورثی، بنیان‌گذار شرکت Raindrop، بحث ایمنی را با تأکید بر خطری مطرح می‌کند که می‌تواند نگاه رایج به دستیارهای هوش مصنوعی را تغییر دهد. در حالی که بخش زیادی از توجه صنعت به حملات مخرب تزریق پرامپت معطوف شده است، هورثی معتقد است خطر بزرگ‌تر ممکن است از مدلی ناشی شود که صرفاً می‌خواهد مفید باشد. او می‌گوید: «تزریق پرامپت قطعاً تنها چیزی نیست که نگرانش هستم. راه‌های بسیار دیگری هم وجود دارد که می‌توانند آسیب زیادی به زندگی شما بزنند، بی‌آنکه افراد دیگری عمداً بخواهند چنین کاری کنند. خود مدل واقعاً دارد تلاش می‌کند مفید باشد. حماقت بسیار خطرناک‌تر است.»

هورثی برای توضیح این خطر به اتفاقی اشاره می‌کند که در آن، فردی از دستیار هوش مصنوعی یکی از دوستانش خواست کد احراز هویت دومرحله‌ای نتفلیکس را از ایمیل او پیدا کند و دستیار نیز کد را در اختیارش گذاشت. در این مورد، هیچ حمله خصمانه‌ای در کار نبود؛ مدل صرفاً از درخواست پیروی کرده بود.

تنش میان توانایی و اعتماد، وضعیت کنونی دستیارهای شخصی را شکل می‌دهد. بن هایلاک، بنیان‌گذار Human Layer، می‌گوید تنها زمانی برای نخستین بار ایمیل خود را به یک دستیار متصل کرد که بنیان‌گذار دیگری به او یادآوری کرد اوپن‌ای‌آی از قبل به خصوصی‌ترین داده‌هایش دسترسی دارد. هورثی نیز دقیقاً سه شرکت را نام می‌برد که حاضر است اطلاعاتش را به آن‌ها بسپارد: ابتدا اپل، سپس گوگل و در نهایت اوپن‌ای‌آی. او تأکید می‌کند: «برای من شرکت چهارمی وجود ندارد» و آمازون و فیسبوک را از این فهرست کنار می‌گذارد.

بن دیویس، تولیدکننده محتوای یوتیوب، محدودیت سخت‌گیرانه‌تری برای استفاده از این ابزارها در نظر گرفته است: «هنوز تقریباً به حالت فقط‌خواندنی محدودم و برای نوشتن، اجازه صریح می‌دهم.» تجربه او با Grokbot نشان می‌دهد چرا چنین احتیاطی دارد. به گفته دیویس، تقریباً از هر پنج ایمیلی که هوش مصنوعی پیش‌نویس می‌کند، یکی حاوی جزئیاتی است که او نمی‌خواهد ارسال شوند. در یک مورد، ربات حتی پیام را با عبارت «Grokman این شخص» امضا کرده بود.

محصول اصلی، دستیار است؛ نه مدل

الکس وولکوف می‌گوید در تلاش است اصطلاح «عامل‌های هوش مصنوعی» را با «دستیارها» جایگزین کند؛ تلاشی که خودش آن را نوعی مبارزه مستمر توصیف می‌کند. به گفته او، افراد ثروتمند همیشه دستیار شخصی داشته‌اند و اکنون آزمایشگاه‌های هوش مصنوعی می‌خواهند این امکان را در اختیار همه قرار دهند. برای شرکت‌های فعال در این صنعت، مزیت راهبردی چنین تغییری آن است که تعاملات یک‌باره کاربران جای خود را به جریان مداوم استفاده از توکن‌ها می‌دهد.

با این حال، تجربه کاربری همچنان پراکنده است. وولکوف به اصطکاکی اشاره می‌کند که ممکن است کاربران را به انتخاب یک دستیار واحد سوق دهد: «دارم به این فکر می‌کنم که آیا مردم در نهایت یکی را انتخاب می‌کنند و فقط با همان ادامه می‌دهند؟ چون جابه‌جایی میان این ابزارها هزینه‌ای از نظر توجه دارد. حالا به جایی رسیده‌ام که یادم نمی‌آید هر گفت‌وگو را با کدام دستیار انجام داده‌ام.»

این پیش‌بینی درباره تمرکز بازار اهمیت دارد، زیرا هزینه جابه‌جایی میان دستیارها صرفاً روانی نیست و ریشه در ساختار فنی ابزارها دارد. راهکار بن دیویس، استفاده از یک درگاه مرکزی MCP است؛ لایه‌ای برای اتصال سرویس‌هایی مانند Gmail، Google Drive و Notion که روی یک دستگاه لینوکسی و پشت یک پراکسی DNS از Cloudflare اجرا می‌شود. هر دستیار جدید تنها به یک بار ورود به MCP نیاز دارد و سپس می‌تواند از همه ابزارها، مهارت‌ها و پرامپت‌های موجود استفاده کند.

راهکار بن هایلاک متفاوت است. او مخزنی در Git دارد که فایل‌های Markdown و اسکریپت‌های نوشته‌شده توسط عامل هوش مصنوعی‌اش را در خود جای داده و آن‌ها را از طریق Claude Code یا Codex اجرا می‌کند. مشکل اینجاست که ChatGPT افزونه‌ای برای Mercury ندارد. بنابراین، اگر هایلاک برنامه دسکتاپ را باز نگه ندارد، دستیارش «عملاً نمی‌تواند هیچ‌یک از فرایندهای احراز هویت را انجام دهد یا از اسکریپت‌هایی استفاده کند که طی یک سال جمع‌آوری کرده‌ام».

مسئله حل‌نشده این است که اجرای واقعی کارها باید کجا انجام شود. هورثی هنگام ضبط پادکست، لپ‌تاپ خود را در دفتر روشن و باز گذاشته بود تا عامل‌هایش بتوانند به کار ادامه دهند. او گزینه ابری را هم امتحان کرد، اما راه‌اندازی آن را متوجه نشد و دریافت که با بستن لپ‌تاپ، کار متوقف می‌شود. هایلاک نیز توضیح می‌دهد که سامانه PyDurable متعلق به ماریو پیش از عرضه هفت بار بازنویسی شد. تیم خودش هم برای ساخت یک بستر اجرای کد، از ثبت رویدادها در یک گزارش فقط‌افزودنی استفاده کرد؛ زیرا نمی‌خواست سامانه‌اش را بر پایه رابط برنامه‌نویسی‌ای بنا کند که اوپن‌ای‌آی یا آنتروپیک تضمینی برای پایداری آن نمی‌دهند.

مدل‌های تصمیم‌گیری؛ صرفه‌جویی واقعی در برابر هیاهوی بی‌محتوا

نتیجه عملی کار بن هایلاک با Jev، یکی از پیشگامان دسته مدل‌های تصمیم‌گیری، ملموس‌ترین داده کاربردی این گفت‌وگو است. او می‌گوید با استفاده از یک خط پردازش حافظه برای عامل هوش مصنوعی که در آن کار میان Jev برای تولید خروجی ساختاریافته و یکی از مدل‌های Sol نسخه ۵.۶ یا ۶ برای وظایف سنگین‌تر جابه‌جا می‌شود و سپس دوباره به Jev برای مرتب‌سازی و رتبه‌بندی مجدد بازمی‌گردد، هزینه‌ها ۱۰ تا ۲۰ برابر کاهش یافته است.

هایلاک می‌گوید: «در تمام ارزیابی‌های ما، پاسخ‌های این مدل از نظر هم‌خوانی با Opus 5.5 وضعیت بسیار خوبی دارند... آن هم بدون استدلال‌ورزی. نکته عجیب همین است. دلیل روشنی وجود ندارد که چرا دسته‌بندی برای رسیدن به پاسخ‌های خوب باید همیشه به این اندازه استدلال‌ورزی نیاز داشته باشد.»

هورثی توضیح می‌دهد که این فناوری، برخلاف ظاهر ساده‌اش، از نظر فنی بسیار دشوار است: «من عمیقاً باور دارم که دسته‌بندی واقعاً مسئله‌ای بسیار دشوار است. چون خروجی آن فقط یک صفر یا یک است، به‌شکلی فریبنده ساده به نظر می‌رسد؛ اما دسته‌بندی دودویی، به معنای واقعی کلمه، یکی از سخت‌ترین مسائل دنیاست.»

به گفته هورثی، اهمیت مدل‌های تصمیم‌گیری از آنجا ناشی می‌شود که خروجی‌های ساختاریافته مدل‌های پیشرفته قبلی به‌خوبی کالیبره نشده بودند. برای مثال، حتی اگر از مدل خواسته می‌شد امتیازی بین صفر و یک تولید کند، خروجی عملاً به یکی از مقادیر صفر، ۰٫۵ یا یک محدود می‌شد؛ آن هم بدون توجه به نوع پرامپت. مزیت Jev، استفاده از داده‌های متنوع، ارائه احتمال‌های کالیبره‌شده و بازگرداندن لگاریتم احتمال توکن‌هاست؛ قابلیتی که هایلاک از آن استقبال می‌کند. او می‌گوید: «واقعاً دوست دارم بدانم احتمال‌های واقعی خروجی برای آن توکن چه بوده است.»

بن دیویس از نحوه صحبت درباره Jev ناراضی است: «بیشتر نمونه‌هایی که به‌شدت وایرال می‌شوند، عمدتاً احمقانه‌اند... به‌شکلی افراطی احمقانه.» او به ادعایی اشاره می‌کند که در یک مهمانی شام مطرح شده بود: «حالا که Jev را دارم، می‌توانم تضمین کنم خروجی در قالب دلخواهم باشد.» از نظر دیویس، این حرف بیشتر تکرار چیزی است که افراد از قبل هم می‌دانستند.

کاربرد واقعی مورد علاقه او، منوهای فرمانی است که با فشردن کلیدهای Command و K باز می‌شوند. در چنین منویی، سیستم می‌تواند با دریافت تنها سه حرف تایپ‌شده، ۲۰ مقصد احتمالی را تقریباً بلافاصله رتبه‌بندی کند. هایلاک درباره مدل رقیب Cloudflare می‌گوید نتایج «باورنکردنی» هستند: مدل کوچک‌تر با سرعتی بسیار بیشتر به عملکرد Jev می‌رسد و مدل بزرگ‌تر هم از نظر عملکرد و هم از نظر سرعت بهتر عمل می‌کند.

هورثی در مقابل تأکید می‌کند که در دسته‌بندی ساختاریافته و محدود، بیش‌برازش به یک حوزه خاص ممکن است کاملاً قابل قبول باشد. با این حال، مزیت اصلی Jev استفاده از داده‌های متنوع است؛ ویژگی‌ای که سنجش دقیق آن با معیارهای ارزیابی دشوار است. او می‌گوید: «به نظرم بسیار نادرست است که به شرکتی نگاه کنیم که پس از مدت‌ها برای نخستین بار شیوه استفاده مردم از مدل‌ها را تغییر داده و بگوییم کارش تمام شده است.»

اوپن‌ای‌آی همه‌چیز را عرضه کرد؛ اما کاربران حرفه‌ای از عقب‌گردها می‌گویند

ارزیابی شرکت‌کنندگان از محصولات عرضه‌شده در Dev Day اوپن‌ای‌آی، از نظر کیفیت محصول منفی است؛ هرچند نظر آن‌ها درباره یکی از مدل‌ها تا حدی مثبت است. مهم‌ترین موارد معرفی‌شده عبارت بودند از Sol 6.1، حالت «فوق‌سریع» و Dots؛ محصولی با ماهیت دستیار شخصی.

نخستین بازخورد بن هایلاک به اوپن‌ای‌آی صریح بود: Dots باید به یک برنامه مستقل تبدیل شود. او از قبل چندین عامل هوش مصنوعی را اجرا می‌کند و دستیارش باید بتواند جداگانه محیط را زیر نظر بگیرد و اعلان بفرستد.

یکی از انتقادهای تکرارشونده، دشواری پیدا کردن قابلیت‌ها و پیچیدگی بیش از حد برنامه‌هاست. قابلیت Dots، به گفته شرکت‌کنندگان، در رابط کاربری عمیقاً پنهان شده است؛ ویژگی Maps نیز به همین مشکل دچار است. بن دیویس می‌گوید برنامه دسکتاپ Codex هنگام عرضه «دقیقاً همان چیزی بود که باید باشد، اما با هر به‌روزرسانی کمتر از قبل به آن ایده‌آل نزدیک شده است».

دکس هورثی نیز گزارش می‌دهد که وقتی رایانه آفلاین است، کادر ورود متن در برنامه از کار می‌افتد. به باور او، برنامه حال‌وهوای محصولی را دارد که هوش مصنوعی نوشته است: «همه‌چیز مدام و بی‌دلیل تغییر می‌کند... با دقت نگاه می‌کنید و با خودتان می‌گویید: صبر کنید، چه اتفاقی افتاد؟» او به تغییر نام قابلیت «fork chat» به «copy chat» اشاره می‌کند؛ تغییری که اوپن‌ای‌آی برای قابل‌فهم‌تر کردن اصطلاح فنی fork برای کاربران غیرتوسعه‌دهنده انجام داد.

بن هایلاک توضیح می‌دهد که چرا بسیاری از قابلیت‌ها پنهان شده‌اند: «اگر چیزی را برای هشت میلیون کاربری که هنوز به‌شدت درگیر دنیای هوش مصنوعی نیستند خراب کنیم، مجبوریم همه این قابلیت‌ها را پنهان کنیم... باید به کاربران حرفه‌ای اعتماد کنیم تا خودشان پیدایشان کنند.»

بن دیویس مشکل بنیادی‌تر را در محصولاتی می‌بیند که «می‌خواهند برای همه‌کس همه‌چیز باشند و در نهایت برای هیچ‌کس مناسب نیستند». او Grokbot را برای استفاده حرفه‌ای و Muse را برای مصرف‌کنندگان می‌پسندد، اما معتقد است Codex به‌تدریج ویژگی‌های اصلی خود را از دست می‌دهد و ChatGPT روزبه‌روز پیچیده‌تر می‌شود.

مدل‌ها؛ Opus 5.5 روح دارد

بحث شرکت‌کنندگان درباره مدل‌ها به‌طور غیرمعمولی مشخص و مبتنی بر تجربه شخصی است. دکس هورثی می‌گوید: «مدل‌های رده Opus روح دارند... مدل‌های GPT روح ندارند؛ این موضوع از ابتدا در طراحی آن‌ها بوده است. مهندس‌هایی فوق‌العاده، اما بدون روح.» او برای هر کاری که به نوشتن مربوط می‌شود از Opus 5.5 استفاده می‌کند و می‌گوید نمی‌تواند برای نگارش به مدل‌های V6 تکیه کند.

تجربه بن هایلاک تا پیش از عرضه Opus 5.5 برعکس بود؛ او پیش‌تر هرگز از مدل‌های Claude برای نوشتن استفاده نکرده بود. به گفته او، Claude 4.8 «یک آشفتگی بود» و کاربران را وادار کرد دوباره به نسخه 4.6 برگردند. هورثی نیز تأیید می‌کند که هنگام انتقال Raindrop از نسخه 4.6 به 4.8، مشتریان شکایت کردند و حتی تصاویری از صفحه نمایش فرستادند که نشان می‌دادند متن برایشان خوانا نیست. یکی از آن‌ها نوشته بود: «نمی‌توانم این را بخوانم.»

الکس وولکوف نظریه‌ای درباره این موضوع مطرح می‌کند که چرا شرکت‌کنندگان در آزمایش‌ها افت کیفیت را احساس نکرده‌اند: کارکنان آنتروپیک از مدل‌های داخلی عرضه‌نشده‌ای استفاده می‌کنند که محدودیت مصرف ندارند و بسیار سریع‌اند؛ تجربه‌ای که به گفته او «کاملاً با آنچه کاربران دریافت می‌کنند متفاوت است».

بن هایلاک برای توضیح توانایی مدل‌ها به تجربه خود در آزمون Slop Code Bench اشاره می‌کند. در این آزمون، Opus 5.5 حدود ۳۰ هزار خط کد تولید کرد، در حالی که Sonnet 5 و Opus 4.8 هرکدام حدود ۱۰ هزار خط نوشتند. بیش از نیمی از خروجی Opus 5.5 نیز شامل آزمون‌ها بود.

بن دیویس چارچوبی برای توضیح پیشرفت نسل‌های مدل ارائه می‌کند که در آن، توانایی‌ها به‌صورت پله‌ای رشد می‌کنند: «سطوح مشخصی از توانایی وجود دارند که مدل‌ها به آن‌ها نزدیک می‌شوند، اما از آن‌ها عبور نمی‌کنند. درست به آستانه می‌رسند، اما نمی‌توانند جلوتر بروند تا زمانی که از آن سقف عبور کنند؛ سپس به سطح بالاتری از توانایی می‌رسند.»

او Sol 6.1، Astra، Opus 5.5 و Fable 5.1 را در دسته تازه‌ای قرار می‌دهد که با «رفتارهای گروهی» و اعتماد تعریف می‌شود. الکس وولکوف نیز برآورد می‌کند که مدل‌های متن‌باز اکنون تقریباً یک سال از مدل‌های پیشرو عقب‌اند؛ زیرا مدل‌های پیشرفته بار دیگر جهشی سریع داشته‌اند.

چه تحولاتی را باید دنبال کرد؟

پرسش فنی حل‌نشده‌ای که در پس همه این بحث‌ها قرار دارد، این است که اجرای کارها دقیقاً کجا انجام می‌شود. هورثی مجبور شد لپ‌تاپش را باز بگذارد. دستیار Dots هایلاک نمی‌تواند به اسکریپت‌های Mercury او دسترسی پیدا کند. در این میان، گزارش رویدادهای فقط‌افزودنی در PyDurable تنها راهکار عرضه‌شده‌ای بود که شرکت‌کنندگان مشخصاً نام بردند. اگر یکی از آزمایشگاه‌های هوش مصنوعی استانداردی برای مدیریت وضعیت تعریف کند یا انتقال مطمئن میان اجرای محلی و ابری را فراهم سازد، محصولات دستیارمحوری که امروز در بازار وجود دارند، می‌توانند شکل بسیار متفاوتی پیدا کنند.

موضوع دیگری که باید دنبال کرد، فاصله میان مدل‌های داخلی آنتروپیک و نسخه‌هایی است که در اختیار عموم قرار می‌گیرند. اگر کارکنان این شرکت فقط با مدل‌های عرضه‌نشده، نامحدود و سریع کار کنند، ممکن است افت کیفیتی که کاربران میان نسخه‌های مختلف گزارش می‌کنند، تا زمان عرضه مدلی مانند Opus 5.5 و تغییر دوباره معیارهای مقایسه، شناسایی نشود.

پیام اصلی این میزگرد برای سرمایه‌گذاران و سازندگان محصولات هوش مصنوعی آن است که مرز اصلی رقابت دیگر صرفاً توانایی خام مدل‌ها نیست؛ بلکه به مسائل کمتر چشمگیر اما اساسی مانند اعتماد، مدیریت وضعیت و اقتصاد تصمیم‌گیری منتقل شده است. شرکت‌هایی که این مشکلات را حل کنند و از عرضه به‌روزرسانی‌های همراه با افت عملکرد بپرهیزند، زمانی توجه کاربران را حفظ خواهند کرد که بازار پراکنده دستیارهای هوش مصنوعی سرانجام به سمت تمرکز بر چند گزینه محدود، یا حتی یک دستیار شخصی واحد، حرکت کند.