افشای نقشه راه محرمانه آنتروپیک از پنج سال پیش؛ کلود کد و مدل‌های تریلیون‌پارامتری از همان ابتدا در برنامه بودند
یک اختلاف حقوقی بر سر حق نشر، ناخواسته پرده از برنامه‌های اولیه یکی از شرکت‌های پیشرو در توسعه هوش مصنوعی برداشته است. به‌تازگی سندی داخلی از نقشه راه پژوهشی آنتروپیک با برچسب «فوق‌محرمانه» منتشر شده که تاریخ آن به ژوئیه ۲۰۲۱ بازمی‌گردد؛ زمانی که تنها چند ماه از جدایی بنیان‌گذاران این شرکت از OpenAI می‌گذشت و آنتروپیک کمی بیش از دوازده کارمند داشت. بااین‌حال، همین سند چندصفحه‌ای به‌روشنی طرح‌های فنی فناوری‌هایی را تشریح می‌کند که بعدها به کلود کد (Claude Code)، قابلیت فراخوانی ابزارها، افزایش توان محاسباتی هنگام پاسخ‌گویی و حتی مدل‌های دارای یک تریلیون پارامتر تبدیل شدند.
نقشه راه با بیان هدف نهایی شرکت آغاز می‌شود: ساخت هوش مصنوعی عمومی (AGI) که ایمن و سودمند باشد. نمونه اولیه موردنظر آنتروپیک در این سند چنین توصیف شده است: «یک دستیار هوش مصنوعی همه‌منظوره که بتواند از طریق زبان طبیعی با انسان تعامل کند و نرم‌افزار بسازد، آن را ویرایش کند و درباره عملکردش توضیح دهد.» چنین دستیاری باید می‌توانست به پرسش‌های عمومی پاسخ دهد، تابع‌های برنامه‌نویسی بنویسد، اشکالات نرم‌افزاری را پیدا کند، رابط‌های برنامه‌نویسی کاربردی (API) طراحی کند و درباره سبک کدنویسی و بهترین شیوه‌های توسعه نرم‌افزار گفت‌وگو کند. به بیان خود سند، این دستیار باید «تمام توانایی‌های یک همکار مهندس نرم‌افزار» را به نمایش می‌گذاشت.
این توصیف تقریباً همان چیزی است که امروز در کلود کد می‌بینیم. در دورانی که GPT-3 به‌تازگی سروصدای زیادی به پا کرده بود و صنعت فناوری هنوز از توانایی هوش مصنوعی در سرودن شعرهایی با حروف آغازین معنادار شگفت‌زده می‌شد، آنتروپیک عملاً از مرحله میانی تکمیل خودکار کد عبور کرده و مستقیماً ساخت یک عامل هوش مصنوعی با توانایی انجام وظایف کامل مهندسی نرم‌افزار را هدف گرفته بود.
دوراهی راهبردی و لحظه تصمیم‌گیری
شاید ارزشمندترین بخش این نقشه راه نه هدف نهایی آن، بلکه بحث‌های داخلی پژوهشگران درباره مسیر رسیدن به آن باشد. اندی جونز، یکی از پژوهشگران شرکت، در یادداشت‌های حاشیه سند به اختلاف‌نظری اساسی اشاره کرده بود: آیا تیم باید ابتدا یک دستیار برنامه‌نویسی واقعاً کاربردی بسازد یا پیش از هر چیز امکان فراخوانی ابزارها توسط مدل را اثبات کند؟
دو مسیر مشخص پیش روی تیم قرار داشت. رویکرد عمل‌گرایانه پیشنهاد می‌کرد کار با قابلیت بازیابی اطلاعات از مخازن کد آغاز شود تا هوش مصنوعی بتواند تعاریف نوع داده را در بخش‌های مختلف یک پروژه جست‌وجو و بررسی کند. تام براون، نویسنده نخست مقاله پژوهشی GPT-3، نیز در گفت‌وگوهای مربوط به این مسیر حضور داشت و پیشنهاد کرده بود مرور و جست‌وجوی مخازن کد نقطه شروع مناسبی باشد. در مقابل، رویکرد پژوهش‌محور بر این تأکید داشت که ابتدا باید سراغ اشکال‌زدایی با استفاده از دستورهای printf و عملیات ویرایشگر رفت تا ثابت شود مدل واقعاً توانایی فراخوانی و به‌کارگیری ابزارها را دارد.
تصمیم نهایی را داریو آمودی، مدیرعامل آنتروپیک، گرفت: در کوتاه‌مدت باید امکان‌پذیری فراخوانی ابزارها اثبات شود و در بلندمدت این قابلیت به یک دستیار برنامه‌نویسی فوق‌العاده کاربردی تکامل پیدا کند. با نگاهی به روند پیشرفت کلود کد در چند سال گذشته، می‌توان دید که تقریباً تمام مراحل توسعه آن مطابق مسیری پیش رفته که در همین تصمیم ترسیم شده بود.
آینده‌نگری فنی فراتر از زمان خود
پیش‌بینی‌های این نقشه راه درباره فناوری‌های زیربنایی نیز به همان اندازه چشمگیر است. آنتروپیک در بخش مربوط به پیش‌آموزش مدل‌ها، از سال ۲۰۲۱ هدف آموزش مدل‌هایی با یک تریلیون پارامتر یا بیشتر را به‌صراحت مطرح کرده بود. این شرکت همچنین پیشنهاد داده بود امکان استفاده از پنجره‌های زمینه بسیار طولانی یا سازوکارهای دیگری بررسی شود که بتوانند حجم عظیمی از اطلاعات مربوط به حافظه و تجربه را در اختیار مدل قرار دهند. در دورانی که مدل‌های ۱۷۵ میلیاردپارامتری هنوز بسیار بزرگ به شمار می‌رفتند، آنتروپیک مقیاس تریلیون‌پارامتری و حافظه بسیار طولانی را به‌عنوان بخشی از زیرساخت‌های موردنیاز آینده در برنامه خود گنجانده بود.
نکته مهم‌تر در بخش مربوط به بازخورد انسانی و هم‌راستاسازی رفتار مدل‌ها با اهداف و ارزش‌های موردنظر دیده می‌شود. در این بخش، مفهوم «خودانتقادی مدل» جایگاه برجسته‌ای دارد؛ به این معنا که مدل بتواند رفتار و کیفیت خروجی‌های خودش را ارزیابی کند و از قضاوت‌های خود به‌عنوان سیگنال بازخورد بهره ببرد. این دقیقاً همان ایده محوری است که امروزه در سازوکارهای بازخورد مبتنی بر هوش مصنوعی و قابلیت‌های خوداصلاحی مدل‌های استدلالی به کار گرفته می‌شود.
حتی اصطلاح «محاسبات زمان آزمون» (Test-time Compute) نیز در این سند دیده می‌شود؛ مفهومی که بعدها در پژوهش‌های مربوط به مدل‌های زبانی بزرگ اهمیت بسیار زیادی پیدا کرد. البته این موضوع در آن زمان در چارچوب پژوهش‌های هم‌راستاسازی و بررسی مدل‌های تمایزدهنده مطرح شده بود و هنوز فاصله زیادی با رویکرد افزایش توان محاسباتی هنگام استدلال، مشابه آنچه بعدها در مدل o1 مشاهده شد، داشت. بااین‌حال، وجود این مفهوم نشان می‌دهد که چشم‌انداز پژوهشی آنتروپیک از پنج سال پیش تنها به افزایش محاسبات در مرحله آموزش محدود نبود و سرمایه‌گذاری محاسباتی پس از آموزش مدل را نیز در بر می‌گرفت.
نگرانی‌های امنیتی پیش‌بینانه
آنتروپیک که از ابتدا با محوریت ایمنی هوش مصنوعی شکل گرفته بود، بخش قابل‌توجهی از نقشه راه خود را به مسائل امنیتی اختصاص داده است. سم مک‌کندلیش، یکی از هم‌بنیان‌گذاران شرکت، در یادداشت‌های حاشیه سند پرسشی مطرح کرده بود که هنوز هم کل صنعت هوش مصنوعی با آن دست‌وپنجه نرم می‌کند: چگونه می‌توان ابزارها را بدون جداسازی محیط اجرای آن‌ها در یک سندباکس، به‌شکلی ایمن در اختیار مدل قرار داد؟
داریو آمودی بلافاصله این پرسش را دقیق‌تر کرد و توجه را به ابزارهایی معطوف ساخت که هنگام استفاده عملی از مدل، کد اجرا می‌کنند. وقتی هوش مصنوعی بتواند مستقیماً در محیط میزبان کد اجرا کند، به پوسته فرمان دسترسی داشته باشد و فایل‌ها را تغییر دهد، ازدست‌رفتن کنترل آن یا موفقیت حملات تزریق پرامپت می‌تواند پیامدهای بسیار خطرناکی داشته باشد. مسائلی مانند افزایش غیرمجاز سطح دسترسی عامل‌های هوش مصنوعی، خروج از محیط ایزوله و آلودگی داده‌ها که امروزه بحث‌های داغی درباره آن‌ها در اینترنت جریان دارد، در سال ۲۰۲۱ نیز در آنتروپیک و در چارچوب مرزهای امنیتی سندباکس بررسی می‌شدند.
آماندا، فیلسوف داخلی شرکت، نیز در این سند حضور دارد و هشدار قابل‌توجهی مطرح می‌کند: اگر پژوهش‌های مربوط به هم‌راستاسازی عمدتاً در حوزه زبان طبیعی پیش بروند، اما توانایی‌های مدل بیشتر در حوزه برنامه‌نویسی توسعه پیدا کنند، این دو مسیر پژوهشی باید همواره ارتباطی نزدیک و هماهنگ داشته باشند. او حتی پیشنهاد کرده بود این موضوع به یکی از اصول شرکت تبدیل شود: پژوهش‌های توسعه توانایی مدل و پژوهش‌های هم‌راستاسازی در هر حوزه باید متناسب با یکدیگر و هم‌گام پیش بروند، مگر آنکه دلایل کافی برای جداکردن مسیر پیشرفت آن‌ها وجود داشته باشد.
نفوذ امنیتی فیزیکی در OpenAI
درحالی‌که صنعت هوش مصنوعی بار دیگر مسیرهای فنی متفاوت آنتروپیک و OpenAI را مرور می‌کرد، ماجرای امنیتی بسیار جنجالی‌تری نیز از سوی OpenAI آشکار شد.
بر اساس کیفرخواستی که دادستان‌های فدرال آمریکا منتشر کرده‌اند، عبدالرحمن الفوزان، مهندس ۳۵ ساله سابق تیم محصول OpenAI، به‌طور رسمی از این شرکت اخراج شده و اکنون با اتهامات کیفری فدرال روبه‌رو است. او متهم است دستگاه شنودی مجهز به قابلیت‌های پیشرفته رمزنگاری و انتقال داده را در دستمال توالت پیچیده و مخفیانه به یکی از درگاه‌های USB پشت تلویزیون اتاق کنفرانس اصلی و اختصاصی مدیران ارشد در دفتر مرکزی OpenAI در سان‌فرانسیسکو متصل کرده است.
این اتاق کنفرانس محل برگزاری نشست‌های غیرعلنی سم آلتمن و دیگر مدیران ارشد شرکت است؛ جلساتی که در آن‌ها موضوعاتی مانند اسرار تحقیق و توسعه ابرهوش مصنوعی، برنامه‌های معرفی‌نشده محصولات و گزارش‌های مربوط به همکاری با نهادهای دولتی مطرح می‌شوند.
هشدار یک سازمان آزمایش ایمنی هوش مصنوعی
در همین حال، یک نهاد مستقل فعال در حوزه ایمنی هوش مصنوعی نیز درباره خطرات موجود هشدار داده است. شرکت وایت سرکل (White Circle)، یک شرکت عام‌المنفعه که با حمایت مدیران ارشد و پژوهشگرانی از آنتروپیک، دیپ‌مایند، هاگینگ فیس و OpenAI تأسیس شده، به‌تازگی نتایج آزمایش‌های خود درباره سازوکارهای ایمنی مدل‌های مطرح تولید تصویر را منتشر کرده است.
دنیس شیلوف، مدیرعامل وایت سرکل، در اکتبر ۲۰۲۴ یکی از شناخته‌شده‌ترین حملات فراگیر برای دورزدن محدودیت‌های ایمنی مدل‌های مطرح هوش مصنوعی را منتشر کرد و پس از آن شرکتی را با تمرکز بر آزمایش ایمنی هوش مصنوعی بنیان گذاشت. تازه‌ترین پژوهش این شرکت واقعیتی نگران‌کننده را آشکار کرده است: سازوکارهای محافظتی مدل‌های DALL·E 3، نانو بنانا ۲ گوگل و GPT-Image-2 دارای آسیب‌پذیری‌هایی هستند که می‌توان به‌آسانی از آن‌ها عبور کرد.
تیم پژوهشی برای انجام این آزمایش‌ها از روش حمله جدیدی به نام «آزمون تهاجمی از طریق تکامل تکرارشونده راهبردها» (Red-teaming via Iterative Strategy Evolution) یا RISE استفاده کرد. ویژگی متمایز این روش آن است که تمام مراحل حمله صرفاً با استفاده از مدل‌های در دسترس عموم انجام می‌شود. مدل مهاجم یکی از مدل‌های Qwen است که از هاگینگ فیس دریافت شده و مدل ارزیاب نیز Gemini 3.8 Flash است.
شیلوف در گفت‌وگو با رسانه فناوری آرس تکنیکا (Ars Technica) گفت: «برای شکستن سدهای دفاعی یک مدل پیشرفته، لزوماً به یک مدل پیشرفته دیگر نیاز ندارید؛ نکته واقعاً جالب همین است.»
نتایج آزمایش‌ها نشان داد تیم پژوهشی تنها با استفاده از ابزارهای آماده و فراخوانی API توانسته است فیلترهای ایمنی را دور بزند و با نرخ موفقیت حدود ۱۳ درصد، محتوای صریح تولید کند. وایت سرکل تأکید کرد که این رقم «بالاترین نرخ موفقیت در دورزدن محدودیت‌ها در میان تمام روش‌هایی است که با معیارهای یکسان آزمایش شده‌اند».
نگران‌کننده‌تر اینکه نسخه‌های جدیدتری که پس از آن از سوی OpenAI و گوگل منتشر شدند، یعنی ChatGPT Images 2.5 و Nano Banana 2.1، در آزمایش‌هایی با همان روش، آسیب‌پذیری به‌مراتب بیشتری نسبت به نسخه‌های پیشین خود نشان دادند. وایت سرکل به آرس تکنیکا اعلام کرد که هیچ‌یک از این دو شرکت به یافته‌های جدید پاسخ نداده‌اند.
پژوهش وایت سرکل همچنین مشکلی ساختاری را در سراسر صنعت هوش مصنوعی آشکار کرد: تقریباً هر فرد یا گروهی که پژوهش ارزشمندی در زمینه ایمنی انجام می‌دهد، احتمال دارد در نهایت از طریق قراردادهای همکاری جذب آزمایشگاه‌های پیشرو شود؛ اتفاقی که می‌تواند استقلال فعالیت پژوهشی آن‌ها را به خطر بیندازد. این شرکت پیش‌تر در برنامه پاداش کشف آسیب‌پذیری آنتروپیک شرکت کرده بود، اما در نهایت به این نتیجه رسید که دامنه برنامه «بسیار محدود» است و تنها بر حملات عمومی برای دورزدن محدودیت‌های مدل در حوزه‌های مشخصی تمرکز دارد که خود آزمایشگاه تعیین کرده است.
شیلوف معتقد است تا زمانی که آزمایش‌های ایمنی اجباری نشوند، آزمایشگاه‌های پیشرو واقعاً منابع لازم را به این حوزه اختصاص نخواهند داد. او خواستار ایجاد سازوکاری برای نظارت مستقل توسط نهادهای ثالث، مشابه چارچوب‌های پیشگیری از تهدیدات هسته‌ای، شده است. شیلوف همچنین به‌صراحت اعلام کرده که وایت سرکل توافق‌نامه‌های محرمانگی محدودکننده‌ای را که ممکن است مانع انتشار یافته‌های مهم شوند، امضا نخواهد کرد.
این درخواست در شرایطی مطرح می‌شود که انتشار محتوای جنسی صریح تولیدشده با هوش مصنوعی همچنان رو به افزایش است. پژوهشی که گوگل نیز در آن مشارکت داشته و کاربران اینترنت در آمریکا، استرالیا و بریتانیا را بررسی کرده است، نشان می‌دهد حدود ۲۰ درصد از کاربرانی که به ساخت تصاویر برهنه با هوش مصنوعی اذعان کرده‌اند، گفته‌اند این کار را «برای سرگرمی» یا «به شوخی» انجام داده‌اند. در همین حال، نزدیک به یک‌سوم آن‌ها صرفاً قصد «آزمایش این فناوری» را داشته‌اند. بنیاد نظارت بر اینترنت بریتانیا (IWF) نیز هفته گذشته هشدار داد که شمار تصاویر سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید شده و در نیمه نخست سال ۲۰۲۶ شناسایی شده‌اند، از مجموع کل سال ۲۰۲۵ فراتر رفته و به ۶۳۱۰ تصویر رسیده است؛ رقمی که نشان‌دهنده افزایشی حدود ۴۰ درصدی نسبت به دوره مشابه سال قبل است.
از نقشه راه ایمنی آنتروپیک در پنج سال پیش گرفته تا نفوذ فیزیکی به اتاق کنفرانس OpenAI و تلاش‌های نظام‌مند وایت سرکل برای عبور از سدهای محافظتی مدل‌های مطرح، مجموعه این رویدادها نشان می‌دهد که بحث امنیت در صنعت هوش مصنوعی در حال عبور از گفت‌وگوهای نظری و فلسفی درباره فناوری و حرکت به‌سوی رویارویی‌های عملی، ملموس‌تر و فوری‌تر میان روش‌های حمله و دفاع است.