پارادوکس تقطیر مدل‌های هوش مصنوعی

منتشرشده نخستین‌بار در: Lawfare در ۸ اکتبر ۲۰۲۶ به قلم لیزا کلاسن

در اول سپتامبر، وزارت دادگستری آمریکا لایحه‌ای را در پرونده حقوق شرکت‌های هوش مصنوعی برای استفاده و بازاستفاده از آثار شما ارائه کرد؛ اقدامی که آن را «بیانیه منافع» نامید و در نبرد حقوقی OpenAI با نیویورک‌تایمز و دیگر ناشران مطرح شد.

این نخستین مداخله مستقیم دولت فدرال در موج شکایت‌های مربوط به داده‌های آموزشی هوش مصنوعی مولد بود. دولت استدلال کرد که وارد کردن متون دارای حق‌نشر به یک مدل هوش مصنوعی برای آموزش، استفاده منصفانه محسوب می‌شود. به گفته دولت، آموزش OpenAI «به‌شدت تحول‌آفرین» است و الزام شرکت‌ها به دریافت مجوز برای همه داده‌هایی که وارد مدل‌های خود می‌کنند، «آموزش مدل‌های هوش مصنوعی را غیرممکن خواهد کرد».

وزارت دادگستری هشدار داد که موضوع فراتر از حقوق شرکت‌هاست و آزادی بیان، جایگاه آمریکا در نوآوری فناوری و حتی امنیت ملی این کشور را دربرمی‌گیرد. این وزارتخانه مدعی شد که محدود کردن شرکت‌های آمریکایی، «مزیت رقابتی را به رقبای خارجی می‌دهد که با چنین محدودیت‌هایی مواجه نیستند» و در نتیجه آنچه باید متعلق به آمریکا باشد، به چین واگذار خواهد شد.

اما هشت روز بعد، آژانس امنیت ملی آمریکا، آژانس امنیت سایبری و امنیت زیرساخت و اف‌بی‌آی موضعی متفاوت گرفتند. این نهادها در یک گزارش مشترک هشدار امنیت سایبری، شش آزمایشگاه چینی را متهم کردند که علیه مدل‌های پیشرفته آمریکایی «کارزارهای تقطیر در مقیاس صنعتی» اجرا کرده‌اند.

تقطیر روشی است که در آن یک مدل کوچک‌تر هوش مصنوعی آموزش می‌بیند رفتار یک مدل بزرگ‌تر و قدرتمندتر را تقلید کند؛ روشی که امکان اجرای مدل روی سخت‌افزار ارزان‌تر را بدون کاهش چشمگیر عملکرد فراهم می‌کند.

دولت آمریکا در گزارش خود ادعا کرد شرکت‌هایی مانند DeepSeek، Moonshot AI، Alibaba، MiniMax، StepFun و Z.ai میلیاردها توکن ــ واحدهای پایه داده که مدل‌های هوش مصنوعی آنها را می‌خوانند و تولید می‌کنند ــ را از نسخه‌هایی از محصولات آمریکایی مانند Claude، GPT، Gemini و Grok استخراج کرده‌اند،

احتمالاً با اطلاع دولت چین.

این اقدام یک میان‌بر موردی نبود. بر اساس هشدار امنیتی، فعالیت‌های «تهاجمی، مخرب و هدفمند تقطیر» دست‌کم از سال ۲۰۲۴ آغاز شده و بخش مرکزی راهبرد هوش مصنوعی پکن را تشکیل داده است.

وقتی آزمایشگاه‌های آمریکایی نوشته‌های جهان را بدون اجازه وارد مدل‌های خود می‌کنند، این کار به‌عنوان نوآوری تحول‌آفرین ستایش می‌شود. اما وقتی آزمایشگاه‌های چینی دقیقاً همین کار را با مدل‌های آمریکایی انجام می‌دهند، به‌عنوان کارزاری «مخرب و هدفمند» برای «استخراج قابلیت‌های اختصاصی و توانایی‌های استدلالی» توصیف می‌شود.

این وضعیت سه پرسش اساسی ایجاد می‌کند:

• نخست، واقعاً چه چیزی آموزش یک مدل را از تقطیر یک مدل جدا می‌کند؟
• دوم، با توجه به اینکه هر دو روش بر استفاده از آثار دیگران بدون رضایت آنها تکیه دارند، چرا دولت فدرال میان شرکت‌های آمریکایی و چینی چنین تفاوتی قائل می‌شود و آیا این تفاوت مبنای حقوقی یا منطقی دارد؟
• سوم، اگر چنین مبنایی وجود ندارد، قانون باید با برداشت گسترده داده‌ها ــ چه نوشته انسان‌ها و چه خروجی ماشین‌ها ــ چگونه برخورد کند؟

آموزش در برابر تقطیر

یک مدل هوش مصنوعی ورودی را ــ مثلاً پرسشی ساده مانند «فردا آسمان چه رنگی خواهد بود؟» ــ با استفاده از معماری عظیمی از پارامترهای عددی موسوم به وزن‌ها، به خروجی تبدیل می‌کند.

برای تصور این فرایند، یک میز صدابرداری بزرگ در استودیو را در نظر بگیرید. درخواست کاربر همان صدای خام ورودی است؛ مانند آواز، صدای باس یا درام. وزن‌ها هزاران تنظیم‌کننده روی میز هستند که برخی صداها را تقویت و برخی دیگر را کاهش می‌دهند. آهنگی که در نهایت از بلندگو خارج می‌شود، همان پاسخ مدل است.

هیچ مهندس انسانی این تنظیمات را دستی انجام نمی‌دهد. یک مدل زبانی بزرگ پارامترهای بسیار زیادی دارد؛ گاهی میلیاردها یا حتی تریلیون‌ها پارامتر.

آزمایشگاه‌های هوش مصنوعی این وزن‌ها را از طریق فرایندی به نام آموزش تنظیم می‌کنند. ابتدا وزن‌ها به‌صورت تصادفی تعیین می‌شوند و مدل چیزی جز نویز تولید نمی‌کند. سپس مدل در معرض حجم عظیمی از داده‌های انسانی قرار می‌گیرد؛ متن و کد و در برخی مدل‌ها تصویر، ویدئو و صدا. مدل بارها تلاش می‌کند توکن بعدی، برای مثال واژه بعدی جمله، را پیش‌بینی کند:

آسمان خواهد بود...

پس از هر حدس، مهندسان خروجی را با پاسخ درست مقایسه می‌کنند؛ مثلاً «آبی» در هوای صاف یا «خاکستری» در شرایط نامساعد.

با هر اشتباه، میلیاردها تنظیم‌کننده نامرئی به‌طور جمعی به سمت وضعیتی حرکت می‌کنند که احتمال تولید پاسخ درست را افزایش دهد. تکرار این فرایند روی حجم عظیمی از داده‌ها باعث می‌شود نویز اولیه به‌تدریج به موسیقی تبدیل شود.

در مرحله بعدی که «تنظیم دقیق» نام دارد، مهندسان پاسخ‌های مطلوب را از نظر مفید بودن، شفافیت و ایمنی تقویت می‌کنند و پاسخ‌های نامطلوب را کاهش می‌دهند. این کار رفتار مدل را شکل می‌دهد و صدای آن را با ارزش‌ها و معیارهای انسانی هماهنگ می‌کند؛ به‌گونه‌ای که هنگام پرسش از ChatGPT، پاسخی بی‌روح یا غیرانسانی دریافت نکنید.

اما تصور کنید آزمایشگاهی بخواهد سریع و ارزان یک مدل توانمند بسازد. این آزمایشگاه زمان یا منابع لازم برای جمع‌آوری چنین حجم داده‌ای و تنظیم چنین تعداد پارامتری را ندارد و دیگران پیش‌تر این کار را انجام داده‌اند. آیا راهی برای استفاده از تلاش دیگران بدون ساخت دوباره همه‌چیز وجود دارد؟ همان‌طور که OpenAI و Anthropic مدل‌های خود را با استفاده از دانش ثبت‌شده بشری آموزش می‌دهند، DeepSeek و Z.ai نیز می‌توانند مدل‌های خود را با استفاده از ChatGPT و Gemini آموزش دهند.

این فرایند «تقطیر» نام دارد. جفری هینتون، که از او به‌عنوان پدرخوانده هوش مصنوعی یاد می‌شود، این روش را مدلی «شاگرد» توصیف می‌کند که برای تقلید رفتار یک مدل پیچیده‌تر «معلم» آموزش می‌بیند. مدل شاگرد به‌جای یادگیری دوباره جهان از صفر، بارها عملکرد مدل استاد را مشاهده می‌کند و پاسخ‌های آن را تقلید می‌کند. نتیجه، مدلی کوچک‌تر و سریع‌تر است که بخش زیادی از توانایی مدل اصلی را حفظ می‌کند و هزینه اجرا و تأخیر را کاهش می‌دهد.

اگر این روش آشنا به نظر می‌رسد، دلیلش این است که تقطیر در اصل نوعی تخصصی‌شده از آموزش است. هر دو فرایند، حجم بزرگی از آثار نوشتاری و ثبت‌شده را از مسیر یک فرایند فنی تحول‌آفرین عبور می‌دهند تا مدل جدید بتواند از دانش انباشته‌شده یاد بگیرد.

تفاوت اساسی در منبع این دانش است. در تقطیر، مدل شاگرد از یک ماشین دیگر یاد می‌گیرد، نه مستقیماً از انسان‌هایی که آثارشان پیش‌تر توسط آن ماشین جذب شده است.

منطقه خاکستری حقوقی

تقطیر را نباید نسخه چینی و غیرقابل‌قبول آموزش آمریکایی دانست. آزمایشگاه‌های پیشرو آمریکایی نیز هر روز از تقطیر استفاده می‌کنند. این روش بخشی عادی از توسعه هوش مصنوعی است. همه آزمایشگاه‌های بزرگ آمریکایی مدل‌های خود را برای ساخت نسل‌های سبک‌تر، سریع‌تر و کم‌مصرف‌تر تقطیر می‌کنند. پروژه Alpaca دانشگاه استنفورد و Orca مایکروسافت مدل‌های کوچک‌تر را با خروجی مدل‌های بزرگ‌تر آموزش دادند و روش‌های خود را با جامعه پژوهشی به اشتراک گذاشتند. ایلان ماسک نیز در شهادت خود در آوریل پذیرفت که xAI، مدل Grok را با خروجی‌های OpenAI آموزش داده و آن را «رویه‌ای عمومی میان شرکت‌های هوش مصنوعی» خواند.

با این حال، وقتی آزمایشگاه‌های چینی همین فرایند را انجام می‌دهند، این کار به‌عنوان سرقت توانایی‌ها توصیف می‌شود. گزارش امنیت سایبری دولت آمریکا شبکه‌ای پیچیده از دور زدن محدودیت‌ها را شرح می‌دهد؛ به‌گونه‌ای که درخواست‌های تقطیر میان پلتفرم‌ها و ارائه‌دهندگان مختلف توزیع شده‌اند تا هیچ اپراتوری به‌تنهایی متوجه نشود چه اتفاقی در حال رخ دادن است.

اما این توصیف‌ها پرسش اصلی را پاسخ نمی‌دهد: آیا یادگیری از خروجی‌های مدلی که رضایت نداده، در مقایسه با یادگیری از خروجی‌های انسانی که رضایت نداده، نوعی سرقت محسوب می‌شود یا خیر.

از نظر حقوقی، پاسخ روشن نیست. مهندسی معکوس یک مدل، به‌طور کلی قانونی است و حق‌نشر معمولاً شامل خروجی‌های تولیدشده توسط هوش مصنوعی نمی‌شود، زیرا حق‌نشر برای آثار خلق‌شده توسط انسان در نظر گرفته شده است.

پژوهشگران حقوق درباره اینکه آیا تقطیر ناقض قانون اسرار تجاری است یا نه بحث کرده‌اند. با این حال، ادعای حمایت از اسرار تجاری برای متنی که از طریق یک کلید API فروخته می‌شود دشوار است، زیرا تجاری‌سازی یک راز معمولاً حفاظت حقوقی آن را از بین می‌برد. دادگاه‌های آمریکا هنوز درباره این مسئله تصمیم قطعی نگرفته‌اند.

آنچه تقطیر به‌طور واضح نقض می‌کند، شرایط استفاده آزمایشگاه‌هاست. OpenAI، Meta و Anthropic ممنوعیت استفاده از خروجی‌ها، APIها یا خدمات خود برای آموزش مدل‌های رقیب از طریق تقطیر یا مهندسی معکوس را در قراردادهای خود گنجانده‌اند.

با این حال، شرکت‌های آمریکایی با وجود ادعای شناسایی کارزارهای گسترده تقطیر، در اجرای این حقوق خصوصی و شکایت علیه شرکت‌های چینی محتاط بوده‌اند.

دلیل این احتیاط آن است که شکایت درباره تقطیر می‌تواند برای خود آنها نیز خطر ایجاد کند. اگر دادگاه‌ها قواعدی گسترده وضع کنند، ممکن است همان شیوه‌هایی را محدود کنند که خود آزمایشگاه‌های آمریکایی به‌طور معمول انجام می‌دهند.

خانه‌های شیشه‌ای

مدل‌هایی که دولت فدرال اکنون آنها را دارایی‌های راهبردی می‌داند، خود بر پایه متن‌ها، تصاویر، صداها، ویدئوها و کدهای میلیون‌ها خالق ساخته شده‌اند؛ خالقانی که نه از آنها اجازه گرفته شد و نه به آنها پولی پرداخت شد.

OpenAI برای آموزش GPT-4 بیش از یک میلیون ساعت ویدئوی یوتیوب را رونویسی کرد؛ اقدامی که با شرایط استفاده یوتیوب در تضاد بود. گوگل نیز طبق گزارش‌ها رویکرد مشابهی در پلتفرم خود داشت و شرایط استفاده را گسترش داد تا اسناد عمومی Google Docs و نظرات Google Maps نیز برای آموزش خانواده مدل‌های Gemini قابل استفاده باشد.

Anthropic حتی یک گام فراتر رفت. در برنامه محرمانه‌ای با نام Project Panama، این شرکت میلیون‌ها کتاب قدیمی و دست‌دوم خرید و نابود کرد تا مدل‌های خود را آموزش دهد.

پیش از آن، این شرکت میلیون‌ها کتاب الکترونیکی را از کتابخانه‌های سایه مانند LibGen دانلود کرده بود؛ منابعی که دسترسی رایگان به کتاب‌ها و مجلات علمی دارای محدودیت حق‌نشر فراهم می‌کنند.

Anthropic در تابستانی واحد هم به‌عنوان قربانی و هم به‌عنوان متهم با کنگره صحبت کرد؛ از یک سو درباره آنچه Alibaba از آن گرفته بود و از سوی دیگر درباره مجبور شدن به پرداخت هزینه برای چیزهایی که خود از دیگران گرفته بود.

پس بهانه چیست؟

یک تفاوت مهم میان تقطیر و آموزش وجود دارد و الزاماً به نفع آزمایشگاه‌های آمریکایی نیست: شرکت‌های هوش مصنوعی چینی واقعاً برای خدماتی پول پرداخت می‌کنند که سپس شرایط استفاده آنها را نقض می‌کنند. آنها با اشتراک‌های واقعی Claude و ChatGPT مدل‌های خود را آموزش می‌دهند، در حالی که شرکت‌های آمریکایی عمدتاً رویکرد «ابتدا کپی کن، بعداً درباره حقوق تصمیم بگیر» را دنبال کرده‌اند.

عامل دیگری نیز تصویر را پیچیده می‌کند: توانایی مدل‌های تقطیرشده در مرزهای چین باقی نمی‌ماند. شرکت‌هایی مانند Alibaba مدل‌های آمریکایی را با هزینه‌ای اندک تقطیر می‌کنند و سپس نسخه‌های دارای وزن باز منتشر می‌کنند که هر کسی می‌تواند آنها را اجرا و تغییر دهد.

نتیجه، اثری بازگشتی است: توانایی از آزمایشگاه‌های پیشرو آمریکایی از طریق API خارج می‌شود، به زیرساخت مدل‌های باز چینی بازمی‌گردد و سپس دوباره در محصولات آمریکایی استفاده می‌شود.

این موضوع توضیح می‌دهد چرا سهم مدل Qwen متعلق به یک شرکت چینی در تنظیم دقیق مدل‌های باز، طبق گزارش‌ها از یک درصد در ژانویه ۲۰۲۴ به حدود ۶۹ درصد در فوریه ۲۰۲۶ افزایش یافته است.

یکی از استدلال‌های آزمایشگاه‌های پیشرو آمریکایی مانند OpenAI این است که داده‌های مورد استفاده آنها برای آموزش، نسبت به آثار اصلی تحول ایجاد می‌کند، در حالی که تقطیر رفتار یک محصول مشخص را برای ساخت رقیبی در همان بازار کپی می‌کند.

مشکل این استدلال آن است که نیویورک‌تایمز نیز ادعا می‌کند ChatGPT در حال جایگزین شدن با روزنامه‌نگاری آن است. این روزنامه در شکایت حق‌نشر خود علیه OpenAI و مایکروسافت می‌گوید آموزش مدل‌ها با میلیون‌ها مقاله آن «جایگزین‌کننده» است نه تحول‌آفرین.

آزمایشگاه‌های آمریکایی همچنین می‌گویند مدل‌هایشان بر داده‌های عمومی وب آموزش دیده‌اند، در حالی که شرکت‌های چینی عمداً محدودیت‌های دسترسی و APIهای بسته را دور می‌زنند. اما این استدلال نیز ضعف‌هایی دارد؛ زیرا یوتیوب برداشت داده را ممنوع کرده بود و LibGen بر پایه داده‌های دزدی‌شده ساخته شده بود.

ادعای دیگر این است که شرکت‌های چینی از تحقیق و توسعه آمریکایی «سواری رایگان» می‌گیرند. این ادعا درست است، اما همان استدلالی است که ناشران آمریکایی هنگام صحبت از «بزرگ‌ترین سرقت نیروی کار در تاریخ» مطرح می‌کنند.

آزمایشگاه‌های آمریکایی همچنین می‌گویند مدل‌های تقطیرشده ممکن است حفاظ‌های ایمنی ساخته‌شده توسط آنها را از دست بدهند و در حوزه‌هایی مانند حملات سایبری یا ساخت سلاح‌های زیستی مورد استفاده قرار گیرند. این نگرانی‌ها ممکن است واقعی باشند، اما استدلالی درباره قانون نیستند؛ بلکه درباره استفاده بعدی از مدل هستند.

در نهایت، ادعای امنیت ملی این است که چین یک رقیب خارجی است و تقطیر مدل‌ها کنترل‌های صادراتی آمریکا را تضعیف می‌کند. اما اگر شرکت‌های چینی می‌توانند با تقطیر به عملکرد نزدیک به مرز فناوری برسند، شاید مشکل از خود سیاست‌های محدودکننده صادرات باشد.

نمی‌توان همه چیز را هم‌زمان داشت

چین در زمینه حاکمیت داده و حق‌نشر موضع سخت‌گیرانه‌تری از آمریکا اتخاذ کرده است. قوانین سال ۲۰۲۳ پکن درباره هوش مصنوعی مولد، داده‌های آموزشی را ملزم به داشتن «منابع قانونی» می‌کند و نقض مالکیت فکری دیگران را ممنوع می‌داند.

دادگاه‌های چین در برخی پرونده‌ها شرکت‌های هوش مصنوعی را بابت تولید تصاویر دارای حق‌نشر یا آموزش مدل صوتی با صدای بازیگران بدون رضایت مسئول دانسته‌اند. در مقابل، دادگاه‌های آمریکا عمدتاً بر مفهوم استفاده منصفانه و واژه «تحول‌آفرین» تکیه می‌کنند.

چین ظاهراً درباره آنچه وارد یک مدل می‌شود سخت‌گیرتر و درباره آنچه از خروجی دیگران گرفته می‌شود آسان‌گیرتر است. آمریکا تصویر معکوسی ارائه می‌دهد.

واشنگتن هم‌زمان می‌گوید آموزش مدل‌ها با آثار دیگران بدون اجازه، چنان آشکارا استفاده منصفانه است که مجوز گرفتن، نوآوری ملی را نابود می‌کند؛ و نیز می‌گوید آموزش مدل‌ها با آثار دیگران بدون اجازه، اقدامی غارتگرانه و تهدیدی جدی برای امنیت ملی است.

هر دو گزاره نمی‌توانند هم‌زمان درست باشند. اگر خروجی‌های این سیستم‌ها تحت حمایت قانون باشند، نویسندگان، موسیقی‌دانان، هنرمندان و برنامه‌نویسانی که مدل‌های آمریکایی بر آثار آنها ساخته شده‌اند، می‌توانند ادعایی داشته باشند که وزارت دادگستری آن را رد کرده است. اگر چنین حمایتی وجود ندارد، آزمایشگاه‌های چینی متهم به تقطیر مخرب کاری نکرده‌اند که ایلان ماسک نیز آن را بدون پیامد پذیرفته است.

نهادهای فدرال تاکنون نه قانون جدیدی پیشنهاد کرده‌اند و نه مقرراتی برای جلوگیری از کارزارهای تقطیر ارائه داده‌اند. پیشنهاد اصلی آنها این است که آزمایشگاه‌های آمریکایی خروجی‌های خود را اندکی تغییر دهند یا آلوده کنند تا کیفیت داده‌های آموزشی شرکت‌های چینی کاهش یابد.

پارادوکس تقطیر فراتر از دوگانگی رفتار آزمایشگاه‌های آمریکایی درباره استفاده از آثار جهان برای آموزش مدل‌هایشان است. این وضعیت دولتی را نشان می‌دهد که نمی‌داند باید این فرایند را به نام امنیت ملی محدود کند یا به نام نوآوری تحول‌آفرین تشویق کند.