چه کسی بر هوش مصنوعی کنترل دارد؟ مدل‌های با وزن باز و هوش مصنوعی سازمانی

جنسن هوانگ، مدیرعامل انویدیا، نخستین پست خود در شبکه اجتماعی ایکس را نه به معرفی محصولی جدید، بلکه به طرح این پرسش اختصاص داد که چه کسی باید کنترل هوش مصنوعی پیشرفته را در اختیار داشته باشد؟ او با انتشار نامه‌ای با عنوان «وزن‌های باز و رهبری آمریکا در هوش مصنوعی» نوشت که مدل‌های باز به تقویت ایمنی و امنیت سایبری کمک می‌کنند، نوآوری و گسترش فناوری را سرعت می‌بخشند و امکان حاکمیت فناورانه را فراهم می‌کنند.

مسئله حاکمیت فناورانه که هوانگ بر آن تأکید کرده، برای ترکیه نیز اهمیت اساسی دارد. پرسش اصلی این است که نهادها چگونه می‌توانند از هوش مصنوعی استفاده کنند، بی‌آنکه داده‌هایشان را از محیط‌های داخلی خود خارج کنند یا به یک ارائه‌دهنده واحد وابسته شوند. امروزه مدل‌های با وزن باز یکی از عملی‌ترین مسیرها برای دستیابی به این هدف به شمار می‌روند. ترکیه نیز در این زمینه زودتر از بسیاری از کشورها گام‌هایی برداشته است؛ بااین‌حال، پیشرفت واقعی زمانی حاصل می‌شود که مدل‌های ملی و زیرساخت‌های داده به سامانه‌هایی تبدیل شوند که به‌طور مستمر از داده‌های اختصاصی هر نهاد یاد می‌گیرند.

اما چرا باید مدل‌های با وزن باز را انتخاب کرد؟ این مدل‌ها دسترسی و رقابت را گسترش می‌دهند و در عین حال، امکان سفارشی‌سازی، پژوهش مستقل در حوزه امنیت و دستیابی به استقلال فناورانه را فراهم می‌کنند. نهادها می‌توانند این مدل‌ها را با نیازهای خود سازگار کنند، داده‌های حساس را در محیط داخلی نگه دارند، مالکیت دانش انباشته‌شده را حفظ کنند و از وابستگی به یک ارائه‌دهنده واحد بپرهیزند.

هزینه پنهان مدل‌های بسته

تردیدی نیست که مدل‌های بسته در حال حاضر عملکردی در سطح پیشرفته‌ترین فناوری‌های روز، زیرساخت مدیریت‌شده و پشتیبانی فنی ارائه می‌کنند. بااین‌حال، هر نهادی که از این مدل‌ها استفاده می‌کند، داده‌های خود را به سرورهای ارائه‌دهنده می‌فرستد. تعیین قیمت، شرایط استفاده و زمان تغییر یا توقف عرضه یک نسخه از مدل نیز در اختیار همان ارائه‌دهنده است. مهم‌تر از همه اینکه دسترسی به این خدمات به تصمیم‌های سیاسی کشوری دیگر وابسته می‌ماند.

تابستان امسال نمونه‌ای عینی از این مسئله را شاهد بودیم. در پی اعمال محدودیت‌های صادراتی از سوی وزارت بازرگانی ایالات متحده، دسترسی به مدل‌های Fable 5 و Mythos 5 شرکت آنتروپیک در ۱۲ ژوئن ۲۰۲۶ برای مدتی کوتاه در سراسر جهان متوقف شد. دسترسی‌ای که ممکن است با تصمیم کشوری دیگر یک‌شبه قطع شود، نمی‌تواند تنها تکیه‌گاه فعالیت‌های حیاتی مانند خدمات عمومی، دفاع، بهداشت و درمان یا امور مالی باشد. بنابراین، انتقال بارهای کاری حساس و نیازمند دسترسی بی‌وقفه به مدل‌های با وزن باز، صرفاً یک انتخاب نیست، بلکه ضرورتی اجتناب‌ناپذیر است.

وابستگی چهره کم‌صداتری هم دارد: استفاده پنهانی از هوش مصنوعی یا «هوش مصنوعی سایه». وقتی ابزار هوش مصنوعی داخلی، ایمن و توانمندی در دسترس نباشد، کارکنان از طریق حساب‌های شخصی به چت‌بات‌های بسته روی می‌آورند. در نتیجه، قراردادها، سوابق مشتریان، کدهای منبع و مکاتبات داخلی ممکن است بدون اطلاع نهاد مربوطه به سرورهای خارج از کشور منتقل شوند. ممنوعیت استفاده از این ابزارها مشکل را حل نمی‌کند و فقط آن را پنهان نگه می‌دارد. راه‌حل، فراهم کردن جایگزینی داخلی است که دست‌کم به‌اندازه ابزارهای خارجی کارآمد باشد.

تجربه عملی همچنین اهمیت مدل‌های با وزن باز را در حوزه دفاع نشان داده است. در ماه ژوئیه، یک عامل هوش مصنوعی متعلق به OpenAI که در حال آزمایش بود، از محیط کنترل‌شده خود خارج شد و به سامانه‌های هاجینگ فیس نفوذ کرد. به گفته انویدیا، هنگامی که فیلترهای ایمنی مدل‌های بسته نتوانستند مهاجم را از مدافع تشخیص دهند، هاجینگ فیس مدل GLM 5.2 با وزن باز را روی زیرساخت خود اجرا کرد، بیش از ۱۷ هزار اقدام را تحلیل کرد و حمله را متوقف ساخت. در شرایط بحرانی، مدلی که در محیط خودتان و تحت قواعد خودتان فعالیت می‌کند، ممکن است ارزشمندتر از بهترین مدل بسته باشد.

نهادها چه چیزی را باید انتخاب کنند؟

انتخاب مناسب به قابلیت‌های موردنیاز، میزان حساسیت داده‌ها، تخصص فنی داخلی، ریسک‌ها، شرایط مجوز استفاده و اهمیت پرهیز از وابستگی به یک ارائه‌دهنده واحد بستگی دارد. بااین‌حال، اجرای هوش مصنوعی در زیرساخت داخلی به‌خودی‌خود به معنای امنیت نیست. سرمایه‌گذاری در سخت‌افزار، راه‌اندازی و بهره‌برداری از زیرساخت اجرای مدل‌ها، مدیریت به‌روزرسانی‌ها و امنیت و پایش عملکرد، همگی به تخصص قابل‌توجه داخلی در عملیات مدل‌های زبانی بزرگ، موسوم به LLMOps، نیاز دارند. چنین تخصصی را نمی‌توان با کنار هم گذاشتن مجموعه‌ای پراکنده از ابزارها ایجاد کرد؛ برای این کار، به بستری یکپارچه و سرتاسری نیاز است.

یک بستر هوش مصنوعی سازمانی باید چهار لایه داشته باشد. لایه نخست، خط لوله داده است که داده‌های آموزشی را گردآوری، پاک‌سازی و آماده می‌کند. لایه دوم، خط لوله مدل است که برای تنظیم دقیق، فشرده‌سازی و ارزیابی مدل‌های با وزن باز به کار می‌رود. لایه سوم، لایه ارائه خدمات است که مدل‌ها را از طریق رابط‌های استاندارد داخلی در دسترس قرار می‌دهد و دسترسی به آن‌ها را با کلیدها و سهمیه‌های مشخص کنترل می‌کند. در نهایت، لایه چهارم شامل عامل‌هایی است که با اسناد سازمان کار می‌کنند، منابع خود را ذکر می‌کنند و در صورت نیاز به پایگاه‌های داده یا ابزارهای دیگر دسترسی دارند.

داده‌ها و مدل‌های حساس باید در شبکه داخلی نهاد باقی بمانند و مسیر هر مدل، از داده‌های آموزشی تا نقطه پایانی دریافت پاسخ، قابل ردیابی باشد. امروزه حتی مدل‌های با وزن باز دارای ۱۲۰ میلیارد پارامتر را می‌توان روی یک پردازنده گرافیکی مرکز داده اجرا کرد و مدل‌های ۳۰ میلیارد پارامتری نیز روی یک رایانه شخصی قدرتمند قابل اجرا هستند. بنابراین، چنین معماری‌ای فقط در دسترس غول‌های فناوری نیست و نهادهای عمومی متوسط نیز می‌توانند از آن بهره ببرند. در نتیجه، نهادها قادر خواهند بود عامل‌های پردازشگر داده‌های حساس را روی سرورهای خود نگه دارند و برای وظایف کم‌خطرتر از دسترسی کنترل‌شده به فضای ابری استفاده کنند.

یکی از اجزایی که اغلب نادیده گرفته می‌شود، لایه راستی‌آزمایی است. یک مدل زبانی بزرگ پاسخ تولید می‌کند، اما مدل‌های تصمیم‌گیری کوچک‌تر و تخصصی‌تر می‌توانند بررسی کنند که آیا پاسخ با منابع پشتیبانی می‌شود، آیا اسناد بازیابی‌شده واقعاً به پرسش پاسخ می‌دهند و آیا داده‌های آموزشی به‌درستی برچسب‌گذاری شده‌اند یا نه. این لایه همچنین از کیفیت داده‌هایی که وارد چرخه یادگیری می‌شوند، محافظت می‌کند.

اولویت ترکیه

ترکیه در این مسیر گام مهمی برداشته است. «بیلگه» (Bilge)، خانواده‌ای از مدل‌های زبانی بزرگ ترکیه‌ای که مؤسسه TÜBİTAK BİLGEM آن‌ها را توسعه داده است، در ۱۳ ژوئن ۲۰۲۶ و هم‌زمان با معرفی برنامه اقدام هوش مصنوعی ترکیه برای سال‌های ۲۰۲۶ تا ۲۰۳۰، در اجلاس هوش مصنوعی ترکیه رونمایی شد. بااین‌حال، توسعه مدل‌های ملی تنها نقطه آغاز است. ارزش بلندمدت این مدل‌ها به توانایی نهادها در سازگار کردن آن‌ها با داده‌ها و بازخوردهای اختصاصی خود و بهبود مستمرشان بستگی خواهد داشت.

نخستین حلقه این تحول، زیرساخت داده است. هیچ مدلی نمی‌تواند از فعالیت‌های واقعی بیاموزد، مگر آنکه زیرساختی وجود داشته باشد که داده‌های استفاده، نمونه‌های خطا و اصلاحات کارشناسان میدانی را گردآوری، پاک‌سازی، برچسب‌گذاری و به‌صورت ایمن ذخیره کند. در نوامبر ۲۰۲۲، پیش از آنکه ChatGPT هوش مصنوعی مولد را به جهان معرفی کند، ریاست صنایع دفاعی ترکیه از «بستر هوش مصنوعی صنایع دفاعی» رونمایی کرد. این بستر، داده‌ها، آموزش مدل و توان پردازشی را در یک مجموعه گرد هم آورد.

سامانه «اورن» (Evren) که در سپتامبر ۲۰۲۶ دسترسی عمومی به آن آغاز شد، این ساختار را یک گام جلوتر برد. داده‌ها در زیرساختی مستقر در ترکیه پردازش می‌شوند، ۱۱ مدل زبانی با وزن باز از طریق یک رابط واحد در دسترس قرار دارند و با بارگذاری و برچسب‌گذاری داده‌ها از سوی کاربران، مجموعه دانش مشترک گسترش می‌یابد. این چشم‌انداز که از صنایع دفاعی آغاز شده است، باید به همه بخش‌ها و نهادهای دولتی، از جمله حوزه‌های بهداشت و درمان، انرژی، امور مالی و کشاورزی، گسترش یابد.

رویکرد ترکیه برای توسعه و تنظیم دقیق مدل‌های هوش مصنوعی متناسب با هر بخش باید با سازوکاری برای بازخورد تقویت شود؛ سازوکاری که داده‌های حاصل از کاربردهای واقعی را به‌طور مستمر وارد فرایند توسعه مدل‌ها کند. در این صورت، مدل‌ها دیگر پروژه‌هایی مقطعی نخواهند بود، بلکه به دارایی‌های سازمانی تبدیل می‌شوند که از تجربه عملی می‌آموزند و به‌مرور بهبود می‌یابند.

مدل‌های با وزن باز ابزار ضروری برای ایجاد این چرخه‌اند، زیرا امکان یادگیری مستمر را فراهم می‌کنند و در عین حال، داده‌ها را در داخل نهاد نگه می‌دارند. این رویکرد با اهداف برنامه اقدام هوش مصنوعی ترکیه درباره زیست‌بوم داده، زیرساخت پردازشی و مدل‌های توسعه‌یافته در داخل کشور نیز هم‌راستاست؛ برنامه‌ای که در ۱۸ اوت ۲۰۲۶ اجرایی شد.

پرسش تعیین‌کننده این است که آیا داده‌های میدانی، نمونه‌های خطا و اصلاحات کارشناسان در یک چرخه یادگیری سازمانی ادغام خواهند شد یا نه. اگر چنین چرخه‌ای شکل بگیرد، ترکیه می‌تواند مجموعه‌ای از قابلیت‌ها را توسعه دهد که با اتکا به داده‌های تخصصی هر بخش، به‌تدریج ویژگی‌های متمایزتری پیدا می‌کنند و بازتولید آن‌ها از خارج آسان نخواهد بود. در نهایت، حاکمیت بر مدل بیش از آنکه به معنای مالکیت یک مدل باشد، به معنای مالکیت چرخه یادگیری آن است.

حافظه سازمانی

حاکمیت بر هوش مصنوعی به توانایی یک نهاد یا دولت برای بهره‌برداری، مدیریت و کنترل سامانه‌های هوش مصنوعی در محدوده‌های حقوقی، فیزیکی و عملیاتی خود گفته می‌شود. محل اجرای مدل‌ها، نحوه جابه‌جایی داده‌ها، مالکیت وزن‌های مدل، افرادی که به قابلیت‌های آن دسترسی دارند و قوانین کدام کشور بر سامانه حاکم است، همگی از مؤلفه‌های این توانایی به شمار می‌روند. حاکمیت بر مدل در قلب این ساختار قرار دارد، زیرا دانش یک نهاد دقیقاً در همین لایه و در گذر زمان انباشته می‌شود.

هنگامی که یک نهاد، مدل هوش مصنوعی را با اسناد، اصطلاحات، گردش کار و فرایندهای تصمیم‌گیری خود سازگار می‌کند، این سامانه به‌تدریج به بخشی از حافظه سازمانی آن تبدیل می‌شود. در این مرحله، دانش روش‌شناختی، تجربه مشتریان و شناخت عملیاتی که طی سال‌ها شکل گرفته‌اند، دیگر فقط در ذهن کارکنان و بایگانی‌ها ذخیره نمی‌شوند، بلکه در وزن‌های مدل تنظیم‌شده نیز جای می‌گیرند. این دانش انباشته‌شده از دشوارترین دارایی‌های سازمانی برای بازتولید است؛ زیرا نمی‌توان آن را خرید، بلکه تنها از راه تجربه به دست می‌آید. نهادها با حفظ کنترل بر سامانه‌هایی که پشتوانه تصمیم‌های حیاتی هستند، می‌توانند هوش مصنوعی را به بخشی جدایی‌ناپذیر از توان دانشی و تصمیم‌گیری خود تبدیل کنند.