پیاده‌سازی عملی هوش مصنوعی مولد؛ درس‌هایی از نخستین تجربه‌های استقرار در سازمان‌ها
این مقاله نخستین بار در گزارش روندهای مجله CDO با عنوان «هوش مصنوعی مولد و عامل‌محور؛ گذار از مرحله آزمایش به استفاده در مقیاس سازمانی» منتشر شده است.
در سال‌هایی که مسئولیت هدایت تحول داده و تحلیل اطلاعات را در سازمان‌های فعال در حوزه‌های خرده‌فروشی، مخابرات، خدمات مالی و لجستیک بر عهده داشته‌ام، بارها با یک واقعیت روبه‌رو شده‌ام: عبور از مرحله اثبات مفهوم به بهره‌برداری عملیاتی نشان می‌دهد که نوآوری تنها نقطه آغاز است. چالش اصلی این است که چگونه می‌توان قابلیت‌های جدید را به بخشی جدایی‌ناپذیر از فعالیت‌های سازمان تبدیل کرد؛ به‌گونه‌ای که ارزش حاصل از آن‌ها پایدار و قابل‌اندازه‌گیری باشد.
مدیران ارشد داده (CDO) احتمالاً با الگویی آشنا مواجه شده‌اند که در سازمان‌های مختلف تکرار می‌شود: پروژه‌های آزمایشی امیدوارکننده شور و اشتیاق زیادی ایجاد می‌کنند، اما با نزدیک‌شدن به مرحله بهره‌برداری عملیاتی، سرعت پیشرفت کاهش می‌یابد. در عمل، محدودیت اصلی به‌ندرت خود مدل هوش مصنوعی است. موفقیت بیشتر به مجموعه‌ای از عوامل وابسته است؛ از پیچیدگی یکپارچه‌سازی سیستم‌ها و چارچوب‌های اعتماد گرفته تا میزان آمادگی سازمان برای پذیرش و استفاده از فناوری.
در این مقاله بررسی می‌کنم که کدام رویکردها در نخستین تجربه‌های استقرار هوش مصنوعی نتیجه داده‌اند، چه مشکلاتی هنگام گسترش استفاده از آن آشکار می‌شوند و مدیران چگونه می‌توانند زیرساخت‌های لازم را برای مرحله بعدی توسعه هوش مصنوعی در سازمان‌ها تقویت کنند.
چرا بیشتر پروژه‌های آزمایشی هرگز به مرحله بهره‌برداری عملیاتی نمی‌رسند؟
بارها دیده‌ام که تیم‌ها موفقیت یک پروژه آزمایشی را جشن می‌گیرند، اما شش ماه بعد نمی‌توانند توضیح دهند چرا همان پروژه به استفاده گسترده نرسیده است. این اتفاق آن‌قدر تکرار شده که دیگر آن را ناشی از بدشانسی نمی‌دانم. از نگاه من، مشکل به شکافی ساختاری میان اجرای آزمایشی یک راهکار و گسترش آن در مقیاس سازمانی برمی‌گردد.
نظرسنجی جهانی مک‌کینزی در سال ۲۰۲۵ درباره وضعیت هوش مصنوعی نیز مشاهدات میدانی من را تأیید می‌کند. بر اساس این نظرسنجی، ۸۸ درصد سازمان‌ها اکنون دست‌کم در یکی از بخش‌های کسب‌وکار خود به‌طور منظم از هوش مصنوعی استفاده می‌کنند، اما نزدیک به دو سوم آن‌ها هنوز گسترش استفاده از هوش مصنوعی به سراسر سازمان را آغاز نکرده‌اند. استفاده از این فناوری تقریباً فراگیر شده، اما بهره‌برداری واقعی از ارزش اقتصادی آن هنوز چنین وضعیتی ندارد. امروزه بخش عمده گفت‌وگوهای من با دیگر مدیران حوزه داده نیز بر همین فاصله متمرکز است.
نکته‌ای که بیش از همه توجه مرا جلب می‌کند این است که مسئله به بلوغ فناوری مربوط نمی‌شود. امروزه در بسیاری از موارد، یک شرکت خرده‌فروشی متوسط به همان مدل‌های هوش مصنوعی دسترسی دارد که بزرگ‌ترین بانک‌های جهان از آن‌ها استفاده می‌کنند. عاملی که به باور من تفاوت اصلی را رقم می‌زند، بازطراحی فرایندهای کاری است. یافته‌های مک‌کینزی نیز این دیدگاه را تأیید می‌کند: سازمان‌های پیشرو، یعنی گروه کوچکی که بخش قابل‌توجهی از تأثیر بر سود پیش از بهره و مالیات (EBIT) خود را به هوش مصنوعی نسبت می‌دهند، تقریباً سه برابر بیشتر از سایر سازمان‌ها احتمال دارد که فرایندهای کاری مشخصی را از اساس بر مبنای هوش مصنوعی بازطراحی کرده باشند، نه اینکه صرفاً مدلی را به فرایندی بدون تغییر اضافه کنند. برای من، تفاوت میان بازسازی یک فرایند و افزودن هوش مصنوعی به ساختار موجود، روشن‌ترین معیاری است که هنگام ارزیابی قابلیت گسترش پروژه‌های هوش مصنوعی مولد به آن توجه می‌کنم.
شکل ۱: مقایسه میزان استفاده از هوش مصنوعی در دست‌کم یکی از بخش‌های کسب‌وکار طی سال‌های ۲۰۱۷ تا ۲۰۲۵ با میزان استفاده از هوش مصنوعی مولد در سال‌های ۲۰۲۳ تا ۲۰۲۵. منبع: مک‌کینزی، «وضعیت هوش مصنوعی در سال ۲۰۲۵: عامل‌ها، نوآوری و تحول».
رویکردهای موفق: دامنه محدود و زیرساخت‌های مستحکم
پروژه‌هایی که در تجربه من توانسته‌اند ارزشی پایدار ایجاد کنند، دو ویژگی مشترک دارند. این دو ویژگی از نخستین مواردی هستند که در ارزیابی هر پروژه به دنبال آن‌ها می‌گردم.
کار را با یک فرایند مشخص و دقیق آغاز کنید
این پروژه‌ها به‌جای آنکه از همان روز نخست برای متحول‌کردن یک واحد سازمانی به‌طور کامل تلاش کنند، بر فرایندی مشخص با دامنه‌ای محدود و روشن تمرکز دارند. بارها با پیشنهادهای داخلی مخالفت کرده‌ام که قصد داشتند یک بخش کامل را یک‌باره متحول کنند، بدون آنکه ابتدا ارزش راهکار را در مقیاسی کوچک‌تر به اثبات برسانند. پژوهش مک‌کینزی نیز از این رویکرد حمایت می‌کند و نشان می‌دهد استفاده از هوش مصنوعی بیشتر در حوزه‌هایی مانند جمع‌آوری و پردازش اطلاعات، پشتیبانی از تولید محتوای بازاریابی و خودکارسازی فعالیت‌های مراکز تماس متمرکز شده است. همه این کاربردها ورودی و خروجی مشخصی دارند و می‌توان عملکرد جدید را با یک وضعیت مبنای ازپیش‌موجود مقایسه کرد تا میزان بهبود به‌روشنی اندازه‌گیری شود.
بر زیرساخت داده‌ای قدرتمند تکیه کنید
سازمان‌هایی که در تجربه من توانسته‌اند در استفاده از هوش مصنوعی مولد به پیشرفت واقعی برسند، پیش از ظهور این فناوری نیز شیوه‌های منظم و تثبیت‌شده‌ای برای مدیریت داده و عملیات یادگیری ماشین (MLOps) داشته‌اند. این همان الگویی است که بیش از هر نکته دیگری در مشاوره به تیم‌ها بر آن تأکید می‌کنم. هنگام بررسی پروژه‌هایی که پیشرفتشان متوقف شده، بارها دریافته‌ام ریشه مشکل به ضعف کیفیت داده یا ابهام در مسئولیت و مالکیت آن بازمی‌گردد؛ مشکلاتی که مدت‌ها پیش از آغاز پروژه هوش مصنوعی وجود داشته‌اند. معمولاً مدل هوش مصنوعی مقصر شناخته می‌شود، درحالی‌که مشکل اصلی در زیرساخت داده نهفته است.
نقاط شکست: ضعف حاکمیت و نظارت هنگام افزایش مقیاس
اگر قرار باشد تنها یک الگوی شکست را شناسایی کنم که اکنون بلافاصله نسبت به آن هشدار می‌دهم، گسترش پروژه آزمایشی هوش مصنوعی مولد بدون وجود فرایندی ساختاریافته برای مدیریت ریسک است. پروژه‌های آزمایشی خوش‌ساختی را دیده‌ام که صرفاً بر اثر اشتیاق تیم‌ها وارد مرحله بهره‌برداری عملیاتی شده‌اند، بی‌آنکه مشخص باشد اگر مدل در مقیاس گسترده خروجی نادرست یا سوگیرانه تولید کند، چه کسی مسئول رسیدگی به پیامدهای آن خواهد بود.
چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استانداردها و فناوری آمریکا (NIST) و راهنمای تکمیلی آن برای هوش مصنوعی مولد که در سال ۲۰۲۴ منتشر شد، این چالش را به‌روشنی تعریف می‌کنند و ساختاری کاربردی برای رسیدگی به آن ارائه می‌دهند؛ ساختاری که خودم نیز در ارزیابی نظام‌های حاکمیتی از آن استفاده می‌کنم. این چارچوب بر چهار کارکرد اصلی استوار است: حاکمیت (Govern)، شناسایی و ترسیم ریسک (Map)، اندازه‌گیری (Measure) و مدیریت (Manage). در این میان، حاکمیت نقشی فراگیر دارد و جهت‌گیری سه کارکرد دیگر را تعیین می‌کند.
در پروژه‌های خودکارسازی نیز بارها شاهد همین الگو بوده‌ام: اگر پیش از روشن‌شدن قواعد و مسئولیت‌های یک فرایند، اجرای آن را سریع‌تر کنیم، مشکل برطرف نمی‌شود؛ بلکه همان فرایند با سرعت بیشتر و در مقیاسی بزرگ‌تر دچار اختلال خواهد شد. در هوش مصنوعی مولد، شکل مشابه این اشتباه زمانی رخ می‌دهد که سازمان پیش از تعیین حدود اختیارات تصمیم‌گیری، مسیرهای ارجاع و تشدید مشکلات و آستانه‌های اعتبارسنجی، اقدام به خرید مدل یا پلتفرم می‌کند. مک‌کینزی نیز به نتیجه‌ای مشابه رسیده و دریافته است که سازمان‌های پیشرو بیشتر از دیگران برای تعیین شرایطی که خروجی مدل به تأیید انسانی نیاز دارد، فرایندهای مشخصی تعریف کرده‌اند.
یکپارچه‌سازی: توسعه بر بستر پلتفرمی دارای حاکمیت، نه در حاشیه آن
در بررسی‌های معماری سیستم‌ها طی سال‌های گذشته، یک نکته همواره تکرار شده است: کیفیت عملکرد یک سامانه هوش مصنوعی مولد به کیفیت داده‌های سازمانی وابسته است که می‌تواند به‌شکل امن به آن‌ها دسترسی داشته باشد. این دسترسی نیز باید از همان ابتدا تحت قواعد حاکمیتی مشخص قرار گیرد، نه اینکه پس از موفقیت پروژه آزمایشی تازه برای کنترل آن اقدام شود.
چارچوب NIST بی‌دلیل ریسک‌های مربوط به تأمین‌کنندگان شخص ثالث و زنجیره تأمین را در سطح کارکرد حاکمیت قرار نداده است. بیشتر پروژه‌های سازمانی هوش مصنوعی مولد به مدل‌های پایه، رابط‌های برنامه‌نویسی کاربردی (API) و داده‌های آموزشی بیرونی وابسته‌اند؛ منابعی که سازمان‌ها کنترل کاملی بر آن‌ها ندارند. در عمل، این موضوع به آن معناست که قابلیت ردیابی منشأ و مسیر داده‌ها، کنترل دسترسی و مشخص‌بودن منشأ مدل باید پیش از آغاز بهره‌برداری عملیاتی از نخستین کاربرد، به قابلیت‌های اصلی پلتفرم تبدیل شوند. نباید این موارد را به اقداماتی اصلاحی موکول کرد که پس از موفقیت اثبات مفهوم و شکل‌گیری شتاب اولیه پروژه انجام می‌شوند.
تیم‌هایی که در تجربه من توانسته‌اند از دوباره‌کاری‌های پرهزینه جلوگیری کنند، یکپارچه‌سازی و حاکمیت را دو بخش از یک تصمیم طراحی واحد در نظر گرفته‌اند، نه دو مرحله پیاپی. هنگامی که ذی‌نفعان به خروجی مدلی متکی می‌شوند که مستقیماً با مشتری در ارتباط است، افزودن کنترل‌های امنیتی و قابلیت ردیابی داده‌ها به سیستم موجود، دشوارتر و پرریسک‌تر از آن خواهد بود که این کنترل‌ها از روز نخست در پلتفرم تعبیه شده باشند.
اعتماد و حاکمیت: ساختاری قابل‌ممیزی و قابل‌گواهی
چارچوب NIST فرایندی برای مدیریت ریسک در اختیار سازمان‌ها قرار می‌دهد، اما استاندارد ISO/IEC 42001 قابلیت مهم دیگری فراهم می‌کند: یک نظام مدیریتی که امکان ممیزی رسمی و دریافت گواهی انطباق با آن وجود دارد. این استاندارد که به‌عنوان نخستین استاندارد جهانی سیستم مدیریت هوش مصنوعی منتشر شده، حاکمیت هوش مصنوعی را بر اساس چرخه «برنامه‌ریزی، اجرا، بررسی و اقدام اصلاحی» سازمان‌دهی می‌کند. دامنه آن سیاست‌گذاری هوش مصنوعی، معیارهای ریسک، اجرای کنترل‌ها، پایش عملکرد و بهبود مستمر را در بر می‌گیرد.
ترکیب این دو چارچوب برای من اهمیت زیادی دارد، زیرا تجربه نشان داده است که اعتماد را نمی‌توان صرفاً با ادعاهای بازاریابی ایجاد کرد. اعتماد باید بر ساختاری مستند و قابل‌ممیزی استوار باشد تا مشتریان، نهادهای نظارتی و کمیته‌های داخلی مدیریت ریسک بتوانند آن را بر اساس استانداردی شناخته‌شده ارزیابی کنند، نه اینکه ناچار باشند تنها به گفته‌های تیم داده اعتماد کنند. سازمان‌ها اغلب به‌شکلی دشوار متوجه این کمبود می‌شوند: تیم تدارکات یکی از مشتریان بزرگ، مدارکی برای اثبات وجود کنترل‌های حاکمیت هوش مصنوعی درخواست می‌کند، اما آنچه سازمان واقعاً در اختیار دارد، مجموعه‌ای از گفت‌وگوهای پراکنده در اسلک است، نه یک نظام مدیریتی مستند و قابل‌ممیزی.
آمادگی سازمانی: گلوگاهی فراتر از فناوری
اگر سازمان آمادگی بهره‌برداری از زیرساخت‌ها و سازوکارهای حاکمیتی را نداشته باشد، هیچ‌یک از اقداماتی که تاکنون توضیح داده‌ام به نتیجه مطلوب نمی‌رسد. این همان موضوعی است که بیشترین زمان را در گفت‌وگو با تیم‌های مدیریتی ارشد به آن اختصاص می‌دهم. نظرسنجی مک‌کینزی نشان می‌دهد سازمان‌های پیشرو تقریباً سه برابر بیشتر از سایر سازمان‌ها از مسئولیت‌پذیری جدی مدیران ارشد در قبال طرح‌های هوش مصنوعی برخوردارند. همچنین احتمال بیشتری دارد که مدیران این سازمان‌ها خودشان با استفاده عملی از هوش مصنوعی، الگویی برای کارکنان باشند. تقریباً در تمام سازمان‌هایی که با آن‌ها همکاری کرده‌ام، کارکنان برای آنکه به خروجی ابزارها به‌اندازه کافی اعتماد کنند و روش کار خود را تغییر دهند، باید ببینند مدیران واقعاً از این ابزارها استفاده می‌کنند، نه اینکه صرفاً بودجه خرید و اجرای آن‌ها را تصویب کرده باشند.
چارچوب NIST بُعد انسانی را مستقیماً در ساختار خود گنجانده است؛ نکته‌ای که به باور من کمتر از اهمیت واقعی‌اش مورد توجه قرار می‌گیرد. کارکرد مدیریت (Manage) از سازمان‌ها می‌خواهد علاوه بر پایش فنی، سازوکارهایی برای اعتراض به تصمیم‌ها و لغو یا تغییر آن‌ها تعریف کنند. افرادی که بیشترین ارتباط را با خروجی سیستم دارند، اغلب نخستین کسانی هستند که متوجه بروز مشکل می‌شوند و بهتر از دیگران می‌توانند درباره آن هشدار دهند. بااین‌حال، در عمل دیده‌ام که برخی تیم‌ها آمادگی سازمانی را صرفاً موضوعی برای چند اسلاید آموزشی می‌دانند، نه یک ضرورت عملیاتی. نتیجه چنین رویکردی اغلب استفاده پنهانی و خارج از نظارت سازمان از هوش مصنوعی است؛ استفاده‌ای که هیچ چارچوب حاکمیتی، هرقدر هم روی کاغذ دقیق طراحی شده باشد، نمی‌تواند واقعاً آن را مشاهده یا کنترل کند.
گام بعدی: گسترش هوش مصنوعی مولد با استفاده از عامل‌های هوش مصنوعی
مرحله بعدی این تحول، هوش مصنوعی عامل‌محور است. گزارشی از مؤسسه اکونومیست ایمپکت نشان می‌دهد ۹۹ درصد پاسخ‌دهندگان انتظار دارند تا سال ۲۰۲۷ هوش مصنوعی مولد در کاربردهای داخلی و خارجی سازمان‌ها به کار گرفته شود. همین گزارش به‌صراحت اذعان می‌کند که بسیاری از این سازمان‌ها برای گسترش پروژه‌های خود فراتر از مرحله آزمایشی با مشکل مواجه خواهند شد. این آمار با شکافی که پیش‌تر میان پذیرش هوش مصنوعی و گسترش عملی آن توضیح دادم، همخوانی زیادی دارد و نشان می‌دهد گلوگاه بعدی نیز احتمالاً بسیار آشنا خواهد بود.
مدلی که به داده‌های سازمانی دارای حاکمیت و متناسب با زمینه کاربرد دسترسی نداشته باشد و از چرخه‌ای ساختاریافته برای ارزیابی مستمر برخوردار نباشد، به‌اندازه‌ای خروجی نادرست یا نامرتبط تولید خواهد کرد که پیش از رسیدن به مقیاسی معنادار، اعتماد کاربران را از بین می‌برد. با حرکت سازمان‌ها به‌سوی عامل‌های هوش مصنوعی، اهمیت همین الزامات بیشتر می‌شود. عامل‌ها برای انجام وظایف خود به اطلاعات زمینه‌ای مناسب، دسترسی کنترل‌شده به ابزارها و داده‌های سازمانی و ارزیابی مستمر نیاز دارند؛ به‌ویژه زمانی که دامنه مسئولیت‌هایشان گسترش می‌یابد.
از نظر من، مهم‌ترین نکته در گذار سازمان‌ها به هوش مصنوعی عامل‌محور این است که اصول حاکمیتی مطرح‌شده در سراسر این مقاله باید به بخشی از شیوه عملکرد این سیستم‌ها تبدیل شوند، نه ملاحظاتی که بعداً به آن‌ها اضافه می‌شوند. این رویکرد مستلزم ارزیابی مستمر عملکرد بر اساس شاخص‌های متناسب با هر وظیفه، اعمال محدودیت‌های دسترسی از طریق مجوزهای موجود در سامانه‌های داده و کاتالوگ‌های سازمانی و ثبت بازخورد انسانی به‌شکلی است که دوباره وارد چرخه عملکرد سیستم شود، نه اینکه در میان رشته‌گفت‌وگوهای مربوط به بررسی‌ها گم شود. این کار به معنای افزودن فلسفه حاکمیتی تازه‌ای به عامل‌های هوش مصنوعی نیست؛ بلکه همان انضباط مبتنی بر چهار کارکرد حاکمیت، شناسایی و ترسیم ریسک، اندازه‌گیری و مدیریت است که پیش‌تر توضیح داده شد. تفاوت اینجاست که اکنون این اصول باید درباره سیستم‌هایی اجرا شوند که به‌جای صرفاً پاسخ‌دادن، دست به اقدام می‌زنند.
سازمان‌هایی در موج بعدی تحول هوش مصنوعی موفق خواهند شد که حاکمیت و آمادگی داده را از همان ابتدا در طرح‌های هوش مصنوعی عامل‌محور خود بگنجانند، نه اینکه بعدها برای افزودن این قابلیت‌ها تلاش کنند. درس‌های حاصل از نسل کنونی پروژه‌های هوش مصنوعی مولد، پایه‌ای را شکل می‌دهند که موفقیت هوش مصنوعی عامل‌محور به آن وابسته است؛ در غیر این صورت، این فناوری نیز همان اشتباهات گذشته را این بار با سرعتی بیشتر تکرار خواهد کرد.