در رقابت گوگل و اوپن‌ای‌آی برای خودکارسازی کارها، میدان رقابت بعدی هوش مصنوعی اعتماد است
گوگل و اوپن‌ای‌آی در حال گسترش کاربرد هوش مصنوعی از چت‌بات‌ها به وظایف روزمره کسب‌وکارها هستند. مرحله بعدی هوش مصنوعی سازمانی به ایجاد زیرساخت‌هایی بستگی دارد که فعالیت این سامانه‌ها را هدایت کنند، ریسک‌ها را مدیریت کنند و شرکت‌ها را در قبال نتایج مسئول نگه دارند.
نویسنده: کریستین لوند | ۲۰ اکتبر ۲۰۲۶، ساعت ۱۶:۱۵
در ۸ اکتبر، بخش ابری گوگل عامل جدیدی مبتنی بر جمینای معرفی کرد که برای انجام وظایف در ایمیل‌ها، اسناد، صفحات گسترده و دیگر ابزارهای کسب‌وکار طراحی شده است. این عامل می‌تواند وظایف را برنامه‌ریزی کند و از طریق یک رابط واحد به سامانه‌های سازمانی متصل شود. اوپن‌ای‌آی نیز در حال گسترش محصولات هوش مصنوعی خود فراتر از چت‌بات‌ها است و عامل‌هایی می‌سازد که می‌توانند وظایف مختلف را در برنامه‌های مورد استفاده کسب‌وکارها انجام دهند. مسیر پیش رو روشن است: مرحله بعدی هوش مصنوعی سازمانی به این مربوط می‌شود که سامانه‌ها عملاً کارها را انجام دهند. اما هرچه مسئولیت بیشتری به هوش مصنوعی سپرده می‌شود، این پرسش جدی‌تر مطرح خواهد شد که شرکت‌ها چگونه می‌توانند به کار تولیدشده توسط آن اعتماد کنند.
مرحله نخست رقابت در حوزه هوش مصنوعی سازمانی، رقابت بر سر هوشمندی بود؛ سرعت، نتایج آزمون‌های معیار، توانایی استدلال و قابلیت‌های مدل‌ها در کانون توجه قرار داشتند. این رقابت بر این فرض استوار بود که مدل‌های بهتر به نتایج تجاری بهتری منجر می‌شوند. اما مرحله بعدی، تبدیل این هوشمندی به کاری است که کسب‌وکارها بتوانند به‌طور مستمر به آن اعتماد کنند.
هوشمندی به‌تنهایی نتیجه‌ای قابل استفاده را تضمین نمی‌کند. حتی یک مدل بسیار توانمند هم ممکن است نتیجه‌ای نادرست تولید کند، از اطلاعات قدیمی استفاده کند، یکی از مقررات داخلی را نادیده بگیرد یا محتوایی متقاعدکننده اما نامناسب برای هدف مورد نظر ارائه دهد. وقتی چنین خروجی‌ای وارد یک پیشنهاد تجاری، قرارداد، گزارش حسابرسی یا مکاتبه با مشتری می‌شود، مسئله دیگر فقط به تیم فناوری مربوط نیست؛ شرکت نیز در قبال آن مسئول است.
به همین دلیل، حاکمیت هوش مصنوعی سازمانی بیش از پیش به مسئله‌ای مرتبط با مسئولیت‌پذیری شرکتی تبدیل می‌شود. کسب‌وکارها نمی‌توانند مسئولیت پاسخ‌گویی را به مدل واگذار کنند؛ همان‌طور که نمی‌توانند این مسئولیت را به هیچ نرم‌افزار دیگری بسپارند. هر سازمانی که هوش مصنوعی را وارد یک فرایند حیاتی کسب‌وکار می‌کند، مسئولیت تعیین شرایط فعالیت آن را نیز بر عهده می‌گیرد.
در مراحل اولیه پذیرش هوش مصنوعی سازمانی، تمرکز عمدتاً بر قابلیت‌های فناوری بود. اکنون که شرکت‌ها به سوی استفاده از هوش مصنوعی برای اجرای وظایف چندمرحله‌ای حرکت می‌کنند، باید هم توانایی‌های آن را در نظر بگیرند و هم خطرهای ناشی از واگذاری کامل نحوه استفاده از آن به کاربران منفرد را بسنجند. راه‌حل، کند کردن روند پذیرش فناوری یا الزام افراد به بررسی دستی تک‌تک کلمات تولیدشده توسط مدل نیست. آنچه نیاز است، ساخت سامانه‌هایی است که از همان ابتدا احتمال دستیابی به نتیجه درست را افزایش دهند.
مسئولیت‌پذیری را نمی‌توان به مدل واگذار کرد
شرکت‌ها اغلب درباره هوش مصنوعی چنان صحبت می‌کنند که گویی با تصمیم‌گیری مستقل روبه‌رو هستند. اما این مدل نیست که تعیین می‌کند به چه اطلاعاتی دسترسی داشته باشد، کدام مقررات را رعایت کند یا در چه زمانی کارش باید به بررسی انسانی برسد. این تصمیم‌ها را خود سازمان می‌گیرد. بنابراین، مدیران باید آگاهانه مشخص کنند که هوش مصنوعی در چه کارهایی نقش پشتیبان داشته باشد، کدام وظایف را به‌طور کامل انجام دهد و در چه موقعیت‌هایی قضاوت انسانی همچنان ضروری باشد.
یکی از تمایزهای مهم، تفاوت میان هوش مصنوعی‌ای است که به افراد در تصمیم‌گیری کمک می‌کند و هوش مصنوعی‌ای که به‌جای آن‌ها تصمیم می‌گیرد یا تصمیم‌ها را اجرا می‌کند. هوش مصنوعی می‌تواند با گردآوری اطلاعات، ارائه گزینه‌ها و انجام بخش بزرگی از کارهای مقدماتی، به افراد کمک کند سریع‌تر به مبنایی محکم‌تر برای تصمیم‌گیری برسند. اما فراهم کردن اطلاعات برای تصمیم‌گیری با تعیین مسیر یا انجام اقدامی مهم و پیامدساز یکسان نیست. هرچه پیامدهای یک تصمیم سنگین‌تر باشد، تعیین مسئولیت‌های روشن و مشخص کردن موارد نیازمند نظارت انسانی اهمیت بیشتری پیدا می‌کند.
برای درک بهتر این موضوع، می‌توان هوش مصنوعی را با یک کارمند مقایسه کرد. یک شرکت هنگام استخدام یا واگذاری وظیفه به کارمند، بررسی می‌کند که او به چه اطلاعاتی دسترسی داشته باشد، از کدام سامانه‌ها استفاده کند، چه مسئولیت‌هایی بر عهده بگیرد و کدام بخش از کارش نیازمند بازبینی باشد. باید با هوش مصنوعی نیز تقریباً به همین شیوه برخورد کرد. این مسئله زمانی اهمیت بیشتری پیدا می‌کند که عامل‌های هوش مصنوعی به ابزارهای کسب‌وکار و اطلاعات داخلی دسترسی می‌یابند. سامانه‌ای که فقط می‌تواند پیش‌نویس یک پیشنهاد را تهیه کند، با مجموعه‌ای از ریسک‌ها روبه‌رو است؛ اما سامانه‌ای که قادر است اطلاعات محرمانه را استخراج کند، سندی را تغییر دهد و آن را برای مشتری بفرستد، خطرهای دیگری نیز ایجاد می‌کند. هرچه مسئولیت‌های بیشتری به یک سامانه هوش مصنوعی سپرده شود، شرکت باید حدود دسترسی و مسئولیت‌های آن را دقیق‌تر تعریف کند.
حتی کاربران توانمند هوش مصنوعی نیز ممکن است با استفاده از ابزارهای یکسان به نتایج متفاوتی برسند. به همین دلیل، برای شرکت‌های بزرگ، ثبات نتایج به‌اندازه کیفیت آن‌ها اهمیت دارد. کسب‌وکار باید مشخص کند چه اطلاعاتی مبنای کار قرار می‌گیرد، قضاوت انسانی در کدام مراحل ضروری است و یک نتیجه قابل اعتماد چه ویژگی‌هایی دارد.
در نهایت، مسئولیت پاسخ‌گویی بر عهده کسب‌وکار است. اگر هوش مصنوعی از طرف شرکت کاری انجام می‌دهد، شرکت همچنان مسئول نتیجه خواهد بود. تعیین مسئولیت‌ها نخستین گام است؛ گام بعدی آن است که این انتظارات در خود فرایند انجام کار نیز اعمال شوند.
حاکمیت باید در دل جریان کار تعبیه شود
«حاکمیت» به اصطلاحی فراگیر در حوزه هوش مصنوعی سازمانی تبدیل شده است. اما بخش بزرگی از آنچه کسب‌وکارها در عمل به آن نیاز دارند، مفهومی ساده‌تر و کاربردی‌تر است: هدایت. شرکت‌ها همواره روش انجام کارها را تعیین کرده‌اند. پیش از رواج هوش مصنوعی، این هدایت اغلب پیش از آغاز کار صورت می‌گرفت. برای مثال، کارمندی که سندی تهیه می‌کرد ممکن بود از یک الگوی تأییدشده استفاده کند، مراحل کاری مشخصی را دنبال کند و به پرسش‌هایی از پیش تعیین‌شده پاسخ دهد.
هوش مصنوعی این روند را معکوس می‌کند. کاربر به‌طور فزاینده‌ای کار را با توضیح هدف خود آغاز می‌کند و سپس کسب‌وکار باید خواسته او را درک کند و اطلاعات مرتبط، دستورالعمل‌ها و محدودیت‌های لازم را وارد فرایند سازد.
برای مثال، اگر فردی در حال تهیه یک پیشنهاد تجاری باشد، نباید مجبور شود از پیش تمام اطلاعات مورد نیاز، همه مقررات داخلی مرتبط یا عبارت‌بندی دقیق دستور به مدل را بداند. سامانه باید تشخیص دهد که فرد قصد دارد به چه نتیجه‌ای برسد و فرایند کار را متناسب با آن هدایت کند.
در همین نقطه است که تمرکز صنعت نیز به‌تدریج از عملکرد خود مدل فراتر می‌رود. برای نمونه، جدیدترین محصول عامل هوش مصنوعی سازمانی گوگل، دسترسی به اطلاعات شرکت و برنامه‌های تجاری را با ابزارهای مدیریتی و قابلیت‌های حاکمیتی ترکیب می‌کند. چالش اصلی این است که عامل بتواند یک وظیفه را در محدوده‌هایی که سازمان تعیین کرده است به انجام برساند.
برای مدیرانی که می‌خواهند آمادگی یک سامانه هوش مصنوعی را برای استفاده سازمانی ارزیابی کنند، خروجی آن روشن‌ترین معیار است. آیا نتیجه با استانداردهای کیفی کسب‌وکار مطابقت دارد؟ آیا این کیفیت به‌طور مستمر حفظ می‌شود؟ آیا دستیابی به آن با هزینه‌ای معقول امکان‌پذیر است؟ و آیا سطح ریسکی که در هر سه مورد ایجاد می‌شود قابل قبول است؟
یک نمایش چشمگیر از هوش مصنوعی می‌تواند نشان دهد که چه کاری امکان‌پذیر است. اما سامانه‌ای که برای استفاده سازمانی آماده باشد باید بتواند همین سطح از عملکرد را بارها و بارها در کارهایی ارائه کند که کسب‌وکار واقعاً به آن‌ها وابسته است.
مزیت رقابتی در لایه هماهنگ‌سازی خواهد بود، نه در خود مدل
وقتی شرکت‌ها هوش مصنوعی را به‌جای یک مدل مستقل، به‌عنوان سامانه‌ای کامل در نظر می‌گیرند، چشم‌انداز رقابت تغییر می‌کند. عملکرد مدل‌ها همچنان بهتر خواهد شد و دسترسی به مدل‌های توانمند گسترش خواهد یافت، اما توان پردازشی و قابلیت‌های هوشمندانه آن‌ها به‌سرعت در حال تبدیل شدن به کالایی در دسترس همگان است. با دسترسی کسب‌وکارها به بسیاری از فناوری‌های پایه یکسان، انتخاب صرفِ هوشمندترین مدل دیگر مزیتی پایدار به شمار نمی‌رود. آنچه اهمیت فزاینده‌ای پیدا می‌کند، شیوه به‌کارگیری مدل است: اطلاعاتی که دریافت می‌کند، دستورالعمل‌هایی که دنبال می‌کند، ابزارهایی که به آن‌ها دسترسی دارد و سازوکارهای کنترلی که خروجی‌اش را شکل می‌دهند.
ضرب‌المثلی قدیمی می‌گوید هیچ پرسش احمقانه‌ای وجود ندارد و فقط پاسخ‌های احمقانه وجود دارند. هوش مصنوعی این ایده را پیچیده‌تر می‌کند، زیرا تقریباً به هر پرسشی پاسخ می‌دهد. درخواستی که به‌خوبی صورت‌بندی نشده باشد، نبود اطلاعات زمینه‌ای یا فرضی نادرست می‌تواند به‌سرعت نتیجه‌ای ظاهراً قانع‌کننده اما معیوب تولید کند. حتی باهوش‌ترین فرد نیز در مواجهه با پرسشی نامناسب و بدون دسترسی به اطلاعات لازم، به‌سختی می‌تواند پاسخ خوبی بدهد. هوش مصنوعی نیز از این قاعده مستثنا نیست.
بنابراین، شرکت‌ها باید به‌جای انتخاب مداوم هوشمندترین مدل، توجه بیشتری به زیرساخت پیرامون آن داشته باشند. کاربر قصد دارد به چه هدفی برسد؟ چه دانشی از شرکت باید در انجام وظیفه به کار گرفته شود؟ کدام دستورالعمل‌ها باید بر نتیجه اثر بگذارند؟ کدام مدل برای این کار مناسب‌تر است؟ و پیش از استفاده از خروجی، چه مواردی باید بررسی شوند؟
لایه هماهنگ‌سازی دقیقاً همین نقش را ایفا می‌کند: قصد کاربر را به دانش سازمانی، ابزارهای مرتبط، دستورالعمل‌ها و سازوکارهای کنترلی پیوند می‌دهد و سپس کار را در مسیر و مراحل مناسب هدایت می‌کند. وظایف مختلف ممکن است به مدل‌های متفاوت یا سطوح مختلفی از مشارکت انسانی نیاز داشته باشند. مدل توان پردازشی و هوشمندی را فراهم می‌کند، اما این لایه هماهنگ‌سازی است که تعیین می‌کند آیا می‌توان از این توانایی‌ها نتیجه‌ای واقعاً قابل استفاده برای کسب‌وکار به دست آورد یا نه.
به‌کارگیری عملی هوش مصنوعی
هوش مصنوعی سازمانی دیگر صرفاً یک طرح فناورانه نیست. با ادغام آن در فرایندهای روزمره کسب‌وکار، مدیران باید درباره اعتماد، مسئولیت‌پذیری و حاکمیت تصمیم بگیرند، نه فقط درباره سرمایه‌گذاری‌های فناورانه. پرسش دیگر صرفاً این نیست که آیا هوش مصنوعی می‌تواند محتوا تولید کند؛ مسئله این است که آیا سازمان‌ها می‌توانند با اطمینان به خروجی آن در چارچوب سامانه‌ها و استانداردهای حاکم بر فعالیت خود اتکا کنند.
شرکت‌ها باید همچنان سرمایه‌گذاری گسترده‌ای در هوش مصنوعی انجام دهند، اما لازم است در تعیین اولویت‌های خود دقت بیشتری به خرج دهند. هنوز توجه زیادی به توانایی‌های فناوری معطوف است، در حالی که باید پرسید یک کسب‌وکار چرا به این فناوری نیاز دارد، انتظار دارد چه کاری انجام دهد و موفقیت آن چگونه باید سنجیده شود.
دیگر مسئله اصلی این نیست که هوش مصنوعی چه ظرفیت‌هایی دارد؛ چالش این است که چگونه می‌توان از این ظرفیت‌ها استفاده کرد. یک نقطه شروع مفید آن است که به‌جای هوش مصنوعی، یک انسان را در نظر بگیریم. کسب‌وکارها همچنان باید مسیر کار را تعیین کنند، اطلاعات مناسب را در اختیار مجری قرار دهند و مسئولیت نتیجه را بپذیرند. این اصول زمانی هم برقرارند که کار را یک مدل یا عامل هوش مصنوعی انجام می‌دهد.
برنده مرحله بعدی رقابت در حوزه هوش مصنوعی سازمانی، لزوماً شرکتی نخواهد بود که هوشمندترین مدل را در اختیار دارد. پیروزی از آن شرکت‌هایی است که می‌دانند می‌خواهند این هوشمندی چه کاری انجام دهد و زیرساخت‌هایی می‌سازند که امکان اعتماد به نتیجه را فراهم می‌کنند.