کارکنان شما همین حالا هم اطلاعات شرکت را در ChatGPT وارد می‌کنند؛ ممنوعیت راه‌حل نیست
همین حالا در گوشه‌ای از شرکت شما، کارمندی در حال ویرایش و مرتب‌کردن ایمیلی برای مشتری با کمک یک چت‌بات است. دو میز آن‌طرف‌تر، فردی قرارداد را خلاصه می‌کند و هم‌زمان، یکی از برنامه‌نویسان بخشی از کد داخلی شرکت را در اختیار یک دستیار هوش مصنوعی گذاشته تا آن را اصلاح کند.
هر سه نفر با حساب شخصی خود و از ابزاری استفاده کرده‌اند که شرکت استفاده از آن را تأیید نکرده است؛ درحالی‌که اطلاعات واردشده قرار نبوده از محیط سازمان خارج شود. به این پدیده «هوش مصنوعی سایه» گفته می‌شود. مشکل اصلی، میزان تکرار آن است: این اتفاق یک اشتباه موردی نیست، بلکه به بخشی از روال روزانه بسیاری از تیم‌ها تبدیل شده است. واکنش متداول شرکت‌ها نیز معمولاً شرایط را بدتر می‌کند.
بیشتر شرکت‌ها تلاش می‌کنند استفاده از این ابزارها را ممنوع کنند. این روش تقریباً هیچ‌وقت جواب نمی‌دهد؛ نه به این دلیل که خطر واقعی نیست، بلکه چون کارکنان به این ابزارها نیاز دارند و صرفه‌جویی زمانی حاصل از آن‌ها واقعی است.
اگر راه دسترسی مجاز را ببندید، کارکنان به‌جای آن از نسخه‌ای استفاده می‌کنند که روی تلفن همراهشان در دسترس است. بنابراین، بهتر است به‌جای پرسیدن این سؤال که چگونه می‌توان افراد را از استفاده از هوش مصنوعی بازداشت، بپرسیم چگونه می‌توان ابزاری در اختیارشان گذاشت که اطلاعات را در داخل شرکت نگه دارد.
ابعاد مسئله از آنچه بیشتر سیاست‌ها فرض می‌کنند، گسترده‌تر است
چه میزان اطلاعات حساس واقعاً وارد این ابزارها می‌شود؟ بسیار بیشتر از آن چیزی که سیاست‌های رایج شرکت‌ها برای آن طراحی شده‌اند. بر اساس گزارش «پذیرش و ریسک هوش مصنوعی ۲۰۲۶» شرکت سایبرهیون (Cyberhaven)، ۳۹٫۷ درصد از تمام موارد انتقال داده به ابزارهای هوش مصنوعی، از جمله داده‌های واردشده در قالب دستورهای متنی و اطلاعات کپی‌شده، حاوی محتوای حساس هستند. طبق آمار این شرکت، هر کارمند به‌طور متوسط هر سه روز یک‌بار اطلاعات حساسی را در یکی از ابزارهای هوش مصنوعی وارد می‌کند.
این گزارش همچنین نشان می‌دهد که ۸۲ درصد از ۱۰۰ اپلیکیشن پرکاربرد هوش مصنوعی مولد، در دسته‌های ریسک متوسط، بالا یا بحرانی قرار می‌گیرند. انتقال این فعالیت‌ها به داخل مرزهای سازمان، دقیقاً همان کاری است که یک ابزار داخلیِ مورد تأیید شرکت، مستقر روی زیرساختی مانند سرور اختصاصی پردازنده گرافیکی (GPU) شرکت PrivateAlps، می‌تواند انجام دهد.
مسئله دیگر به حساب‌های کاربری مربوط می‌شود. بخش قابل‌توجهی از این فعالیت‌ها از طریق حساب‌های شخصی انجام می‌شود که کاملاً خارج از نظارت سازمان قرار دارند. طبق آمار سایبرهیون، این وضعیت در مورد ChatGPT به‌تنهایی به ۳۲٫۳ درصد می‌رسد و آمار برخی دستیارهای رقیب حتی بالاتر است. حساب شخصی نه تحت پوشش توافق‌نامه سازمانی قرار دارد و نه تضمینی درباره نحوه پردازش و نگهداری داده‌ها ارائه می‌دهد. همان‌طور که پژوهشگران امنیت سایبری بارها هشدار داده‌اند، در چنین شرایطی کارفرما هیچ سابقه‌ای از اطلاعات ارسال‌شده یا پاسخ‌های دریافت‌شده در اختیار ندارد.
اگر این حساب در آینده هک شود، تمام اطلاعات شرکتی که پیش‌تر از طریق آن منتقل شده نیز در معرض خطر قرار می‌گیرد. همین مسئله به‌تنهایی دلیل محکمی برای نگهداری این فرایند روی سروری مانند زیرساخت PrivateAlps است که خود شرکت آن را اداره می‌کند.
اطلاعاتی که کارکنان وارد می‌کنند نیز مطالب کم‌اهمیت و بی‌خطری نیستند. فایل‌های ارائه فروش، برنامه‌های ورود به بازار، کد منبع، اسناد پروژه‌های داخلی و سوابق مشمول مقررات، همگی ممکن است در گزارش‌های فعالیت این ابزارها ثبت شوند. برای مسئول مدیریت ریسک، معنای این وضعیت آن است که اطلاعات محرمانه چند بار در هفته از مسیری خارج می‌شود که هیچ سابقه‌ای از آن ثبت نمی‌شود.
چرا ممنوعیت شکست می‌خورد و بخشنامه‌ها هم اثر ماندگاری ندارند
تیم‌های امنیتی دیر یا زود با یک مانع مشترک روبه‌رو می‌شوند: ابزار هوش مصنوعی واقعاً کارایی دارد و کارکنان حاضر نیستند برای همیشه به روش‌های کندتر قبلی برگردند. اگر دسترسی به ChatGPT را در سطح شبکه مسدود کنید، کارکنان کار خود را با تلفن همراه ادامه می‌دهند.
بخشنامه‌ای درباره ممنوعیت استفاده از این ابزارها ارسال می‌شود؛ کارکنان با آن موافقت می‌کنند، اما به‌محض آنکه با مهلتی فشرده روبه‌رو شوند، آن را فراموش می‌کنند. هوش مصنوعی سایه در فاصله میان آنچه رسماً ممنوع شده و آنچه در عمل پنهانی انجام می‌شود، شکل می‌گیرد. افزودن ممنوعیت‌های بیشتر این فاصله را کاهش نمی‌دهد.
به همین دلیل، توصیه متخصصان این حوزه تغییر کرده است. رویکرد «جلوی استفاده را بگیرید» جای خود را به رویکرد دیگری داده است: ابتدا مشخص کنید کارکنان واقعاً از چه ابزارهایی استفاده می‌کنند و سپس جایگزینی مورد تأیید سازمان فراهم کنید که دسترسی به آن محدود و کنترل‌شده باشد تا اطلاعات حساس فقط در سامانه‌های داخلی پردازش شوند. نکته مهم، تأکید بر همین بخش از توصیه است.
راه‌حل، انکار واقعیت نیست؛ بلکه فراهم‌کردن مسیری مجاز است که کارکنان واقعاً بخواهند از آن استفاده کنند. این راهکار زمانی مؤثر خواهد بود که داده‌های حساس روی زیرساختی پردازش شوند که در اختیار شرکت است، نه زیرساخت متعلق به یک ارائه‌دهنده بیرونی.
با این نگاه، هوش مصنوعی سایه دیگر صرفاً مسئله‌ای انضباطی نیست، بلکه به مسئله‌ای در حوزه زیرساخت تبدیل می‌شود. تمایل کارکنان به استفاده از هوش مصنوعی برای کمک به کارهایشان از بین نخواهد رفت. آنچه شرکت می‌تواند واقعاً درباره‌اش تصمیم بگیرد، این است که این ابزارها روی چه زیرساختی اجرا شوند.
فراهم‌کردن جایگزین مجاز، تصمیمی درباره زیرساخت است
یک دستیار هوش مصنوعی داخلی تنها زمانی ارزش واقعی دارد که هم‌زمان دو شرط را برآورده کند: کارکنان آن را به ابزارهای عمومی ترجیح دهند و اطلاعات را در داخل سازمان نگه دارد. مدل‌های با وزن‌های باز، از جمله Llama، Qwen، DeepSeek و نمونه‌های مشابه، آن‌قدر پیشرفت کرده‌اند که یک دستیار مستقر روی زیرساخت خود شرکت می‌تواند از عهده بیشتر کارهای روزمره برآید، بی‌آنکه استفاده از آن برای کارکنان به باری اضافی در مسیر رعایت مقررات تبدیل شود.
خصوصی‌ماندن اطلاعات به محل اجرای مدل بستگی دارد. اگر مدل روی سرور پردازنده گرافیکی‌ای اجرا شود که تیم خود شرکت مدیریت آن را بر عهده دارد، دستورهای متنی، فایل‌های بارگذاری‌شده و خروجی‌ها از سخت‌افزاری که در اختیار شرکت است خارج نمی‌شوند.
به این ترتیب، خطر ناشی از استفاده از حساب‌های شخصی از میان می‌رود، زیرا حساب کاربری اکنون متعلق به شرکت است. دیگر لازم نیست صرفاً به وعده یک ارائه‌دهنده بیرونی درباره نگهداری داده‌ها اعتماد کنید، چون چنین ارائه‌دهنده‌ای در فرایند دخالتی ندارد. همچنین، امکان ثبت و بررسی سوابق فعالیت فراهم می‌شود، زیرا گزارش‌ها در اختیار خود شرکت قرار دارند.
دستورالعمل‌های امنیتی این رویکرد را توضیح می‌دهند، بی‌آنکه مستقیماً از نوع سخت‌افزار نام ببرند. عبارت «اطلاعات حساس فقط در سامانه‌های داخلی پردازش شوند» در ظاهر یک بند سیاست‌گذاری است، اما اگر دقیق‌تر به آن نگاه کنیم، در واقع مشخصاتی برای طراحی زیرساخت ارائه می‌دهد.
اجرای این توصیه مستلزم آن است که سامانه‌های داخلی در مکانی تحت کنترل شرکت مستقر باشند. انتخاب این محل، تعیین مسئول اداره آن، مشخص‌کردن قوانین حاکم بر آن و تصمیم‌گیری درباره اطلاعاتی که در گزارش‌های فعالیت ثبت می‌شوند، همگی تصمیم‌های امنیتی مهمی هستند که در دل مسئله هوش مصنوعی سایه قرار دارند.
این رویکرد در عمل چگونه اجرا می‌شود؟
شرکت‌هایی که این مسئله را به‌خوبی مدیریت می‌کنند، معمولاً مسیر کمابیش مشابهی را طی می‌کنند. ابتدا میزان استفاده واقعی از ابزارها را اندازه‌گیری می‌کنند و مشخص می‌سازند هر تیم از چه ابزاری استفاده می‌کند؛ زیرا نمی‌توان عادتی را جایگزین کرد که هرگز میزان آن سنجیده نشده است.
سپس یک دستیار مورد تأیید سازمان را روی زیرساختی تحت کنترل شرکت راه‌اندازی می‌کنند و از مدلی با وزن‌های باز استفاده می‌کنند که از نظر توانایی، انتخابی رقابتی باشد. در مرحله بعد، استفاده از این ابزار را به ساده‌ترین گزینه تبدیل می‌کنند؛ زیرا اگر دسترسی به ابزار مجاز دشوارتر باشد یا عملکرد ضعیف‌تری از ChatGPT داشته باشد، کارکنان دوباره به همان ابزار عمومی روی می‌آورند.
در تمام این مراحل، سیاست‌گذاری و آموزش همچنان اهمیت دارند. کارکنان باید بدانند چه اطلاعاتی را می‌توان در ابزارهای هوش مصنوعی وارد کرد و چه اطلاعاتی هرگز نباید در اختیار آن‌ها قرار گیرد. بااین‌حال، سیاستی که هیچ جایگزین مجازی برای آن فراهم نشده باشد، مانند نصب تابلوی قفل‌کردن در روی دری است که اصلاً قفلی ندارد. آنچه به چنین سیاستی قدرت اجرایی می‌دهد، تعیین محل اجرای مدل و زیرساختی است که آن را پشتیبانی می‌کند.
وقتی ابزار داخلی به‌آسانی در دسترس باشد و داده‌ها در محیط شرکت باقی بمانند، توصیه «این اطلاعات را در ChatGPT وارد نکنید» از قانونی که کارکنان پنهانی نقض می‌کنند، به قاعده‌ای تبدیل می‌شود که دیگر دلیلی برای زیر پا گذاشتن آن ندارند.