چگونه ضعف در حفظ محرمانگی اطلاعات هنگام استفاده از هوش مصنوعی به دردسری حقوقی برای شرکت‌های رباتیک تبدیل می‌شود
| نویسنده: سم فرانسیس
هرچه مهلت تحویل پروژه‌ها فشرده‌تر و حجم مستندات انباشته‌شده بیشتر می‌شود، بررسی کدها نیز معمولاً زمان بیشتری می‌برد. این روزها تقاضا برای تحویل سریع‌تر از همیشه بالاست و همین انتظار باعث می‌شود وسوسه استفاده از دستیار هوش مصنوعی‌ای که تنها با باز کردن یک زبانه در مرورگر در دسترس است، به‌سختی قابل مقاومت باشد.
مشکل اینجاست که این ابزارِ همیشه در دسترس معمولاً ChatGPT است؛ یعنی محصولی که درخواست‌های کاربران را به سرورهای OpenAI می‌فرستد. در نتیجه، الگوریتم‌های اختصاصی کنترل حرکت یا اطلاعات محرمانه مشتریان دیگر لزوماً به‌طور کامل در اختیار خود شرکت باقی نمی‌مانند.
در سال ۲۰۲۳، افشای اطلاعات محرمانه توسط مهندسان سامسونگ خبرساز شد. آن‌ها به‌اشتباه کدهای محرمانه مربوط به نیمه‌رساناها و متن جلسات داخلی شرکت را مستقیماً در ChatGPT وارد کرده بودند. سامسونگ در واکنش به این اتفاق، استفاده از این ابزار را در داخل شرکت ممنوع کرد. بسیاری از شرکت‌های رباتیک هنوز با چنین اتفاقی روبه‌رو نشده‌اند و برخی نیز از اشتباهات این غول فناوری درس نگرفته‌اند.
چه اطلاعاتی عملاً از شرکت خارج می‌شود؟
بخش عمده مشکل به حجم بالای کارهای روزمره مربوط می‌شود. اشکال‌زدایی کد، تهیه پیش‌نویس مشخصات فنی برای یکپارچه‌سازی سامانه‌های مشتریان، خلاصه‌کردن ماه‌ها پژوهش درباره رقبا و گردآوری مستندات حاصل از آزمایش‌های داخلی، همگی کارهایی هستند که استفاده از دستیار هوش مصنوعی برای آن‌ها وسوسه‌انگیز است. بااین‌حال، در تمام این موارد با اطلاعاتی سروکار داریم که افتادنشان به دست افراد نامناسب می‌تواند خسارت واقعی به بار بیاورد.
از سوی دیگر، هوش مصنوعی انتظارات مشتریان از معنای واقعی «تحویل سریع» را نیز تغییر می‌دهد.
در شرایط استفاده از سرویس‌های OpenAI، مطابق شرایط خدمات این شرکت، درخواست‌های کاربران ممکن است برای بهبود مدل‌ها استفاده شوند؛ مگر آنکه کاربران از طریق تنظیمات سازمانی، استفاده از داده‌هایشان را غیرفعال کنند. بسیاری از کارکنانی که از حساب‌های رایگان یا استاندارد استفاده می‌کنند، اساساً به چنین تنظیماتی دسترسی ندارند. فاصله میان اینکه «سیاست مربوطه وجود دارد» و اینکه «تیم از آن آگاه است و تنظیمات را به‌درستی اعمال کرده» همان نقطه‌ای است که بخش عمده خطر افشای اطلاعات از آنجا ناشی می‌شود.
ابهام‌ها و خطرهای حقوقی
انتقال اطلاعات مشتریان از طریق یک محصول هوش مصنوعی عمومی، بدون دریافت مجوز صریح، ممکن است نقض قرارداد یا تخلف از مفاد توافق‌نامه عدم افشا (NDA) باشد که شرکت پیش از آغاز پروژه امضا کرده است.
الزامات ویژه هر صنعت نیز اهمیت دارند. شرکت‌هایی که برای حوزه سلامت یا زیرساخت‌های حیاتی ربات می‌سازند، مشمول مقررات حفاظت از داده هستند؛ مقرراتی که صرف‌نظر از عمدی یا غیرعمدی بودن افشای اطلاعات، همچنان اعمال می‌شوند. این استدلال که «یکی از مهندسان از یک چت‌بات رایگان استفاده کرده است» معمولاً دفاع حقوقی چندان مؤثری به شمار نمی‌رود.
خطر افشای اطلاعات اغلب تا زمانی که پیامدهای آن آشکار نشده‌اند، نامرئی باقی می‌ماند. وقتی مهندسی نقشه سیم‌کشی را در یک چت‌بات وارد می‌کند، هیچ هشداری به صدا درنمی‌آید. شرکت ممکن است زمانی از ماجرا باخبر شود که مشتری آن را کشف کرده باشد یا محصول یکی از رقبا شباهت چشمگیری به محصول خود شرکت پیدا کند.
راه‌حل ساده‌تر از آن چیزی است که تصور می‌شود
تغییر ابزار و استفاده از جایگزینی برای ChatGPT که بر پایه معماری حریم خصوصی‌محور طراحی شده باشد، می‌تواند سطح خطر را به‌طور قابل‌توجهی تغییر دهد. اگر این پلتفرم‌ها از داده‌های کاربران برای آموزش مدل‌های خود استفاده نکنند، مهندسان همچنان از مزایای افزایش بهره‌وری بهره‌مند می‌شوند، بی‌آنکه با پیامدهای منفی یادشده روبه‌رو شوند.
معمولاً متقاعدکردن کارکنان برای اجرای این تغییر، از توضیح ضرورت‌های امنیتی آن آسان‌تر است. گفتن اینکه «تیم حقوقی شرکت درباره این ابزار هشدار داده و به همین دلیل آن را تغییر دادیم»، گفت‌وگویی درون‌سازمانی ساده‌تر از تلاش برای توضیح این موضوع به مهندسان است که چرا باید روند کاری خود را عوض کنند.