گسترش هوش مصنوعی عامل‌محور؛ دولت در حال تدوین استانداردهای حفاظت از اطلاعات شخصی
با گسترش خدمات هوش مصنوعی عامل‌محور (Agentic AI) که می‌توانند به نمایندگی از کاربران وظایف مختلفی را انجام دهند، دولت کره جنوبی نیز تدوین استانداردهایی برای پردازش اطلاعات شخصی را آغاز کرده است. مقام‌های مسئول به این نتیجه رسیده‌اند که روش‌های فعلی دریافت رضایت کاربران، حفاظت مؤثری از حریم خصوصی آن‌ها فراهم نمی‌کند. در این خدمات، هوش مصنوعی برای انجام وظایف خود ممکن است از طریق ابزارهای مختلف در داخل و خارج از پلتفرم به اطلاعات شخصی کاربران دسترسی پیدا کند و از آن‌ها استفاده کند؛ فرایندی که اتکا به رضایت اولیه یا دریافت رضایت به شیوه‌های متداول برای هر بار استفاده از اطلاعات، پاسخ‌گوی پیچیدگی‌های آن نیست.
به گزارش منابع صنعت فناوری اطلاعات در روز پانزدهم ماه جاری، کمیسیون حفاظت از اطلاعات شخصی کره جنوبی قصد دارد سندی با عنوان موقت «راهنمای پردازش اطلاعات شخصی در هوش مصنوعی عامل‌محور» منتشر کند. این نهاد همچنین قرار است مسیر اصلاح نظام حفاظت از اطلاعات شخصی را متناسب با عصر هوش مصنوعی مشخص کند؛ اصلاحاتی که هدف آن‌ها بهبود مقررات مبتنی بر دریافت رضایت‌های تکراری و تشریفاتی، از جمله در پلتفرم‌های دیجیتال است.
کمیسیون حفاظت از اطلاعات شخصی برای پیشبرد این برنامه، تابستان گذشته کارگروهی با عنوان «کارگروه نوآوری در نظام اطلاعات شخصی» تشکیل داد و پیشنهادهایی را در سطح ملی برای اصلاح سیاست‌ها دریافت کرد. یکی از مشکلات مطرح‌شده این بود که کاربران معمولاً بدون مطالعه دقیق متن‌های طولانی مربوط به رضایت‌نامه‌ها، روی دکمه موافقت کلیک می‌کنند؛ رویه‌ای که نه‌تنها به افزایش اختیار آن‌ها بر اطلاعات شخصی‌شان کمک نمی‌کند، بلکه این اختیار را تضعیف می‌کند. علاوه بر این، مسائل تازه حریم خصوصی در حوزه هوش مصنوعیِ به‌کاررفته در دنیای واقعی، از جمله ربات‌ها، پهپادها و عینک‌های هوشمند، نیز در دستور کار اصلاحات قرار گرفته است. بهبود چارچوب‌های مربوط به پژوهش‌های مشترک بین‌المللی با استفاده از اطلاعات مستعارسازی‌شده نیز بخشی از این برنامه است.
دستورالعمل ویژه هوش مصنوعی عامل‌محور بر پایه دیدگاه‌ها و تجربه‌های فعالان این حوزه تدوین می‌شود. در نشست «شورای سیاست‌گذاری مشترک بخش دولتی و خصوصی درباره حریم خصوصی هوش مصنوعی» که روز بیست‌وسوم ماه گذشته برگزار شد، کیم بیونگ‌پیل، استاد مؤسسه پیشرفته علم و فناوری کره (KAIST)، نتایج مصاحبه با ۱۵ سازمان داخلی و خارجی فعال در توسعه و به‌کارگیری هوش مصنوعی را ارائه کرد. سازمان‌های شرکت‌کننده در این بررسی، «تزریق پرامپت» (Prompt Injection) و اعطای اختیارات بیش از حد نیاز به هوش مصنوعی را از مهم‌ترین خطرات این فناوری دانستند. تزریق پرامپت روشی است که در آن، دستورهای مخرب در داده‌هایی قرار می‌گیرند که هوش مصنوعی آن‌ها را می‌خواند تا سامانه به انجام رفتارهایی غیرمنتظره سوق داده شود.
در همین حال، معیارهای حفاظت از اطلاعات شخصی هم‌اکنون برای برخی خدمات به‌صورت جداگانه اعمال می‌شوند. برای نمونه، «AI Tab»، عامل هوش مصنوعی جست‌وجوی شرکت ناور (Naver)، پیش از عرضه رسمی در سال جاری، فرایند بررسی اولیه انطباق با الزامات کمیسیون حفاظت از اطلاعات شخصی را پشت سر گذاشت.
این کمیسیون در ماه مه مقرر کرد که کاربران بتوانند به‌آسانی با استفاده از داده‌هایشان برای ارائه پاسخ‌های شخصی‌سازی‌شده مخالفت کنند. همچنین شرایطی تعیین شد تا این سامانه اطلاعات حساس تعریف‌شده در قانون، از جمله دیدگاه‌های سیاسی و اطلاعات مربوط به سلامت افراد را استنباط نکند و مورد استفاده قرار ندهد.
سونگ کیونگ‌هی، رئیس کمیسیون حفاظت از اطلاعات شخصی، در «مجمع جهانی حریم خصوصی هوش مصنوعی» که روز بیست‌ونهم ماه گذشته برگزار شد، گفت: «اگر تاکنون پرسش ما این بود که هوش مصنوعی مجاز به پردازش چه اطلاعات شخصی‌ای است، اکنون باید بپرسیم چه میزان اطلاعات شخصی و چه سطحی از اختیار را می‌توان به هوش مصنوعی سپرد.» او افزود: «روشی که کاربران را وادار می‌کند در هر مرحله روی دکمه موافقت کلیک کنند، اختیار واقعی بر اطلاعاتشان را به آن‌ها نمی‌دهد و تنها باعث خستگی و فرسودگی کاربران می‌شود.»
خبرنگار: کو مین‌سو