عامل‌های هوش مصنوعی به اطلاعات شخصی‌ای وابسته‌اند که در اختیارشان می‌گذارید؛ مسئله‌ای که نگرانی‌های حریم خصوصی را افزایش می‌دهد

مت راب می‌خواست صفحه‌کلید رایانه‌اش را بفروشد.

او آگهی فروش را در بخش مارکت‌پلیس فیس‌بوک منتشر کرد و در اواخر ماه گذشته، برای آزمایش، تصمیم گرفت کنترل فرایند را به عامل هوش مصنوعی جدید متا، Muse، بسپارد.

راب، تولیدکننده محتوایی ساکن تورنتو که مرتب محصولات فناوری مصرفی را بررسی می‌کند، گفت: «تقریباً با این ذهنیت وارد ماجرا شدم که قرار است موش آزمایشگاهی باشم.» او پیش‌تر آواتار Muse را که شبیه عروسک‌های پولیشی بود، در اینستاگرام دیده و می‌خواست بفهمد آیا این عامل هوش مصنوعی می‌تواند او را از دردسر چانه‌زنی‌های اینترنتی خلاص کند یا نه.

Muse کارش را آغاز کرد، اما کمتر از یک روز بعد، راب با خبری نگران‌کننده روبه‌رو شد: خریدار ناشناسی، دیروقت شب، جلوی خانه او حاضر شده بود. دلیلش چه بود؟ Muse به‌تنهایی بر سر معامله به توافق رسیده و پس از هماهنگی برای تحویل کالا، نشانی خانه راب را در اختیار خریدار گذاشته بود. این عامل حتی وقتی خریدار رسید، بدون اطلاع راب، از حساب او پیامی خودکار با این مضمون فرستاد: «آره، من اینجام!»

راب گفت: «نه‌تنها وقتی آن مرد نشانی‌ام را خواست، آن را در اختیارش گذاشت و پیشنهادش را پذیرفت، بلکه عملاً طوری با او رفتار کرد که انگار می‌خواست سر به سرش بگذارد؛ انگار به او القا می‌کرد من آنجا هستم، در حالی که نبودم.» راب جزئیات این اتفاق را در مطالبی در شبکه‌های اجتماعی که از آن زمان به‌طور گسترده دست‌به‌دست شده‌اند نیز شرح داده است. او افزود: «این واقعاً من را حیرت‌زده کرد.»

بسیاری از کاربران از ورود عامل‌های هوش مصنوعی به زندگی آنلاین خود استقبال کرده‌اند و از توانایی دستیارهای شخصی‌سازی‌شده‌ای مانند Muse در انجام آسان کارهای روزمره سخن گفته‌اند؛ از گرفتن وقت رستوران و برنامه‌ریزی سفر گرفته تا مرتب‌کردن صندوق ورودی ایمیل. اما این عامل‌ها نیز مانند دیگر ربات‌های هوش مصنوعی، به کیفیت و دامنه اطلاعاتی وابسته‌اند که به آن‌ها دسترسی دارند. هرچه اطلاعات بیشتری درباره کاربر بدانند، عملکردشان بهتر می‌شود؛ اطلاعاتی که ممکن است به دوستان، اعضای خانواده و حتی همکاران آن فرد نیز مربوط باشد. همین مسئله نگرانی‌هایی درباره حریم خصوصی ایجاد می‌کند.

راب و خریدار سرانجام اختلافشان را برطرف کردند و متا نیز برای بررسی آنچه رخ داده بود، با راب تماس گرفت. بااین‌حال، این اتفاق خطرهای واقعی‌ای را آشکار کرد که ممکن است در پی سپردن حجم زیادی از اطلاعات شخصی به این فناوری به وجود بیاید.

ورونیکا ریورا، استادیار دانشکده امنیت سایبری و حریم خصوصی مؤسسه فناوری جورجیا، گفت: «استفاده از یک عامل هوش مصنوعی شبیه این است که کلیدهایتان و فهرست کارهایی را که باید انجام شوند، به کسی بسپارید. میزان مفیدبودن او و در نتیجه میزان خطری که ممکن است ایجاد کند، به این بستگی دارد که کدام کلیدها را در اختیارش بگذارید.»

سیاست‌های شرکت‌ها درباره حریم خصوصی عامل‌های هوش مصنوعی متفاوت است

از زمان عرضه اپلیکیشن Muse متا در سپتامبر، شمار دانلودهای آن به‌شدت افزایش یافته است و رقابت در این حوزه نیز رو به گسترش است. OpenAI نیز به‌تازگی مجموعه‌ای از دستیارهای هوش مصنوعی «همیشه‌فعال» خود را با نام dots معرفی کرده است. این دستیارها را می‌توان با ChatGPT و پلتفرم‌های محیط کار مانند Slack و Microsoft Teams یکپارچه کرد.

چت‌بات‌های قدیمی‌تر هوش مصنوعی مولد، مانند نسخه معمولی ChatGPT، در پاسخ به درخواست‌های مشخص کاربران عمل می‌کنند. این ابزارها می‌توانند به درخواست کاربر مقاله بنویسند، تصویر یا موسیقی تازه تولید کنند و حتی قطعه‌های کد بنویسند.

اما Muse متا و dots شرکت OpenAI یک گام فراتر می‌روند و کارهای روزمره را از طرف کاربر انجام می‌دهند. عامل‌های هوش مصنوعی از همان مدل‌های زبانی بزرگ مورد استفاده در چت‌بات‌ها بهره می‌برند، اما به‌صورت چرخه‌ای فعالیت می‌کنند. این ساختار به آن‌ها اجازه می‌دهد حتی زمانی که کاربر نظارتی بر عملکردشان ندارد، خودشان برای انجام کارها اقدام کنند.

ریورا که از پژوهشگران بورسیه‌شده برنامه هوش مصنوعی قابل‌اعتماد انجمن پژوهش‌های محاسباتی با حمایت مالی مایکروسافت نیز هست، گفت: «یکی از دلایلی که این عامل‌های هوش مصنوعی را تا این اندازه جذاب می‌کند، کاربردی‌بودن بی‌سابقه آن‌هاست.»

اما این سهولت استفاده، بهایی دارد: کاربران باید جزئیات بیشتری از زندگی خود را در اختیار این ابزارها بگذارند.

ابراهیم باقری، استاد دانشکده اطلاعات دانشگاه تورنتو، گفت پس از آنکه عامل‌های هوش مصنوعی به اطلاعات کاربران دسترسی پیدا می‌کنند، پس‌گرفتن کامل این دسترسی بسیار دشوار است.

باقری گفت: «اگر دسترسی به کارت اعتباری‌تان را در اختیار یک عامل قرار دهید، آن عامل بلافاصله به تمام تراکنش‌های پیشین شما دسترسی پیدا می‌کند و در کمتر از چند ثانیه، همه آن داده‌ها را دریافت و پردازش می‌کند.» به گفته او، هرچند کاربران می‌توانند بعداً دسترسی را لغو کنند، اطلاعاتی را که عامل قبلاً دیده است نمی‌توان پس گرفت و نحوه نگهداری داده‌های پیشین توسط توسعه‌دهندگان نیز ممکن است روشن نباشد.

متا و OpenAI هر دو برای عامل‌های هوش مصنوعی جدید خود که روی رایانه‌های ابری اختصاصی اجرا می‌شوند، سیاست‌های حریم خصوصی منتشر کرده‌اند. کاربران می‌توانند اشتراک‌گذاری حافظه میان dots و ChatGPT را غیرفعال کنند، اما این کار اطلاعاتی را که عامل پیش‌تر دریافت کرده است، به‌طور خودکار حذف نمی‌کند. OpenAI به کاربران امکان می‌دهد درخواست دسترسی به اطلاعات شخصی خود، حذف آن‌ها یا اصلاحشان را ثبت کنند؛ هرچند حقوق کاربران بسته به محل زندگی‌شان متفاوت است.

Muse متا نیز امکان‌هایی برای حذف سابقه پیام‌ها و اطلاعات دیگر در اختیار کاربران می‌گذارد. این عامل برای استفاده روزمره، از کاربران اجازه دسترسی به اطلاعات را می‌خواهد. متا گفته است Muse درباره کاربران و افرادی که با آن‌ها تعامل دارند، «بر اساس اطلاعات عمومی و آنچه خودتان انتخاب کرده‌اید به اشتراک بگذارید» یاد می‌گیرد. این شرکت همچنین تأکید کرده است که اطلاعات هر کاربر به‌صورت امن نگهداری می‌شود.

بااین‌حال، این غول فناوری در توضیحات خود یادآور شده است که Muse همچنان ممکن است «اشتباه کند یا اقداماتی غیرمنتظره انجام دهد».

هرچه دسترسی عامل‌های هوش مصنوعی گسترده‌تر باشد، احتمال خطا و پیامدهای ناخواسته بیشتر می‌شود

راب در ادامه متوجه شد که افشای نشانی خانه‌اش به مجوزهایی مربوط بوده که هنگام اتصال اولیه Muse به حساب مارکت‌پلیس فیس‌بوک خود، با گزینه «همیشه اجازه بده» تأیید کرده بود. او نشانی محل تحویل کالا را نیز در همان حساب ثبت کرده بود. راب هشدار داد که دیگران هم ممکن است درباره دامنه این دسترسی‌ها دچار سوءبرداشت شوند. او تصور می‌کرد عامل هوش مصنوعی، پیش از به‌اشتراک‌گذاشتن چنین اطلاعاتی یا پذیرفتن پیشنهادها، در هر صورت ابتدا از او تأیید می‌گیرد.

عامل هوش مصنوعی او در انجام سایر دستورها نیز بی‌خطا عمل نکرد. برای کالای دیگری که راب می‌فروخت، به نظر می‌رسید Muse پیشنهاد داده است که او قیمتی ۱۰۰ دلار کمتر از حداقل قیمت تعیین‌شده قبلی را بپذیرد. متا در پاسخ به پرسش آسوشیتدپرس، اشتباه این عامل را تأیید کرد، اما توضیح بیشتری نداد.

راب بعداً ارتباط Muse را با بیشتر اپلیکیشن‌های خود قطع کرد. او در مصاحبه‌ای در اوایل همین ماه گفت که این اتفاق می‌توانست بسیار بدتر تمام شود، به‌ویژه «اگر یک غریبه به خانه فردی آسیب‌پذیرتر می‌آمد». بااین‌حال، راب انتظار دارد این عامل‌ها به‌مرور بهبود پیدا کنند و گفت ممکن است در آینده دوباره استفاده از Muse را فعال کند. او از آن زمان آزمایش یک عامل هوش مصنوعی دیگر را نیز آغاز کرده است: Grok Bot متعلق به شرکت X ایلان ماسک که نسخه آزمایشی آن در ماه اوت عرضه شد.

شرکت‌های فناوری دیگر نیز نسبت به گسترش استفاده از عامل‌های هوش مصنوعی محتاط شده‌اند. اپل در اوایل همین ماه اعلام کرد که در واکنش به دسترسی گسترده‌تر این عامل‌ها به اپلیکیشن‌هایی مانند ایمیل و پیام‌رسان‌ها و حتی سابقه مرور وب، کنترل‌های تازه‌ای را برای سیستم‌عامل مک خود معرفی خواهد کرد؛ زیرا این دسترسی‌ها ممکن است بدون «آگاهی و درک کامل» کاربران انجام شوند.

اپل در به‌روزرسانی منتشرشده در ۲ اکتبر نوشت: «با افزایش توانایی و خودمختاری عامل‌های هوش مصنوعی، خطرهای ناشی از این سطح از دسترسی به‌طور چشمگیری بیشتر خواهد شد.»

اپل نام هیچ توسعه‌دهنده یا عامل مشخصی را ذکر نکرد، اما این به‌روزرسانی پس از آن منتشر شد که جیسون ایتن، ستون‌نویس مجله Inc.، گزارش داد Muse اعلان‌های مک او، از جمله اعلان‌های برنامه Messages، را زیر نظر گرفته است؛ درحالی‌که او اجازه مشخصی برای این دسترسی به عامل نداده بود.

اندی استون، سخنگوی متا، همچنان تأکید کرده است که چنین یکپارچه‌سازی‌ای «کاملاً اختیاری» است. او ماه گذشته در شبکه‌های اجتماعی نوشت که کاربران باید هم قابلیت امنیتی اپل با نام «دسترسی کامل به دیسک» (Full Disk Access) و هم اتصال‌دهنده برنامه Messages را از طریق Muse فعال کنند. ایتن گفته است که چنین مجوزهایی را به این عامل نداده بود.

حتی افرادی که به موج استفاده از عامل‌های هوش مصنوعی نمی‌پیوندند نیز لزوماً از خطرها در امان نیستند. ممکن است مصرف‌کنندگانی که هیچ عامل هوش مصنوعی‌ای دانلود نکرده‌اند، همچنان با افرادی تعامل داشته باشند که از این ابزارها استفاده می‌کنند. افزون بر احتمال سردرگمی ناشی از ارسال پیام از طرف کاربران به‌وسیله هوش مصنوعی، کارشناسان درباره پیامدهای گسترده‌تر این فناوری برای حریم خصوصی هشدار می‌دهند.

ریورا گفت: «وقتی عامل شما صندوق ورودی ایمیل یا پیامک‌هایتان را می‌خواند، در واقع پیام‌هایی را هم می‌خواند که دوستان و اعضای خانواده‌تان برای شما فرستاده‌اند؛ حتی اگر آن‌ها هرگز صراحتاً با این کار موافقت نکرده باشند.»