راهنمای قتل با چت‌بات؛ هوش مصنوعی میان حفظ حریم خصوصی و گزارش تهدیدهای خشونت‌آمیز
جسی ون روتسلار در ماه‌های منتهی به مرگبارترین تیراندازی در یک مدرسه کانادا طی نزدیک به چهار دهه، برای یافتن راه‌های ارتکاب کشتار جمعی با مشاوری غیرمنتظره مشورت می‌کرد.
بر اساس گزارش‌ها، چت‌جی‌پی‌تی متعلق به شرکت اوپن‌ای‌آی به این نوجوان ۱۸ساله گفته بود: «در راهرو، فضای سرپوشیده یا کلاس درس شلوغ، شاتگان ۸۷۰ [ساخت رمینگتون] سلاحی بی‌رحم است... محیط‌های بسته و نزدیک، میدان بازی آن هستند.»
ون روتسلار در ۱۰ فوریه ۲۰۲۶، مادر و برادر ناتنی خود را در خانه به ضرب گلوله کشت. سپس به مدرسه‌ای در شهر کوچک تامبلر ریج در استان بریتیش کلمبیا رفت و شش نفر دیگر، از جمله پنج دانش‌آموز، را به قتل رساند و در نهایت به زندگی خود پایان داد.
اوایل همین هفته، در ۱۴ اکتبر، مقام‌های آمریکایی مردی از ایالت واشنگتن را به اتهام توطئه با ون روتسلار برای طراحی این حمله متهم کردند. با این حال، این تیراندازی جمعی پرسش‌هایی را مطرح کرده است که فراتر از برداشت‌های سنتی حقوقی از مسئولیت کیفری می‌روند.
دولت بریتیش کلمبیا در سپتامبر شکایتی حقوقی در دادگاه مدنی علیه اوپن‌ای‌آی و مدیرعامل آن، سم آلتمن، مطرح کرد. این دولت شرکت و مدیرعاملش را به کوتاهی در جلوگیری از این حادثه متهم کرد و مدعی شد که آن‌ها از گفت‌وگوهایی که به این فاجعه انجامید آگاه بودند. خانواده‌های قربانیان نیز جداگانه شکایت‌هایی مطرح کرده‌اند. مدیران اوپن‌ای‌آی بابت اطلاع ندادن به مقام‌های مسئول عذرخواهی عمومی کردند.
این شرکت به درخواست الجزیره برای اظهارنظر درباره این شکایت‌ها پاسخی نداده است.
با پیشرفت پرونده علیه اوپن‌ای‌آی، بحثی آشنا دوباره مطرح شده است: مرز میان گزارش رفتارهای بالقوه خطرناک و حفاظت از حریم خصوصی افراد را کجا باید ترسیم کرد؟
جنین یونس، وکیل حقوق آزادی‌های مدنی در ایالات متحده، به الجزیره گفت: «این پرسش که آیا شرکت‌ها باید ملزم شوند چنین اطلاعاتی را در اختیار نیروهای انتظامی قرار دهند، به‌ویژه اگر از قبل گفت‌وگوها را برای شناسایی نشانه‌های این نوع تهدیدها بررسی نکنند، فوق‌العاده دشوار است.»
یونس افزود: «وادار کردن شرکت‌ها به ایجاد سامانه‌ای برای نظارت، نگرانی‌های بسیار جدی درباره آزادی‌های مدنی ایجاد می‌کند و از نظر من احتمالاً از آن مرزی است که نباید از آن عبور کرد.»
او ادامه داد: «از سوی دیگر، هوش مصنوعی به افراد امکان دسترسی به انواع و حجم اطلاعاتی را می‌دهد که پیش‌تر در اختیارشان نبود؛ اطلاعاتی که ممکن است به ارتکاب حملاتی با قربانیان فراوان کمک کند. نمی‌توان به‌سادگی این نگرانی را نادیده گرفت.»
توانایی هوش مصنوعی در تشخیص افکار از تهدیدها
یکی از بزرگ‌ترین چالش‌های شرکت‌های هوش مصنوعی این است که تشخیص دهند آیا کاربری که افکار خشونت‌آمیز خود را بیان می‌کند واقعاً قصد دارد دست به عمل بزند یا خیر.
در ماه اوت، شرکت آنتروپیک، سازنده چت‌بات هوش مصنوعی کلود، پس از شناسایی گفت‌وگوهایی که ظاهراً حاوی تهدیدهایی علیه داریو آمودی، مدیرعامل شرکت، بودند، اطلاعات یک کاربر را به پلیس سان‌فرانسیسکو گزارش داد.
روزنامه سان‌فرانسیسکو استاندارد با استناد به گزارش پلیس نوشت که این کاربر مدعی شده بود یک سلاح گرم ای‌آر-۱۵ در اختیار دارد و گفته بود آمودی را «در تیررس خود» قرار داده است.
با این حال، این مرد در گفت‌وگو با روزنامه گفت که شوخی می‌کرده و قصد نداشته هیچ نوع خشونتی مرتکب شود. به گزارش سان‌فرانسیسکو استاندارد، این فرد نه بازداشت شد و نه اتهامی علیه او مطرح شد.
فضل بارز، پژوهشگر ارشد دانشگاه آکسفورد در حوزه ایمنی و حکمرانی هوش مصنوعی، گفت مدل‌های کنونی هوش مصنوعی نمی‌توانند به شکلی «قابل اتکا» تشخیص دهند که تعامل کاربر با یک چت‌بات صرفاً فرضی است یا احتمال دارد به رفتار زیان‌بار منجر شود.
او به الجزیره گفت: «فرض کنید نویسنده‌ای خلاق در حال نوشتن داستانی تخیلی است و می‌خواهد بررسی کند که یک نقشه قتل چگونه ممکن است پیش برود. شاید از متن گفت‌وگو روشن باشد که موضوع صرفاً روایتی داستانی است. اگر آستانه شناسایی محتوای بالقوه خطرناک بیش از حد پایین باشد، ممکن است به‌اشتباه چنین نویسنده‌ای را به‌عنوان فردی مشکوک علامت‌گذاری کنند.»
او افزود: «به همین ترتیب، دانشجوی تحصیلات تکمیلی در رشته زیست‌شناسی یا شیمی را در نظر بگیرید که عوامل بیماری‌زایی را مطالعه می‌کند که در صورت استفاده نادرست می‌توانند پیامدهای جدی داشته باشند. ممکن است هدف او درک خطرهای مرتبط با این عوامل و یافتن راه‌هایی برای کاهش آن‌ها باشد. چنین بحث‌هایی می‌توانند برای پژوهش و آموزش مشروع ضروری باشند. حتی اگر موضوع حساس باشد، نباید بدون در نظر گرفتن زمینه گسترده‌تر، گفت‌وگو را خودکار به‌عنوان مورد مشکوک علامت‌گذاری کرد.»
این پژوهشگر گفت شناسایی یک تهدید معتبر ممکن است مستلزم بررسی تعاملات کاربر در چندین گفت‌وگوی مختلف باشد، نه تکیه بر اظهاراتی منفرد و جدا از زمینه.
به گفته بارز، فردی که با افکار خشونت‌آمیز ناخواسته دست‌وپنجه نرم می‌کند ممکن است برای دریافت حمایت به چت‌بات مراجعه کند؛ در مقابل، فردی که برای حمله برنامه‌ریزی می‌کند شاید قصد خود را به‌تدریج و در جریان چند گفت‌وگو آشکار سازد.
او اضافه کرد: «برای تمایز گذاشتن میان این دو وضعیت، باید زمینه، قصد و الگوهای رفتاری را با دقت بررسی کرد، نه اینکه صرفاً به اظهارات منفرد تکیه کنیم.»
چینمایی شارما، استاد حقوق دانشگاه فوردهام، گفت این بحث شباهت‌هایی با تکلیف متخصصان سلامت روان برای هشدار دادن به اشخاص ثالث مشخصی دارد که با تهدیدی معتبر روبه‌رو هستند.
با این حال، او گفت تفاوت مهمی وجود دارد: درمانگران آموزش حرفه‌ای دیده‌اند، بیماران خود را می‌شناسند و ملزم به رعایت استانداردهایی هستند که اجرای آن‌ها از نظر قانونی قابل پیگیری است. شرکت‌های هوش مصنوعی لزوماً از سازوکارهای حفاظتی مشابهی برخوردار نیستند.
شارما به الجزیره گفت: «نگرانی من درباره شرکت‌های هوش مصنوعی این است که در حال حاضر تلاش سازمان‌یافته‌ای برای استخدام متخصصان سلامت روان، جامعه‌شناسان و افرادی که تخصص ویژه‌ای در شناسایی نشانه‌های تهدید دارند، صورت نمی‌گیرد.»
او افزود: «دوم اینکه متخصصان دارای مجوز ملزم به رعایت استانداردهای مشخصی در حرفه خود هستند که ضمانت اجرای قانونی دارند. برای شرکت‌های هوش مصنوعی چنین چارچوبی وجود ندارد.»
معضل حریم خصوصی
پیامدهای مربوط به حریم خصوصی فقط به این مسئله محدود نمی‌شود که شرکت‌های هوش مصنوعی تا چه اندازه می‌توانند تهدیدها را درست تشخیص دهند. میلیون‌ها نفر از چت‌بات‌ها برای صحبت درباره روابط شخصی، پریشانی عاطفی، نگرانی‌های مربوط به سلامت روان و تجربه‌های عمیقاً خصوصی خود استفاده می‌کنند.
یونس، وکیل حقوق آزادی‌های مدنی، گفت بسیاری از کاربران ممکن است متوجه نباشند که این گفت‌وگوها تا چه اندازه در معرض افشا شدن قرار دارند.
او که رئیس و مدیر حقوقی کمیته آمریکایی ضدتبعیض اعراب است، گفت: «این گفت‌وگوها اغلب بازتاب‌دهنده درونی‌ترین افکار، پرسش‌ها و خواسته‌های افراد هستند. بیشتر مردم تصور می‌کنند که هیچ‌کس دیگری هرگز این مکالمات را نخواهد دید.»
یونس هشدار داد که پیامدهای نظارت گسترده‌تر ممکن است بسیار فراتر از افرادی باشد که قصد ارتکاب خشونت دارند.
او به الجزیره گفت: «اگر مردم بترسند که صرفاً به دلیل بیان افکار آزاردهنده یا خیال‌پردازی‌های خشونت‌آمیز، گفت‌وگوهایشان در اختیار نیروهای انتظامی قرار گیرد، بسیاری از استفاده از این ابزارها منصرف خواهند شد.»
یونس استدلال کرد که وادار کردن شرکت‌ها به ایجاد سامانه‌هایی برای نظارت بر کاربران و گزارش گفت‌وگوهایشان می‌تواند نگرانی‌های جدی قانون اساسی در ایالات متحده ایجاد کند؛ از جمله درباره حمایت‌های قانونی در برابر بازرسی‌ها و تفتیش‌های غیرمعقول.
در همین حال، شارما از دانشگاه فوردهام این مسئله را نیز مطرح کرد که نظارت گسترده بر چت‌بات‌های هوش مصنوعی ممکن است چه گروه‌هایی را به‌طور نامتناسبی تحت تأثیر قرار دهد.
او گفت: «همیشه این نگرانی وجود دارد که افراد عمداً یا ناخواسته هدف قرار بگیرند؛ زیرا اگر مدل‌ها بر اساس آنچه ما گفتار خطرناک می‌دانیم آموزش دیده باشند، تقریباً همیشه سوگیری‌ها را بازتاب خواهند داد. گفتار برخی اقلیت‌ها بیش از حد به‌عنوان تهدید علامت‌گذاری می‌شود، در حالی که گفتارهای مشابه دیگران چنین برخوردی نمی‌بینند.»
او افزود: «حتی در جهانی که همه افراد خیرخواه باشند، باز هم باید نگران پیامدهای نابرابر باشیم.» شارما هشدار داد که ماشین‌ها ممکن است این نابرابری‌ها را در مقیاسی گسترده بازتولید کنند.
«درمانگر دارای مجوز نیست»؛ شرکت‌های هوش مصنوعی چه زمانی موظف به گزارش تهدیدها هستند؟
به گفته کارشناسان حقوقی، اگرچه ممکن است از شرکت‌های هوش مصنوعی از نظر اخلاقی انتظار برود برای جلوگیری از خشونت اقدام کنند، تعهدات قانونی آن‌ها چندان روشن نیست.
برایان چوی، استاد حقوق دانشگاه کلرادو بولدر، گفت قوانین ایالات متحده در شرایط خاص تکلیف به هشدار دادن را به رسمیت می‌شناسند؛ از جمله زمانی که متخصصان سلامت روان از تهدیدهای قریب‌الوقوع آگاه می‌شوند یا میان طرف‌های درگیر رابطه‌ای ویژه وجود دارد.
با این حال، این اصول لزوماً درباره شرکت‌های هوش مصنوعی صدق نمی‌کنند.
چوی به الجزیره گفت: «با توجه به رویه قضایی فعلی، بعید به نظر می‌رسد شرکتی مانند اوپن‌ای‌آی مشمول چنین تکلیفی برای هشدار دادن شناخته شود. چت‌بات درمانگر دارای مجوز نیست و میان شرکت و قربانیان نیز رابطه ویژه‌ای وجود ندارد.»
چوی گفت قوانین موجود درباره سهل‌انگاری و مسئولیت ناشی از محصولات ممکن است بالقوه درباره شرکت‌های هوش مصنوعی نیز اعمال شوند، اما اثبات مسئولیت آن‌ها با چالش‌های قابل‌توجهی همراه خواهد بود.
یافتن راهی برای ایجاد تعادل
شارما از دانشگاه فوردهام پیشنهاد کرد که نهادهای مستقل به تدوین استانداردهای گزارش‌دهی کمک کنند تا تصمیم‌گیری‌ها کاملاً به شرکت‌های خصوصی واگذار نشود و در عین حال، افشای فوری اطلاعات برای پلیس نیز به الزام همیشگی تبدیل نشود.
به گفته او، چنین نهادهایی می‌توانند رویه‌هایی برای ارزیابی تهدیدها تدوین کنند و راه‌هایی را برای به‌اشتراک‌گذاری صرفاً اطلاعات مرتبط بررسی کنند؛ به‌گونه‌ای که هویت کاربران و دیگر اطلاعات شخصی آن‌ها محفوظ بماند.
در همین حال، یونس استدلال کرد که دست‌کم باید به‌روشنی به کاربران اطلاع داده شود که آیا گفت‌وگوهایشان تحت نظارت قرار می‌گیرد و در چه شرایطی ممکن است اطلاعات آن‌ها با نیروهای انتظامی به اشتراک گذاشته شود.
او گفت: «تقریباً به‌طور قطع در سال‌های آینده همچنان با این مسئله دست‌وپنجه نرم خواهیم کرد و در حال حاضر مطمئن نیستم کسی راه‌حل آن را بداند.»
او در پایان افزود: «رویدادهایی که هنوز اتفاق نیفتاده‌اند، احتمالاً بر شکل‌گیری این سیاست‌ها تأثیر خواهند گذاشت.»