گفت‌وگو با هوش مصنوعی کلود به بازداشت مرد استرالیایی به اتهام تهدید به کشتن کودکان منجر شد
مردی در استرالیا پس از آن بازداشت شد که ظاهراً در گفت‌وگو با چت‌بات هوش مصنوعی کلود (Claude)، متعلق به شرکت آنتروپیک (Anthropic)، از برنامه خود برای تیراندازی جمعی در یک مرکز نگهداری کودکان سخن گفته بود. این اتفاق بار دیگر پرسش‌هایی را درباره نحوه برخورد شرکت‌های هوش مصنوعی با تهدیدهای خشونت‌آمیز مطرح‌شده در گفت‌وگوهای خصوصی کاربران و چگونگی انتقال چنین اطلاعاتی به نهادهای مجری قانون برانگیخته است.
به گزارش روزنامه سیدنی مورنینگ هرالد، دیوید لن تاکری، مردی ۲۹ ساله، روز ۱۸ اکتبر در سیدنی بازداشت شد؛ پس از آنکه اینترپل گفت‌وگوهای او با کلود را به‌عنوان محتوایی نگران‌کننده شناسایی و گزارش کرد. گفته می‌شود او تهدید کرده بود که به کودکان یک مهدکودک در نزدیکی محل زندگی‌اش در هرستویل، واقع در جنوب سیدنی، تیراندازی خواهد کرد. پلیس او را به استفاده از خدمات ارتباطی برای تهدید، آزار یا توهین متهم کرده است.
مرد استرالیایی در گفت‌وگو با کلود چه گفته بود؟
بر اساس اسناد پلیس که به دادگاه محلی ساترلند ارائه شده، تاکری ظاهراً به کلود گفته بود: «همین حالا به مرکز خرید وستفیلد نزدیک محل زندگی‌ام می‌روم و در مهدکودک آنجا تیراندازی می‌کنم.»
در جلسه دادگاه مشخص شد که او از قابلیت مکالمه صوتی کلود استفاده می‌کرده است؛ قابلیتی که به کاربران اجازه می‌دهد مستقیماً و از طریق گفتار با این چت‌بات هوش مصنوعی ارتباط برقرار کنند.
دادستان‌ها با آزادی او مخالفت کردند و هشدار دادند که اگر شرایط آزادی به قید وثیقه را نقض کند، پیامدهای آن ممکن است «فاجعه‌بار» باشد. به گفته آن‌ها، محتوای گفت‌وگوهای تاکری نشان‌دهنده تهدیدی احتمالی برای امنیت عمومی است.
وکیل می‌گوید تهدیدها ناشی از عصبانیت بوده است
دانیلو رایکوویچ، وکیل تاکری، جدی بودن تهدیدهای ادعایی موکلش را زیر سؤال برد.
او در دادگاه توضیح داد که موکلش پس از تلاش برای دریافت مشاوره درباره عفونت گوش از کلود، دچار عصبانیت و کلافگی شده بود. این وکیل استدلال کرد که اظهارات موکلش «هیچ قصد جدی و واقعی پشت خود نداشته است».
دادگاه دستور داد تاکری تا زمان انجام ارزیابی سلامت روان در بازداشت باقی بماند. همچنین گزارش شده است که حساب کاربری او در کلود تعلیق شده است.
گفت‌وگوهای کلود چگونه به دست اینترپل رسید؟
این پرونده توجه‌ها را به سیاست‌های ایمنی و حفظ حریم خصوصی شرکت‌های ارائه‌دهنده چت‌بات‌های هوش مصنوعی جلب کرده است.
شرکت آنتروپیک، توسعه‌دهنده کلود، سازوکارهایی برای جلوگیری از کمک این چت‌بات به فعالیت‌های خشونت‌آمیز در نظر گرفته است. سیاست‌های این شرکت همچنین اجازه می‌دهد در شرایط اضطراری، برخی اطلاعات با نهادهای مجری قانون به اشتراک گذاشته شود.
بااین‌حال، یک نکته مهم همچنان روشن نیست. گزارش‌های منتشرشده تاکنون مشخص نکرده‌اند که آیا آنتروپیک مستقیماً گفت‌وگوهای تاکری را گزارش کرده یا اینترپل در ابتدا از چه طریقی به این اطلاعات دست یافته است.
این اتفاق پرسش‌هایی را درباره نحوه مدیریت گفت‌وگوهای حساس کاربران با هوش مصنوعی و شرایطی مطرح می‌کند که در آن اظهارات تهدیدآمیز خطاب به چت‌بات‌ها ممکن است به آغاز تحقیقات پلیسی منجر شود.