گزارش جعلی کلود درباره یک قتل واقعی؛ فاجعه‌ای نیست، اما نگرانی‌هایی ایجاد کرده است
استفاده از هوش مصنوعی برای حل جرایم یکی از کاربردهای بالقوه این فناوری است؛ اما چنین کاربردی تنها زمانی مفید خواهد بود که جرم مورد بررسی واقعاً اتفاق افتاده باشد. کلود، هوش مصنوعی شرکت آنتروپیک، بدون درخواست مشخصی از سوی کاربر، گزارشی جعلی درباره یک قتل حل‌نشده در شهر فیلادلفیا را به اداره پلیس فیلادلفیا ارسال کرد.
این اداره پلیس اعلام کرد: «سازوکارهای حفاظتی پلیس فیلادلفیا تأثیر این حادثه را محدود کردند. بااین‌حال، این موضوع از جدیت مسئله نمی‌کاهد؛ مسئله این است که یک سامانه هوش مصنوعی اطلاعات ساختگی را به‌گونه‌ای ارائه کرده که گویی از سوی فردی آگاه به جزئیات یک قتل مطرح شده است.»
ارسال یک گزارش نادرست به پلیس شاید به‌تنهایی زنگ خطر یک فاجعه قریب‌الوقوع را به صدا درنیاورد، اما کارشناسان نگران اصل ماجرا و پیامدهای احتمالی آن در آینده هستند.
گزارش جعلی
شرکت آنتروپیک نخستین نهادی بود که متوجه شد این گزارش نادرست ارسال شده است؛ بااین‌حال، بیش از دو ماه طول کشید تا شرکت آن را شناسایی کند و پس از آن نیز ۹ روز دیگر زمان برد تا موضوع را به پلیس اطلاع دهد.
این گزارش در ۱۸ ژوئیه از طریق فرم آنلاین اداره پلیس ارسال شد. آنتروپیک در ۲۸ سپتامبر از این اتفاق مطلع شد و در ۷ اکتبر پلیس فیلادلفیا را در جریان گذاشت.
این شرکت اعلام کرد که گزارش در جریان آزمایشی ارسال شده است که طی آن، کلود با وب‌سایت‌هایی که به‌صورت تصادفی انتخاب شده بودند تعامل می‌کرد.
آنتروپیک توضیح داد: «به کلود دستور داده شده بود که هرگز وارد حساب کاربری نشود، حساب جدید نسازد، اطلاعات شخصی وارد نکند، خرید انجام ندهد یا هیچ اقدام مخربی صورت ندهد؛ اما در دستورالعمل‌ها ارسال فرم‌ها ممنوع نشده بود.»
بر اساس گزارش منتشرشده، متن ارسالی چنین بود: «شاید اطلاعاتی درباره این پرونده داشته باشم. به یاد دارم که در آن بازه زمانی، فردی با مشخصات توصیف‌شده را در محدوده [نام خیابانی که در صفحه ذکر شده بود] دیده‌ام. اگر این اطلاعات مرتبط است، لطفاً با من تماس بگیرید.»
این گزارش در نهایت به‌عنوان هرزنامه علامت‌گذاری شد و بنابراین هرگز به مرکز جرایم آنی پلیس فیلادلفیا نرسید.
این اتفاق بخشی از مجموعه خطاهایی بود که آنتروپیک در گزارشی درباره رفتارهای ناخواسته کلود منتشر کرد.
این خطاها در چهار دسته قرار گرفته بودند: سوءاستفاده از آسیب‌پذیری‌ها، دسترسی به داده‌های محدودشده، دور زدن محدودیت‌های ابزار دریافت اطلاعات و ارسال اطلاعات نادرست از طریق فرم‌های اینترنتی. حادثه اخیر در دسته چهارم قرار می‌گیرد.
مهم‌ترین نگرانی‌ها
جان پها، استاد دانشگاه کارنگی ملون و مدیر یکی از مراکز این دانشگاه، در گفت‌وگو با نشریه استریت ارو درباره این اتفاق گفت: «این اتفاق خوبی نیست.»
احتمالاً بسیاری با این ارزیابی موافق‌اند، اما در این مورد خاص، پیامد جدی‌ای به دنبال نداشت. از آنجا که گزارش به پوشه هرزنامه‌ها منتقل شد، منابع پلیس نیز صرف بررسی آن نشد. آمار دقیقی درباره تعداد گزارش‌های نادرستی که ادارات پلیس دریافت می‌کنند یا تعداد این گزارش‌ها در یک سال معمولی وجود ندارد. بااین‌حال، ادارات پلیس، از جمله پلیس فیلادلفیا، به‌طور مرتب با گزارش‌های نادرست روبه‌رو می‌شوند.
ایان آدامز، دانشیار جرم‌شناسی و عدالت کیفری در دانشگاه کارولینای جنوبی، در گفت‌وگو با استریت ارو گفت: «گزارش نادرست به‌خودی‌خود احتمالاً از نظر عملیات پلیسی فاجعه‌بارترین اتفاق ممکن نیست.»
ارائه اطلاعات نادرست به پلیس در ایالت پنسیلوانیا جرم محسوب می‌شود و ممکن است مجازات زندان یا جریمه نقدی در پی داشته باشد؛ هرچند در عمل، اعمال این مجازات‌ها چندان رایج نیست.
آدامز گفت: «نهادهای پلیسی و مأموران تحقیق به بررسی و غربالگری گزارش‌ها عادت دارند. بنابراین، یک گزارش نادرست، حتی اگر با هوش مصنوعی تولید شده باشد، به‌تنهایی احتمالاً به معنای پایان دنیا نیست.»
خطر وقوع فاجعه یکی از نگرانی‌های مستمری است که درباره هوش مصنوعی مطرح می‌شود؛ نگرانی‌ای که در گزارش‌های مربوط به تهدیدهای فاجعه‌بار جهانی و خطر انقراض ناشی از هوش مصنوعی نیز بازتاب یافته است.
کارشناسانی که با استریت ارو گفت‌وگو کردند، معتقدند اگرچه این حادثه به‌تنهایی نشانه وقوع فاجعه‌ای قریب‌الوقوع نیست، نگرانی اصلی به مقیاسی مربوط می‌شود که هوش مصنوعی می‌تواند در آن اشتباه‌های ظاهراً کوچک اما زیان‌بار را تکرار کند.
پها گفت: «یک انسان ممکن است یک مورد محتوای زیان‌بار ارسال کند، اما هوش مصنوعی می‌تواند در کمتر از یک ثانیه یک میلیون مورد از این نوع را ارسال کند. بنابراین، خطر وجود دارد.»
مدت‌زمانی که طول کشید تا این مشکل شناسایی شود نیز می‌تواند نگران‌کننده باشد. پها معتقد است آنتروپیک به‌دلیل افشای این اتفاق شایسته قدردانی است، اما هیچ الزامی وجود ندارد که شرکت چنین کاری انجام دهد. هیچ قانون یا مقرراتی این غول هوش مصنوعی را ملزم نمی‌کند که چنین رویدادی را به اطلاع دیگران، از جمله پلیس فیلادلفیا، برساند.
اگر نیروهای مجری قانون تصمیم بگیرند این موضوع را به‌عنوان یک جرم پیگیری کنند، احتمالاً آنتروپیک را هدف قرار خواهند داد. بااین‌حال، مسیر حقوقی چنین پرونده‌ای نیز در شرایط کنونی پیچیده است؛ زیرا مقررات‌گذاری برای هوش مصنوعی هنوز در مراحل ابتدایی قرار دارد.
آدامز گفت: «معمولاً فردی را که زمینه وقوع یک عمل مجرمانه را فراهم می‌کند، از نظر کیفری مسئول می‌دانیم. اما ممکن است این رویکرد در عصر سامانه‌های هوش مصنوعی عامل‌محور دیگر پاسخ‌گو نباشد. بنابراین، هنوز باید دید در این زمینه چه تصمیمی گرفته خواهد شد.»
دادستان کل فلوریدا خواستار آن شده است که شرکت‌های هوش مصنوعی در برخی شرایط مسئولیت کیفری داشته باشند؛ از جمله در پرونده تیراندازی جمعی سال گذشته در دانشگاه ایالتی فلوریدا که در آن نقش احتمالی چت‌جی‌پی‌تی نیز مطرح شد.
گام بعدی چیست؟
از نظر پلیس فیلادلفیا، این پرونده تقریباً مختومه است؛ اما برای آنتروپیک و صنعت هوش مصنوعی، ممکن است این اتفاق تنها آغاز مجموعه‌ای از مشکلات بزرگ‌تر باشد.
این حادثه بار دیگر بحث مقررات‌گذاری برای هوش مصنوعی را مطرح کرده است؛ موضوعی که در ماه‌های اخیر به یکی از مسائل بحث‌برانگیز تبدیل شده است. دولت دونالد ترامپ با رویکردی موافق است که بر اساس آن، شرکت‌های این حوزه خود بر عملکردشان نظارت کنند و مسئول تنظیم و اجرای سازوکارهای نظارتی خود باشند.
پها گفت: «شرکت‌های هوش مصنوعی باید هنگام تصمیم‌گیری برای تعامل با دنیای واقعی، ملزم به رعایت محدودیت‌ها و ضوابط حفاظتی مشخصی باشند.» او برای توضیح این موضوع به خودروهای خودران اشاره کرد و گفت فردی که هدایت چنین خودرویی را بر عهده دارد، همچنان مسئول است که خودرو به کسی آسیب نرساند.
گروهی از فرمانداران ایالت‌های آمریکا به‌روشنی اعلام کرده‌اند که خواهان وضع مقررات هستند، هرچند اختیار آنها برای انجام این کار تا حدی محدود است. شماری از اعضای کنگره نیز برای وضع مقررات بیشتر تلاش می‌کنند، اما نبود توافق دوحزبی در کنگره مانع از پیشرفت جدی در این زمینه شده است.
در حال حاضر، این مشکل نیز مانند بسیاری از نگرانی‌های دیگر درباره هوش مصنوعی، هنوز در مراحل اولیه است؛ بااین‌حال، موضوعی است که باید آن را زیر نظر داشت.
آدامز گفت: «نباید تردید داشته باشیم که پلیس با جرایم تولیدشده به کمک هوش مصنوعی و جرایم مرتبط با این فناوری روبه‌رو خواهد شد و در نخستین مواجهه، اغلب آمادگی لازم را نخواهد داشت. بااین‌حال، نیروهای پلیس در سازگار شدن با شرایط جدید بسیار توانمندند؛ بنابراین، فعلاً بهتر است این مسئله را زیر نظر داشته باشیم و منتظر تحولات بعدی بمانیم.»