هشدار حقوقدان برجسته درباره احتمال صدور احکام نادرست با استفاده از هوش مصنوعی
کراچی: صلاح‌الدین احمد، وکیل برجسته و کارشناس حقوقی پاکستانی، هشدار داد که استفاده از هوش مصنوعی در تهیه احکام قضایی می‌تواند به صدور آرای نادرست منجر شود.
او در گفت‌وگو با جیو نیوز اعلام کرد که برخی دادگاه‌های بدوی در حال صدور احکامی هستند که با استفاده از هوش مصنوعی تهیه شده‌اند. احمد این رویه را غیرقابل‌قبول دانست.
به گفته او، چنین احکامی اصحاب دعوا را ناچار می‌کند برای اعتراض به آرای صادرشده به دادگاه‌های تجدیدنظر مراجعه کنند. احمد تأکید کرد که دادگاه‌های تجدیدنظر باید در این موارد مداخله کنند و از طریق تیم بازرسی قضایی (Member Inspection Team)، اقدامات لازم را علیه قضات مسئول آغاز کنند.
احمد در تشریح یکی از مواردی که با آن روبه‌رو شده بود، گفت قاضی‌ای برای تنظیم رأی خود از هوش مصنوعی استفاده کرده بود. او توضیح داد که در جریان رسیدگی به درخواست تجدیدنظر درباره همان حکم، در برابر قاضی رسیدگی‌کننده حاضر شده است.
او در جلسه رسیدگی به قاضی گفت که رأی مورد اعتراض با کمک هوش مصنوعی نوشته شده است.
قاضی از او پرسید: «چطور می‌توانید چنین ادعایی کنید؟»
احمد در پاسخ گفت: «تمام منابع قانونی و سوابق قضایی مورد استناد در این حکم را که مبنای صدور رأی قرار گرفته‌اند، به‌دقت بررسی کرده‌ام؛ اما هیچ‌کدام از آن‌ها اساساً وجود خارجی ندارند.»
این حقوقدان در ادامه توضیح داد که تنظیم یک رأی قضایی مستلزم بررسی همه جوانب حقوقی مرتبط با پرونده است و انجام این کار به دست انسان معمولاً چهار تا پنج ساعت زمان می‌برد.
او افزود که هرچند هوش مصنوعی می‌تواند همین کار را ظرف چند دقیقه انجام دهد، اطمینان از صحت منابع قانونی و سوابق قضایی مورد استناد همچنان یکی از چالش‌های اصلی استفاده از این فناوری است.
احمد همچنین بر ضرورت آگاه‌سازی فعالان حرفه حقوق درباره استفاده از هوش مصنوعی تأکید کرد و برگزاری سمینارها و کارگاه‌های آموزشی را برای تحقق این هدف ضروری دانست.
نگرانی درباره چنین خطاهایی بخشی از بحثی جهانی درباره خطرات سیستم‌های هوش مصنوعی است که روزبه‌روز توانمندتر می‌شوند.
یان لایکه، پژوهشگر ارشد سابق ایمنی هوش مصنوعی در شرکت اوپن‌ای‌آی که در سال ۲۰۲۴ از سمت خود استعفا داد، پس از خروج از این شرکت اعلام کرد که فرهنگ و فرایندهای ایمنی در برابر «محصولات پرزرق‌وبرق» به حاشیه رانده شده‌اند. استعفای او پس از اختلاف‌نظر با شرکت بر سر اولویت‌های آن صورت گرفت.
در رویدادی تازه‌تر، جیکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک که پیش‌تر در اوپن‌ای‌آی نیز فعالیت داشت، در سپتامبر ۲۰۲۶ استعفا داد. او شرکت‌های پیشرو در حوزه هوش مصنوعی را متهم کرد که در رقابت برای توسعه سیستم‌های هرچه توانمندتر، «با جان ما قمار می‌کنند».
همچنین در ماه سپتامبر، یکی از قضات دادگاه ناحیه‌ای ایالت اوکلاهما در آمریکا اذعان کرد که برای تحقیقات حقوقی خود از چت‌جی‌پی‌تی استفاده کرده است. به گزارش رویترز به نقل از نامه یکی از دادستان‌ها، در رأی صادرشده از سوی این قاضی به دو پرونده قضایی ساختگی استناد شده بود.