هوش مصنوعی بر جایگاه قضاوت: آیا ماشین‌ها می‌توانند به قضات در اجرای عدالت کمک کنند؟
نوشته متیو پریش
سه‌شنبه ۱۳ اکتبر ۲۰۲۶
قوه قضاییه یکی از محافظه‌کارترین نهادهای بشری است و دلایل خوبی برای این محافظه‌کاری وجود دارد. قضات لباس‌های خاص می‌پوشند، در ساختمان‌های رسمی و باشکوه می‌نشینند، با استفاده از شیوه‌های قدیمی خطاب یکدیگر را مورد خطاب قرار می‌دهند و اغلب بر اجرای تشریفاتی پافشاری می‌کنند که ریشه‌های آن به قرون وسطی بازمی‌گردد. این ویژگی‌ها صرفاً نشانه‌ای از غرور حرفه‌ای نیستند، هرچند بی‌تردید مقداری از آن نیز وجود دارد. این سنت‌ها یادآوری می‌کنند که اجرای عدالت چیزی فراتر از یک فرایند اداری برای افزایش بهره‌وری است. عدالت اقدامی جدی است که در آن دولت قدرت اجبار خود را بر افراد، دارایی‌هایشان، آزادی‌شان و گاهی جانشان اعمال می‌کند. از همین رو، انتظار می‌رود قضات با احتیاط، استقلال و بر اساس اصولی که طی قرن‌ها شکل گرفته‌اند عمل کنند.
در چنین محیط نهادی دیرپایی، هوش مصنوعی وارد شده است؛ فناوری‌ای که ظاهراً چندان احترامی برای سابقه، تشریفات یا تمایز سنتی میان یک نظر قضایی و متنی بسیار مطمئن اما بی‌اساس قائل نیست. مدل‌های زبانی بزرگ می‌توانند حجم عظیمی از متون را تحلیل کنند، الگوها را شناسایی کنند، شواهد را خلاصه کنند، استدلال‌های حقوقی پیش‌نویس کنند و در کسری از زمانی که یک قاضی انسانی نیاز دارد، استدلال‌هایی ظاهراً قانع‌کننده برای رأی قضایی تولید کنند. اما همین فناوری‌ها می‌توانند منابع حقوقی جعلی ایجاد کنند، گزاره‌های ابتدایی حقوقی را اشتباه بفهمند و گاهی با چنان اطمینانی نتیجه‌گیری کنند که حتی متکبرترین عضو کانون وکلای انگلستان را نیز شرمنده سازند.
بنابراین پرسش اصلی فقط این نیست که آیا هوش مصنوعی می‌تواند به قضات کمک کند یا نه. پاسخ روشن است: می‌تواند، و در بسیاری از زمینه‌ها همین حالا نیز چنین می‌کند. پرسش مهم‌تر این است که ورود این فناوری به فرایند تصمیم‌گیری قضایی آیا ماهیت عدالت را به‌طور بنیادی تغییر خواهد داد یا خیر. تجربه‌های بریتانیا و ایالات متحده، دو نظام حقوقی که هر دو از سنت حقوق عرفی پیروی می‌کنند اما ساختارهای قانون اساسی متفاوتی دارند، نقطه آغاز مناسبی برای بررسی این موضوع هستند.
قوه قضاییه با ماشین روبه‌رو می‌شود
قوه قضاییه بریتانیا با ترکیبی از استقبال نهادی و نگرانی‌های قانون اساسی به هوش مصنوعی نگریسته است. در دسامبر ۲۰۲۳، نخستین دستورالعمل‌ها درباره استفاده مسئولانه از هوش مصنوعی مولد برای مقامات قضایی منتشر شد. این دستورالعمل‌ها سپس در آوریل و اکتبر ۲۰۲۵ بازنگری شدند؛ اقدامی که هم بازتاب‌دهنده سرعت تحول این فناوری بود و هم دشواری‌های روزافزون استفاده از آن در استدلال حقوقی را نشان می‌داد.
این دستورالعمل‌ها تأکید داشتند که قضات همچنان شخصاً مسئول تصمیم‌هایی هستند که به نام آنان صادر می‌شود، حتی اگر هوش مصنوعی در آماده‌سازی آن‌ها نقش داشته باشد. در این راهنما نسبت به خطراتی مانند تولید منابع حقوقی جعلی، تحلیل غیرقابل اعتماد، سوگیری الگوریتمی و افشای اطلاعات محرمانه از طریق سامانه‌های عمومی هوش مصنوعی هشدار داده شد. با این حال، این دستورالعمل‌ها پذیرفتند که هوش مصنوعی می‌تواند در برخی وظایف اداری و تحلیلی، در صورت وجود تدابیر حفاظتی مناسب، مفید باشد.
تحول مهمی در ۹ اکتبر ۲۰۲۶ رخ داد؛ زمانی که قوه قضاییه انگلستان و ولز بیانیه رسمی خود درباره استفاده قضایی از هوش مصنوعی را منتشر کرد. این بیانیه که به امضای سر کالین بیرس، رئیس دادگاه‌های تجاری و املاک و قاضی ارشد مسئول هوش مصنوعی در قوه قضاییه رسید، رویکردی محتاطانه اما مثبت را اتخاذ کرد. بر اساس این موضع‌گیری، هوش مصنوعی می‌تواند به کار قضایی کمک کند، اما نباید نتیجه پرونده‌ها را تعیین کند یا جایگزین استدلال قضایی، ارزیابی شواهد یا اعمال اختیار قضایی شود.
هر خروجی هوش مصنوعی که در کار قضایی مورد استفاده قرار می‌گیرد باید توسط مقام قضایی مسئول بررسی، راستی‌آزمایی و تأیید شود؛ همان فردی که همچنان مسئولیت کامل نتیجه را بر عهده دارد. این بیانیه همچنین ساختاری متمرکز برای نظارت بر ابزارهای هوش مصنوعی و تأیید استفاده از آن‌ها ایجاد کرد. طرح‌های آزمایشی قضایی کاربردهایی مانند خلاصه‌سازی، پیاده‌سازی متن، حذف اطلاعات حساس، ساخت جدول زمانی، تحلیل اسناد و تولید توضیحات قابل فهم را بررسی کرده‌اند. ابزارهای تأییدشده باید الزامات مشخصی از جمله نگهداری داده‌ها در بریتانیا، حفاظت سازمانی از داده‌ها و دسترسی‌پذیری برای افراد دارای معلولیت را رعایت کنند.
اهمیت این تحولات در آن است که چیزی فراتر از ممنوعیت استفاده قضات از چت‌بات‌هایی مانند ChatGPT را نشان می‌دهد. قوه قضاییه بریتانیا در حال ایجاد چارچوبی نهادی است که در آن هوش مصنوعی به بخشی پذیرفته‌شده از مدیریت قضایی تبدیل می‌شود، هرچند همچنان تحت نظارت انسان باقی می‌ماند. تفاوت میان کمک به قاضی و جایگزین شدن به جای قاضی به‌سادگی قابل بیان است، اما اینکه آیا این مرز در عمل حفظ خواهد شد، پرسشی کاملاً متفاوت است.
آزمایش آمریکایی
ایالات متحده تصویری متفاوت ارائه می‌کند. نظام قضایی این کشور میان دادگاه‌های فدرال و ایالتی تقسیم شده و هر دادگاه و قاضی از استقلال نهادی قابل توجهی برخوردار است. در نتیجه، واکنش نظام قضایی آمریکا به هوش مصنوعی پراکنده‌تر بوده و شامل مقررات محلی، دستورهای داخلی قضات، رسیدگی‌های انضباطی حرفه‌ای و در سال‌های اخیر، راهنمایی‌های هماهنگ‌تر فدرال شده است.
در سپتامبر ۲۰۲۶ گزارش شد که یک کارگروه قضایی فدرال به ریاست قاضی حوزه تجدیدنظر، سیدنی توماس، در حال تدوین توصیه‌های جدید درباره استفاده از هوش مصنوعی مولد در عملیات دادگاه‌ها است. این کارگروه بیش از ۶۰ موضوع از جمله اخلاق قضایی، امنیت اطلاعات، هزینه‌ها و پیامدهای هوش مصنوعی برای دسترسی به عدالت را بررسی کرده بود. دادگاه‌های فدرال آمریکا پیش‌تر آزمایش کاربردهای عملی مانند تبدیل دست‌نوشته‌ها به متن، بررسی اسناد برای انطباق با الزامات آیین دادرسی و کمک به کارکنان دادگاه در مدیریت بار اداری را آغاز کرده بودند. اصل حاکم همچنان این بود که هوش مصنوعی نباید به‌طور مستقل وظایف قضایی را انجام دهد و خروجی‌های آن باید بررسی شوند.
قوه قضاییه آمریکا همچنین تجربه قابل توجهی از جنبه‌های نامطلوب هوش مصنوعی مولد به دست آورده است. مشهورترین نمونه اولیه، پرونده Mata v Avianca بود که در دادگاه منطقه جنوبی نیویورک در ژوئن ۲۰۲۳ رسیدگی شد. وکلا منابع حقوقی تولیدشده توسط ChatGPT را ارائه کردند که وجود خارجی نداشتند. این تصمیم‌های قضایی ساختگی همراه با ارجاعات و نقل‌قول‌هایی ظاهراً معتبر اما کاملاً جعلی بودند. هنگامی که این موضوع به چالش کشیده شد، وکلا ابتدا همچنان از مطالب جعلی دفاع کردند.
دادگاه برای این رفتار مجازات‌هایی تعیین کرد و توضیح داد که استفاده از ابزارهای قابل اعتماد هوش مصنوعی برای کمک حقوقی ذاتاً نادرست نیست. اما مسئولیت حرفه‌ای برای بررسی صحت مطالب ارائه‌شده همچنان بر عهده خود وکلا باقی می‌ماند. این پرونده ابتدا به‌عنوان نمونه‌ای طنزآمیز از ناتوانی در استفاده از فناوری دیده شد، اما اهمیت آن بسیار فراتر بود. این پرونده یک مشکل معرفت‌شناختی اساسی در هوش مصنوعی مولد را آشکار کرد: ماشینی که می‌تواند زبان حقوقی قانع‌کننده تولید کند، الزاماً توانایی تشخیص حقیقت حقوقی از خیال حقوقی را ندارد.
این مشکل در نظام‌های حقوق عرفی اهمیت ویژه‌ای دارد؛ زیرا اعتبار قضایی در این نظام‌ها به شناسایی دقیق تصمیم‌های پیشین، واقعیت‌های پرونده‌های گذشته و اصول حقوقی قابل استخراج از آن‌ها وابسته است. یک سابقه قضایی ساختگی صرفاً یک اشتباه واقعی نیست؛ بلکه تلاشی ناخواسته برای وارد کردن منبعی جعلی از اقتدار حقوقی به نظامی است که مشروعیت آن بر اصالت منابعش استوار است.
دادگاه‌های بریتانیا نیز با مشکلات مشابهی روبه‌رو شده‌اند. در پرونده‌های R (Ayinde) v London Borough of Haringey و Al-Haroun v Qatar National Bank QPSC [2025] EWHC 1383 (Admin)، دادگاه بخش مشکلات جدی ناشی از ارائه منابع حقوقی جعلی را بررسی کرد. راهنمای قضایی حاصل از این پرونده‌ها بر مسئولیت حرفه‌ای وکلا در بررسی ارجاعات تأکید داشت و درباره پیامدهای احتمالی ارائه منابع ساختگی هشدار داد. تصمیم‌های بعدی نیز این اصول را تقویت کردند، از جمله امکان ارجاع موضوع به نهادهای انضباطی حرفه‌ای در موارد استفاده غیرمسئولانه از هوش مصنوعی.
با این حال، این موارد عمدتاً به سوءاستفاده وکلا و اصحاب دعوا از هوش مصنوعی مربوط می‌شوند. پرسش‌های عمیق‌تر قانون اساسی زمانی مطرح می‌شوند که خود قضات شروع به اتکا به این فناوری کنند. زیرا وکیلی که سابقه قضایی جعلی ارائه می‌کند می‌تواند توسط قاضی مجازات شود، اما چه کسی باید قاضی‌ای را مجازات کند که دستیار هوش مصنوعی او چنین سابقه‌ای ساخته است؟
قاضی واقعاً چه کاری انجام می‌دهد؟
برای درک پیامدهای هوش مصنوعی برای قوه قضاییه، ابتدا باید ماهیت استدلال قضایی را بررسی کرد. تصور رایجی وجود دارد که قضات صرفاً قواعد حقوقی مرتبط را پیدا می‌کنند، واقعیت‌ها را تعیین می‌کنند و سپس قواعد را بر واقعیت‌ها اعمال می‌کنند. اگر این توصیف دقیق بود، هوش مصنوعی شاید در نهایت می‌توانست این کار را با کارایی چشمگیری انجام دهد.
بخش زیادی از کارهای روزمره قضایی واقعاً شبیه چنین فرایندی است. قاضی‌ای که بررسی می‌کند آیا یک دعوا در مهلت قانونی مطرح شده، آیا مهلت آیین دادرسی پایان یافته یا یک الزام قانونی خاص رعایت شده است، ممکن است با موضوعی روبه‌رو باشد که بتوان آن را تا حد زیادی به شکل رسمی بیان کرد. هوش مصنوعی در چنین شرایطی می‌تواند بسیار مفید باشد. این فناوری می‌تواند شواهد را سازمان‌دهی کند، اسناد مرتبط را بیابد، تاریخ‌ها را محاسبه کند، مفاد قراردادها را مقایسه کند و ناسازگاری‌های موجود در شهادت‌ها را شناسایی کند.
اما دشوارترین تصمیم‌های قضایی معمولاً به اجرای مکانیکی قواعد محدود نمی‌شوند. استدلال حقوق عرفی شامل شناسایی اصول نهفته در تصمیم‌های پیشین، تمایز میان پرونده‌های ظاهراً مشابه، هماهنگ کردن آرای متعارض و گاهی توسعه تدریجی حقوق در برابر شرایطی است که نسل‌های گذشته نمی‌توانستند پیش‌بینی کنند.
قضات همچنین اختیار قضایی اعمال می‌کنند. آن‌ها تصمیم می‌گیرند که آیا شاهدی قابل اعتماد است، آیا زبان قرارداد باید لفظی یا هدف‌محور تفسیر شود، آیا رفتاری منطقی بوده و آیا منافع عمومی رقیب توجیه‌کننده محدود کردن حقوق فردی است یا خیر. این‌ها صرفاً مسائل محاسباتی نیستند؛ بلکه شامل قضاوت درباره رفتار انسانی، مشروعیت نهادی، مسئولیت اخلاقی و حدود مناسب قدرت دولت هستند.
قاضی‌ای که تصمیم می‌گیرد آیا شاهدی ترسیده حقیقت می‌گوید یا نه، درگیر فعالیتی کاملاً متفاوت از شناسایی الگوها در یک پایگاه داده است. شاهد ممکن است به دلیل دروغ‌گویی، آسیب روانی، ترس از انتقام یا فضای ترسناک دادگاه دچار تردید شود. قضات انسانی در این ارزیابی‌ها بی‌خطا نیستند، اما فرایند قضایی سازوکارهایی برای آزمون و به چالش کشیدن استدلال آن‌ها فراهم می‌کند. هوش مصنوعی ممکن است ناسازگاری‌های روایت شاهد را شناسایی کند، اما اینکه آیا می‌تواند معنای اخلاقی و روان‌شناختی این ناسازگاری‌ها را به‌درستی ارزیابی کند، پرسشی دشوارتر است.
این تفاوت در پرونده‌های کیفری اهمیت بیشتری پیدا می‌کند. تصمیم به زندانی کردن یک فرد صرفاً تمرینی برای پیش‌بینی احتمال وقوع یک رفتار نیست. این تصمیم اعمال قدرت عمومی بر فردی است که آزادی او توسط اصول قانونی و قانون اساسی محافظت می‌شود. بنابراین قاضی باید فراتر از رسیدن به نتیجه‌ای محتمل عمل کند؛ او باید دلایلی ارائه دهد که از نظر حقوقی قابل دفاع، از نظر آیین دادرسی مشروع و قابل بررسی در مرحله تجدیدنظر باشد.
مشکل قانون اساسی در استدلال ماشینی
میان درست بودن یک تصمیم قضایی و مشروع بودن آن تفاوت مهمی وجود دارد. فرض کنید یک سامانه هوش مصنوعی بتواند نتیجه یک درخواست تجدیدنظر در دیوان عالی بریتانیا را با دقت ۹۵ درصد پیش‌بینی کند. چنین سامانه‌ای ابزار تحلیلی فوق‌العاده‌ای خواهد بود و وکلا قطعاً از آن استفاده خواهند کرد. اما دقت پیش‌بینی لزوماً به ماشین حق تصمیم‌گیری درباره پرونده را نمی‌دهد.
اعتبار یک تصمیم قضایی از جایگاه قانون اساسی دادگاه، انتصاب و استقلال قضات، حقوق آیین دادرسی طرفین و الزام به ارائه دلایل مطابق قانون ناشی می‌شود. ماشین به‌طور مستقل هیچ‌یک از این ویژگی‌ها را ندارد. به مقام قضایی منصوب نشده، سوگند یاد نکرده، تحت تضمین‌های قانون اساسی قرار نگرفته و از طریق فرایندهای تثبیت‌شده حکومت، اختیار عمومی دریافت نکرده است.
البته ممکن است قانون‌گذاری در آینده این موانع را برطرف کند. پارلمان می‌تواند برای برخی دسته‌های اختلافات، داوران هوش مصنوعی را با نظارت تجدیدنظر انسانی ایجاد کند. در آمریکا نیز پرسش‌های مشابهی مطرح خواهد شد، هرچند الزامات قانون اساسی درباره اعمال قدرت قضایی فدرال موانع بیشتری ایجاد می‌کند. اما مسئله فقط این نیست که آیا قانون‌گذار می‌تواند قضاوت مصنوعی را مجاز کند؛ پرسش این است که آیا مردم تصمیم‌های حاصل را مشروع خواهند دانست.
تصور کنید فردی به ده سال زندان توسط یک ماشین محکوم شود. حتی اگر آن ماشین همه منابع حقوقی مرتبط را بررسی کرده و رأیی بی‌نقص درباره مجازات صادر کرده باشد، بسیاری از محکومان به‌درستی خواهند خواست بدانند آیا یک انسان واقعاً شرایط آن‌ها را در نظر گرفته است یا خیر. نیاز به قضاوت انسانی صرفاً احساس‌گرایی غیرمنطقی نیست؛ بلکه بازتاب این درک است که عدالت رابطه‌ای میان فرد و جامعه سیاسی‌ای است که قوانینش بر او حاکم است.
قضات نماینده تعهد آن جامعه به اعمال قدرت اجباری بر اساس اصول انصاف و پاسخگویی هستند. انسان بودن آن‌ها بخشی از مشروعیت نهاد قضایی است، هرچند همین ویژگی امکان خطا را نیز به همراه دارد. از این رو هوش مصنوعی یک پارادوکس قانون اساسی ایجاد می‌کند: ممکن است روزی در برخی اشکال تحلیل حقوقی از قضات انسانی بهتر عمل کند، اما همچنان به‌عنوان منبع مستقل اقتدار قضایی مشروعیت کمتری داشته باشد.
جذابیت کارایی
قوی‌ترین استدلال برای ورود هوش مصنوعی به قوه قضاییه فلسفی نیست، بلکه عملی است. دادگاه‌های بریتانیا و آمریکا با فشارهای زیادی در زمینه مدیریت پرونده‌ها، هزینه‌های دعاوی، پیچیدگی اسناد و تأخیرهای قضایی مواجه‌اند. در انگلستان و ولز، برنامه اقدام هوش مصنوعی وزارت دادگستری نیز ظرفیت این فناوری برای افزایش کارایی، دسترسی‌پذیری و بهبود اجرای عدالت را مطرح کرده است.
این فشارها در دعاوی‌ای که حجم عظیمی از شواهد الکترونیکی دارند، شدیدتر است. اختلافات تجاری، پرونده‌های تقلب مالی، دعاوی رقابتی و تحقیقات پیچیده نظارتی ممکن است میلیون‌ها سند داشته باشند. به‌طور سنتی، بررسی این حجم از اطلاعات توسط تیم‌هایی از وکلا و دستیاران حقوقی انجام می‌شده که هزینه زیادی دارد. سامانه‌های مدرن هوش مصنوعی می‌توانند موضوعات مهم را شناسایی کنند، جدول زمانی بسازند، روایت‌های شاهدان را مقایسه کنند و ناسازگاری‌های احتمالی را با سرعتی فوق‌العاده بیابند.
مزایا می‌توانند قابل توجه باشند. دستیاران قضایی می‌توانند خلاصه‌های اولیه از لوایح طولانی تهیه کنند، قضات می‌توانند بخش‌های مرتبط در پرونده‌های عظیم را بیابند و مدیران دادگاه‌ها می‌توانند کاستی‌های آیین دادرسی را پیش از ایجاد تأخیر شناسایی کنند. در دعاوی مدنی کوچک‌تر نیز هوش مصنوعی ممکن است به افرادی که وکیل ندارند کمک کند الزامات دادرسی را بفهمند و پرونده خود را منسجم‌تر ارائه کنند.
در این امکان نوعی طنز وجود دارد که هوش مصنوعی شاید بتواند دادگاه‌ها را قابل دسترس‌تر کند، دقیقاً به این دلیل که حرفه حقوقی آن‌ها را بسیار پیچیده کرده است. حقوق عرفی طی قرن‌ها معماری فکری شگفت‌انگیزی ساخته است، اما هم‌زمان نظام‌های آیین دادرسی‌ای ایجاد کرده که گاهی احقاق حقوق ساده را برای مردم عادی بسیار پرهزینه می‌کند. اگر هوش مصنوعی بتواند این هزینه‌ها را بدون کاهش عدالت کم کند، ورود آن باید مورد استقبال قرار گیرد.
با این حال، کارایی نباید به هدف اصلی مدیریت قضایی تبدیل شود. نظامی که پرونده‌ها را سریع اما اشتباه حل می‌کند، بهتر از نظامی نیست که آهسته‌تر اما دقیق‌تر عمل می‌کند. همچنین نباید هوش مصنوعی بهانه‌ای برای کاهش منابع قضایی شود. اگر دولت‌ها دریابند ماشین‌ها می‌توانند شواهد را ارزان‌تر از دستیاران قضایی خلاصه کنند، ممکن است پیش از اثبات قابل اعتماد بودن فناوری، کارکنان باتجربه انسانی را جایگزین کنند.
تأثیر نامرئی ماشین
شاید جدی‌ترین خطر هوش مصنوعی قضایی این نباشد که ماشین‌ها رسماً جایگزین قضات شوند، بلکه این باشد که به شیوه‌هایی دشوار برای شناسایی بر تصمیم‌های قضایی اثر بگذارند. قاضی‌ای را تصور کنید که با یک اختلاف تجاری پیچیده و هزاران صفحه مدرک روبه‌رو است. سامانه هوش مصنوعی خلاصه‌ای جامع آماده می‌کند، مسائل اصلی حقوقی را مشخص می‌کند و پیشنهاد می‌دهد که پرونده خواهان نسبتاً ضعیف است. قاضی این خلاصه را می‌خواند، بخش‌هایی از شواهد را بررسی می‌کند و در نهایت دعوا را رد می‌کند.
ممکن است رأی کاملاً قابل دفاع باشد. با این حال، ماشین از همان ابتدا بر چارچوب فکری‌ای که قاضی از طریق آن پرونده را بررسی می‌کند تأثیر گذاشته است. با انتخاب اینکه کدام واقعیت‌ها برجسته شوند، کدام منابع حقوقی معرفی شوند و کدام استدلال‌ها مهم تلقی شوند، هوش مصنوعی می‌تواند پیش از شکل‌گیری مستقل نظر قاضی، مسیر استدلال او را شکل دهد.
این پدیده گاهی «سوگیری خودکارسازی» نامیده می‌شود؛ یعنی تمایل تصمیم‌گیرندگان انسانی به اعتماد بیش از حد به خروجی‌های فناورانه‌ای که ظاهراً معتبر هستند. این مشکل به‌ویژه ظریف است، زیرا سامانه‌های پیشرفته هوش مصنوعی معمولاً نفوذ خود را آشکار نمی‌کنند. خلاصه‌های آن‌ها ممکن است متعادل به نظر برسد، اما سازمان‌دهی اطلاعات خود می‌تواند بر نحوه ارزیابی انسان‌ها اثر بگذارد.
شباهتی آشکار میان این موضوع و نقش دستیاران قضایی وجود دارد. قضات ارشد سال‌هاست از وکلای جوان برای پژوهش، تهیه یادداشت و گاهی کمک در نگارش رأی استفاده می‌کنند. تفاوت این است که دستیاران انسانی اعضای قابل شناسایی یک ساختار نهادی هستند؛ صلاحیت آن‌ها قابل ارزیابی است، کارشان بررسی می‌شود و استدلالشان قابل پرسش است.
سامانه‌های هوش مصنوعی ممکن است از فرایندهایی استفاده کنند که شفافیت بسیار کمتری دارند. حتی توسعه‌دهندگان آن‌ها همیشه نمی‌توانند توضیح کاملی درباره دلیل تولید یک خروجی خاص ارائه کنند. این وضعیت شکافی در پاسخگویی ایجاد می‌کند. اگر قاضی بر خلاصه‌ای از هوش مصنوعی تکیه کند که یک مدرک تعیین‌کننده را حذف کرده باشد، مسئولیت بر عهده چه کسی است؟
راهنمای قضایی بریتانیا به‌صورت رسمی پاسخ می‌دهد: مسئولیت همچنان با قاضی است. این پاسخ از نظر قانون اساسی درست است، اما دشواری عملی نظارت مؤثر قضات بر سامانه‌هایی را که سازوکار درونی‌شان ممکن است کاملاً قابل فهم نباشد، حل نمی‌کند.
مسئله محرمانگی نیز اهمیت دارد. اسناد قضایی اغلب شامل اطلاعات تجاری حساس، پرونده‌های پزشکی شخصی، اطلاعات امنیتی و شواهد مربوط به افراد آسیب‌پذیر هستند. وارد کردن چنین اطلاعاتی به سامانه‌های خارجی کنترل‌نشده می‌تواند خطرات جدی امنیتی و حریم خصوصی ایجاد کند.
هوش مصنوعی و تحول سابقه قضایی
پرسش جذاب‌تر درباره آینده توسعه حقوق عرفی است. حقوق عرفی از طریق تصمیم‌های قضایی تکامل می‌یابد. هر نسل از قضات، آرای پیشین را در پرتو شرایط جدید تفسیر می‌کند و گفت‌وگویی مستمر میان گذشته و حال شکل می‌دهد.
هوش مصنوعی برای تحلیل این مجموعه انباشته از مواد حقوقی بسیار مناسب است. این فناوری می‌تواند الگوهای حقوقی را شناسایی کند، خطوط مختلف استدلال را مقایسه کند و ناسازگاری‌هایی را آشکار کند که ممکن است از دید انسان پنهان بمانند.
اما همین فناوری ممکن است انطباق بیش از حد ایجاد کند. سامانه‌ای که عمدتاً بر اساس تصمیم‌های قضایی موجود آموزش دیده، طبیعتاً الگوها و فرض‌های موجود در آن تصمیم‌ها را بازتولید می‌کند. اگر قضات بیش از اندازه به پیشنهادهای آن تکیه کنند، ممکن است تمایل کمتری به فاصله گرفتن از رویکردهای تثبیت‌شده داشته باشند.
نتیجه می‌تواند نظامی باشد که از نظر درونی منسجم‌تر اما از نظر توانایی تحول خلاقانه ضعیف‌تر است. این امر نگران‌کننده است، زیرا برخی از مهم‌ترین دستاوردهای قضایی زمانی شکل گرفته‌اند که قضات حاضر شدند فرض‌های قدیمی حقوقی را بازنگری کنند.
هوش مصنوعی شاید در تشخیص آنچه دادگاه‌ها قبلاً گفته‌اند بسیار توانمند باشد، اما اینکه بتواند به‌طور قابل اعتماد تشخیص دهد دادگاه‌ها زمانی که حقوق موجود از نظر اخلاقی یا نهادی ناکافی شده است چه باید بگویند، موضوعی متفاوت است.
همچنین اگر تصمیم‌های قضایی آینده بیش از پیش شامل تحلیل‌های هوش مصنوعی شوند، خود این تصمیم‌ها به بخشی از داده‌هایی تبدیل خواهند شد که سامانه‌های آینده بر اساس آن آموزش می‌بینند. در نتیجه، حقوق ممکن است به‌تدریج ماهیتی بازگشتی پیدا کند که در آن آرای کمک‌گرفته از ماشین بر آرای بعدی کمک‌گرفته از ماشین اثر بگذارند.
امکان داشتن قضات بهتر
با این حال، اشتباه است تصور کنیم قضات انسانی دارای ویژگی ذهنی اسرارآمیزی هستند که هوش مصنوعی هرگز نمی‌تواند به آن نزدیک شود. قضات نیز انسان هستند و بنابراین در معرض خستگی، تعصب، غرور، بی‌صبری و گاهی تنبلی فکری قرار دارند.
هوش مصنوعی می‌تواند به اصلاح این ضعف‌ها کمک کند. سامانه‌ای که هر رأی مهم را به‌صورت مستقل بررسی کند، ممکن است خطاها را پیش از رسیدن به مرحله تجدیدنظر شناسایی کند. این فناوری می‌تواند بررسی کند که آیا رأی به‌درستی به منابع حقوقی استناد کرده، آیا شواهد مهمی نادیده مانده و آیا در استدلال تناقض داخلی وجود دارد یا خیر.
این کاربردها نیازی به جایگزینی اختیار قضایی با هوش مصنوعی ندارند؛ بلکه کیفیت تصمیم‌گیری انسانی را تقویت می‌کنند. تفاوت اساسی میان ماشینی است که به قاضی در فکر کردن کمک می‌کند و ماشینی که جایگزین تفکر می‌شود.
بریتانیا، آمریکا و آینده استقلال قضایی
تفاوت ساختارهای نهادی بریتانیا و آمریکا احتمالاً به شکل‌گیری رویکردهای متفاوتی نسبت به هوش مصنوعی قضایی منجر خواهد شد. بریتانیا ساختاری نسبتاً متمرکز دارد، در حالی که آمریکا احتمالاً شاهد آزمایش‌های بیشتری در حوزه‌های مختلف قضایی خواهد بود.
هیچ‌یک از این دو مدل الزاماً برتر نیست. تمرکز می‌تواند هماهنگی و حفاظت بیشتر ایجاد کند، اما ممکن است نوآوری را محدود کند. عدم تمرکز می‌تواند نوآوری را افزایش دهد، اما خطر تفاوت در استانداردهای استفاده از فناوری را نیز به همراه دارد.
هر دو نظام در نهایت باید با این پرسش روبه‌رو شوند که آیا اصحاب دعوا حق دارند بدانند هوش مصنوعی به‌طور مؤثر در آماده‌سازی یک تصمیم قضایی نقش داشته است یا نه. شفافیت در مواردی که فناوری بر تحلیل ماهوی اثر گذاشته باشد، اهمیت بیشتری خواهد داشت.
عدالت در عصر هوش مصنوعی
ظهور هوش مصنوعی فرصتی است که هم‌زمان جنبه عملی، فکری و قانون اساسی دارد. دادگاه‌ها می‌توانند سریع‌تر، قابل دسترس‌تر و کم‌هزینه‌تر شوند، اما در عین حال پرسش‌هایی بنیادی درباره پاسخگویی، مشروعیت و ماهیت قدرت عمومی مطرح می‌شود.
تجربه بریتانیا و آمریکا نشان می‌دهد که قوه قضاییه به‌تدریج این تفاوت‌ها را درک می‌کند. اختلافات اولیه درباره منابع حقوقی جعلی، خطر اعتماد بیش از حد به فناوری را آشکار کرد و راهنماهای جدید نهادی نشان می‌دهند که هوش مصنوعی باید از طریق نظارت و پاسخگویی دقیق وارد نظام قضایی شود.
با افزایش توانایی هوش مصنوعی، مرز میان کمک اداری و استدلال ماهوی دشوارتر خواهد شد. سامانه‌ای که شواهد را خلاصه می‌کند ممکن است مشخص کند کدام مدرک مهم‌تر است. سامانه‌ای که منابع حقوقی را جست‌وجو می‌کند ممکن است پیشنهاد دهد چگونه تعارض میان سوابق حل شود.
در آن مرحله، قوه قضاییه با انتخابی عمیق روبه‌رو خواهد شد: می‌تواند هوش مصنوعی را خدمتکاری پیشرفته بداند که همیشه باید تابع قضاوت مستقل انسان باشد؛ یا به‌تدریج اجازه دهد فناوری به بازیگری اثرگذار در فرایند قضایی تبدیل شود، در حالی که همچنان ظاهراً کنترل کامل در دست انسان باقی مانده است.
این تغییر ممکن است نه از طریق اصلاح قانون اساسی، بلکه از مسیر راحتی‌های اداری کوچک و انباشته رخ دهد. به همین دلیل آموزش قضایی، شفافیت فناوری و نظارت مستقل اهمیت زیادی دارند.
قوه قضاییه قرن‌ها صرف تدوین اصولی برای ارزیابی شواهد، اعتبار شهود، تفسیر اسناد و سنجش نظر کارشناسان کرده است. اکنون با نوع جدیدی از دستیار فکری روبه‌رو شده که ممکن است بسیار آگاه، بسیار قانع‌کننده و گاهی کاملاً اشتباه باشد.
شاید قضات بیش از بسیاری از حرفه‌ها برای مواجهه با این مشکل آماده باشند. کار آن‌ها همواره تشخیص ادعاهای قابل قبول از واقعیت‌های اثبات‌شده و استدلال‌های متقاعدکننده از گزاره‌های معتبر حقوقی بوده است. هوش مصنوعی بدون تردید مدیریت عدالت را تغییر خواهد داد و ممکن است کیفیت استدلال قضایی را به شیوه‌هایی که امروز تصور نمی‌کنیم بهبود بخشد.
اما فضیلت اصلی قضایی همچنان همان خواهد بود: توانایی اعمال قضاوت مستقل در برابر ادعاهای رقیب درباره اقتدار. ماشین ممکن است حقوق بیشتری بداند، سوابق بیشتری به خاطر داشته باشد و متن‌های زیباتری تولید کند. حتی ممکن است گاهی پاسخ بهتری ارائه دهد.
با این حال، هنگامی که دادگاه رأی صادر می‌کند، مسئولیت باید همچنان بر عهده کسی باشد که بتوان او را در برابر اعمال قدرت قضایی پاسخگو دانست. در آینده قابل پیش‌بینی، آن فرد باید یک انسان باشد. و اگر هوش مصنوعی روزی آن‌قدر پیشرفته شود که خواهان جایگاهی بر کرسی قضاوت باشد، دست‌کم می‌توان انتظار داشت که ابتدا یاد بگیرد سابقه قضایی برای خودش اختراع نکند.