هوش مصنوعی مولد؛ «خطری نظام‌مند» برای بخش حقوقی
بنیان‌گذار دومین مؤسسه حقوقی مبتنی صرف بر فناوری که از سوی سازمان تنظیم مقررات وکلای دادگستری انگلستان و ولز (SRA) مجوز فعالیت دریافت کرده است، هشدار داده که استفاده مؤسسات حقوقی از هوش مصنوعی مولد، خطری «نظام‌مند» برای این بخش به شمار می‌رود.
راج پاناسار، بنیان‌گذار مؤسسه حقوقی لاوفیری (LawFairy)، گفت نزدیک‌ترین نمونه‌ای که می‌تواند برای توضیح این خطر به آن اشاره کند، حمله فیشینگ هدفمند یا «اسپیر فیشینگ» است؛ روشی که در آن هکرها با استفاده از پیام‌های شخصی‌سازی‌شده، فرد یا کسب‌وکاری مشخص را فریب می‌دهند تا اطلاعات حساس خود را افشا کند.
لاوفیری از هوش مصنوعی مولد، مانند چت‌جی‌پی‌تی یا کلود، استفاده نمی‌کند؛ در عوض، مدل این مؤسسه که بر اساس قواعد مشخص و قطعی عمل می‌کند، قوانین را در قالب مسیرهای تصمیم‌گیری ساختاریافته کدگذاری کرده است.
پاناسار که پیش‌تر شریک یک مؤسسه حقوقی در منطقه مالی لندن بوده است، گفت این حرفه باید درباره شیوه آموزش وکلا و نظارت بر کار آن‌ها بازنگری کند.
این وکیل در کنفرانس مجمع سیاست‌گذاری حقوقی وست‌مینستر با موضوع «گام‌های بعدی در فناوری و نوآوری در خدمات حقوقی» سخن می‌گفت. او توضیح داد که در طول فعالیت حرفه‌ای خود بر کارآموزان حقوقی بسیاری نظارت داشته است.
او گفت: «وقتی یک کارآموز یادداشتی حقوقی به شما تحویل می‌دهد، معمولاً می‌توانید تشخیص دهید که بخشی از کار ایراد دارد. بخشی از این توانایی غریزی از تعامل با خود فرد به دست می‌آید؛ از نگاه کردن به چشم‌هایش و از نحوه ارائه مطلب.
«ممکن است استنادها ضعیف باشند، استدلال‌ها با تردید و احتیاط بیش از حد بیان شوند و متن نیز کمی ناشیانه نوشته شده باشد.
«ما به‌عنوان شرکا سال‌ها وقت صرف کرده‌ایم تا یاد بگیریم این نشانه‌ها را تشخیص دهیم. بخش بزرگی از نظام نظارت ما بر همین علائم استوار است.»
پاناسار گفت مدل‌های زبانی بزرگ (LLM)، حتی نمونه‌های پیشرفته‌تر آن‌ها ــ و در واقع هرچه این مدل‌ها پیشرفته‌تر باشند، بیشتر ــ به‌گونه‌ای بهینه‌سازی شده‌اند که «نشانه‌هایی را که وکلا تا این اندازه به آن‌ها اتکا داشته‌اند، از بین ببرند».
او افزود: «متن‌هایی که تولید می‌کنند بسیار روان و مطمئن‌اند و قالب‌بندی زیبایی دارند؛ چه درست باشند و چه غلط. اشتباه به شکل اشتباه به نظر نمی‌رسد؛ این مسئله به‌شدت فریبنده است.
«نزدیک‌ترین مثالی که به ذهنم می‌رسد، و واقعاً نگران خطری نظام‌مند هستم که همین حالا وارد نظام حقوقی شده، حمله فیشینگ هدفمند است.»
پاناسار توضیح داد که ایمیل‌های فیشینگ لزوماً به این دلیل موفق نمی‌شوند که واقعی به نظر می‌رسند؛ مبنای کار آن‌ها این احتمال است که بالاخره عده‌ای فریب بخورند.
او گفت: «مدل کسب‌وکار فیشینگ بر این اساس بنا شده است که تعداد کافی از افراد فریب بخورند تا کلاهبرداران بتوانند از آن‌ها سوءاستفاده مالی کنند.
«از بسیاری جهات، آنچه اکنون با پیاده‌سازی و به‌کارگیری مدل‌های زبانی بزرگ وارد نظام حقوقی می‌کنیم، چیزی شبیه یک عملیات فیشینگ هدفمند در مقیاسی گسترده است.
«برخی افراد می‌توانند با انجام بررسی‌های دقیق و موشکافانه و پیگیری تمام اقداماتی که یک وکیل معمولاً برای اطمینان از صحت مطالب انجام می‌دهد، این مشکلات را تشخیص دهند.»
اما برخی دیگر موفق به شناسایی آن‌ها نخواهند شد؛ حتی اگر تصور کنند بررسی‌های لازم را انجام داده‌اند. به گفته او، دلیل این مسئله آن است که هوش مصنوعی مطالب را به شکلی بسیار هوشمندانه، فریبنده و متقاعدکننده می‌نویسد.
پاناسار در ادامه گفت: «مدل‌های زبانی بزرگ مانند ما استدلال نمی‌کنند. در اصل، آن‌ها داده‌ها را نمونه‌برداری می‌کنند. حتی زمانی که تصور می‌کنید ردپای استدلال خود را می‌نویسند ــ اصطلاحی که مدل‌های زبانی بزرگ برای آن به کار می‌برند ــ آنچه ارائه می‌شود، در معنایی که ما از استدلال می‌فهمیم، واقعاً ردپای یک فرایند استدلال نیست.
«آنچه به‌صورت نوشته در نوار زیر مدل نمایش داده می‌شود، در واقع چیزی شبیه چرک‌نویسی است که در اختیار مدل قرار گرفته تا یادداشت‌هایش را در آن بنویسد.
«شواهد فزاینده‌ای وجود دارد که نشان می‌دهد مدل‌های زبانی بزرگ مطالبی را که در این چرک‌نویس می‌نویسند، به‌گونه‌ای انتخاب می‌کنند که آنچه واقعاً در حال رخ دادن است پنهان بماند. این دو موضوع کاملاً از یکدیگر جدا هستند.
«این تصور که با دنبال کردن ردپای استدلال، در حال پیگیری فرایند فکری یک مدل هستید، باوری بسیار خطرناک است.»
پاناسار در پاسخ به پرسشی اضافه کرد که در آموزش حقوقی یک خلأ وجود دارد؛ خلأیی که نه‌فقط در آزمون صلاحیت وکالت (Solicitors Qualifying Examination)، بلکه در خود مؤسسات حقوقی نیز دیده می‌شود.
او گفت: «این مسئله واقعاً به جنبه فنی مربوط می‌شود. منظورم جنبه فنی حقوق نیست، بلکه فناوری زیربنایی هوش مصنوعی و مدل‌های زبانی بزرگ است. اگر وکلا دقیقاً درک نکنند که این فناوری‌ها چگونه کار می‌کنند، استفاده درست و مسئولانه از آن‌ها بسیار دشوار خواهد بود.»