چرا تدوین قانون اساسی هوش مصنوعی به تخصص حقوق‌دانان حقوق اداری نیاز دارد
حدود ۲۷۱ میلیون نفر هر ماه از کلود، محصول شرکت آنتروپیک، استفاده می‌کنند و انتظار می‌رود این تعداد در آینده قابل پیش‌بینی همچنان افزایش یابد. هر یک از این گفت‌وگوها دست‌کم تا حدی تحت تأثیر سندی ۸۰ صفحه‌ای قرار دارد که آنتروپیک آن را «قانون اساسی کلود» می‌نامد. این سند اولویت‌های مدل را رتبه‌بندی می‌کند، چند محدودیت مطلق برای آن تعیین می‌کند و توضیح می‌دهد که مدل باید چه میزان اهمیت برای دستورهای شرکت سازنده، کسب‌وکارهایی که بر بستر آن خدمات می‌سازند و کاربران قائل شود. آنتروپیک این سند را «مرجع نهایی» برای تعیین ماهیت و رفتار مطلوب کلود می‌داند و از آن برای تولید و ارزیابی داده‌هایی استفاده می‌کند که کلود با آن‌ها آموزش می‌بیند.
آنتروپیک تنها شرکتی نیست که برای انجام چنین وظیفه مهمی به سندی از این نوع متکی است. اوپن‌ای‌آی نیز سند مشخصات مدل (Model Spec) را در اختیار دارد که قرار است نقشی مشابه ایفا کند. شرکت مایکروسافت ای‌آی نیز به‌تازگی پیش‌نویس «آیین‌نامه رفتار هوش مصنوعی انسان‌گرا» را منتشر کرده و برای دریافت نظر عمومی، شش هفته مهلت در نظر گرفته است. این سند قرار است از سال ۲۰۲۷ بر شکل‌گیری مدل‌های این شرکت اثر بگذارد. افزون بر این، بخشی از تأثیر این اسناد احتمالاً از طریق تقطیر مدل‌ها منتقل می‌شود؛ روشی که در آن یک مدل «دانش‌آموز» با استفاده از یک مدل «معلم» آموزش می‌بیند. برای مثال، آنتروپیک ادعا می‌کند که بسیاری از مدل‌های متن‌باز با وزن‌های قابل‌دسترس چینی با استفاده از کلود آموزش دیده‌اند و در نتیجه، قانون اساسی کلود دست‌کم تا حدی بر شکل‌گیری آن‌ها نیز اثر گذاشته است.
واژه «قانون اساسی» به‌درستی توجه پژوهشگران حقوق اساسی را به این اسناد جلب کرده است. بااین‌حال، اگر این عنوان را کنار بگذاریم، دشوارترین پرسش‌های مربوط به این اسناد کمتر به مسائل مطرح‌شده در پرونده Marbury شباهت دارند و بیشتر به پرسش‌های محوری قانون آیین دادرسی اداری آمریکا (APA) مربوط می‌شوند: چه کسی اختیار وضع قواعد الزام‌آور را دارد؟ این قواعد باید از چه فرایندی عبور کنند؟ چه توضیحی باید برای آن‌ها ارائه شود؟ و چه سازوکاری برای بازبینی آن‌ها وجود دارد؟
حقوق اداری نزدیک به یک قرن است که بررسی می‌کند نهادهای غیردموکراتیک و مقاماتی که مستقیماً انتخاب نشده‌اند، چگونه می‌توانند به‌طور مشروع از اختیار تفویض‌شده برای وضع قواعد فنی و اثرگذار استفاده کنند. پژوهشگران این حوزه از موقعیت ویژه‌ای برخوردارند تا به حل برخی از همین مسائل در عرصه هوش مصنوعی کمک کنند.
پرسش‌های اساسی و بی‌پاسخ
نخست باید پرسید قواعد چگونه تدوین می‌شوند. جو کارلسمیت، یکی از نویسندگان قانون اساسی کلود، در سخنرانی خود در دانشکده حقوق ییل، این فرایند را «نسبتاً غیررسمی» توصیف کرد. به گفته او، روند مشخص و رسمی‌ای برای تصمیم‌گیری درباره محتوای سند وجود ندارد. او نه از یک نهاد معین برای تدوین متن سخن گفت، نه به رویه‌ای منتشرشده برای پیشنهاد یا تصویب اصلاحات اشاره کرد و نه برنامه زمانی ثابتی برای بازبینی سند شرح داد. در عوض، تصمیم‌ها از مسیرهای معمول و غیرشفاف تصمیم‌گیری در یک شرکت خصوصی اتخاذ می‌شوند: سلسله‌مراتب سازمانی شرکت، ترکیبی از گفت‌وگوهای رسمی و غیررسمی داخلی و در نهایت، افرادی که از آن‌ها با عنوان مبهم «تصمیم‌گیرندگان نهایی» یاد می‌شود.
آماندا آسکل، نویسنده اصلی این سند، در پادکست Scaling Laws به من و آلن روزنشتاین گفت که تصمیم‌های دشوار ابتدا به او ارجاع می‌شوند و در صورت لزوم، همکاران ارشدتر نیز در تصمیم‌گیری دخالت می‌کنند. از دید یک حقوق‌دان حقوق اداری، چنین فرایند اختیاری‌ای شباهت زیادی به وضع قاعده بدون تشریفات قانونی دارد: نه اطلاع‌رسانی قبلی صورت می‌گیرد، نه سابقه مستندی از فرایند تصمیم‌گیری شکل می‌گیرد و نه تعهدی برای پاسخ‌گویی به افراد خارج از شرکت وجود دارد. خود کارلسمیت نیز احتمال داده است که با افزایش اهمیت حکمرانی هوش مصنوعی، فرایندهای رسمی‌تری لازم شود. به نظر من، این مرحله همین حالا فرا رسیده است.
مسئله بعدی به یکی از تمایزهای بنیادی قانون آیین دادرسی اداری مربوط می‌شود: تفاوت میان قواعد تقنینی که عموماً باید از فرایند اطلاع‌رسانی و دریافت نظر عمومی عبور کنند و قواعد تفسیری و بیانیه‌های کلی سیاستی که بخش ۵۵۳ این قانون آن‌ها را از این الزام معاف می‌کند. قانون اساسی کلود تا حدی مانند یک قانون تأسیسی عمل می‌کند. این سند اولویت‌های کلی را تعیین می‌کند و سپس کار را به «دستورالعمل‌های آنتروپیک» می‌سپارد؛ دستورهایی جزئی‌تر درباره موضوعاتی مانند توصیه‌های پزشکی، امنیت سایبری و استفاده از ابزارها که باید با قانون اساسی سازگار باشند، اما همه آن‌ها در دسترس عموم نیستند. چنین ساختاری، متشکل از یک سند چارچوب‌ساز، قواعد جزئی‌تر و راهنمایی‌هایی که عمدتاً دور از دید عموم اعمال می‌شوند، می‌تواند از چارچوب‌ها و سازوکارهایی بهره ببرد که حقوق اداری برای تنظیم فرایندهای تصمیم‌گیری ایجاد کرده است.
موضوع بعدی، تفسیر است. از زمان رأی پرونده Loper Bright و حتی پیش از آن، پژوهشگران و قضات وقت زیادی صرف بحث درباره این مسئله کرده‌اند که چه کسی باید ابهام‌های یک قانون را برطرف کند. در حوزه قانون اساسی هوش مصنوعی، پاسخ فعلی ممکن است برای کسانی که می‌دانند تفسیر این سند به شیوه‌هایی ظریف اما مهم بر میلیاردها کاربر اثر می‌گذارد، نگران‌کننده باشد. کارلسمیت گفته است که معنای عملی واژه‌ای مانند «اخلاقی» تا حدی همان معنایی است که کلود در جریان کار خود برای آن در نظر می‌گیرد. به بیان دیگر، مدلی که این سند بر آن حاکم است، خود درباره معنای سند نیز تصمیم می‌گیرد و تفسیرهای حاصل در داده‌های آموزشی آن تثبیت می‌شوند؛ داده‌هایی که هیچ مرجع بیرونی در آنتروپیک به‌طور رسمی آن‌ها را بازبینی نمی‌کند.
یکی از راه‌حل‌ها این است که تعیین معنای قانون اساسی در موارد دشوار به نهادی غیر از خود مدل سپرده شود. نیتن دارمون و تام رید در همین راستا ایجاد دادگاه‌هایی برای قوانین اساسی هوش مصنوعی را پیشنهاد کرده‌اند. ممکن است آنتروپیک نیز از درون شرکت به راهکاری مشابه نزدیک شود: آسکل پیشنهاد ایجاد مجموعه‌ای از «رویه‌های قضایی» را مطرح کرده است؛ یعنی نمونه‌های مستندی که نشان دهند کلود باید در موقعیت‌های دشوار چگونه استدلال کند. در هر دو حالت، معنای قانون اساسی به‌تدریج از طریق رسیدگی موردی به مسائل مشخص می‌شود، نه با اصلاحات روشن در متن که ذی‌نفعان بیرونی فرصت بررسی آن‌ها را داشته باشند.
حقوق‌دانان حقوق اداری این رویکرد را تا حدی مشابه سیاست‌گذاری از طریق رسیدگی به پرونده‌ها می‌دانند؛ روشی که دیوان عالی آمریکا در پرونده Chenery II آن را تأیید کرد و هیئت ملی روابط کار آمریکا (NLRB) نیز دهه‌ها از آن بهره برده است. این حقوق‌دانان از هزینه‌های چنین رویکردی هم آگاه‌اند: اشخاص و نهادهایی که مشمول قواعد می‌شوند، از محتوای آن‌ها اطلاع قبلی محدودی دارند و سیاست‌ها ممکن است هر زمان که تفسیر تصمیم‌گیرندگان تغییر کند، حتی به‌صورتی جزئی، دگرگون شوند.
دسته دیگری از پرسش‌ها به اصلاح قوانین اساسی هوش مصنوعی مربوط می‌شود. آنتروپیک این قانون اساسی را سندی در حال تکامل توصیف می‌کند و آسکل توضیح داده است که اگر شرکت بخواهد رفتار مدل تغییر کند، باید متن سند را تغییر دهد و نسخه اصلاح‌شده را منتشر کند. این مسئله هم جنبه فنی دارد و هم جنبه رویه‌ای. از نظر فنی، همان‌طور که گفته شد، آنتروپیک قانون اساسی را مرجع نهایی آموزش کلود می‌داند و برای تولید داده‌های آموزشی از آن استفاده می‌کند؛ بنابراین، تغییر پایدار در رفتار مدل باید مستلزم اصلاح این سند باشد. از نظر رویه‌ای نیز آنتروپیک متعهد شده است نسخه جاری سند را منتشر کند، پس متن عمومی باید با نسخه‌ای که برای آموزش مدل به کار می‌رود مطابقت داشته باشد. این تعهد قابل تقدیر است، اما اصول حقوق اداری به فرایندی تثبیت‌شده‌تر و مشخص‌تر نیاز دارند.
بر اساس قانون آیین دادرسی اداری، وضع یا اصلاح یک قاعده تقنینی عموماً مستلزم اطلاع‌رسانی و دریافت نظر عمومی است. همچنین، ممنوعیت اقدامات خودسرانه و فاقد توجیه منطقی در این قانون، مطابق تفسیری که دیوان عالی آمریکا در پرونده FCC v. Fox ارائه کرد، نهاد مربوط را ملزم می‌کند تغییر موضع خود را به رسمیت بشناسد و دلیل آن را توضیح دهد. اگر این اصول در این حوزه به کار گرفته شوند، آزمایشگاه‌های هوش مصنوعی باید مشخص کنند کدام بندها تغییر کرده‌اند، دلیل هر تغییر چیست، چه گزینه‌های دیگری بررسی شده‌اند و این تغییرات احتمالاً بر کدام کاربران اثر می‌گذارند.
در نهایت، مسئله مشارکت عمومی مطرح است. همان‌طور که اشاره شد، مایکروسافت ای‌آی اخیراً پیش‌نویس آیین‌نامه رفتار خود را منتشر کرده و پیش از آنکه مدل‌هایش بر اساس این سند آموزش ببینند، فرایندی برای دریافت نظر عمومی آغاز کرده است. هرچند این کار ممکن است بازخوردهای مفیدی از برخی ذی‌نفعان به‌شدت علاقه‌مند به هوش مصنوعی به همراه داشته باشد، بعید است همه طیف منافع و گروه‌هایی را که کوپایلت و دیگر مدل‌های MAI بر آن‌ها اثر می‌گذارند، پوشش دهد.
روشن است که صرف فراهم کردن فرصت اظهارنظر، به‌تنهایی یک فرایند را معنادار نمی‌کند. بخش ۵۵۳ قانون آیین دادرسی اداری، نهادها را ملزم می‌کند نظرات دریافتی را بررسی کنند و مبنا و هدف قاعده نهایی را توضیح دهند. دادگاه‌ها این الزامات را به‌گونه‌ای تفسیر کرده‌اند که نهادها باید به دیدگاه‌های مهم پاسخ دهند و نمی‌توانند قاعده‌ای نهایی تصویب کنند که از نظر منطقی از پیشنهاد اولیه فراتر برود و نتوان آن را نتیجه قابل پیش‌بینی آن پیشنهاد دانست.
چند دهه تجربه همچنین نقاط ضعف این فرایند را آشکار کرده است. مطالعه سوزان وب یاکی و جیسون وب یاکی درباره فرایند قاعده‌گذاری نهادهای دولتی، با وجود قدیمی بودن، نشان داد که نظرات ارائه‌شده از سوی کسب‌وکارها معمولاً بیش از نظرات دیگر مشارکت‌کنندگان بر قواعد نهایی اثر می‌گذارند. کمیته مشورتی رویه‌های اداری ایالات متحده (ACUS) نیز توصیه‌هایی درباره مدیریت حجم انبوه نظرات، پیام‌های تولیدشده با رایانه و نظراتی که به‌دروغ به اشخاص دیگر نسبت داده می‌شوند، منتشر کرده است. آزمایشگاه‌های هوش مصنوعی باید هنگام ارزیابی شیوه‌های مختلف مشورت عمومی، از این تجربه‌ها و دیگر درس‌های به‌دست‌آمده از فرایندهای مشورتی نهادهای دولتی بهره بگیرند.
برای روشن شدن موضوع، منظورم این نیست که قانون آیین دادرسی اداری بر آنتروپیک یا هر آزمایشگاه هوش مصنوعی دیگری اعمال می‌شود. این شرکت‌ها کسب‌وکارهای خصوصی هستند که در بازاری پرشتاب رقابت می‌کنند و بسیاری از عواملی که به مشروعیت رویه‌های اداری کمک می‌کنند، از جمله مجوز قانونی، نظارت قضایی و پاسخ‌گویی سیاسی، در اینجا معادل مستقیمی ندارند. بااین‌حال، با توجه به سرعت فعالیت این شرکت‌ها، بهتر است از تجربه‌های موجود استفاده کنند و همه‌چیز را از نو نسازند.
پیش‌تر نیز رویه‌های حقوق عمومی به عرصه حکمرانی خصوصی راه یافته‌اند. برای مثال، سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) باید پیشنهادهای تغییر قواعد خود را به کمیسیون بورس و اوراق بهادار آمریکا (SEC) ارائه کند و این کمیسیون آن‌ها را برای دریافت نظر عمومی منتشر می‌کند. نهادهای تدوین استاندارد که از سوی مؤسسه استانداردهای ملی آمریکا اعتبارنامه دریافت کرده‌اند نیز باید از رویه‌هایی پیروی کنند که شفافیت، توازن، اجماع و امکان اعتراض را تضمین می‌کنند. خود آزمایشگاه‌های هوش مصنوعی نیز تصمیم گرفته‌اند اسناد ارزشی تدوین و منتشر کنند و برخی از آن‌ها حتی از عموم مردم خواسته‌اند در این زمینه نظر بدهند. وقتی این شرکت‌ها از واژگان و برخی سازوکارهای حکمرانی عمومی استفاده می‌کنند، این پرسش منطقی مطرح می‌شود که آیا فرایندهایشان با معیارهایی که این واژگان القا می‌کنند، سازگار است یا نه. حقوق اداری کامل‌ترین چارچوب موجود برای توضیح این معیارها را در اختیار می‌گذارد.
پژوهشگران چگونه می‌توانند وارد گفت‌وگوهای مربوط به حکمرانی هوش مصنوعی شوند؟
تابستان امسال، کارگروه قانون اساسی هوش مصنوعی که در تشکیل آن مشارکت داشتم، دستورکار پژوهشی خود را منتشر کرد. این دستورکار بر چهار محور ارزش‌ها، فرایند و اختیار، پایبندی فنی و اجرا متمرکز است. بخش مربوط به فرایند، به‌ویژه، شبیه سرفصل‌های یک درس پیشرفته حقوق اداری است. در ادامه، چند حوزه را معرفی می‌کنم که جامعه پژوهشی می‌تواند در آن‌ها فوراً اثرگذار باشد:
- تناسب تشریفات با اهمیت تصمیم. کدام اصلاحات باید مشمول دریافت نظر عمومی شوند و کدام‌یک صرفاً توضیحاتی جزئی‌اند؟ تمایزهای حقوق اداری میان قواعد تقنینی، قواعد تفسیری و استثناهای مبتنی بر وجود دلیل موجه می‌توانند الگوی مفیدی برای آزمایشگاه‌ها باشند تا مشخص کنند کدام تصمیم‌ها به تشریفات رسمی‌تر و مشارکت گسترده‌تر نیاز دارند.
- ارائه دلایل و ثبت سوابق. برای اصلاح قانون اساسی کلود یا سند مشخصات مدل اوپن‌ای‌آی چه نوع توضیحی کافی و مناسب است؟
- نهادهای نظارتی. ذی‌نفعان مختلف حوزه حکمرانی هوش مصنوعی پیش‌تر پیشنهادهایی برای ایجاد سازمان‌های خودتنظیم‌گر در زمینه هوش مصنوعی پیشرفته، مشابه FINRA، مطرح کرده‌اند. از جمله این افراد، دمیس هاسابیس از گوگل است. حقوق‌دانان حقوق اداری که با جزئیات این ساختار نظارتی آشنایی دارند، می‌توانند هنگام بررسی ارزش الگوبرداری از آن در حوزه هوش مصنوعی، به قانون‌گذاران کمک کنند.
- نقش دولت. واشنگتن هم‌اکنون از طریق سیاست‌های خرید دولتی بر ارزش‌های مدل‌ها اثر می‌گذارد؛ از جمله با فرمان اجرایی «جلوگیری از هوش مصنوعی وُک» و دستورالعمل‌های دفتر مدیریت و بودجه برای اجرای آن. همان‌طور که من و نیکلاس مک‌مولن استدلال کرده‌ایم، الزام به افشای اطلاعات و تعیین شروط خرید دولتی، در مقایسه با تغییر مستقیم متن قانون اساسی یک مدل، احتمال بیشتری دارد که از نظر متمم اول قانون اساسی آمریکا قابل دفاع باشد. تحلیل دقیق پرسش‌های مبهمی که با افزایش توجه دولت به قوانین اساسی هوش مصنوعی مطرح می‌شوند نیز از موضوعاتی است که حقوق‌دانان حقوق اداری می‌توانند در آن مشارکت کنند.
- مشارکت در تدوین و ارائه درس قانون اساسی هوش مصنوعی. بهار امسال، در دانشکده حقوق دانشگاه تگزاس درسی با عنوان «قانون اساسی هوش مصنوعی» ارائه خواهم کرد. تا جایی که اطلاع دارم، این نخستین درس از این نوع است. دانشجویان حقوق و سیاست‌گذاری عمومی در آن کنار یکدیگر درس می‌خوانند و داشتن پیش‌زمینه برنامه‌نویسی الزامی نیست. قصد دارم محتوای درس را به‌صورت متن‌باز منتشر کنم و در آینده نزدیک، سرفصل‌ها و منابع مطالعاتی آن را در دسترس قرار دهم. از دریافت بازخورد استقبال می‌کنم: بگویید کدام آموزه‌های حقوقی را از قلم انداخته‌ام، تشبیه‌های حقوق اداری در کجا دیگر کارآمد نیستند و چگونه می‌توان مطالبی را آموزش داد که هم‌پوشانی زیادی با پژوهش‌ها و درس‌های شما دارند. در طول مسیر، محتوا را اصلاح می‌کنم و نسخه نهایی را نیز به اشتراک خواهم گذاشت. بااین‌حال، امید اصلی من این است که شما هم به‌زودی نسخه خودتان از این درس را ارائه کنید یا دست‌کم چند جلسه از آن را در برنامه درسی‌تان بگنجانید.
کمک به حل این مسائل مستلزم تبدیل شدن به متخصص یادگیری ماشین نیست. کافی است از همان مهارتی استفاده شود که حقوق‌دانان حقوق اداری در آن تخصص دارند: طراحی فرایندهایی که اعمال قدرت تفویض‌شده را شفاف، قابل اعتراض و اصلاح‌پذیر می‌کنند. مسئله این است که با نهادهای خصوصی‌ای روبه‌رو هستیم که قدرتی عظیم با آثار عمومی در اختیار دارند. اکنون زمان آن رسیده است که همه کسانی که درباره بهترین راه‌های مهار چنین قدرتی مطالعه کرده‌اند، وارد میدان شوند. امیدوارم شما نیز مشارکت کنید.
کوین فریزر، پژوهشگر حقوق و نوآوری هوش مصنوعی در دانشکده حقوق دانشگاه تگزاس است.