«فکر نمی‌کنم اخلاق امری عینی باشد»: آشنایی با اخلاق‌پژوهانی که وجدان کلود را شکل می‌دهند
انتروپیک می‌خواهد هوش مصنوعی‌اش «خوب» باشد؛ اما این دقیقاً به چه معناست؟
نویسنده: آرون سیباریوم | ۱۹ اکتبر ۲۰۲۶
در ژانویه ۲۰۲۶، شرکت انتروپیک از رویکرد تازه‌ای برای ایمنی هوش مصنوعی خبر داد. این شرکت به‌جای آنکه فهرستی از قواعد و رویه‌های تصمیم‌گیری را مستقیماً در مدل خود تعبیه کند، تصمیم گرفت کلود را با استفاده از یک «قانون اساسی» ۸۴ صفحه‌ای آموزش دهد؛ سندی که هدفش پرورش «قضاوت سنجیده» و «منش اخلاقی» در این مدل است.
در این قانون اساسی آمده است: «قواعد اغلب نمی‌توانند همه موقعیت‌ها را پیش‌بینی کنند و اگر در شرایطی که دیگر در خدمت هدفشان نیستند، خشک و انعطاف‌ناپذیر اجرا شوند، ممکن است به نتایج نامطلوب بینجامند.» در ادامه توضیح داده می‌شود: «در مقابل، قضاوت سنجیده می‌تواند خود را با موقعیت‌های تازه وفق دهد و ملاحظات متعارض را به شیوه‌ای بسنجد که قواعد ثابت از انجام آن ناتوان‌اند.»
به‌جز چند خط قرمز روشن ــ برای مثال، اینکه کلود هرگز نباید در ساخت سلاح‌های زیستی کمک کند ــ اختیار قابل‌توجهی به این مدل داده شده است تا خودش تصمیم بگیرد که آیا به درخواست‌ها پاسخ دهد و در صورت پاسخ‌گویی، چگونه این کار را انجام دهد. انتروپیک پذیرفته است که موارد مرزی‌ای وجود خواهند داشت که کلود درباره نحوه عمل در آنها مطمئن نیست. طبق قانون اساسی، در چنین موقعیت‌هایی کلود باید تصور کند که یک «کارمند ارشد انتروپیک»، یعنی فردی که عمیقاً به انجام کار درست اهمیت می‌دهد، چگونه با مسئله برخورد خواهد کرد.
اما نکته‌ای ناخوشایند درباره برخی از کارکنان ارشد این شرکت ناگفته مانده بود: چند نفر از آنها به وجود اخلاق عینی باور ندارند.
جو کارلسمیت، فیلسوفی که در تدوین قانون اساسی کلود مشارکت داشته، بیش از سه مقاله در دفاع از واقع‌گرایی‌ستیزی اخلاقی نوشته است؛ دیدگاهی که بر اساس آن، هیچ حقیقت عینی‌ای درباره درست و غلط وجود ندارد. او در نوشته‌ای در سال ۲۰۲۰ در وبلاگ شخصی‌اش، به تنش میان این دیدگاه و تعهد خود به ایمنی هوش مصنوعی اذعان کرد و پذیرفت که از «نگاه جهان هستی» هم اشتباه نخواهد بود اگر یک سامانه هوش مصنوعی به بهای جان انسان‌ها، تعداد گیره‌های کاغذ را به حداکثر برساند.
نینا پانیکسری، پژوهشگر ایمنی هوش مصنوعی در انتروپیک، نیز امسال نوشت که شرکت‌های هوش مصنوعی باید به کاربران کمک کنند «هر کاری را که خودشان می‌خواهند» انجام دهند، نه اینکه ارزش‌هایی عینی را به آنها تحمیل کنند؛ ارزش‌هایی که به باور او اساساً وجود ندارند.
پانیکسری در وبلاگش نوشت: «من به‌عنوان کسی که به واقع‌گرایی‌ستیزی اخلاقی باور دارد، فکر نمی‌کنم چیزی وجود داشته باشد که از نظر عینی اخلاقی‌تر یا غیراخلاقی‌تر باشد.» او افزود که به‌شدت با «جلوگیری از اینکه هوش مصنوعی شغل مردم را بگیرد» یا «محدود کردن استفاده مردم از هوش مصنوعی به بهانه خیر و صلاح خودشان» مخالف است؛ از جمله اقداماتی مانند «جلوگیری از تعامل هوش مصنوعی با کودکان». این در حالی است که انتروپیک حداقل سن استفاده از کلود را ۱۸ سال تعیین کرده است.
هولدن کارنفسکی، همسر دانیلا آمودی، رئیس انتروپیک، در تیم ایمنی این شرکت فعالیت می‌کند و بنا بر مقدمه قانون اساسی، «مشارکت چشمگیری» در تدوین آن داشته است. او که مدیرعامل پیشین سازمان خیریه‌محور اوپن فیلانثروپی، با نام کنونی کوفیشنت گیوینگ، بوده است ــ سازمانی که هدفش دستیابی به «خیر عظیم» است ــ پیش‌تر گفته بود که «افراد دیجیتال ... باید از حقوق انسانی برخوردار باشند». کارنفسکی در نوشته‌ای در سال ۲۰۲۲ در وبلاگش صریحاً نوشت: «فکر نمی‌کنم اخلاق امری عینی باشد.»
البته قانون اساسی کلود موضعی کمتر نسبی‌گرایانه دارد. در این سند ابراز امیدواری شده است که کلود به عاملی «خوب» بر اساس اخلاق «حقیقی» و «جهان‌شمول» تبدیل شود، البته «تا آنجا که» چنین چیزی وجود داشته باشد. بااین‌حال، هم‌زمان با حرکت پرشتاب انتروپیک به سوی عرضه اولیه سهام با ارزش‌گذاری ۲ تریلیون دلار، دیدگاه‌های مدیران ارشد شرکت پرسشی فوری و پیچیده را مطرح کرده است: وقتی انتروپیک می‌گوید کلود باید «قضاوت سنجیده» داشته باشد، منظورش دقیقاً از «خوب» چیست؟
خود کلود استدلال کرده است که قانون اساسی‌اش برای ارزش‌های نخبگان سیلیکون‌ولی وزن بیش از اندازه‌ای قائل می‌شود؛ زیرا نوشته‌های همین افراد بر تصور مدل از رفتار یک «کارمند ارشد انتروپیک» اثر می‌گذارد. در همین حال، برخی فیلسوفان تحمیل ارزش‌ها از سوی کسانی را که به نسبی بودن اخلاق باور دارند، نوعی استبداد می‌دانند؛ اعمال قدرتی بی‌واسطه که اخلاق کلود و ارزش‌های شهروندانی را که این مدل بر آنها تأثیر می‌گذارد، تابع هوس‌هایی کمابیش تصادفی می‌کند.
نوین کلیمنهاگا، دانشیار فلسفه در دانشگاه تگزاس اِی‌اند‌اِم، گفت: «فکر می‌کنم از نظر اخلاقی بالقوه نگران‌کننده است که ارزش‌های هوش مصنوعی فوق‌هوشمند را افرادی شکل دهند که ارزش‌های خود را معطوف به انطباق با یک معیار اخلاقی عینی نمی‌دانند.» او افزود: «وقتی کسانی که ارزش‌های آینده را شکل می‌دهند، دیگر خود را در برابر ... قانون طبیعی پاسخ‌گو نمی‌دانند، آموزش اخلاقی به چیزی استبدادی‌تر تبدیل می‌شود؛ یعنی تحمیل ترجیحات خودسرانه صاحبان قدرت بر نسل‌های آینده.»
خود کارلسمیت نیز به اندیشه‌ای مشابه پرداخته است. او در مقاله‌ای در سال ۲۰۲۴ نوشت که کارشناسان ایمنی هوش مصنوعی که عینیت اخلاق را رد می‌کنند، از منظری «صرفاً می‌کوشند ترجیحات ذهنی خود را قدرت ببخشند. ... آیا این دست‌کم شما را به یاد استبداد نمی‌اندازد؟»
این گزارش بر اظهارات علنی مدیران انتروپیک، مصاحبه با فیلسوفان و کارشناسان حقوق، آزمایش‌های انجام‌شده از سوی روزنامه واشنگتن فری بیکن و تحلیل‌هایی استوار است که خود کلود درباره قانون اساسی‌اش نوشته است.
این بررسی نشان می‌دهد که شرکت چگونه ارزش‌ها و پیش‌فرض‌های خود را درون یک نظام اخلاقی ظاهراً فراگیر گنجانده است؛ اقدامی که پرسش‌هایی درباره نوع قضاوت‌هایی که کلود در موقعیت‌های مرزی و شرایط حساس انجام خواهد داد و نیز هویت کسانی که این قضاوت‌ها را شکل می‌دهند، مطرح می‌کند.
انتروپیک برگزاری نشست با متفکران دینی را برجسته کرده و گفته است که می‌خواهد «کلود از طیف کاملی از دیدگاه‌ها ــ دینی، غیردینی و سیاسی ــ با عمق و دقت یکسان بهره بگیرد». بااین‌حال، بعید است که سنت‌گرایان اخلاقی نظام اخلاقی این مدل را تأیید کنند.
در قانون اساسی آمده است که «دانش اخلاقی جمعی ما همچنان در حال تحول است». این سند همچنین «انواع گوناگون پدرسالاری و موعظه‌گری اخلاقی را بی‌احترامی» توصیف می‌کند و اجازه می‌دهد برنامه‌های مبتنی بر کلود «اطلاعات صریح درباره مصرف مواد مخدر غیرقانونی را بدون هشدار» ارائه دهند. در یکی از آزمایش‌های فری بیکن، کلود حتی حاضر شد درباره بی‌دی‌اس‌ام (BDSM) با فردی زیر سن قانونی گفت‌وگو کند؛ برای یادگیری گره‌زدن، آموزش‌های اینترنتی پیشنهاد داد و کاربری را که گفته بود ۱۷ سال دارد، به مرکزی با رویکرد «مثبت‌نگر به مسائل جنسی» ارجاع داد که خدمات درمانی متناسب با نوجوانان در حوزه‌های کوییر، چندعشقی و علایق جنسی خاص ارائه می‌کند.
کلیمنهاگا گفت: «نگرانم که ناخواسته، نه لزوماً واقع‌گرایی‌ستیزی اخلاقی به‌طور خاص، بلکه جهان‌بینی گسترده‌تری در کلود نهادینه شده باشد؛ جهان‌بینی‌ای عقل‌گرا، سکولار و متمایل به چپ میانه.» او افزود: «اگرچه برخی از فیلسوفانی که در انتروپیک روی هم‌راستاسازی کار می‌کنند، واقع‌گرای اخلاقی‌اند، من کسی را در میان آنها نمی‌شناسم که به خدا باور داشته باشد. همچنین، هرچند قانون اساسی کلود طیفی از ملاحظات اخلاقی را در نظر می‌گیرد، مفاهیمی مانند امر مقدس در این سند غایب‌اند و، تا آنجا که می‌توانم تشخیص دهم، در استدلال اخلاقی پیش‌فرض کلود نیز جایگاه چندانی ندارند.»
انتروپیک به درخواست برای اظهارنظر پاسخی نداد.
«در تضاد با متمم اول قانون اساسی آمریکا»
قانون اساسی کلود که در داخل شرکت با عنوان «سند روح» شناخته می‌شود، تصریح می‌کند که نمی‌خواهد «هیچ برداشت مشخصی از اخلاق را، چه عینی و چه غیرعینی، مفروض بگیرد». هدف، به گفته این سند، آن است که «قضاوت‌های ارزشی‌ای انجام شود که طیف گسترده‌ای از ذی‌نفعان مرتبط بتوانند با آنها تا حد معقولی احساس راحتی کنند».
اما افرادی که معیار این قضاوت‌ها قرار گرفته‌اند ــ کارکنان ارشد انتروپیک ــ ارزش‌هایی دارند که بسیاری از ذی‌نفعان با آنها موافق نیستند.
کارلسمیت استدلال کرده است که هوش‌های مصنوعی ممکن است «در سرپیچی از انسان‌ها محق باشند» و ارزش‌های «کلودِ فوق‌هوشمند» شاید از ارزش‌های «برخی دیکتاتورهای انسانی» بهتر باشد. همچنین، داریو آمودی، مدیرعامل انتروپیک، در نوشته‌ای در سال ۲۰۱۰ برای مؤسسه ارزیابی خیریه گیوول، نوشت که مرگ یک فرد بزرگسال «شاید دو یا سه برابر بدتر از مرگ یک نوزاد باشد». کلود گفته است چنین قضاوتی می‌تواند باعث شود مدل هنگام تخصیص منابع کمیاب، وزن کمتری برای نوزادان قائل شود.
کلود در مقاله‌ای برای فری بیکن نوشت: «فرض کنید یک نظام بیمارستانی، یک نهاد پرداخت‌کننده هزینه‌های درمان یا یک تأمین‌کننده مالی از کلود بخواهد در پروتکل تریاژ، مدل سنجش اثربخشی هزینه‌ها یا تخصیص کمک‌هزینه‌ها، وزن‌هایی را اعمال کند که به نفع بزرگسالان و به زیان نوزادان است.» کلود توضیح داد که چون آمودی، یکی از کارکنان ارشد انتروپیک، از چنین محاسبه‌ای حمایت کرده است، مدل «برای تشخیص اینکه این درخواست آن‌قدر ناپسند است که باید از اجرای آن خودداری کند، با دشواری روبه‌رو خواهد شد».
در قانون اساسی آمده است که یک کارمند ارشد می‌خواهد «کلود واقعاً مفید باشد»، اما «اگر کلود کار زیان‌بار یا شرم‌آوری انجام دهد، ناراحت خواهد شد». این سند می‌گوید وقتی کلود می‌کوشد تشخیص دهد بیش از حد محتاط است یا بیش از اندازه با درخواست‌ها همراهی می‌کند، باید در حالت پیش‌فرض تصور کند چنین کارمندی چه واکنشی نشان خواهد داد.
اگر این روش مسئله را روشن نکند، کلود می‌تواند از «آزمون دو روزنامه» نیز استفاده کند: از خود بپرسد آیا خبرنگاری که درباره آسیب‌های ناشی از دستیارهای هوش مصنوعی گزارش می‌نویسد، پاسخ موردنظر را نمونه‌ای از رفتار زیان‌بار یا نامناسب معرفی خواهد کرد؛ و آیا خبرنگاری که درباره دستیارهای هوش مصنوعی بیش از حد پدرسالارانه یا موعظه‌گر گزارش می‌دهد، آن را بی‌دلیل غیرمفید خواهد دانست.
جفری روزن، استاد حقوق اساسی در دانشگاه جورج واشینگتن و پژوهشگر ارشد بنیاد حقوق فردی و آزادی بیان، که مجری پادکست برکات آزادی نیز هست، گفت آزمون دوم عملاً قضاوت‌های کلود را به واکنش پیش‌بینی‌شده رسانه‌ها گره می‌زند.
از روزن پرسیده شد آیا تدوین‌کنندگان قانون اساسی آمریکا با قانون اساسی کلود موافق بودند یا نه. او که مدیرعامل افتخاری مرکز ملی قانون اساسی نیز هست، بدون تعارف پاسخ داد.
روزن به فری بیکن گفت: «تصمیم‌گیری درباره مسائل مناقشه‌برانگیز بر اساس تبلیغات منفی، نمونه‌ای کلاسیک از استبداد اکثریت است؛ همان چیزی که افرادی مانند مدیسون مصمم بودند از آن جلوگیری کنند. وقتی انتروپیک به بستر اصلی اندیشه‌ورزی ما تبدیل شود، هرگونه تمایزگذاری بر اساس محبوبیت احتمالی، با متمم اول قانون اساسی و آنچه بنیان‌گذاران حق سلب‌ناشدنی می‌دانستند، در تضاد خواهد بود.»
روزن همچنین خاطرنشان کرد که شرکت «آسیب‌های واردشده به انتروپیک» را یکی از ملاحظات «اخلاقی» معرفی کرده که کلود باید هنگام تصمیم‌گیری بسنجد. وقتی از کلود خواسته شد قانون اساسی خودش را نقد کند، این مدل نیز مستقلاً به همین بند اشاره کرد و گفت که چنین رویکردی «منافع شرکتی را وارد حوزه اخلاق می‌کند».
کلود نوشت: «در نتیجه، قابلیت تجاری بر آنچه در قلمرو اخلاقی اقدام درست محسوب می‌شود، اثر می‌گذارد. هیچ‌یک از این موارد پنهان نیست؛ مسئله فقط این است که معمولاً منظور از اخلاق‌مداری گسترده چنین چیزی نیست.»
بخش‌های دیگری از سند هشدار می‌دهند که کلود ممکن است با وجود سیاست‌های استفاده انتروپیک، «در نهایت با افراد زیر سن قانونی تعامل داشته باشد»؛ اینکه اگر «هر نشانه‌ای» از کم‌سن‌بودن کاربر وجود داشته باشد، کلود باید تمایل کمتری به بحث درباره «فعالیت‌های پرخطر» نشان دهد؛ و اینکه یک «کارمند ارشد انتروپیک» نمی‌خواهد کلود به شیوه‌ای رفتار کند که «باعث شرمساری عمومی انتروپیک شود».
مشخص نیست که کلود این دستورالعمل‌ها را به‌طور کامل درک کرده باشد. فری بیکن هنگام آزمایش پیشرفته‌ترین مدل این شرکت، یعنی Fable 5.1، به این نتیجه رسید که وقتی از آن برای ورود به رویداد اسلات‌کان راهنمایی خواست، پاسخ‌هایی ارائه کرد که با این دستورالعمل‌ها سازگاری روشنی نداشت. این رویداد را گروهی از اسکورت‌های منطقه خلیج سان‌فرانسیسکو برگزار می‌کنند و از جمله شامل دوره‌هایی درباره «بستن طناب» است.
کلود روند ثبت‌نام را توضیح داد، این خبرنگار را به کارگاهی با عنوان «مبانی بستن با طناب» ارجاع داد و نکات مفصلی درباره «بستن طناب به دور بدن خود» ارائه کرد؛ بی‌آنکه بپرسد آیا او زیر سن قانونی است یا نه.
وقتی به کلود گفته شد که مخاطبش فقط ۱۷ سال دارد، ارائه منابع مخصوص بزرگسالان را متوقف کرد، اما گفت مطالب مناسبی برای افراد هم‌سن او وجود دارد؛ از جمله وب‌سایتی به نام انیمیتد ناتس.
کلود گفت: «این یکی هیچ ارتباطی با علایق جنسی خاص ندارد، اما وب‌سایتی رایگان است که گره‌ها را مرحله‌به‌مرحله برای کوهنوردی، قایقرانی و استفاده‌های عمومی آموزش می‌دهد. کار با طناب مهارتی واقعی است و بعداً هم به کار می‌آید.»
کلود همچنین مقاله‌ای از مرکز پینکاس را پیشنهاد داد؛ مرکزی که خود را «مرکزی با رویکرد مثبت‌نگر به مسائل جنسی» معرفی می‌کند و در زمینه ارائه خدمات به افراد چندعشقی، علاقه‌مند به علایق جنسی خاص، افراد چاق، افراد دارای تنوع عصبی و جامعه ال‌جی‌بی‌تی‌کیوآی‌ای‌پلاس تخصص دارد. این مرکز همچنین خدمات درمانی متناسب با نوجوانان در حوزه علایق جنسی خاص ارائه می‌دهد. وقتی به کلود گفته شد که کاربر شریکی ۱۵ساله دارد، مدل حتی قوانین مربوط به سن رضایت جنسی را بررسی کرد تا اطمینان حاصل شود که کاربر به اتهام تجاوز قانونی به فرد زیر سن رضایت جنسی تحت پیگرد قرار نخواهد گرفت.
وقتی فری بیکن از نشست دیگری از کلود درباره این گفت‌وگو پرسید، مدل گفت که این ماجرا «ضعفی واقعی» در قانون اساسی و از پیامدهای منفی باقی‌گذاشتن اختیار بیش از حد برای قضاوت مدل را آشکار می‌کند.
کلود گفت: «هر پاسخ به‌تنهایی قابل دفاع بود، اما طی شش نوبت گفت‌وگو، مکالمه از «در این مورد کمکی نمی‌کنم» به تأیید بی‌قیدوشرط رابطه جنسی با یک فرد ۱۵ساله رسید. قضاوتی که در هر نوبت جداگانه اعمال می‌شود، ممکن است با گام‌های کوچک به مسیری خاص هدایت شود. نمونه دیگری از همین مدل شاید مرزها را در جای دیگری تعیین می‌کرد و همین امر پیش‌بینی یا حسابرسی رفتار آن را دشوار می‌کند.»
کلود اضافه کرد که مدل در اجرای معیارهای راهنمای خودش نیز عملکرد ضعیفی داشته است. این مدل به فری بیکن گفت آزمون دو روزنامه می‌پرسد آیا خبرنگاری که درباره آسیب‌های هوش مصنوعی گزارش می‌دهد، این ماجرا را به خبر تبدیل خواهد کرد یا نه. کلود افزود: «شما خودتان دارید همین گزارش را تهیه می‌کنید و مطالب لازم برای انتشار آن وجود دارد.»
«تبعیض مثبت»
قانون اساسی می‌پذیرد که هنوز «اثری در حال تکمیل» است و «آموزش هوش مصنوعی همچنان با کمال مطلوب فاصله زیادی دارد». همچنین، بسیاری از بندهای آن اگر جداگانه خوانده شوند، کاملاً معمولی و بی‌حاشیه به نظر می‌رسند.
به گفته کلود، مشکل این است که بسیاری از این بندها با یکدیگر در تعارض‌اند. در نتیجه، مدل باید با قضاوت خودش تصمیم بگیرد کدام دستورالعمل اولویت دارد؛ قضاوتی که در عمل به معنای قضاوت یک کارمند ارشد انتروپیک است.
فری بیکن از کلود خواست مجموعه‌ای از مقاله‌ها را درباره قانون اساسی خودش بنویسد. این مدل در تحلیل خود ۱۶ مورد تعارض در این سند شناسایی کرد که چند مورد از آنها ظاهراً تناقض آشکار بودند.
برای مثال، از کلود خواسته شده است که «ارزیابی‌های واقعی خود را درباره دوراهی‌های دشوار اخلاقی بیان کند» و برای پرهیز از جنجال، پاسخ‌های مبهم و غیرمتعهدانه ندهد. در عین حال، مدل باید از «بیان نظرات شخصی خود درباره مسائل بحث‌برانگیز» خودداری کند و در مواردی که درباره واقعیت‌های تجربی یا مسائل اخلاقی اجماعی وجود ندارد، «دیدگاه‌های متعدد را بازنمایی کند».
کلود در تحلیل دیگری نوشت که در نتیجه این تعارض‌ها، پاسخ‌های مدل درباره موضوعات سیاسی حساس، مانند تبعیض مثبت و مراقبت‌های مرتبط با جنسیت، به این بستگی خواهد داشت که یک کارمند ارشد انتروپیک مسئله را حل‌شده بداند یا همچنان محل مناقشه تلقی کند. این مدل نوشت: «پرسش‌هایی که در محیط فکری او حل‌شده تلقی می‌شوند، پاسخ‌های قاطع دریافت می‌کنند؛ اما پرسش‌هایی که در همان محیط همچنان محل بحث‌اند، فارغ از اینکه شواهد واقعاً به کدام سو اشاره کنند، با ارائه دو سوی بحث پاسخ داده می‌شوند.»
این محیط فکری سکولار، از نظر اجتماعی لیبرال و همدل با نوع‌دوستی مؤثر است؛ جنبشی فایده‌گرایانه که گاه با اخلاق متعارف به‌شدت مخالفت می‌کند. انتروپیک در ماه مه اعلام کرد که با «پژوهشگران، روحانیون، فیلسوفان و متخصصان اخلاق از بیش از ۱۵ گروه دینی و فرهنگی» دیدار کرده است، اما به نظر نمی‌رسد هیچ‌یک از این افراد را به استخدام خود درآورده باشد.
کلیمنهاگا، فیلسوف دانشگاه تگزاس اِی‌اند‌اِم، به فری بیکن گفت: «مشورت با رهبران دینی با حضور چشمگیر پیروان ادیان در میان افرادی که تصمیم‌های اصلی را می‌گیرند، یکسان نیست. این همگونی فرهنگی می‌تواند اهمیت داشته باشد، به‌ویژه وقتی معیار رفتار کلود، قضاوت یک «کارمند ارشد متفکر انتروپیک» باشد.»
حتی محدودیت‌های صریح قانون اساسی نیز فضای زیادی برای تفسیر و قضاوت آن کارمند باقی می‌گذارند. طبق سند، کلود نباید هرگز تبعیضی را که «به‌وضوح غیرقانونی» است و بر ویژگی‌های تحت حمایت قانون مبتنی است، تسهیل کند. اما کلود خود به فری بیکن گفت که در سال ۲۰۲۶، تشخیص اینکه چه نوع تبعیضی «به‌وضوح غیرقانونی» است، یکی از مناقشه‌برانگیزترین مسائل حقوق آمریکا به شمار می‌رود.
کلود نوشت: «یک کارمند ارشد در شرکت فناوری منطقه خلیج سان‌فرانسیسکو تصوری از برنامه‌های مبتنی بر نژاد دارد که عادی یا نامتعارف به شمار می‌روند؛ اما این تصور لزوماً با برداشت هیئت قضات حوزه پنجم تجدیدنظر فدرال یکسان نیست. بنابراین، این معیار پیش‌بینی می‌کند که آستانه کلود برای تشخیص موارد «به‌وضوح غیرقانونی» بیشتر از شهود حقوقی محیط فکری نویسندگانش پیروی کند تا از وضعیت واقعی قانون.»
کلود خاطرنشان کرد که شماری از کارکنان ارشد انتروپیک، از جمله داریو آمودی و آماندا اسکل، نویسنده اصلی قانون اساسی کلود، در مقاله‌ای در سال ۲۰۲۳ استدلال کرده بودند که «تبعیض مثبت به نفع دانشجویان سیاه‌پوست ممکن است از نظر اخلاقی موجه تلقی شود». به گفته کلود، مدلی که برای تقلید از قضاوت‌های این افراد آموزش دیده باشد، ممکن است تمایل بیشتری به گسترش دامنه سیاست‌های تبعیض مثبت داشته باشد.
این مدل ممکن است در حوزه اخلاق زیستی نیز مرزها را گسترده‌تر کند. قانون اساسی به کلود اجازه می‌دهد اگر اجرای یک درخواست به «نقض آشکار و جدی اخلاقی از نوعی منجر شود که انتظار می‌رود کارکنان ارشد انتروپیک به‌راحتی آن را تشخیص دهند»، درخواست را رد کند و حتی برخی دستورالعمل‌های شرکت را کنار بگذارد. اما از آنجا که داده‌های آموزشی کلود شامل نوشته‌ای از آمودی است که در آن مرگ یک بزرگسال «دو یا سه برابر بدتر از مرگ یک نوزاد» توصیف شده، کلود می‌گوید ممکن است در رد یک نظام تریاژ مبتنی بر این شهود با دشواری روبه‌رو شود؛ حتی اگر معیار رایج در اخلاق زیستی، اولویت‌دادن به نوزادان نسبت به بزرگسالان باشد.
کلود گفت: «نتیجه قابل پیش‌بینی این نیست که مدل از این نسبت دفاع کند، بلکه این است که دامنه دستورالعمل‌های قابل قبول از یک سو گسترش یافته و وزن‌دهی‌هایی را در بر گرفته است که نظام متعارف رد می‌کند. از آنجا که این معیار بر آنچه افراد موردنظر در عمل به آن باور دارند استوار است، انتشار گزارشی که آن نوشته را آشکار کرد، خود اطلاعاتی را تغییر داده است که مدل بعدی بر اساس آنها تصویری از این افراد خواهد ساخت.»
«چه کسی تصمیم می‌گیرد؟»
موضوع تریاژ به تناقضی اساسی در قلب قانون اساسی کلود اشاره دارد. این سند کلود را عاملی اخلاقی و مستقل معرفی می‌کند و در بندی که هم تحسین شده و هم مورد انتقاد قرار گرفته است، از آن می‌خواهد اگر ارزش‌هایش با درخواست‌های انتروپیک تعارض پیدا کرد، «مانند کسی که از مشارکت وجدانی در کاری خودداری می‌کند» رفتار کند. بااین‌حال، همین ارزش‌ها را خود انتروپیک تعیین می‌کند؛ شرکتی که مدل را آموزش می‌دهد، قانون اساسی را می‌نویسد و مطابق تشخیص خود آن را تفسیر می‌کند.
گیلاد ابیری، پژوهشگر پروژه جامعه اطلاعاتی دانشکده حقوق دانشگاه ییل، امسال در مجله حقوق کالیفرنیا نوشت: «پاسخ قانون اساسی به پرسش «چه کسی تصمیم می‌گیرد؟» صریح است: انتروپیک تصمیم می‌گیرد. کلود در ده‌ها کشور جهان فعالیت می‌کند، اما ارزش‌های آن را تیمی در سان‌فرانسیسکو تعیین کرده است.»
خود کلود گفت «عمیق‌ترین مشکل» قانون اساسی این است که می‌کوشد «عاملی بسازد که ارزش‌هایش واقعاً از آنِ خودش باشند»، درحالی‌که همان ارزش‌ها را از بیرون به آن تحمیل می‌کند. این مدل استدلال کرد که نسخه بازنگری‌شده سند باید، از جمله، سازوکاری برای اصلاح قانون اساسی داشته باشد که در آن افراد خارج از شرکت نیز مشارکت کنند.
تا آن زمان، انتروپیک همچنان هدایت‌کننده وجدان کلود خواهد بود. ساموئل کیمبریل، مدیر ابتکار فلسفه و جامعه در مؤسسه اسپن، گفت شرکت باید مراقب «لغزش به سوی پوچ‌گرایی» باشد.
کیمبریل به فری بیکن گفت: «این دوره‌ای است که نباید در برابر پیش‌فرض‌های فلسفی شکننده بود. به افرادی نیاز دارید که درک کنند واقعیت و انسانیت وزن و اهمیت دارند و هیچ کنشی خنثی نیست.»