راهب هندو زاده کلکته به آنتروپیک در آموزش اخلاق هوش مصنوعی کمک می‌کند؛ اما آیا حقوق بشر باید در اولویت باشد؟
سوآمی سارواپریا‌ناندا، راهب ۵۵ ساله هندو از آشرام راماکریشنا و رئیس انجمن ودانتا در نیویورک، اکنون خود را درگیر یکی از بحث‌های سرنوشت‌ساز قرن بیست‌ویکم می‌بیند؛ نقشی که شاید در نگاه نخست چندان قابل پیش‌بینی نباشد.
این راهب زاده کلکته قرار است در جریان جشن‌های دورگا پوجا، در ۱۷ اکتبر، در میدان تایمز سخنرانی کند و دعای خیر به‌جا آورد. یک هفته بعد، راهی سنگاپور خواهد شد تا در همایشی ویژه جوانان درباره موضوعی کاملاً امروزی سخن بگوید: «روح سیلیکونی: یافتن رضایت در عصر هوش مصنوعی». سپس برای برگزاری مجموعه‌ای از سخنرانی‌ها به هند بازمی‌گردد و پس از آن دوباره راهی نیویورک می‌شود.
مخاطبان سارواپریا‌ناندا در نقاط مختلف جهان دیگر فقط جویندگان معنویت نیستند و شمار فزاینده‌ای از فعالان و متخصصان فناوری را نیز دربر می‌گیرند. موضوع اصلی سخنان او جست‌وجوی انسان برای یافتن معناست. در مقابل، علاقه دره سیلیکون به این مسئله معطوف است که آیا سنت‌های کهن می‌توانند به شکل‌گیری رفتار ماشین‌هایی کمک کنند که ممکن است به‌زودی بر تقریباً تمام عرصه‌های زندگی انسان تأثیر بگذارند یا نه.
سارواپریا‌ناندا روز ۱۳ ژوئن، هنگام سخنرانی درباره مسیر ودانتا برای رسیدن به شادی در شمال تگزاس، ناگهان از حاضران پرسید: «تا به حال نام کلود را شنیده‌اید؟» او سپس از تماس تلفنی‌ای مرتبط با کلود، دستیار هوش مصنوعی شرکت آنتروپیک، گفت و به بازدید خود از دفتر مرکزی این شرکت در سان‌فرانسیسکو اشاره کرد.
شرکت پژوهشی آنتروپیک، سازنده کلود، اوایل سال جاری میلادی از سارواپریا‌ناندا دعوت کرد تا در گفت‌وگوهایی درباره اخلاق هوش مصنوعی شرکت کند. در جریان بازدید او از دفتر مرکزی شرکت در سان‌فرانسیسکو، پژوهشگران چند پروژه آزمایشی را به نمایش گذاشتند. سارواپریا‌ناندا گفت: «مایتوس، محصول جدید و پرسر‌وصدای کلود، را به ما نشان دادند و توضیح دادند که چقدر خطرناک است، چه کارهایی می‌تواند انجام دهد و چه آسیب‌هایی ممکن است به بار بیاورد.» او همچنین پیش‌نمایشی از پروژه گلس‌وینگ را مشاهده کرد.
سارواپریا‌ناندا تنها متخصص بیرونی دعوت‌شده به این جلسات نبود. او گفت: «با من تماس گرفتند. الهی‌دانانی از ادیان مختلف، مشاوران، متخصصان سلامت روان و افرادی از این دست را هم دعوت کرده بودند. هدف همه این کارها آموزش برخی جنبه‌های اخلاق هوش مصنوعی به کلود بود.»
در این گفت‌وگوها، دیدگاه‌های متخصصانی از رشته‌های گوناگون کنار هم قرار گرفت تا آنتروپیک بررسی کند چگونه می‌توان از رویکردهای اخلاقی و فلسفی در توسعه سامانه‌های پیشرفته هوش مصنوعی بهره برد.
سارواپریا‌ناندا در بیانیه‌ای کتبی به تلگراف آنلاین گفت: «از اینکه عصب‌پژوهان، فیزیک‌دانان و پژوهشگران هوش مصنوعی می‌خواهند در مواجهه با تلاقی احتمالی خرد باستانی و فناوری مدرن، از فلسفه‌های گوناگون، از جمله ودانتای ادویته، بیاموزند، استقبال می‌کنم.»
با این حال، منتقدان هشدار می‌دهند که تمرکز بر ارزش‌های اخلاقی ماشین‌ها ممکن است نگرانی فوری‌تری را به حاشیه براند: اینکه هوش مصنوعی همین حالا چگونه روابط قدرت میان دولت‌ها، شرکت‌ها و شهروندان را دگرگون می‌کند.
اخلاق هوش مصنوعی و محدودیت‌های خودتنظیمی
بخش بزرگی از گفت‌وگوهای عمومی درباره اخلاق هوش مصنوعی بر ویژگی‌های خود ماشین متمرکز است. آیا یک سامانه هوش مصنوعی باید حقیقت‌گو باشد؟ آیا باید از پاسخ‌گویی به درخواست‌های زیان‌بار خودداری کند؟ آیا باید شفقت، فروتنی یا انصاف نشان دهد؟
در پس این پرسش‌ها، این فرض اساسی نهفته است که چالش اصلی، واداشتن ماشین‌ها به رفتاری مسئولانه است.
لیخیتا بانرجی، مدیر آزمایشگاه پاسخ‌گویی الگوریتمی سازمان عفو بین‌الملل، معتقد است که این بحث باید بر موضوع دیگری تأکید کند. او از رویکردهای نظارتی مورد حمایت شرکت‌های بزرگ فناوری آمریکا انتقاد کرده و استدلال می‌کند شرکت‌هایی که سامانه‌های قدرتمند هوش مصنوعی را توسعه می‌دهند، نباید خودشان نیز قواعد حاکم بر این فناوری را تعیین کنند.
بانرجی به تلگراف آنلاین گفت: «اجماع نوظهوری که پیرامون این الگوی تنظیم‌گری مورد حمایت شرکت‌های آمریکایی شکل گرفته، در خدمت منافع خود آنهاست، خطرناک است و بر مبنای درستی قرار ندارد.»
به گفته بانرجی، بسیاری از شرکت‌های فناوری می‌کوشند ضمن حفظ قدرت خود در بازار، آینده مقررات هوش مصنوعی را نیز شکل دهند؛ روندی که او آن را نوعی تسخیر نهادهای تنظیم‌گر می‌داند، یعنی وضعیتی که در آن منافع شرکت‌های تحت نظارت بر تصمیم‌ها و قواعد نهادهای ناظر مسلط می‌شود.
بانرجی گفت: «پرسش این نیست که آیا نمایندگان صنعت باید در این بحث مشارکت داشته باشند یا نه؛ آنها باید مشارکت کنند. پرسش این است که آیا باید اجازه داشته باشند بر آن مسلط شوند؟»
وقتی پای انگیزه‌های مالی به میان می‌آید، این تعارض آشکارتر می‌شود. برنامه مورد انتظار آنتروپیک برای ورود به بازار سهام در ماه نوامبر، پس از انتخابات میان‌دوره‌ای آمریکا، یادآور این واقعیت است که شرکت‌های شکل‌دهنده سیاست‌گذاری هوش مصنوعی، خود نیز بازیگران بازارند و به دنبال رشد و افزایش ارزش سهام برای سهام‌داران خود هستند.
منتقدان می‌گویند همین شرکت‌هایی که خود را متولی آینده هوش مصنوعی معرفی می‌کنند، انگیزه‌های تجاری قدرتمندی نیز دارند تا نظارت بیرونی را محدود کنند، دامنه مسئولیت حقوقی خود را کاهش دهند و مفهوم «نوآوری مسئولانه» را به شکلی تعریف کنند که با منافع تجاری‌شان سازگار باشد. به گفته آنان، هشدار درباره خطرهای وجودی هوش مصنوعی در اسناد عرضه اولیه سهام، هم‌زمان با تلاش برای گسترش سریع فعالیت‌های تجاری، تعارضی در انگیزه‌های این شرکت‌ها ایجاد می‌کند.
از اخلاق هوش مصنوعی تا حقوق بشر
واکنش دینی به هوش مصنوعی لزوماً نباید با این پرسش آغاز شود که آیا ماشین می‌تواند آگاه باشد یا نه. می‌توان از مسئله‌ای فوری‌تر شروع کرد: وقتی فناوری به نهادها قدرتی بی‌سابقه برای مشاهده، طبقه‌بندی و کنترل افراد می‌دهد، انسان‌ها در قبال یکدیگر چه مسئولیت‌هایی دارند؟
نمونه‌ای از این دیدگاه در نخستین بخشنامه پاپ لئو چهاردهم دیده می‌شود که در ۲۵ مه منتشر شد. این نامه که خطاب به اسقف‌ها نوشته شده، «مانیفیکا هومانی‌تاس» (انسانیت باشکوه) نام دارد و عنوان فرعی آن «درباره پاسداری از انسان در عصر هوش مصنوعی» است. تأکید متن نه بر ابرهوش فرضی آینده، بلکه بر دفاع از کرامت انسانی در زمان حاضر است؛ از جمله در برابر نظارت فراگیر، استعمار دیجیتال، تمرکز قدرت فناورانه، تهدیدهای متوجه نیروی کار و توسعه سلاح‌های خودمختار.
در این متن آمده است: «بشریت که خداوند آن را با تمام شکوهش آفریده، امروز با انتخابی سرنوشت‌ساز روبه‌روست: یا برجی نو از بابل بنا کند یا شهری بسازد که خدا و انسان در کنار یکدیگر در آن سکونت داشته باشند.»
این تغییر در زاویه نگاه اهمیت دارد. به‌جای تمرکز بر اینکه آیا ماشین‌ها می‌توانند استدلال اخلاقی را تقلید کنند، این رویکرد می‌پرسد آیا نهادهای سیاسی و اجتماعی می‌توانند از انسان‌ها در برابر فناوری‌هایی که روزبه‌روز قدرتمندتر می‌شوند محافظت کنند یا نه.
سامانه‌های نظارتی، ابزارهای پایش کارکنان در محیط کار، فناوری‌های تشخیص چهره، سامانه‌های پیش‌بینی جرم و سکوهای خودکار هدف‌گیری، دیگر صرفاً احتمالاتی فرضی نیستند؛ بسیاری از آنها هم‌اکنون وجود دارند.
از نظر مدافعان رویکرد مبتنی بر حقوق بشر، این سامانه‌ها نگرانی‌هایی فوری‌تر از این پرسش ایجاد می‌کنند که آیا مدل‌های آینده هوش مصنوعی ممکن است روزی به آگاهی دست یابند یا نه.
سارواپریا‌ناندا گفته است برخی از موضوعاتی که در جریان بازدیدش از آنتروپیک درباره آنها گفت‌وگو شد، بعدها در بخشنامه ۲۵ مه نیز مطرح شدند.
او در سخنرانی عمومی خود در ۱۳ ژوئن گفت: «خود آنتروپیک نیز به‌شدت بر اخلاق تأکید کرده است. آنها می‌گویند: ما خودمان نگرانیم.»
نگرانی درباره مسیر توسعه هوش مصنوعی به‌طور فزاینده‌ای از درون خود این صنعت نیز مطرح می‌شود. داریو آمودی، مدیرعامل آنتروپیک، استدلال کرده است که توسعه سامانه‌های هوش مصنوعی با قابلیت‌های روزافزون باید با احتیاط بیشتری پیش برود و هشدار داده است که چنین فناوری قدرتمندی خطرهای جدی به همراه دارد.
اظهارات او پس از کناره‌گیری پژوهشگری به نام جیکوب کاکسون مطرح شد؛ کسی که شرکت‌های پیشرو هوش مصنوعی را متهم کرد در رقابت برای ساخت مدل‌هایی هرچه قدرتمندتر، «با جان و زندگی ما قمار می‌کنند».
با این حال، نگرانی درباره ابرهوش آینده تنها یکی از جنبه‌های این بحث است. مدافعان حقوق بشر تأکید می‌کنند که فوری‌ترین آسیب‌ها فرضی نیستند و هم‌اکنون در حوزه‌های نظارت، اجرای قانون و جنگ قابل مشاهده‌اند.
استدلال‌ها در حمایت از محدود کردن برخی فناوری‌ها
سازمان‌های حقوق بشری، از جمله عفو بین‌الملل، خواستار توقف توسعه یا استفاده از فناوری‌هایی شده‌اند که به باور آنها اساساً با حقوق بشر ناسازگارند.
از جمله این فناوری‌ها می‌توان به ابزارهای نظارت زیست‌سنجی، از جمله تشخیص چهره؛ سامانه‌های مبتنی بر هوش مصنوعی برای ارزیابی خطر که در اجرای قانون، حمایت اجتماعی و امور مهاجرتی به کار می‌روند؛ و ابزارهای امتیازدهی اجتماعی اشاره کرد.
این سازمان‌ها همچنین خواستار پایان دادن به استفاده از سامانه‌های هوش مصنوعی در زنجیره عملیات نظامی منتهی به کشتار شده‌اند. این موارد شامل سامانه‌های تولید فهرست اهداف، نظارت زیست‌سنجی از راه دور و مدل‌های چندوجهی هوش مصنوعی، از جمله مدل‌های زبانی بزرگ، می‌شود؛ به‌ویژه زمانی که این فناوری‌ها در تصمیم‌گیری‌های مرتبط با استفاده از نیروی مرگبار نقش دارند.
به باور آنها، باید استفاده از سلاح‌های خودمختاری را که انسان‌ها را هدف قرار می‌دهند، و نیز سامانه‌هایی را که نمی‌توان عملکردشان را تحت کنترل مؤثر انسان قرار داد، ممنوع کرد.
از این منظر، نظارت انسانی نباید به برچسبی تشریفاتی تقلیل یابد که صرفاً بر سامانه‌هایی گذاشته می‌شود که عملکردشان بیش از حد سریع، غیرشفاف یا پیچیده است و امکان مداخله معنادار انسان در آنها وجود ندارد.
از نظر بانرجی، مقابله با چنین رویه‌هایی برای مهار صنعتی ضروری است که او آن را صنعتی استخراج‌گر می‌داند؛ صنعتی که از نیروی کار، کاربران، هنرمندان، نویسندگان، جوامع و منابع طبیعی ارزش اقتصادی استخراج می‌کند، اما منافع حاصل را در دست شمار نسبتاً اندکی از شرکت‌ها متمرکز می‌سازد.
سارواپریا‌ناندا در سفر خود از نیویورک به سنگاپور، جایی که آنتروپیک در ۱۴ اکتبر دفتری افتتاح کرد، و سپس در جریان سفرهایش به نقاط مختلف هند، با مخاطبانی سخن خواهد گفت که در جست‌وجوی رضایت و معنا در عصری هستند که ماشین‌ها هرچه بیشتر آن را شکل می‌دهند. حضور او در بحث‌های مربوط به هوش مصنوعی شاید به متخصصان فناوری یادآوری کند که تأمل، فروتنی و خویشتن‌داری چه ارزشی دارند.
با این حال، گروهی دیگر معتقدند جامعه پیش از آنکه بپرسد آیا ماشین‌ها می‌توانند به خرد دست یابند، باید تصمیم بگیرد چگونه از حقوق، کرامت و آزادی انسان‌هایی محافظت کند که زندگی‌شان همین حالا نیز زیر تأثیر سامانه‌های هرچه قدرتمندتر هوش مصنوعی در حال تغییر است.