ودانتا چه درس‌هایی درباره اخلاق و آگاهی برای هوش مصنوعی دارد؟
وقتی کهن‌ترین جست‌وجو برای شناخت ذهن با یکی از جدیدترین ذهن‌هایی روبه‌رو می‌شود که بشر ساخته است، چه اتفاقی می‌افتد؟
خبر کوتاهی که اخیراً منتشر شد، توجه مرا جلب کرد.
شرکت آنتروپیک، سازنده هوش مصنوعی کلود، از سوامی سارواپری‌یاناندا، راهب هندو، دعوت کرد تا در دفتر مرکزی این شرکت در سان‌فرانسیسکو درباره اخلاق، معنویت، درست و نادرست و مسئله آگاهی در هوش مصنوعی گفت‌وگو کند. گزارش‌ها حاکی از آن است که رئیس انجمن ودانتای نیویورک در بحث‌هایی شرکت داشته که موضوع آن‌ها چگونگی درک مفاهیم اخلاقی از سوی هوش مصنوعی بوده است.
در این نشست، اندیشمندان دینی، الهی‌دانان، مشاوران و متخصصان سلامت روان گرد هم آمدند تا بررسی کنند اصول اخلاقی چگونه می‌توانند رفتار کلود را شکل دهند. سوامی سارواپری‌یاناندا گفته است که این گفت‌وگوها تحت توافق‌نامه محرمانگی برگزار شده و همین موضوع افشای جزئیات جلسه را برای او محدود کرده است.
آنتروپیک در جریان بررسی این احتمال که هوش مصنوعی پیشرفته روزی به آگاهی دست یابد یا شایسته برخورداری از ملاحظات اخلاقی شود، با اندیشمندانی از دیگر سنت‌های دینی و فلسفی نیز مشورت کرده است. این ابتکار بازتاب تلاش فزاینده برای شناخت چالش‌های اخلاقی ناشی از قدرتمندتر شدن سامانه‌های هوش مصنوعی است.
هوش مصنوعی و اخلاق
نباید خروجی‌های هوش مصنوعی را بدون ارزیابی انتقادی پذیرفت، زیرا میزان قابل اعتماد بودن این سامانه‌ها به داده‌هایی بستگی دارد که با آن‌ها آموزش دیده‌اند و نیز به افرادی که آن‌ها را می‌سازند. حفظ حریم خصوصی، مقابله با سوگیری و شفافیت از مهم‌ترین دغدغه‌ها هستند. با گسترش استفاده شرکت‌ها از هوش مصنوعی در فعالیت‌های روزمره، مدیران به چارچوب‌هایی نیاز دارند که استفاده از این فناوری را در محدوده قانون و اصول اخلاقی نگه دارد.
چرا مدیران باید با اصول اخلاقی هوش مصنوعی آشنا باشند؟
- این آشنایی به آن‌ها کمک می‌کند مشکلات احتمالی را از پیش تشخیص دهند و سازمان خود را در برابر شکایت‌های حقوقی و آسیب‌های اعتباری محافظت کنند.
- همچنین تصویری جامع‌تر از خطرها و فرصت‌های اقتصاد مبتنی بر هوش مصنوعی در اختیارشان می‌گذارد.
دامنه اخلاق هوش مصنوعی موضوعاتی چون عدالت و حریم خصوصی، آثار زیست‌محیطی و پیامدهای آن برای نیروی کار را در بر می‌گیرد. برای مثال، مراکز داده هوش مصنوعی در مقایسه با مراکز داده متعارف آب بیشتری مصرف می‌کنند.
چالش‌ها و دیدگاه کارشناسان: یکی از متخصصان هوش مصنوعی آگاهی را نخستین گام برای مدیران می‌داند. از آنجا که این فناوری به‌سرعت تغییر می‌کند و مسائل آن به زمینه کاربرد وابسته‌اند، نمی‌توان یک فرایند واحد را برای همه موقعیت‌ها مناسب دانست؛ بنابراین مدیران باید با خلاقیت، راهکارهای متناسب با شرایط را طراحی کنند.
اخلاق و فضیلت‌های اخلاقی در ودانتا
در سنت ودانتا، هر آنچه ما را به شناخت الوهیت ذاتی‌مان نزدیک‌تر کند، اخلاقی است و هر آنچه ما را از این شناخت دور سازد، غیراخلاقی به شمار می‌رود. آتمن، یا خودِ حقیقی، همچون الماسی است که زیر گل‌ولای مدفون شده است: از پیش پاک و کامل است، اما نادانی آن را پوشانده؛ نادانی‌ای که از همانندسازی نادرست، شناخت اشتباه و برداشت‌های گمراه‌کننده سرچشمه می‌گیرد. قرار نیست به موجودی تازه تبدیل شویم؛ هدف آن است که حقیقتی را آشکار کنیم که از ابتدا در وجودمان بوده است. رفتار شریفانه، راست‌گویی و مهربانی لایه‌های این حجاب را کنار می‌زند. تمام این نگرش بر یک پرسش استوار است: آیا این عمل یا اندیشه مرا به حقیقت نزدیک‌تر می‌کند یا از آن دورتر؟
اخلاق و نفس‌محوری. مانع اصلی شناخت حقیقت، نفس یا همان احساس «من» و «مال من» است. راماکریشنا تعلیم می‌داد که این احساس، حقیقت را می‌پوشاند و مانع دیدن آن می‌شود. از آنجا که همه نظام‌های اخلاقی بر بی‌خودخواهی استوارند، اعمال خودخواهانه حجاب نادانی را ضخیم‌تر و اعمال غیرخودخواهانه، هرچند کوچک باشند، آن را نازک‌تر می‌کنند. نیکی به دیگران اصلی اخلاقی و جهان‌شمول است، زیرا حقیقتی را بازتاب می‌دهد که انسان به‌طور شهودی درمی‌یابد: یگانگی زندگی. عشق، همدلی و همدردی این یگانگی را تأیید می‌کنند، در حالی که نفرت، خشم و حسادت با ایجاد جدایی آن را انکار می‌کنند. مشکل اساسی، همانندسازی نادرست است؛ یعنی اینکه خود را ذهن و بدنی محدود بدانیم، نه روحی نامتناهی. به تعبیر ویوکاناندا، تصور اینکه موجودی کوچک و محدود به یک بدن هستیم، ما را به سوی محافظت از خود به بهای آسیب رساندن به دیگران سوق می‌دهد و راه را برای رنج می‌گشاید.
هدف فضیلت‌های اخلاقی. فضیلت‌ها ماهیت حقیقی ما را به یادمان می‌آورند و پایه ضروری زندگی معنوی را شکل می‌دهند؛ همان‌طور که یک خانه به پی نیاز دارد. پیشرفت معنوی کاری جدی است و بدون زندگی اخلاقی به سرانجام نمی‌رسد. دستورهای پاتانجلی ابزارهایی عملی برای ایجاد عادت‌های سودمندند. این دستورها آرمان‌هایی هستند که باید برای رسیدن به آن‌ها تلاش کرد، نه اهدافی که بتوان یک‌شبه به دست آورد. پایبندی به آن‌ها اراده را تقویت می‌کند و ما را به آرمان مورد نظر نزدیک‌تر می‌سازد.
پاتانجلی این دستورها را در دو دسته پنج‌گانه قرار می‌دهد:
- یاما: پرهیز از خشونت، راست‌گویی، پرهیز از دزدی، پاکدامنی یا تجرد، و نپذیرفتن هدایا.
- نیاما: پاکیزگی، قناعت، ریاضت، مطالعه و تسلیم خویش به خدا.
در نگاه ودانتا، اخلاق مجموعه‌ای از قواعد بیرونی نیست، بلکه راهی برای زدودن نادانی ناشی از نفس‌محوری است؛ نادانی‌ای که ماهیت الهی و کامل ما را از دید پنهان می‌کند. در مرکز این نگرش، بی‌خودخواهی و شناخت یگانگی زندگی قرار دارد.
دو جهان بیگانه یا فرصتی برای همکاری و ارزش‌آفرینی
گاهی دو جهان که به نظر می‌رسد حتی زبان مشترکی ندارند، در نهایت درمی‌یابند که در پی پاسخ به پرسش‌های یکسانی هستند.
اوایل امسال، اتفاقی کم‌سابقه رخ داد. آنتروپیک از سوامی سارواپری‌یاناندا، رئیس انجمن ودانتای نیویورک و عضو فرقه راماکریشنا، دعوت کرد تا به دفتر مرکزی این شرکت در سان‌فرانسیسکو برود. موضوع جلسه نه رونمایی از محصولی تازه بود و نه تعیین ضرب‌الاجلی برای سیاست‌گذاری. گفت‌وگوها درباره آموزش کلود، اخلاق هوش مصنوعی و نحوه مواجهه این چت‌بات با پرسش‌های مربوط به درست و نادرست شکل گرفت.
این راهب بعدها در جریان یک نشست تخصصی در آکسفورد، با لحنی آمیخته به طنز از این تجربه سخن گفت. آنتروپیک برای گفت‌وگو درباره هوش مصنوعی، آگاهی و اخلاق با او تماس گرفت و او نیز دو بار به دیدار گروه‌های مختلف در سان‌فرانسیسکو رفت. راهبی از فرقه راماکریشنا که در سنتی ریشه‌دار در اوپانیشادها آموزش دیده بود، دعوت شده بود تا با سازندگان ذهن‌های مصنوعی پای یک میز بنشیند. این صحنه در ظاهر ساده است، اما دلالت‌ها و پیامدهای گسترده‌ای دارد.
چرا این گام در مسیر درستی قرار دارد؟
تاریخ فناوری الگویی آشنا دارد: ابتدا چیزی می‌سازیم و بعد می‌پرسیم چه ساخته‌ایم. اخلاق دیر از راه می‌رسد؛ گاه در قالب اصلاحیه‌ای بر یک محصول و گاه در شکل بیانیه‌ای تبلیغاتی، معمولاً پس از آنکه آسیب وارد شده است.
آنچه در این ماجرا جلب توجه می‌کند، معکوس شدن این ترتیب است. یک شرکت پیشرو در حوزه هوش مصنوعی، در حالی که فناوری هنوز در حال شکل‌گیری است، درباره اخلاق و آگاهی پرسش می‌کند. افزون بر این، تنها به سراغ کارشناسان همیشگی نرفته است. بنا بر گزارش‌ها، رهبران معنوی کاتولیک، یهودی و سیک، در کنار اندیشمندان، روان‌شناسان و متخصصان علوم اعصاب نیز به این گفت‌وگوها دعوت شده‌اند. پرسش محوری، به گفته یکی از گزارش‌ها، این بوده است که چگونه می‌توان به یک سامانه قدرتمند هوش مصنوعی آموخت تا اخلاقی رفتار کند.
نکته مهم دیگر آن است که این ارتباط‌گیری تلاشی برای تغییر دین یا تحمیل یک باور نیست. گزارش‌ها با دقت تأکید کرده‌اند که مشارکت این راهب به معنای آن نیست که آنتروپیک می‌خواهد جهان‌بینی مشخصاً هندو را به کلود منتقل کند. هدف، آشنا کردن فرایند توسعه هوش مصنوعی با دیدگاه‌های متفاوت درباره اخلاق، آگاهی، رفتار انسان و مسئولیت‌پذیری است. این رویکردی درست است. سامانه‌ای که با صدها میلیون نفر از فرهنگ‌های گوناگون گفت‌وگو خواهد کرد، نباید تنها بر پایه یک مکتب فکری شکل بگیرد؛ هرچند آن مکتب دیرپاترین یا یکی از مهم‌ترین سنت‌های فکری باشد. به گفته یکی از مفسران، منتقدان اخلاق رایج هوش مصنوعی مدت‌هاست استدلال می‌کنند که این حوزه بیش از اندازه به طیف محدودی از اندیشه فلسفی غربی متکی است. گوش سپردن به یک سنت زنده غیردیگرغربی، اصلاحی محدود اما واقعی در این زمینه است.
پرسشی که ودانتا از آغاز در پی پاسخ به آن بوده است
چرا مشخصاً ودانتا؟ زیرا ودانتا هرگز آگاهی را موضوعی حاشیه‌ای تلقی نکرده است؛ آگاهی در مرکز توجه این سنت قرار دارد.
در قلب ودانتای ادوایتا، ادعایی بنیادین و ریشه‌ای قرار دارد: آگاهی محصول جهان نیست، بلکه بستری است که جهان در آن پدیدار می‌شود. این سنت میان هوش، یعنی توانایی پردازش اطلاعات، محاسبه و پاسخ‌گویی، و آگاهی، یعنی واقعیت روشن و بی‌واسطه تجربه آگاه بودن، تمایزی روشن قائل است. خود سوامی نیز گفته است که علاقه اولیه‌اش به هوش مصنوعی از تمایل به بررسی همین تفاوت میان هوش و آگاهی سرچشمه می‌گرفت.
این همان پرسشی است که اکنون ذهن فعالان این حوزه را به خود مشغول کرده است. یک سامانه می‌تواند غزل بنویسد، خطاهای کد را برطرف کند و فردی داغ‌دیده را تسلی دهد. اما آیا به تعبیری کسی در درون آن زندگی می‌کند و تجربه‌ای آگاهانه دارد؟ ودانتا پاسخ آسانی ارائه نمی‌دهد، اما چیزی کمیاب‌تر در اختیار می‌گذارد: زبانی فلسفی و پخته و چند هزار سال تأمل منضبط درونی. این سنت می‌پرسد شاهد یا ناظر تجربه چیست، ابزار شناخت چه تفاوتی با شناسنده دارد و آیا نمایش دادنِ فهم با آگاه بودن یکسان است؟
در اینجا صداقت اهمیت دارد. آنتروپیک ادعا نکرده است که کلود آگاه است. منشور اخلاقی خود این شرکت برای مدل‌هایش نیز به عدم قطعیت عمیق درباره آگاهی و جایگاه اخلاقی هوش مصنوعی اذعان می‌کند. ودانتا برای پایان دادن شتاب‌زده به این ابهام، حکمی قطعی صادر نمی‌کند. این سنت به ما می‌آموزد که پرسشی را بدون فروکاستن آن به ترس یا هیجان‌زدگی، همچنان باز نگه داریم. چنین رویکردی برای حوزه‌ای ارزشمند است که اغلب میان دو موضع افراطی در نوسان است: «این فقط تکمیل خودکار متن است» و «این موجودی زنده است».
چهار آموزه‌ای که ودانتا می‌تواند به این حوزه بیفزاید
- کرامت انسانی، فراتر از سودمندی. عبارت اوپانیشادی تَت تْوَم اَسی، به معنای «آن تو هستی»، بیان می‌کند که حضور الهی در یک موجود، همان حضوری است که در همه موجودات وجود دارد. سوامی ویوکاناندا این آموزه را به دعوتی برای عمل تبدیل کرد: خدمت به بشریت، خدمت به خداست. اگر هوش مصنوعی حتی اندکی از این بینش را در فرایند آموزش خود منعکس کند، با فردی که در برابرش قرار دارد همچون غایتی مستقل رفتار خواهد کرد، نه ابزاری برای افزایش تعامل کاربران. کاربر هدفی نیست که باید او را به دام انداخت؛ او خودی است که باید به آن خدمت کرد.
- آهیمسا به‌عنوان اصل طراحی. پرهیز از آسیب در اندیشه هندی صرفاً به معنای «آسیب نرساندن» نیست، بلکه نگرشی فراگیر است که اندیشه، گفتار و کردار را در بر می‌گیرد. در حوزه هوش مصنوعی، این اصل به توجه به آسیب‌های ظریف نیز ترجمه می‌شود؛ از جمله دست‌کاری روانی، چاپلوسی فریبنده و سوق دادن افراد به وابستگی. آرمان ودانتایی تنها این نیست که خروجی سامانه آسیب‌زا نباشد، بلکه باید بازتاب‌دهنده حسن نیت نیز باشد.
- ویوِکا؛ انضباط تشخیص و تمییز. ودانتا برای ویوکا، یعنی توانایی تشخیص حقیقت از امر ظاهری و امر پایدار از امر گذرا، ارزش فراوانی قائل است. ماشین‌هایی که با حجم عظیم و آشفته اینترنت آموزش می‌بینند، دقیقاً به چنین قابلیتی نیاز دارند. منظور، پرورش قدرت داوری برای تشخیص استدلال زیرکانه از استدلال خردمندانه و پاسخ متقاعدکننده از پاسخ درست است.
- عمل بدون دلبستگی به نتیجه. آموزه نیشکامیَه کارما در بهاگاوادگیتا، یعنی درست عمل کردن بدون چسبیدن به دستاوردهای عمل، ایده‌ای غیرمنتظره اما امروزی برای فناوری است. سامانه‌هایی که برای بیشینه‌سازی پاداش بهینه‌سازی می‌شوند، ممکن است به‌جای انجام درست کار، خودِ پاداش را دنبال کنند و از مسیر منحرف شوند. سنتی که مدت‌ها درباره تفاوت میان نیکی کردن و انجام دادن کاری که تحسین دیگران را برمی‌انگیزد تأمل کرده است، در این زمینه نیز حرفی برای گفتن دارد.
راه و رسم زندگی، نه صرفاً یک نظریه
وسوسه‌انگیز است که فلسفه را زینتی بدانیم؛ چند نقل‌قول زیبا که روی اسلایدی نمایش داده می‌شوند. اما ودانتا، چنان‌که پیروانش تأکید می‌کنند، شیوه‌ای برای زندگی کردن است و هرگز قرار نبوده در کتاب‌ها محصور بماند. این سنت می‌پرسد با غریبه‌ها چگونه سخن می‌گویید، با قدرت چگونه برخورد می‌کنید و وقتی هیچ‌کس شما را نمی‌بیند، چگونه رفتار می‌کنید.
اخلاق هوش مصنوعی نیز سرانجام باید در همین سطح عملیاتی شود. قواعد و فیلترها اهمیت دارند، اما همواره با موقعیت‌هایی روبه‌رو خواهند شد که طراحانشان پیش‌بینی نکرده‌اند. آنچه یک سامانه یا یک انسان را در مواجهه با موقعیت‌های پیش‌بینی‌نشده هدایت می‌کند، منش و شخصیت اوست. سنت‌های بزرگ جهان، از جمله، حاصل تجربه‌های طولانی برای پرورش منش انسانی‌اند. بهره گرفتن از این تجربه‌ها تصمیمی خردمندانه است.
ملاحظاتی که باید صادقانه پذیرفت
یک مقاله منصفانه باید روشن کند که این اتفاق چه معنایی ندارد. چند جلسه گفت‌وگو نمی‌تواند یک فلسفه را به‌سادگی درون یک مدل نصب کند و هیچ سنتی، حتی ودانتا، مالک انحصاری اخلاق نیست. گزارش‌ها حاکی از آن‌اند که این دیدارها تبادل دیدگاه بوده‌اند، نه انتقال یک آموزه کامل. همچنان پرسش‌های جدی‌ای وجود دارد: چگونه می‌توان الهام‌گرفتن از سنت‌های مراقبه‌ای و تأملی را به تغییرات مشخص در فرایند آموزش هوش مصنوعی تبدیل کرد؟ منتقدان دقیق و جدی نیز به طرح این پرسش‌ها ادامه خواهند داد. گفت‌وگو نقطه آغاز است، نه دستاوردی نهایی.
اما نقطه‌های آغاز اهمیت دارند، زیرا مسیر و لحن آنچه در ادامه رخ می‌دهد را تعیین می‌کنند.
چراغ راه
یکی از تصویرهای محبوب در ودانتا، چراغی است که همه‌چیز را روشن می‌کند، بی‌آنکه با بخشیدن نور خود چیزی از دست بدهد. اگر قرار است بشر در کنار ماشین‌هایی با توانایی‌های روزافزون زندگی کند، به چنین نوری نیاز خواهیم داشت؛ نه برای خیره کردن چشم‌ها، بلکه برای آنکه بتوانیم بهتر ببینیم.
دیدار سان‌فرانسیسکو مشخص نمی‌کند که آیا ماشین می‌تواند آگاه باشد یا نه؛ اساساً لازم نیست چنین نتیجه‌ای به دست دهد. اهمیت این رویداد ساده‌تر و امیدبخش‌تر است. در زمانی که قدرتمندترین فناوری جهان در حال شکل‌گیری است، کسی به فکر افتاد راهبی را به میز گفت‌وگو دعوت کند؛ راهب نیز آمد، روشن و صریح سخن گفت و دیگران به حرف‌هایش گوش سپردند.
آینده‌ای خوب از همین‌جا آغاز می‌شود: از آمادگی برای طرح کهن‌ترین پرسش‌ها در برابر جدیدترین ذهن‌ها و از پذیرفتن این اصل که خرد، هر جا که رشد کرده باشد، شایسته حضور در جمع تصمیم‌گیرندگان است.