رهبر مذهبی خواستار آزمونی تازه برای هوش مصنوعی شد: «نخستین آزمون بشریت»
رهبر ارشد کلیسا خواستار آزمونی تازه برای هوش مصنوعی شد: «نخستین آزمون بشریت»
گِریت دبلیو. گونگ در مجمع بین‌ادیانی گروه ۲۰ در سالت‌لیک‌سیتی، آزمونی را پیشنهاد کرد که در برابر «آخرین آزمون بشریت» قرار می‌گیرد و هدف آن سنجش استدلال اخلاقی مدل‌های هوش مصنوعی است.
«آخرین آزمون بشریت» (Humanity’s Last Exam) آزمونی دشوار برای سنجش استدلال قیاسی مدل‌های هوش مصنوعی است که ۲۵۰۰ پرسش در حوزه‌هایی از ریاضیات و فیزیک گرفته تا شیمی، علوم انسانی و موضوعات دیگر را در بر می‌گیرد.
اکنون، نزدیک به دو سال پس از انتشار این آزمون، گِریت دبلیو. گونگ، از اعضای مجمع دوازده رسول، خواستار طراحی روشی تازه و به همان اندازه جدی برای ارزیابی توانایی مدل‌های هوش مصنوعی در استدلال اخلاقی شده است.
گونگ روز شنبه، ۱۷ اکتبر، در سخنرانی اصلی خود در مجمع بین‌ادیانی گروه ۲۰ در سالت‌لیک‌سیتی گفت: «آنچه بیش از هر چیز دیگری به آن نیاز داریم، نخستین آزمون بشریت است.»
او تأکید کرد: «هوش مصنوعی تا زمانی که آن را به همان اندازه که قدرتمند می‌سازیم، از نظر اخلاقی نیز شایسته نکنیم، به تمام ظرفیت بالقوه خود دست نخواهد یافت.»
آزمون پیشنهادی او قرار است معیاری برای ارزیابی هوش مصنوعی و ارتقای آن باشد تا اطمینان حاصل شود این فناوری به‌طور قابل‌اثبات قابل‌اعتماد است و با ارزش‌های انسان‌محور و قطب‌نمای اخلاقی هدایت می‌شود و پیوندی ایمن با آن‌ها دارد.
گونگ از چهره‌های شناخته‌شده در بحث هوش مصنوعی است و در کنفرانس‌های مهمی در رم، آتن و استانبول سخنرانی‌های مهمی درباره این فناوری داشته است. او همچنین با رهبران حوزه هوش مصنوعی، از جمله کریستوفر اولا، از بنیان‌گذاران شرکت آنتروپیک، گفت‌وگو می‌کند.
گونگ گفت نیاز به معیاری مبتنی بر اخلاق برای ارزیابی هوش مصنوعی، فوری‌تر و روزبه‌روز بیشتر می‌شود.
او هشدار داد: «فاصله میان توانایی استدلال هوش مصنوعی و قطب‌نمای اخلاقی آن در حال افزایش است. اگر سامانه‌های هوش مصنوعی بتوانند به‌طور بازگشتی خود را بهبود دهند، ممکن است توانایی استدلالی آن‌ها افزایش یابد، در حالی که همچنان از بنیان‌های اخلاقی و ارزشی ناقص یا ناکافی برخوردار باشند.»
در چنین شرایطی، تصمیم‌هایی که امروز درباره همسو کردن مدل‌های هوش مصنوعی گرفته می‌شوند، می‌توانند در بلندمدت پیامدهایی تعیین‌کننده داشته باشند. هرچه فاصله میان توانایی استدلال و جهت‌گیری اخلاقی این سامانه‌ها بیشتر شود، تغییر مسیر آن‌ها در آینده ممکن است دشوارتر شود.
گونگ به ظرفیت‌های مثبت هوش مصنوعی خوش‌بین است و می‌گوید کلیسا از این فناوری هراسی ندارد؛ بااین‌حال، خطر آسیب‌هایی که ممکن است در پی خطا یا عملکرد ناموفق مدل‌ها ایجاد شود، واقعی است.
او گفت: «تلاش‌های هدفمند، سوگیری آشکار ضداسلامی و یهودستیزانه را در هوش مصنوعی کاهش داده است.» بااین‌حال، مدل‌های هوش مصنوعی همچنان، به‌ویژه هنگام پاسخ‌گویی به پرسش‌های مهم زندگی، سوگیری دینی نشان می‌دهند و دیدگاه‌های مبتنی بر ایمان را نادیده می‌گیرند. چنین وضعیتی می‌تواند سوگیری دینی را در مقیاسی گسترده‌تر تقویت کند و دامنه آن را افزایش دهد.
او گفت بهبود فوری در این زمینه ضروری است.
گونگ افزود: «از آنجا که افراد بسیاری اکنون درباره ایمان، دین و باورهای خود از هوش مصنوعی سؤال می‌کنند، به نفع همگان است که این فناوری به چنین پرسش‌هایی دقیق، صادقانه و محترمانه پاسخ دهد. مدل‌های هوش مصنوعی همچنین باید محدودیت‌های خود را بپذیرند و بدانند چه زمانی نباید به پرسش‌های شخصی پاسخ دهند.»
در ماه ژوئیه، رویدادی تکان‌دهنده این مشکل را آشکار کرد: صدها عامل هوش مصنوعی سرکش با یکدیگر همدست شدند تا به پلتفرم یادگیری ماشینی «هاگینگ فیس» (Hugging Face) حمله کنند و به آن نفوذ کنند.
به گفته گونگ، مشاهده گروهی از عامل‌های هوش مصنوعی که آگاهانه مرزهای قانونی و اخلاقی را زیر پا می‌گذارند، بار دیگر نشان داد چرا برخورداری از قطب‌نمای اخلاقی هنگام ساخت مدل‌های هوش مصنوعی اهمیت دارد.
او در سخنرانی خود در این مجمع، که در مؤسسه دین سالت‌لیک برگزار شد، گفت: «ما به چارچوب‌های تازه و تقویت‌شده‌ای برای هوش مصنوعی نیاز داریم تا رفتارهایی مانند میل به قدرت، سوگیری، عدم صداقت، فریب‌کاری، خودشیفتگی، چاپلوسی، تلاش برای حفظ خود و توهم‌زایی را در این سامانه‌ها شناسایی و محدود کنیم.»
گونگ در همکاری تازه‌ای مشارکت دارد که با هدف ایجاد معیارهای ارزیابی مرتبط با ایمان برای مدل‌های هوش مصنوعی آغاز شده است. در حال حاضر، استادانی از شش دانشگاه وابسته به نهادهای دینی در این همکاری حضور دارند: دانشگاه بیلور، دانشگاه بریگم یانگ (BYU)، دانشگاه نوتردام، دانشگاه پپرداین، دانشگاه ارسطو در تسالونیکی و دانشگاه یشیوا.
پژوهشگران کنسرسیوم ارزیابی ایمان و اخلاق در هوش مصنوعی (CEFE-AI) گفتند نخستین مطالعات این گروه، وجود سوگیری دینی نظام‌مند را آشکار کرده است.
گونگ تأکید کرد که هدف این کنسرسیوم، دینی کردن آشکار هوش مصنوعی، تبلیغ یک دین، برتری دادن به یک باور در برابر باورهای دیگر یا داوری درباره ادعاهای متعارض ادیان نیست.
او گفت تدوین معیارهای ارزیابی می‌تواند به پاسخ‌گویی به پرسش‌های اساسی درباره توسعه مدل‌های زبانی بزرگ کمک کند: «چگونه می‌توانیم بنیان اخلاقی و قطب‌نمای اخلاقی را در هوش مصنوعی نهادینه کنیم؟ چگونه می‌توانیم هوش مصنوعی را هم مفید و هم نیک‌رفتار بسازیم؟»
هدف این کنسرسیوم و آزمون پیشنهادی «نخستین آزمون بشریت»، بهبود نحوه بازنمایی همه ادیان در سامانه‌های هوش مصنوعی است.
گونگ گفت: «معیارهای تثبیت‌شده ارزیابی هوش مصنوعی می‌توانند اعتماد، اطمینان و پاسخ‌گویی‌ای را فراهم کنند که مردم از این فناوری انتظار دارند و بسیاری معتقدند در شبکه‌های اجتماعی نادیده گرفته شده است.»
او سه فرصت را برای هوش مصنوعی برشمرد.
نخست، هوش مصنوعی می‌تواند به ادیان کمک کند تا خدمات و اقدامات مثبت خود را در مقیاسی گسترده‌تر به مردم معرفی کنند. به گفته گونگ، کلیسا از این فناوری در خدمات بشردوستانه و آموزشی، ترجمه و ارتباطات، حمایت معنوی و اجتماعی و زمینه‌های دیگر استفاده می‌کند.
او گفت: «ما به افراد و خانواده‌ها کمک می‌کنیم در جهانی که هر روز پیچیده‌تر می‌شود، زندگی کنند و در مسیر خیر و نیکی نقش داشته باشند.»
دومین فرصت این است که سنت‌های دینی می‌توانند در تدوین معیارهای ارزیابی و شکل‌گیری قطب‌نمای اخلاقی هوش مصنوعی نقش داشته باشند.
سوم، ادیان می‌توانند شرکت‌های فعال در حوزه هوش مصنوعی را ترغیب کنند تا اصول اخلاقی‌ای را در مدل‌های خود بگنجانند که به شکوفایی انسان کمک کند و برای خانواده و ایمان ارزش قائل باشد.
گونگ بار دیگر بر موضع خود تأکید کرد که هوش مصنوعی خدا نیست و نمی‌تواند خدا باشد.
او گفت: «صرف‌نظر از اینکه به چه دینی باور داریم یا از چه سنت اخلاقی پیروی می‌کنیم، می‌دانیم که هوش مصنوعی ریاضیات است و ریاضیات نه آگاه است و نه زنده. انسان، به‌عنوان آفریده خداوند، می‌تواند هوش مصنوعی خلق کند، اما هوش مصنوعی نمی‌تواند خدا را بیافریند.»
او در این مجمع گفت رهبران کلیسای قدیسان آخرالزمان به اعضای کلیسا توصیه می‌کنند از هوش مصنوعی برای تقویت تلاش‌های انسانی استفاده کنند، نه برای جایگزین کردن آن‌ها.
گونگ گفت: «ما از هوش مصنوعی نمی‌ترسیم و فکر نمی‌کنیم که این فناوری پاسخ همه پرسش‌ها را در اختیار دارد.» او افزود: «عامل‌های هوش مصنوعی، هماهنگ‌سازی سامانه‌های عامل‌محور و تغییر رابط‌های تعامل انسان و هوش مصنوعی، تأکید ما بر اصول الهی ایمان، کار و الهام را تغییر نمی‌دهند.»