چه چیزی باید به هوش مصنوعی آموزش دهیم؟ چرا هوش مصنوعی به ارزش‌های انسانی نیاز دارد
یادداشت | میز تحریریه دیدگاه
چه چیزی باید به هوش مصنوعی آموزش دهیم؟
با پیچیده‌تر و غیرقابل‌پیش‌بینی‌تر شدن هوش مصنوعی، آموزش این فناوری باید در کنار عملکرد فنی، بر ارزش‌ها، مسئولیت‌پذیری و همزیستی نیز تأکید کند.
کیم دائه‌شیک
نویسنده استاد دانشگاه KAIST است.
تصویر کنونی ایران در عرصه بین‌المللی چندان مطلوب نیست. این کشور از زمان انقلاب اسلامی، حکومتی اسلامی با رویکرد بنیادگرا ایجاد کرده، توسعه برنامه هسته‌ای با هدف تسلیحاتی را که ناقض قوانین بین‌المللی دانسته شده دنبال کرده و بر سر کنترل تنگه هرمز با ایالات متحده درگیر بوده است.
اما ۲۵۰۰ سال پیش، ایران باستان یکی از پیشرفته‌ترین تمدن‌های جهان بود. کوروش بزرگ از دودمان هخامنشی امپراتوری‌ای بنا کرد که از دریای مدیترانه تا رود سند گسترده بود. گزنفون، تاریخ‌نگار آتنی و شاگرد سقراط، حتی در حدود سال ۳۷۰ پیش از میلاد کتاب «کوروش‌نامه» را نوشت و در آن به بررسی چگونگی آموزش کوروش برای تبدیل شدن به فرمانروایی بزرگ پرداخت.
آیا انسان‌ها ذاتاً نیک هستند یا بی‌رحمی و شرارت در سرشت آن‌ها نهفته است؟ فارغ از مناقشه باستانی میان منسیوس و شون‌زی، فیلسوفان چینی، یک نکته روشن است: آموزش اهمیت دارد. کودکانی که توسط والدین خردمند پرورش می‌یابند، کتاب‌های خوب می‌خوانند، از معلمان برجسته می‌آموزند و در کنار دوستان توانمند رشد می‌کنند، از این تجربه‌ها سود می‌برند.
با این حال، آموزش خوب تضمین نمی‌کند که فرد حتماً شخصیتی خوب پیدا کند. حتی کشورهای نوردیک که به نظام‌های رفاهی و آموزشی خود شهرت دارند، شاهد افزایش حمایت از احزاب نئونازی بوده‌اند. در مقابل، افراد برجسته‌ای نیز می‌توانند از دل فقر و درگیری‌های داخلی در کشورهای جنوب صحرای آفریقا ظهور کنند.
رفتار انسان حاصل ترکیبی از ژن‌های به‌ارث‌رسیده و تجربه‌های کسب‌شده است. دانش و تجربه‌ها از طریق سیناپس‌هایی که نورون‌های مغز را به هم متصل می‌کنند، بر افکار و اعمال انسان اثر می‌گذارند.
آیا نقشه‌برداری از این ارتباطات می‌تواند ترجیحات و تصمیم‌های آینده کودکان را آشکار کند؟
پروژه «کانکتوم انسانی» که از سال ۲۰۰۹ در حال اجراست، تلاش می‌کند شبکه‌های عصبی مغز را ترسیم کند. اما محدودیت‌های اساسی فناوری باعث شده دانشمندان نتوانند همه سیناپس‌ها را به‌طور کامل نقشه‌برداری و تحلیل کنند.
پیچیده‌ترین کانکتومی که تاکنون منتشر شده، مربوط به مگس میوه است که در سال ۲۰۲۴ تکمیل شد. فاصله میان مدارهای عصبی آن و مغز انسان همچنان بسیار عظیم است و بسیار فراتر از توانایی‌های فعلی نقشه‌برداری قرار دارد.
فرض کنیم هوش عمومی مصنوعی (AGI) در آینده از توانایی‌های انسان فراتر رود و بتواند کانکتوم کامل مغز انسان را ایجاد کند. آیا چنین هوشی می‌تواند دقیقاً مشخص کند که آموزش و تجربه چگونه رفتار را شکل می‌دهند و سپس انتخاب‌های انسان را پیش‌بینی یا حتی تعیین کند؟
لزومی ندارد. یک کانکتوم کامل فقط ارتباطات عصبی را نشان می‌دهد، نه اینکه دقیقاً چه زمانی، در کجا و با چه شدتی هر نورون سیگنال‌های الکتریکی ارسال می‌کند.
ممکن است بتوانیم احتمال تبدیل شدن یک کودک به فردی بسیار فاضل یا فردی عمیقاً بی‌رحم را محاسبه کنیم، اما حتی با کمک AGI نیز پیش‌بینی یا تعیین کامل رفتار انسان غیرممکن خواهد بود.
پس درباره هوش مصنوعی‌ای که بر اساس مغز انسان مدل‌سازی شده است چه می‌توان گفت؟
اگرچه ارقام دقیق محرمانه باقی مانده‌اند، برخی کارشناسان تخمین می‌زنند مدل‌های پیشرفته‌ای مانند Mythos از Anthropic و Astra از OpenAI بین ۵ تا ۱۰ تریلیون پارامتر دارند.
اگر پارامترها را تقریباً معادل سیناپس‌ها در نظر بگیریم، می‌توان استدلال کرد که ساختارهای عصبی سامانه‌های پیشرو هوش مصنوعی امروزی تقریباً یک‌دهم مقیاس مغز انسان هستند.
برخلاف مغز که طی صدها میلیون سال تکامل شکل گرفته، این مدل‌ها به‌صورت عمدی طراحی و برنامه‌ریزی شده‌اند. پس حتماً کسی باید مدار دقیق آن‌ها را بداند و بتواند رفتارشان را پیش‌بینی کند، درست است؟
متأسفانه چنین نیست.
پژوهشگران معماری کلی و الگوریتم‌های آموزش را تعیین می‌کنند، اما ارتباطات میان نورون‌های مصنوعی در جریان آموزش به‌صورت خودکار شکل می‌گیرند و تک‌تک آن‌ها از پیش مشخص نمی‌شوند. تنظیم دستی تریلیون‌ها ارتباط عملاً امکان‌پذیر نیست.
علاوه بر این، پژوهشگران نمی‌توانند همه جزئیات سازمان‌دهی و ترتیب داده‌های آموزشی یا هر تغییر در مقادیر پارامترها هنگام آموزش و استفاده از مدل را به‌طور کامل بازسازی کنند.
در نتیجه، حتی توسعه‌دهندگان سامانه‌های پیشرفته هوش مصنوعی نیز نمی‌توانند با اطمینان مطلق پیش‌بینی کنند که مدل‌هایشان در پاسخ به پرسش‌های خاص چه خواهند گفت.
این عدم قطعیت شبیه چالشی است که بشر در طول تاریخ با آن روبه‌رو بوده است.
کنفوسیوس‌گرایی، بودیسم، مسیحیت، اسلام، فلسفه، علم، هنر و قانون، هر یک به شیوه‌ای متفاوت، تلاش دیرینه انسان برای شناخت ماهیت خود و پرورش رفتار مطلوب را بازتاب می‌دهند.
از آنجا که ما نمی‌توانیم مغز انسان را به‌طور کامل درک یا پیش‌بینی کنیم، تمدن‌ها هزاران سال از آموزش، سنت‌های اخلاقی و نهادهای حقوقی برای تشویق انسان‌ها به رفتار مسئولانه استفاده کرده‌اند.
هوش مصنوعی نیز چالشی مشابه ایجاد می‌کند. از آنجا که سازوکارهای درونی و رفتار آینده آن را نمی‌توان به‌طور کامل درک یا پیش‌بینی کرد، هوش مصنوعی نباید صرفاً ساخته شود؛ بلکه باید پرورش یابد.
این یعنی باید فراتر از مشخصات مهندسی، توان محاسباتی و معیارهای عملکرد فکر کنیم. ارزش‌ها، الگوها و انتظاراتی که در آموزش هوش مصنوعی جای می‌گیرند، در کنار توانایی‌های فنی آن نیازمند توجه هستند.
چالش فقط آموزش ماشین‌ها برای تولید پاسخ‌های درست نیست؛ بلکه کمک به آن‌ها برای فعالیت در جهانی است که روابط انسانی، منافع متعارض و عدم قطعیت‌های اخلاقی آن را شکل می‌دهند.
این ما را به شاید مهم‌ترین پرسش می‌رساند: اگر می‌خواهیم آینده‌ای بسازیم که در آن انسان‌ها و ماشین‌ها به جای نابودی بشر در کنار یکدیگر زندگی کنند، اکنون باید چه چیزی به هوش مصنوعی آموزش دهیم؟