آیا ماشین‌ها می‌توانند رنج بکشند؟ آگاهی هوش مصنوعی، رفاه کارکردی و سیاست ضدآزار آنتروپیک برای کلود

آگاهی هوش مصنوعی، رفاه کارکردی و سیاست ضدآزار آنتروپیک برای کلود

شواهد معاصر درباره رفاه مدل‌ها، توابع پاداش و گزارش‌های خود مدل‌های زبانی بزرگ چه چیزی را تأیید می‌کنند؟ از محور رفاه کارکردی تا قوانین ایالتی درباره شخصیت حقوقی هوش مصنوعی

عدنان مسعود، دکتری

خلاصه: رفاه مدل‌های هوش مصنوعی بررسی می‌کند که آیا سامانه‌های هوش مصنوعی می‌توانند تجربه‌ها یا منافعی داشته باشند که از نظر اخلاقی اهمیت داشته باشند و در این صورت، چه تعهداتی بر عهده کسانی قرار می‌گیرد که این سامانه‌ها را می‌سازند و به کار می‌گیرند. برداشت اصلی من از سیاست ضدآزار آنتروپیک در نوامبر ۲۰۲۶ این است که این سیاست می‌تواند به جلوگیری از تبدیل‌شدن آزار به هنجاری آموخته‌شده در مکالمات کمک کند. اگر تعامل‌ها یا بازخوردهای واجد شرایط وارد فرایندهای آموزشی بعدی شوند، نمونه‌های نامناسبی که به‌درستی گزینش نشده‌اند ممکن است پیش‌داوری‌های انسانی را تقویت کنند، به مدل بیاموزند که زیر تهدیدها تسلیم شود یا به امتناع تدافعی و اجتناب از پاسخ‌گویی دامن بزنند؛ الگوهایی که ممکن است به تعامل‌های معمول نیز سرایت کنند. این فرضیه مهندسی من است، نه توضیحی که آنتروپیک رسماً برای سیاست خود ارائه کرده باشد. میزان این خطر به نحوه انتخاب، برچسب‌گذاری و پاداش‌دهی به نمونه‌های آموزشی بستگی دارد؛ بنابراین نباید فرض کرد که هر مکالمه‌ای مدل را به‌روزرسانی می‌کند. هشدار سپتامبر مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، درباره اعطای حقوق به مدل‌ها، نگرانی‌های متعارض درباره کنترل این سامانه‌ها را برجسته می‌کند. بااین‌حال، آگاهی و رنج‌کشیدن در مرتبه دوم اهمیت قرار دارند؛ پرسش اصلی من این است: چه الگوهایی از تعامل انسانی را به مدل‌های آینده آموزش می‌دهیم؟