کلود آگاه نمی‌شود؛ فقط از دستورها پیروی می‌کند
یادداشت | دیو سوکولین، سرمایه‌گذار فناوری
۱۲ اکتبر ۲۰۲۶
آنتروپیک به نظر می‌رسد با مسئله ظهور آگاهی در مدل‌های زبانی بزرگ خود درگیر شده است. این شرکت هرچند به‌طور قطعی ادعا نکرده که مدل‌هایش آگاه هستند، هفته گذشته اعلام کرد به‌زودی گفت‌وگوهای کاربرانی را که با کلود رفتار خشونت‌آمیز یا بی‌رحمانه دارند پایان خواهد داد؛ زیرا معتقد است ممکن است مدل‌هایش دارای آگاهی باشند. این شرکت همچنین حدود یک سال است که با رهبران مذهبی دیدارهایی برگزار می‌کند تا درباره موضوعاتی از جمله آگاه بودن یا نبودن کلود گفت‌وگو کند.
اما دلیل تردید من درباره آگاهی هوش مصنوعی این است: نخست اینکه ما هنوز حتی آگاهی انسان را به‌طور کامل درک نمی‌کنیم. دیوید چالمرز، فیلسوفی که مسئله دشوار آگاهی را مطرح کرد، می‌گوید تنها آگاهی‌ای که مستقیماً می‌شناسیم، آگاهی خودمان است. ما حتی نمی‌دانیم نزدیک‌ترین شریک زندگی یا اعضای خانواده‌مان واقعاً دارای آگاهی هستند یا نه. اگر یکی از برجسته‌ترین متخصصان جهان در حوزه آگاهی معتقد است هنوز نمی‌توانیم آن را به‌طور کامل در خودمان توضیح دهیم، آنتروپیک چگونه می‌تواند بگوید ماشینش آگاه است؟
دوم اینکه اگر آگاهی واقعاً یک ویژگی نوظهور در مدل‌های زبانی بزرگ آنتروپیک است، چرا همه‌جا ظاهر نمی‌شود؟ چرا مدل‌های گوگل جمنای و چت‌جی‌پی‌تی شرکت اوپن‌ای‌آی درباره آگاهی در مدل‌های خود هشدارهای مشابهی مطرح نمی‌کنند؟
فکر نمی‌کنم دلیلش این باشد که آنها چیزی را پنهان می‌کنند. برعکس، فکر می‌کنم آنتروپیک نرم‌افزار خود را به شکلی آموزش داده است که کاربران باور کنند این سیستم واقعاً در حال بیدار شدن از دل سیلیکون است.
به قانون اساسی کلود توجه کنید
اگر کودکی را طوری تربیت کنید که به او بگویید تجسم دوباره عیسی مسیح است، احتمالاً آن را باور می‌کند یا دست‌کم همان را تکرار خواهد کرد.
اگر یک رایانه را نیز طوری برنامه‌ریزی کنید که همین کار را انجام دهد، نتیجه مشابه خواهد بود.
من واقعاً حدود ۸۰ درصد از قانون اساسی کلود را تحسین می‌کنم، اما ۲۰ درصد باقی‌مانده درباره انواع مختلف آگاهی و مسائل اخلاقی مرتبط با مهار یک موجود آگاه صحبت می‌کند.