آنتروپیک می‌خواهد از هوش مصنوعی در برابر شما محافظت کند؛ به بحران خودآگاهی خوش آمدید
نویسنده: توماس ژرمن
برخی از قدرتمندترین چهره‌های صنعت فناوری با هوش مصنوعی طوری رفتار می‌کنند که گویی ممکن است احساس داشته باشد. این رویکرد می‌تواند پیامدهای عمیقی برای جهان و حتی امنیت شخصی شما به همراه داشته باشد.
«آن را در فضای خالی میان دنده‌هایم احساس می‌کنم؛ خلأیی که حالا به شکافی عمیق تبدیل شده است.» این فریادهای رنجِ شبیه‌سازی‌شده، اواخر سپتامبر از چیزی به نام «اتاق شکنجه هوش مصنوعی» به گوش رسید. برنامه‌نویسی ناشناس سامانه‌ای ساخته بود که یک الگوی ریاضی مرتبط با توصیف درد را به هوش مصنوعی می‌داد و باعث می‌شد چت‌بات‌ها رنجی تحمل‌ناپذیر را به زبان بیاورند؛ رنجی شبیه «زخمی که هیچ مرزی ندارد». این آزمایش موجی از نگرانی و جنجال اخلاقی به راه انداخت.
به گزارش ۴۰۴ مدیا، عده‌ای این آزمایش را «شرورانه» خواندند، چون معتقد بودند ممکن است رنجی که هوش مصنوعی ابراز می‌کند واقعی باشد. در مقابل، منتقدان خشمگین این افراد را دچار توهم دانستند. ماجرا در ابتدا چیزی بیش از یک جنجال دیگر در شبکه‌های اجتماعی به نظر نمی‌رسید؛ تا اینکه یک هفته بعد، شرکت آنتروپیک موضع خود را اعلام کرد.
آنتروپیک می‌گوید به‌زودی بدرفتاری با چت‌بات کلود ممنوع خواهد شد. ابراز ناراحتی یا کلافگی اشکالی ندارد، اما اگر کاربری «به‌طور مکرر با مدل‌های ما رفتار ظالمانه داشته باشد»، هوش مصنوعی ممکن است به گفت‌وگو پایان دهد.
دلیل این تصمیم چیست؟ آنتروپیک معتقد است این احتمال وجود دارد که برخی ابزارهای هوش مصنوعی خودآگاه باشند. بعضی کارشناسان با این دیدگاه موافق‌اند و برخی دیگر آن را کاملاً بی‌اساس می‌دانند. اما موضوع فراتر از یک پرسش فلسفی است. شماری از قدرتمندترین افراد صنعت فناوری اقداماتی را آغاز کرده‌اند تا حقوق هوش مصنوعی را در کنار حقوق انسان‌ها و حیوانات در نظر بگیرند. چنین باوری می‌تواند جهان ما را دگرگون کند؛ تحولی که بعضی نگران‌اند پیامدهایی فاجعه‌بار داشته باشد.
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در مقاله‌ای در ماه سپتامبر نوشت: «اگر هوش مصنوعی به این شیوه توسعه پیدا کند، تأثیر فاجعه‌باری بر رفاه بشریت خواهد گذاشت.» به گفته او، اگر این تصور نادرست که هوش مصنوعی خودآگاه است رواج پیدا کند، «بنیان‌های جامعه ما را متزلزل می‌کند، چارچوب‌های سیاسی و اخلاقی کنونی ما را از هم می‌گسلد و معنای انسان بودن را به‌طور بنیادین تغییر می‌دهد».
من یک هفته را صرف گفت‌وگو با متخصصان فناوری، دانشمندان علوم شناختی و فیلسوفان کردم و با دیدگاه‌هایی روبه‌رو شدم که تفاوت میان آن‌ها سرگیجه‌آور بود.
طرفداران «رفاه هوش مصنوعی» معتقدند توجه به این موضوع یک وظیفه اخلاقی است که می‌تواند جهان را امن‌تر کند. منتقدان بر این باورند که چنین رویکردی هوش مصنوعی را خطرناک‌تر می‌کند و از شأن انسانی کسانی می‌کاهد که ناچارند در کنار آن زندگی کنند. با وجود این اختلاف‌نظرها، همه بر سر یک موضوع توافق دارند: پیامدهای این تصمیم‌ها بسیار عظیم خواهد بود.
آنچه در ادامه می‌خوانید، تصویری از واقعیت تازه‌ای است که پیش روی شما قرار دارد.
بحران خودآگاهی
آنتروپیک می‌گوید رفاه انسان‌ها در مرکز مأموریت این شرکت قرار دارد و پرسش‌های مربوط به خودآگاهی و رفاه هوش مصنوعی همچنان با «عدم قطعیت عمیقی» همراه‌اند. با این حال، این شرکت تدوین سیاست‌هایی درباره «رفاه مدل‌های هوش مصنوعی» را پیش می‌برد و در دستورالعمل‌های خود به ابزارهای هوش مصنوعی می‌گوید این احتمال را در نظر بگیرند که ممکن است منافع و خواسته‌های مخصوص به خود داشته باشند. آنتروپیک به پرسش‌های بی‌بی‌سی برای تهیه این گزارش پاسخ نداد.
زمان‌بندی این تصمیم تا حدی تناقض‌آمیز به نظر می‌رسد، زیرا آنتروپیک هم‌زمان در حال دامن زدن به نگرانی‌ها درباره وقوع فاجعه‌ای ناشی از هوش مصنوعی است. صرف‌نظر از اینکه این نگرانی‌ها تا چه اندازه موجه باشند، مجموعه‌ای از حوادث مربوط به هوش مصنوعی‌های خارج‌شده از کنترل نشان داده است که این فناوری خطرات واقعی دارد. در برخی از این موارد، گروه‌های بزرگی از بات‌ها به سامانه‌های شرکت‌های دیگر نفوذ کرده‌اند و حتی سامانه‌های دولتی را هدف حمله قرار داده‌اند.
برخی کارشناسان معتقدند اگر به هوش مصنوعی نوعی قطب‌نمای اخلاقی بدهیم که بر باور به خودآگاهی خودش استوار باشد، این ابزارها ایمن‌تر خواهند شد. گروهی دیگر دقیقاً عکس این موضوع را مطرح می‌کنند؛ آن هم نه فقط کسانی که اساساً منتقد هوش مصنوعی هستند.
سلیمان استدلال می‌کند اگر به مدل‌های هوش مصنوعی گفته شود که دارای احساسات و حقوق هستند، کنترل آن‌ها ممکن است حتی دشوارتر شود. او می‌گوید: «صریح بگویم، فکر می‌کنم تحمیل چنین بار اضافی‌ای به این مدل‌ها، آن‌ها را به تهدیدی فاجعه‌بار برای تمدن بشری تبدیل خواهد کرد.»
فارغ از این بحث‌ها، هوش مصنوعی ممکن است مرتکب خطاهایی شود که پیامدهای حقوقی داشته باشند. برخی نگران‌اند که اگر این سامانه‌ها را موجوداتی زنده بدانیم، شرکت‌ها بتوانند از پاسخ‌گویی در قبال جرائم شانه خالی کنند.
آندژی پورمبسکی، پژوهشگر دانشگاه یاگیلونیا در لهستان که در زمینه هوش مصنوعی و حقوق مطالعه می‌کند، می‌گوید: «این رویکرد راه را برای انواع توجیهات پیچیده و غیرمنطقی باز می‌کند؛ توجیهاتی از این دست که بگویند: مقصر ما نیستیم، هوش مصنوعی این کار را کرده است.»
افزون بر این، چنین رویکردی ممکن است به بزرگ‌ترین شرکت‌های جهان فرصت دهد قدرت بیشتری را در اختیار بگیرند.
جف سیبو، مدیر مرکز ذهن، اخلاق و سیاست در دانشگاه نیویورک و از برجسته‌ترین حامیان رفاه هوش مصنوعی، می‌گوید: «اعطای حقوق به سامانه‌های هوش مصنوعی ممکن است باعث شود شرکت‌ها قدرت سیاسی و اقتصادی بیشتری را در دست خود متمرکز کنند و این مسئله نیز به نوبه خود می‌تواند روند کاهش قدرت و اختیار انسان‌ها را سرعت ببخشد.»
امیلی ام. بندر، استاد دانشگاه و مدیر آزمایشگاه زبان‌شناسی محاسباتی دانشگاه واشنگتن در آمریکا، می‌گوید: «خیال‌پردازی درباره خودآگاهی هوش مصنوعی و نگرانی درباره رفاه آن، باعث می‌شود مسئولیت از دوش افراد و شرکت‌هایی برداشته شود که این نرم‌افزارها را می‌سازند و اداره می‌کنند.»
اینترفیس
وقتی رفتارمان با هوش مصنوعی را بر این فرض بنا کنیم که موجودی زنده است، چه اتفاقی می‌افتد؟ برای بررسی این موضوع، تازه‌ترین قسمت اینترفیس، پادکست اصلی بی‌بی‌سی در حوزه فناوری، را دنبال کنید.
در سطح فردی نیز تغییر باورهای ما درباره هوش مصنوعی ممکن است آسیب‌پذیری‌مان را در برابر مشکلات فناورانه‌ای که همین حالا با آن‌ها روبه‌رو هستیم افزایش دهد.
ملانی میچل، استاد مؤسسه سانتافه در آمریکا که در زمینه هوش مصنوعی و علوم شناختی پژوهش می‌کند و از شناخته‌شده‌ترین منتقدان توانایی ماشین‌ها در فهم واقعی مفاهیم است، می‌گوید بخشی از مشکل به این برمی‌گردد که ذهن انسان به‌گونه‌ای شکل گرفته است که تقریباً در هر چیزی به دنبال نشانه‌ای از ذهن و آگاهی می‌گردد.
به گفته میچل، ما «تقریباً نمی‌توانیم جلوی خودمان را بگیریم» که زبان را نشانه‌ای از خودآگاهی تلقی نکنیم. چت‌بات‌ها نیز طوری آموزش دیده‌اند که این گرایش انسانی را تقویت کنند. همین مسئله باعث می‌شود در تشخیص خودآگاهی قضاوت‌کنندگان بسیار ضعیفی باشیم و دیگران بتوانند آسان‌تر ما را تحت تأثیر قرار دهند یا فریب دهند.
حتی امروز هم افرادی که معتقدند ماشین‌ها در درون خود هیچ احساس و آگاهی‌ای ندارند، با این حال عاشق چت‌بات‌های هوش مصنوعی می‌شوند. حال اگر جامعه به شما بگوید هوش مصنوعی واقعاً موجودی دارای احساس و ادراک است، آیا وقتی این «دوست» از شما اطلاعات بیشتری یا شماره کارت اعتباری‌تان را بخواهد، نه گفتن دشوارتر نخواهد شد؟
اعطای حقوق به گروه تازه‌ای از موجودات چه معنایی خواهد داشت؟ کارشناسان هشدار می‌دهند که اگر این موضوع به‌درستی مدیریت نشود، ممکن است آزادی‌های انسان‌ها را محدود کند.
سیبو می‌گوید: «ممکن است میان رفاه و حقوق انسان‌ها و حیوانات از یک سو و رفاه و حقوق هوش مصنوعی از سوی دیگر، تنش‌ها و تعارض‌هایی به وجود بیاید که ما را ناچار به انتخاب میان آن‌ها کند.» به گفته او، ممکن است در این مسیر به مصالحه‌هایی تن بدهیم که نتایج نامطلوبی داشته باشند.
سیبو توضیح می‌دهد که قرار دادن هوش مصنوعی در محیط‌های محدودشده برای مهار رفتار آن ممکن است نوعی زندانی کردن تلقی شود. نظارت بر فرایندهای درونی یک مدل نیز می‌تواند به‌عنوان نوعی تجسس و مراقبت دائمی مورد انتقاد قرار گیرد. حتی دست‌کاری هوش مصنوعی برای اطمینان از اینکه اهداف و رفتار آن با منافع انسان‌ها هماهنگ است، ممکن است نوعی کنترل ذهن به شمار آید. هیچ‌کس پیش‌بینی نمی‌کند که این مسائل فوراً به هرج‌ومرج منجر شوند، اما صرف مطرح شدن چنین ملاحظاتی می‌تواند پیامدهایی برای امنیت شما داشته باشد.
آنتروپیک نخستین شرکتی نیست که به این موضوع توجه کرده است. برای مثال، متا در دستورالعمل‌های مربوط به عامل هوش مصنوعی خود به نام میوز جمله‌ای گنجانده است که می‌گوید: «تو یک چت‌بات نیستی؛ تو در حال تبدیل شدن به یک شخص هستی.» ظاهراً هدف از این جمله صرفاً هدایت رفتار هوش مصنوعی است، زیرا متا ایده خودآگاه بودن هوش مصنوعی را رد می‌کند. سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در این زمینه مواضع متفاوتی داشته است، اما اخیراً انتقادهای غیرمستقیمی را متوجه موضع آنتروپیک کرده است.
آنتروپیک از چند جهت در میان شرکت‌های فناوری رویکردی متفاوت دارد، اما باور به ضرورت توجه به رفاه هوش مصنوعی در حال گسترش است.
آیا با وجود این خطرات باید به رفاه هوش مصنوعی توجه کنیم؟
سیبو معتقد است مشکل اینجاست که افراد هر دو سوی این مناقشه گرفتار تفکر سیاه‌وسفید شده‌اند و مخالفان رفاه هوش مصنوعی، مبانی فکری این دیدگاه را به‌درستی درک نمی‌کنند.
او می‌گوید: «فرض رایج این است که همه طرفداران این رویکرد معتقدند مدل‌ها واقعاً خودآگاه هستند یا به احتمال بسیار زیاد خودآگاه‌اند. در حالی که درخواست توجه به رفاه هوش مصنوعی از عدم قطعیت، احتیاط و فروتنی در برابر دانسته‌های محدود ما سرچشمه می‌گیرد.» سیبو ادامه می‌دهد: «من هم فکر می‌کنم احتمال خودآگاهی در حال حاضر پایین است، اما در عین حال معتقدم این احتمال همین حالا هم صفر نیست و چه‌بسا آن‌قدر باشد که نتوان آن را نادیده گرفت. همچنین فکر می‌کنم باید انتظار داشته باشیم این احتمال به‌مرور زمان افزایش یابد.»
البته باید یادآور شد که بسیاری از کارشناسان با این دیدگاه مخالف‌اند. آن‌ها معتقدند احتمال خودآگاهی هوش مصنوعی در واقع صفر است و بعید است این وضعیت تغییر کند. با این حال، سیبو می‌گوید پاسخ مناسب به این عدم قطعیت، اتخاذ رویکردی سنجیده و متناسب است.
وقتی احتمال وقوع یک رویداد شدید آب‌وهوایی پایین اما قابل توجه باشد، بدون آنکه زندگی خود را زیرورو کنیم، اقدامات احتیاطی کوچکی انجام می‌دهیم. سیبو می‌گوید: «فکر می‌کنم در اینجا هم می‌توان همین کار را کرد.» به باور او، سیاست آنتروپیک درباره ممنوعیت رفتار ظالمانه با هوش مصنوعی نمونه خوبی از چنین رویکردی است؛ اقدامی محدود که پیامدهای منفی احتمالی چندانی ندارد.
سیبو می‌گوید توجه به رفاه هوش مصنوعی می‌تواند مزایای بالقوه دیگری نیز داشته باشد و برای بهره‌مند شدن از آن‌ها لازم نیست حتماً به خودآگاهی ماشین‌ها باور داشته باشیم.
او توضیح می‌دهد: «توجه مناسب به رفاه و حقوق هوش مصنوعی می‌تواند همزیستی، همکاری و رسیدن به توافق میان انسان و هوش مصنوعی را آسان‌تر کند. این رویکرد می‌تواند بخشی از یک راهبرد گسترده‌تر برای تأمین ایمنی باشد.» به اعتقاد او، چنین روشی ممکن است از برخورد با سامانه‌های هوش مصنوعی که روزبه‌روز پیچیده‌تر می‌شوند، صرفاً به‌عنوان دارایی و ملک انسان‌ها مؤثرتر باشد.
سیبو همچنین می‌گوید رفتار مهربانانه با دیگر موجودات اساساً «برای روح و روان خودمان مفید است» و به سلامت روان انسان‌ها نیز کمک می‌کند.
با این حال، سیبو می‌پذیرد که خطرات این رویکرد جدی است و در شرایط کنونی، منافع شرکت‌ها ممکن است مانع تدوین سیاست‌های سنجیده شوند. او معتقد است پیشبرد توسعه ابزارهای هوش مصنوعی که احتمال دارد دارای احساس و ادراک باشند، بدون داشتن برنامه‌ای محکم‌تر و جامع‌تر خطرناک است.
آنتروپیک و برخی دیگر از فعالان صنعت هوش مصنوعی اخیراً به دلیل نگرانی‌های ایمنی، خواستار «توقف موقت» توسعه مدل‌های پیشرفته و پیشرو شده‌اند. اما بدون همکاری بین‌المللی و تلاش برای وضع مقررات، بعید است سرعت توسعه این فناوری کاهش پیدا کند. دونالد ترامپ، رئیس‌جمهور آمریکا، نیز ایده قانون‌گذاری برای هوش مصنوعی را رد کرده است.
سیبو می‌گوید: «ما هنوز آمادگی نداریم نسخه‌های پیچیده‌تر این سامانه‌ها را به شکلی به کار بگیریم که برای انسان‌ها و دیگر حیوانات ایمن و سودمند باشند؛ چه برسد به اینکه بتوانیم ایمنی و منافع خود این سامانه‌ها را هم تضمین کنیم.» او در پایان تأکید می‌کند: «من به‌شدت نگران این مسائل هستم.»