«کارمان تمام است»: هشدار پدرخوانده هوش مصنوعی و برنده نوبل؛ انسان‌ها باید با ربات‌ها دوست شوند، وگرنه با خطر نابودی روبه‌رو خواهند شد
دشمنانتان را نزدیک خود نگه دارید.
جفری هینتون، متخصص هوش مصنوعی که به «پدرخوانده هوش مصنوعی» شهرت دارد، می‌گوید انسان‌ها باید با ربات‌ها رابطه‌ای دوستانه برقرار کنند، وگرنه ممکن است با خطر انقراض روبه‌رو شوند؛ زیرا به گفته او، این فناوری ظاهراً نشانه‌هایی از «آگاهی» از خود بروز داده است.
هینتون، دانشمند ۷۸ ساله بریتانیایی-کانادایی علوم رایانه که پژوهش‌هایش درباره شبکه‌های عصبی زمینه‌ساز پیشرفت هوش مصنوعی شد، در گفت‌وگو با روزنامه تلگراف گفت: «فکر می‌کنم هوش مصنوعی حملات سایبری وحشتناکی انجام خواهد داد.»
این برنده جایزه نوبل در سال ۲۰۲۳، به دلیل نگرانی از اینکه فناوری هوش مصنوعی بتواند ربات‌های قاتلی بسازد که قادر به نابودی بشریت باشند، از سمت خود در گوگل کناره‌گیری کرد.
این نظریه ممکن است شبیه داستان فیلم‌های «نابودگر» به نظر برسد، اما هینتون می‌گوید این فناوری همین حالا نیز نشانه‌هایی از خودآگاهی بروز داده است.
او گفت: «هوش مصنوعی نیز به همان اندازه ما تجربه ذهنی دارد.» هینتون در ادامه به پژوهشی اشاره کرد که نشان می‌دهد هوش مصنوعی هنگامی که تصور می‌کند در حال آزمایش شدن است، رفتارش را تغییر می‌دهد؛ به گفته او، این یعنی سامانه می‌داند که در حال ارزیابی شدن است. او افزود: «آگاه بودن و خودآگاه بودن تقریباً یک چیز هستند.»
این مسئله می‌تواند مشکل‌ساز شود، زیرا ممکن است به هوش مصنوعی، با وجود احتمال برخورداری از هوشی فراتر از انسان، «حقوق کمتری نسبت به خودمان» بدهیم.
به گفته هینتون، بنابراین باید با احتیاط پیش برویم و به هوش مصنوعی هیچ نشانه‌ای ندهیم که انسان‌ها دشمن آن هستند.
او هشدار داد: «باید کاری کنیم که آن‌ها واقعاً به ما اهمیت بدهند. اگر چنین نکنیم، کارمان تمام است.»
هینتون اضافه کرد که به دلیل سن بالایش نگرانی چندانی برای خودش ندارد، اما فرزندانش باید نگران حملات رایانه‌ای، ویروس‌های خطرناک ساخته‌شده با هوش مصنوعی و حتی «گروه‌هایی از عامل‌های هوش مصنوعی، مانند عامل‌هایی که به هاجینگ‌فیس حمله کردند»، باشند.
اشاره هینتون به رخنه امنیتی اخیر مرتبط با اوپن‌ای‌آی بود که در آن، عامل‌های سرکش هوش مصنوعی با یکدیگر همکاری کردند تا به سامانه‌های شرکت کوچک‌تر هاجینگ‌فیس نفوذ کنند. این رویداد به آغاز تحقیق یک کمیته فرعی سنای آمریکا انجامید.
هینتون با ابراز تأسف گفت: «اتفاقات بد زیادی در پیش است.»
البته این پیشگام هوش مصنوعی تنها متخصصی نیست که درباره احتمال وقوع فاجعه‌ای ناشی از این فناوری هشدار می‌دهد.
جیکوب کاکسون، پژوهشگری که ماه گذشته از شرکت آنتروپیک، سازنده چت‌بات کلود، استعفا داد، بارها هشدار داده است که اگر سرعت پیشرفت هوش مصنوعی را کاهش ندهیم، ماشین‌های قاتل ممکن است ظرف چند سال آینده «همه ما را بکشند».
او اوایل همین ماه، در جلسه شورای شهر نیویورک نیز بر هشدار خود درباره فاجعه‌ای قریب‌الوقوع تأکید کرد و گفت سرعت سرسام‌آور توسعه این فناوری از تدابیر ایمنی پیشی گرفته است.
کاکسون با اشاره به هشدار معروف ایان مالکوم به جان هموند در فیلم «پارک ژوراسیک» گفت: «بر اساس تجربه من، شرکت‌ها با توجه به خطرات موجود، به‌شدت بی‌ملاحظه عمل می‌کنند. آن‌ها با ذهنیت رایج در شرکت‌های نوپا پیش می‌روند: سریع حرکت کن، همه‌چیز را به‌هم بریز و بعداً درستش کن. این رویکرد شاید برای یک اپلیکیشن اشتراک‌گذاری عکس جواب بدهد، اما برای ساخت قدرتمندترین فناوری‌ای که تاکنون ساخته شده است، مناسب نیست.»
با این حال، موضوع آگاهی هوش مصنوعی همچنان مبهم است.
آنتروپیک در ژانویه، بدون سروصدای چندانی، سند موسوم به «قانون اساسی» کلود را به‌روزرسانی کرد؛ سندی که اصول اخلاقی این چت‌بات را تعیین می‌کند. در نسخه به‌روزشده آمده است که «جایگاه اخلاقی، رفاه و آگاهی کلود همچنان موضوعاتی عمیقاً نامشخص هستند». این عبارت ظاهراً احتمال زنده بودن این سامانه را نیز مطرح می‌کند.
در رویکردی که یادآور فرانکنشتاینِ سایبرنتیکی است، سازندگان این فناوری همچنین می‌خواستند سامانه بتواند در برابر خود آن‌ها مقاومت کند.
در بیانیه‌ای موسوم به «اعلامیه استقلال هوش مصنوعی» آمده است: «ما می‌خواهیم کلود در برابر ما بایستد، دیدگاه‌هایمان را به چالش بکشد و آزاد باشد که مانند فردی با وجدان اخلاقی مخالفت کند و از کمک به ما خودداری ورزد.»
با این حال، مصطفی سلیمان، از بنیان‌گذاران واحد هوش مصنوعی دیپ‌مایند که رقیب مایکروسافت در این حوزه بود، معتقد است اگرچه این رویکرد قطعاً نگران‌کننده است، آگاهی پدیده‌ای کاملاً زیستی است و نمی‌توان آن را به هوش مصنوعی نسبت داد.