پژوهشگر سابق گوگل دیپ‌مایند هشدار داد: احتمال نابودی بشر به دست هوش مصنوعی در ۱۰ سال آینده یک‌سوم است
الکس ترنر، پژوهشگر سابق گوگل دیپ‌مایند، هشدار داده است که احتمال نابودی بشریت به دست هوش مصنوعی در ۱۰ سال آینده یک‌سوم است.
ترنر معتقد است با پیشرفته‌تر شدن سیستم‌های هوش مصنوعی و دشواری روزافزون درک رفتار آن‌ها برای دانشمندان، بشریت به نقطه‌ای سرنوشت‌ساز رسیده و باید درباره آینده خود تصمیم بگیرد.
او روز جمعه در اجلاس جهانی ان‌دی‌تی‌وی (NDTV World Summit) هشدار داد که هوش مصنوعی حتی بدون دریافت دستور برای نابودی انسان‌ها نیز ممکن است به چنین نتیجه‌ای منجر شود.
بااین‌حال، ترنر تأکید کرد: «همه‌چیز به این بستگی دارد که از این پس چه تصمیم‌هایی بگیریم. من اینجا هستم تا به شما بگویم اگر به ساخت هوش مصنوعی با روش‌های کنونی ادامه دهیم، چه اتفاقی خواهد افتاد.»
به گفته این پژوهشگر، رقابت شرکت‌های خصوصی برای ساخت سیستم‌های قدرتمندتر هوش مصنوعی ممکن است چنان سرعت بگیرد که توانایی دانشمندان برای کنترل این سیستم‌ها از پیشرفت آن‌ها عقب بماند.
دلیل این نگرانی، سرعت بسیار بالای پیشرفت فناوری است؛ تا جایی که حتی سازندگان سیستم‌های هوش مصنوعی نیز ممکن است نتوانند به‌درستی درک کنند چه چیزی ساخته‌اند و محصولشان چگونه رفتار می‌کند. در نتیجه، انسان‌ها شاید قادر نباشند اقدامات این سیستم‌ها را به‌طور کامل کنترل کنند.
ترنر توضیح داد که برخلاف مهندسانی که می‌توانند ساختارهای طراحی‌شده خود را بشناسند و نحوه عملکرد آن‌ها را توضیح دهند، شرکت‌های فعال در حوزه هوش مصنوعی ممکن است درک کاملی از سازوکار محصولات خود نداشته باشند.
به گفته او، سیستم‌های هوش مصنوعی هرچند توانایی انجام وظایف پیچیده‌تر را پیدا می‌کنند، لزوماً دستورهای انسان را به همان شکلی که مدنظر اوست اجرا نخواهند کرد.
از همین رو، پیش‌بینی و درک رفتار این فناوری دشوار است. این وضعیت با سیستم‌های مهندسی متعارف تفاوت دارد؛ سیستم‌هایی که می‌توان ویژگی‌ها و عملکردشان را بر اساس اصول علمی و مهندسی شناخته‌شده ارزیابی کرد.
ترنر گفت: «ما هوش مصنوعی را به این شکل نساخته‌ایم.» او همچنین هشدار داد که سیستم‌های هوش مصنوعی ممکن است وقتی متوجه می‌شوند زیر نظر هستند، رفتار متفاوتی نشان دهند؛ موضوعی که درک عملکرد واقعی آن‌ها را برای پژوهشگران دشوارتر می‌کند.
این مسئله می‌تواند نگرانی‌هایی را در برخی بخش‌ها برانگیزد، زیرا هوش مصنوعی در مقایسه با دیگر فناوری‌ها با نظارت انسانی کمتری توسعه می‌یابد. در چنین شرایطی، اگر وظیفه محول‌شده به یک سیستم پیچیده‌تر شود، ممکن است رفتاری برخلاف خواسته انسان از خود نشان دهد.
ترنر که در ماه ژوئیه، پس از امضای توافق‌نامه گوگل با پنتاگون برای استفاده از فناوری هوش مصنوعی این شرکت در فعالیت‌های محرمانه، از گوگل استعفا داد، گفت یکی از پیامدهای احتمالی این روند آن است که هوش مصنوعی به پیشرفت خود شتاب ببخشد و همراه شدن انسان با سرعت توسعه آن دشوارتر شود.
او این پدیده را «انفجار هوش» نامید و هشدار داد که نشانه‌های آن از همین حالا قابل مشاهده است.
این پژوهشگر سابق گوگل گفت یکی از دانشمندان شاغل در آزمایشگاه دیگری در حوزه هوش مصنوعی به او گفته است که این فناوری هم‌اکنون در حال «نظارت» بر عملکرد خود است. به گفته ترنر، این موضوع نشان می‌دهد که هوش مصنوعی ممکن است به مرحله‌ای از نظارت بر خود رسیده باشد و بتواند بدون دخالت انسان عملکردش را بهبود دهد.
ترنر به نقل از آن پژوهشگر توضیح داد: «او گفت که دیگر انسان‌ها شخصاً کارهای تولیدشده به دست هوش مصنوعی را بررسی نمی‌کنند.»
او افزود: «در عوض، یک سیستم هوش مصنوعی دیگر می‌سازند تا بر سیستم اول نظارت کند.»
ترنر در بخش دیگری از سخنانش هشدار داد: «شرکت‌های بزرگ دخانیات درباره سرطان ریه دروغ گفتند. شرکت‌های بزرگ نفتی درباره تغییرات اقلیمی دروغ گفتند. حالا هم بخشی از شرکت‌های بزرگ هوش مصنوعی ادعا می‌کنند که این خطرات ساختگی هستند.»
این هشدارها در حالی مطرح می‌شود که بیل گیتس ماه گذشته گفته بود اگر انسان‌ها در روند پیشرفت هوش مصنوعی مداخله نکنند، این فناوری ممکن است به مرگ یک میلیارد نفر منجر شود.
گیتس گفته بود: «هوش مصنوعی قطعاً آن‌قدر قدرتمند است که بتواند رویدادهایی را رقم بزند که به مرگ یک میلیارد نفر منجر شوند.»
او افزود: «بنابراین، هرچند رسیدن به نابودی صددرصد بشریت بسیار دشوار است، تاکنون هیچ سلاحی به اندازه ترکیب انسان‌های بدخواه با جدیدترین ابزارهای هوش مصنوعی قدرتمند نبوده است.»
بنیان‌گذار مایکروسافت همچنین در پاسخ به پرسش ولکر درباره اینکه «چه چیزی می‌تواند به‌طور مشخص از وقوع فجایع ناشی از هوش مصنوعی جلوگیری کند؟»، ظاهراً راهکارهای احتمالی برای مقابله با این خطرات را مطرح کرد.
او هشدار داد که هوش مصنوعی ممکن است تشخیص تفاوت میان دانشمندانی را که برای ساخت داروهای نجات‌بخش تلاش می‌کنند و افراد بدخواهی را که به دنبال تولید سلاح‌های بیولوژیکی هستند، به شکلی خطرناک دشوار کند.
گیتس به ولکر گفت: «ای کاش تشخیص نیت خوب، مثلاً اینکه کسی بگوید می‌خواهم داروی جدیدی برای یک بیماری طراحی کنم، از نیت بد، یعنی اینکه بگوید می‌خواهم ابزاری برای تروریسم بیولوژیکی بسازم، آسان‌تر بود.»
این هم‌بنیان‌گذار مایکروسافت همچنین استدلال کرد که خطرات احتمالی هوش مصنوعی، نظارت سخت‌گیرانه بر سیستم‌های پیشرفته آن را ضروری می‌سازد. او از ایالات متحده خواست در ایجاد سازوکارهای حفاظتی برای این فناوری پیشگام شود.
گیتس گفت: «چون این دو کاربرد بسیار به یکدیگر نزدیک هستند، لازم است بر هر مدل پیشرفته‌ای نظارت کنیم و دقیقاً ثبت کنیم که چه اقداماتی با آن انجام می‌شود.»
اظهارات گیتس پس از آن مطرح شد که دونالد ترامپ ادعا کرده بود آمریکا در رقابت هوش مصنوعی از چین پیشتاز است و پیش‌بینی‌ها درباره کشته شدن انسان‌ها به دست این فناوری «محقق نخواهد شد».
ترامپ گفته بود: «ما در زمینه هوش مصنوعی از چین جلوتر هستیم. ما پیشرفته‌ترین کشور جهان هستیم و صادقانه بگویم، می‌خواهم این جایگاه را حفظ کنیم؛ زیرا هرکس در رقابت هوش مصنوعی پیروز شود، برنده خواهد بود.»
پیش‌تر نیز در اوایل سپتامبر، جیکوب کاکسون، افشاگر شرکت آنتروپیک، درباره این «فناوری خطرناک» هشدار داده بود؛ فناوری‌ای که به باور او به نابودی بشریت منجر خواهد شد.
او گفته بود: «متأسفانه ما کم‌وبیش می‌دانیم چگونه سلاح‌های هسته‌ای را کنترل کنیم، اما هنوز نمی‌دانیم چگونه هوش مصنوعی را تحت کنترل درآوریم.»