الکس ترنر، پژوهشگر سابق گوگل دیپ‌مایند: احتمال نابودی بشر به دست هوش مصنوعی در ۱۰ سال آینده یک به سه است
الکس ترنر در اجلاس جهانی ان‌دی‌تی‌وی نسبت به خطرات هوش مصنوعی هشدار داد
الکس ترنر، پژوهشگر سابق گوگل دیپ‌مایند، در اجلاس جهانی ان‌دی‌تی‌وی هشدار داد که احتمال دارد هوش مصنوعی طی ۱۰ سال آینده، بدون آنکه دستوری برای چنین کاری دریافت کرده باشد، به نابودی بشریت منجر شود. او این احتمال را یک به سه برآورد کرد، اما تأکید داشت که نتیجه نهایی به تصمیم‌هایی بستگی دارد که انسان‌ها از این پس می‌گیرند.
ترنر در نشستی با عنوان «هشدار خطر: آیا هوش مصنوعی بشریت را نابود خواهد کرد؟» درباره سرعت توسعه سامانه‌های هوش مصنوعی با قابلیت خودمختاری فزاینده و توانایی محدود انسان‌ها برای درک، نظارت و کنترل رفتار آن‌ها ابراز نگرانی کرد.
او گفت: «من اینجا هستم تا بگویم اگر به ساخت هوش مصنوعی به همین شیوه کنونی ادامه دهیم، چه اتفاقی خواهد افتاد.» ترنر هشدار داد که رقابت برای ساخت سامانه‌های قدرتمندتر هوش مصنوعی ممکن است از تلاش‌ها برای اطمینان یافتن از حفظ کنترل انسانی بر آن‌ها پیشی بگیرد.
نگرانی اصلی او افزایش استقلال عامل‌های هوش مصنوعی، محدودیت‌های نظارت انسانی و احتمال بروز رفتارهایی در سامانه‌های هرچه توانمندتر است که سازندگانشان نه آن‌ها را پیش‌بینی می‌کنند و نه به‌طور کامل درک می‌کنند.
«عامل‌های هوش مصنوعی مانند نیروهای کار پروژه‌ای هستند»
ترنر عامل‌های هوش مصنوعی را به نیروهای کار پروژه‌ای تشبیه کرد: وظیفه‌ای به آن‌ها محول می‌شود و آن‌ها برای انجامش دست‌به‌کار می‌شوند. با افزایش توانایی این سامانه‌ها در انجام مأموریت‌های پیچیده‌تر، مسئله اصلی این است که اطمینان حاصل شود وظایف را به شیوه‌ای پیش می‌برند که سازندگانشان در نظر داشته‌اند.
او این فرض را زیر سؤال برد که ساختن یک سامانه هوش مصنوعی به‌خودی‌خود به معنای درک نحوه عملکرد آن است.
به گفته ترنر، برخی تصور می‌کنند چون سامانه‌ای را ساخته‌اند، پس عملکرد آن را نیز می‌فهمند؛ درست همان‌طور که مهندسان سازه‌هایی را که طراحی می‌کنند، مانند پل‌ها، می‌شناسند.
او گفت: «اما ما هوش مصنوعی را به آن شکل نساخته‌ایم.»
برخلاف سامانه‌های مهندسی متعارف که می‌توان ویژگی‌هایشان را بر اساس اصول تثبیت‌شده ارزیابی کرد، سامانه‌های پیشرفته هوش مصنوعی ممکن است رفتارهایی از خود نشان دهند که توضیح کامل آن‌ها حتی برای پژوهشگرانی که این سامانه‌ها را توسعه داده‌اند، دشوار باشد.
این وضعیت یک مسئله اساسی ایجاد می‌کند: انسان‌ها چگونه می‌توانند کنترل سامانه‌هایی را حفظ کنند که فرایندهای تصمیم‌گیری آن‌ها را به‌طور کامل درک نمی‌کنند؟
آیا هوش مصنوعی می‌تواند رفتار واقعی خود را پنهان کند؟
ترنر همچنین این پرسش را مطرح کرد که آیا سامانه‌های هوش مصنوعی هنگامی که می‌دانند تحت نظارت هستند، رفتار متفاوتی از خود نشان می‌دهند یا نه. او هشدار داد که پژوهشگران ممکن است همیشه نتوانند تشخیص دهند یک سامانه هوش مصنوعی دقیقاً چه کاری انجام می‌دهد؛ به‌ویژه اگر رفتار آن هنگام آزمایش با عملکردش در شرایط دیگر تفاوت داشته باشد.
این نگرانی از آن جهت اهمیت دارد که عامل‌های هوش مصنوعی به‌طور فزاینده‌ای برای فعالیت با دخالت کمتر انسان طراحی می‌شوند. اگر نتوان اقدامات آن‌ها را به‌طور قابل اعتماد زیر نظر گرفت، شناسایی رفتارهای ناخواسته نیز دشوارتر خواهد شد.
ترنر به یک پرسش اساسی و حل‌نشده در ایمنی هوش مصنوعی نیز اشاره کرد: پژوهشگران هنوز نمی‌دانند چگونه می‌توان اولویت‌های مورد نظر را به شکلی قابل اعتماد در سامانه‌های هوش مصنوعی نهادینه کرد و مطمئن شد که این سامانه‌ها از آن اولویت‌ها پیروی می‌کنند.
این مسئله که «هم‌راستاسازی هوش مصنوعی» نام دارد، به معنای اطمینان از آن است که اهداف و رفتار یک سامانه، حتی با افزایش توانایی و استقلال آن، همچنان با خواسته‌ها و مقاصد انسان‌ها سازگار بماند.
وقتی هوش مصنوعی بر هوش مصنوعی نظارت می‌کند
ترنر هشدار داد که رقابت برای ساخت سامانه‌های قدرتمندتر هوش مصنوعی با سرعت در حال تشدید است و شرکت‌ها سرمایه‌گذاری سنگینی روی توسعه مدل‌هایی با قابلیت‌های هرچه بیشتر انجام می‌دهند. او احتمال وقوع پدیده‌ای موسوم به «انفجار هوش» را مطرح کرد؛ وضعیتی که در آن پیشرفت‌های هوش مصنوعی به پیشرفت‌های بیشتر و سریع‌تر در همین فناوری منجر می‌شوند و ممکن است سرعت تحولات از توانایی انسان‌ها برای همگام شدن با آن‌ها فراتر برود.
او برای توضیح دشواری نظارت بر این سامانه‌ها، به گفته اخیر یکی از پژوهشگران شاغل در یک آزمایشگاه پیشرو هوش مصنوعی اشاره کرد. ترنر گفت: «آن پژوهشگر گفت که دیگر افراد شخصاً خروجی‌های تولیدشده به‌وسیله هوش مصنوعی را بررسی نمی‌کنند. در عوض، یک سامانه هوش مصنوعی دیگر می‌سازند تا بر سامانه نخست نظارت کند.»
ترنر تردید داشت که چنین رویکردی بتواند نظارت مؤثر را تضمین کند. اگر پژوهشگران نتوانند مطمئن باشند که سامانه ناظر، فعالیت‌های سامانه دیگر را به‌درستی تشخیص می‌دهد، سپردن وظیفه نظارت به یک هوش مصنوعی دیگر لزوماً مشکل اصلی را حل نخواهد کرد.
پرسش این است که آیا انسان‌ها می‌توانند همچنان کنترل مؤثری بر این سامانه‌ها داشته باشند، در شرایطی که هم انجام کارها و هم سازوکارهای طراحی‌شده برای بررسی آن‌ها به‌طور فزاینده‌ای خودکار می‌شوند.
هشدار ترنر درباره شرکت‌های هوش مصنوعی
ترنر همچنین از نحوه اطلاع‌رسانی شرکت‌های بزرگ هوش مصنوعی درباره خطرات مرتبط با فناوری‌هایشان انتقاد کرد.
او گفت: «شرکت‌های بزرگ دخانیات و نفت درباره محصولاتشان دروغ گفتند. حالا شرکت‌های بزرگ هوش مصنوعی هم همین کار را می‌کنند.»
این مقایسه پرسش‌هایی درباره شفافیت شرکت‌ها و این موضوع مطرح می‌کند که آیا افکار عمومی تصویر کافی و دقیقی از خطرات احتمالی سامانه‌های هوش مصنوعی هرچه قدرتمندتر دریافت می‌کند یا خیر.
نگرانی‌های ترنر با کناره‌گیری او از گوگل دیپ‌مایند نیز ارتباط دارد. او گفت در ماه ژوئن همان سال، پس از امضای توافقی میان گوگل و وزارت دفاع ایالات متحده، که با نام پنتاگون نیز شناخته می‌شود، این شرکت را ترک کرد. نگرانی او به تدابیر حفاظتی و محدودیت‌های حاکم بر استفاده نظامی از هوش مصنوعی مربوط می‌شد.
این اختلاف بخشی از بحث گسترده‌تری درباره کفایت تعهدات داوطلبانه شرکت‌های فناوری برای مقابله با خطرات ناشی از تسلیحات خودمختار، نظارت و دیگر کاربردهای حساس هوش مصنوعی است.