هم‌بنیان‌گذار آنتروپیک هشدار داد: هوش مصنوعی ممکن است از کنترل انسان خارج شود
البوابه — جک کلارک، هم‌بنیان‌گذار آنتروپیک، هشدار داده است که هوش مصنوعی ممکن است با ادامه پیشرفت خود از کنترل انسان خارج شود. او از دولت‌ها خواست پیش از آنکه فرصت اقدام محدودتر شود، برای تدوین تدابیر حفاظتی با یکدیگر همکاری کنند.
کلارک روز شنبه، ۱۷ اکتبر، در نشست‌های سالانه صندوق بین‌المللی پول و بانک جهانی در بانکوک، خواستار هماهنگی بین‌المللی برای وضع «قواعدی نامتعارف و جدی» شد. خبرگزاری رویترز این اظهارات را گزارش کرده است.
هشدار او به مسیر پیشرفت و توسعه هوش مصنوعی مربوط می‌شد، نه اعلام این موضوع که سامانه‌های فعلی از نظارت انسان خارج شده‌اند.
پیامدهای این تحول می‌تواند بازار کار و رشد اقتصادی را نیز دربر بگیرد. پژوهش‌های منتشرشده آنتروپیک چندین آینده احتمالی را بررسی می‌کنند؛ از افزایش تدریجی بهره‌وری گرفته تا دگرگونی عمیق اقتصاد بر اثر گسترش سامانه‌هایی که به‌طور فزاینده‌ای مستقل عمل می‌کنند.
این شرکت تأکید می‌کند که این سناریوها پیش‌بینی‌های قطعی نیستند، بلکه به تحقق شرایط مشخصی بستگی دارند. نتایج احتمالی به سرعت پیشرفت هوش مصنوعی و میزان استفاده گسترده کسب‌وکارها از این فناوری وابسته است.
هم‌بنیان‌گذار آنتروپیک این تصور را که نمی‌توان برای هوش مصنوعی مقررات وضع کرد، به چالش می‌کشد: «انگار داریم درباره اختراع نسبیت عام یا چیزی شبیه به آن صحبت می‌کنیم» و بعد می‌گوییم «اینکه چطور باید فناوری را تنظیم و کنترل کرد، معمایی کاملاً حل‌ناشدنی است». او یادآوری می‌کند که مقررات همه‌جا وجود دارند و خودروها، محیط‌های اداری و مواد غذایی نیز به‌شدت تحت نظارت مقرراتی قرار دارند. چالش اصلی، احتمالاً نه امکان قانون‌گذاری برای هوش مصنوعی، بلکه سرعت پیشرفت آن است؛ زیرا بحث‌های تخصصی و عمومی درباره این فناوری تقریباً هم‌زمان با توسعه خود آن جریان دارند. در هر صورت، خلاصه حرف این است که مقررات‌گذاری در راه است، چه بخواهیم و چه نخواهیم.
— الکس (۱۷ اکتبر ۲۰۲۶)
در افراطی‌ترین سناریویی که بررسی شده است، هوش مصنوعی در بیشتر وظایف فکری و تخصصی از انسان‌ها بهره‌ورتر می‌شود. این تحول می‌تواند تولید اقتصادی را به‌شدت افزایش دهد، اما هم‌زمان فرصت‌های شغلی را در مشاغل مربوط به این وظایف کاهش دهد.
در سناریوهای معتدل‌تر، افزایش بهره‌وری محدودتر است و نرخ بیکاری در محدوده‌های مشاهده‌شده در گذشته باقی می‌ماند.
پژوهش‌های آنتروپیک به یک احتمال دشوار نیز اشاره می‌کنند: حتی اگر اقتصاد ثروتمندتر شود، ممکن است وضعیت بسیاری از کارکنان بدتر شود، مگر آنکه منافع حاصل از این پیشرفت به‌طور گسترده میان افراد تقسیم شود. بنابراین، بحث درباره کنترل هوش مصنوعی را نمی‌توان از تصمیم‌گیری درباره چگونگی توزیع منافع توسعه آن جدا کرد.