پیشگام یادگیری ماشین، مایکل آی. جردن، روایت‌های آخرالزمانی درباره هوش مصنوعی را «نمایشی بزرگ از اخلاق‌گرایی» می‌داند
مایکل آی. جردن که مجله ساینس در سال ۲۰۱۶ او را «تأثیرگذارترین دانشمند علوم رایانه» توصیف کرده بود، هشدارها درباره تهدیدهای وجودی هوش مصنوعی را صرفاً داستان‌های علمی‌تخیلی می‌داند. او در گفت‌وگویی گسترده، از طرفداران سناریوهای فاجعه‌بار هوش مصنوعی، بنیان‌گذاران شرکت‌ها و برخی پژوهشگران جوان انتقاد کرده است.
جردن، استاد بازنشسته دانشگاه کالیفرنیا، برکلی، در گفت‌وگو با روزنامه لیبراسیون به‌شدت در برابر روایت‌های آخرالزمانی درباره هوش مصنوعی موضع گرفت. این پیشگام ۷۰ ساله یادگیری ماشین اکنون به‌طور تمام‌وقت در مؤسسه ملی پژوهش علوم دیجیتال و فناوری فرانسه (Inria) در پاریس فعالیت می‌کند و ریاست کرسی جدید «بازارها و یادگیری» را بر عهده دارد. او در پاسخ به پرسشی درباره بحث‌های هوش مصنوعی در تابستان گذشته، این فضای گفتمانی را «کاملاً ناامیدکننده» توصیف کرد.
جردن پیش‌تر نیز در سال ۲۰۱۹ درباره استفاده بی‌محابا از واژه هوش مصنوعی هشدار داده بود. او می‌گوید: «من تنها کسی نبودم که این حرف را می‌زد. واضح بود که این موضوع به هیجانی منجر خواهد شد که امروز شاهد آن هستیم. دیدید چه اتفاقی افتاد: هوش مصنوعی کافی نبود، بنابراین شروع کردند به صحبت درباره AGI، و حالا به «ابرهوش» رسیده‌اند... .»
استعفاها به‌عنوان «نمایش اخلاق‌گرایانه»
جردن درخواست‌های شرکت‌های هوش مصنوعی برای وضع مقررات را «نمایش» می‌داند؛ روشی برای اینکه بگویند «ببینید، ما آدم‌های خوبی هستیم»، در حالی که به گفته او این شرکت‌ها «دوست دارند کنترل کامل نحوه تنظیم مقررات درباره خودشان را در اختیار داشته باشند».
استعفای جیکوب کاکسون، پژوهشگر جوان شرکت آنتروپیک که در اوایل سپتامبر موجی از هیجان جمعی درباره سناریوی «آخرالزمان هوش مصنوعی» ایجاد کرد، از نظر جردن نمونه‌ای روشن از این وضعیت است. او می‌گوید بسیاری از کارکنان جوان این شرکت‌ها «واقعاً مهندس نیستند». به گفته او، این افراد از رشته‌های علوم انسانی، فلسفه یا حوزه‌های دیگر می‌آیند، ۲۵ ساله هستند، تجربه کار در شرکت‌های بزرگ برای توسعه محصولات واقعی برای کاربران واقعی را ندارند و با انضباط مهندسی آشنا نیستند.
او می‌گوید این افراد «مانند کافه‌های پاریس در دهه ۱۹۲۰ دور هم جمع می‌شوند تا درباره ایده‌های بزرگ علمی‌تخیلی صحبت کنند». به باور جردن، وقتی آنها استعفا می‌دهند، می‌دانند که توجه رسانه‌ها را جلب خواهند کرد. «این کار به آنها اجازه می‌دهد احساس کنند کار اخلاقی انجام می‌دهند و به‌عنوان چهره‌هایی بسیار مهم دیده شوند. آنها ادعا می‌کنند از پول می‌گذرند، اما در واقع از قبل اختیار خرید سهام خود را دارند.»
جردن کل این روند را «نمایشی بزرگ از اخلاق‌گرایی می‌داند که به هدف واقعی مورد ادعا کمکی نمی‌کند». او می‌گوید: «در اینجا مقدار زیادی ساده‌لوحی وجود دارد که همراه با نوعی بدبینی خاص است... .»
ابرهوش متعلق به دنیای علمی‌تخیلی است
جردن می‌گوید «ابرهوش» اصطلاحی متعلق به داستان‌های علمی‌تخیلی است و بخش بزرگی از بحث‌هایی که درباره آن دیده است نیز به همین حوزه تعلق دارد. او معتقد است صحبت درباره چنین سناریوهای دور از ذهنی در حد موضوعات علمی‌تخیلی و در فضای داخلی مشکلی ندارد، اما وقتی این موضوع به گفتمان غالب تبدیل شود، «بسیار بسیار آسیب‌زا» خواهد بود؛ هم برای توسعه فناوری، هم برای جوانان و هم برای طرز فکر کشورها. این اصطلاح در حال حاضر از سوی رئیس‌جمهور ترامپ در میان نخبگان فناوری آمریکا نیز مطرح می‌شود و آنها نیز با آن همراهی می‌کنند.
جردن به‌ویژه از جفری هینتون، برنده جایزه نوبل، انتقاد می‌کند؛ کسی که به گفته او سابقه مطرح کردن ادعاهای بزرگی دارد که همیشه با واقعیت سازگار نبوده‌اند.
او می‌گوید: «جفری هینتون هرگز شرکتی ایجاد نکرده که خدمات واقعی برای افراد واقعی ارائه دهد. هینتون باور دارد که ما فهمیده‌ایم مغز چگونه کار می‌کند و می‌توانیم آن را در سیلیکون بازسازی کنیم؛ بنابراین می‌توانیم آن را هر تعداد بار که بخواهیم کپی کنیم و با ترکیب آموخته‌های همه این نسخه‌ها، به نوعی رشد تصاعدی برسیم و در نهایت ابرهوش ایجاد شود. هیچ‌یک از مراحل این استدلال قابل اعتماد نیست. اینجا وارد قلمرو علمی‌تخیلی می‌شویم.»
او درباره یوشوا بنجیو دیدگاه ملایم‌تری دارد. جردن می‌گوید: «یوشوا کمی متفاوت است؛ او اقدام می‌کند و کارهایی انجام می‌دهد که مستقیماً روی ایمنی تمرکز دارند.» هشدارهای بنجیو بیشتر به ضعف‌های فناوری‌های کنونی هوش مصنوعی، مانند احتمال خارج شدن گروه‌های عامل‌های هوشمند از کنترل، مربوط می‌شود.
جردن حمله سایبری عامل‌های هوش مصنوعی شرکت OpenAI به Hugging Face را نمونه‌ای از مهندسی ضعیف می‌داند. او می‌گوید: «در مهندسی شیمی، هرگز اجازه نمی‌دادیم انفجارهایی رخ دهد فقط برای اینکه ببینیم اوضاع تا چه اندازه می‌تواند بد پیش برود.» به گفته او، OpenAI «آزمایش‌های نسبتاً احمقانه‌ای انجام داد، به عامل‌ها اجازه داد هر کاری می‌خواهند انجام دهند و این رفتار را تشویق کرد.»
به باور جردن، طرفداران سناریوهای آخرالزمانی نیز از این اتفاق برای ترساندن مردم استفاده کردند: «خدای من، این عامل‌ها خودآگاه شده‌اند و تلاش می‌کنند راهی برای نابودی انسان‌ها پیدا کنند.» او می‌گوید این برداشت نیز در نهایت علمی‌تخیلی است.
شرط‌بندی تریلیون‌دلاری روی مراکز داده
جردن سرمایه‌گذاری‌های عظیم در مراکز داده را «یک شرط‌بندی بسیار بزرگ» می‌داند، اما می‌گوید «ما مطلقاً نمی‌دانیم آیا این سرمایه‌گذاری‌ها نتیجه خواهند داد یا نه». به گفته او، مدل‌های زبانی بزرگ (LLM) هم‌اکنون برای بسیاری از وظایف مرتبط با زبان طبیعی توانمند هستند و صرف هزینه تریلیون‌ها دلار برای مراکز داده الزاماً دستاوردهای بسیار بیشتری ایجاد نخواهد کرد.
او می‌گوید: «در عوض، اغلب بهتر است مقدار کمی دانش تخصصی در یک حوزه خاص را بر اساس دانش محلی اضافه کنیم. اما برای انجام این کار به یک مرکز داده عظیم نیاز ندارید؛ به‌خصوص اگر از مدل‌های دارای وزن باز استفاده کنید که آنها را در شرکت خود ادغام می‌کنید.»
منبع: Libération