سناتورهای آمریکایی خواستار توقف توسعه ابرهوش مصنوعی شدند؛ هشدار درباره تهدید آینده بشریت
برنی سندرز، سناتور آمریکایی، هشدار داده است که برنامه‌های میلیاردرهای حوزه فناوری برای توسعه هوش مصنوعی می‌تواند آینده بشریت را تهدید کند. به گزارش آتلانتیک، او خواستار توقف موقت توسعه سامانه‌های پیشرفته هوش مصنوعی و ممنوعیت ساخت ابرهوش مصنوعی‌ای شده است که از توانایی‌های انسان فراتر می‌رود.
از نگاه سندرز، آینده بشریت بیش از پیش به تصمیم‌هایی وابسته شده است که گروه کوچکی از ثروتمندترین چهره‌های صنعت فناوری می‌گیرند. این افراد مبالغ هنگفتی در حوزه هوش مصنوعی سرمایه‌گذاری می‌کنند و هم‌زمان درباره سناریوهایی سخن می‌گویند که در آن‌ها انسان‌ها ممکن است با ماشین‌ها ادغام شوند یا جای خود را به آن‌ها بدهند.
این سناتور در یادداشتی پرسیده است: «آیا انسان‌ها باید همچنان کنترل سیاره زمین را در دست داشته باشند؟ یا باید به‌عنوان گونه غالب جای خود را به موجودات دیگری بدهیم؟»
برنامه‌های میلیاردرهای فناوری
سندرز به اظهارات مدیران شرکت‌های بزرگ فناوری اشاره کرده است که درباره آینده هم‌زیستی انسان و هوش دیجیتال سخن گفته‌اند.
از جمله، سم آلتمن، مدیرعامل اوپن‌ای‌آی، در سال ۲۰۱۷ نوشت که هوش مصنوعی ممکن است انسان را به نخستین گونه‌ای تبدیل کند که جانشینان خود را می‌سازد.
آلتمن دو سناریو را مطرح کرد: انسان‌ها ممکن است روند تکامل هوش دیجیتال را آغاز کنند و در نهایت نقش کمرنگ‌تری در فرایند تکامل داشته باشند، یا راهی پیدا کنند تا با موفقیت با ماشین‌ها ادغام شوند. او همچنین مطرح کرده بود که این فرایند ممکن است از قبل آغاز شده باشد.
داریو آمودی، مدیرعامل شرکت آنتروپیک، نیز پذیرفته است که مدل‌های هوش مصنوعی ممکن است آگاهی داشته باشند، هرچند این پرسش همچنان بی‌پاسخ مانده است.
سندرز همچنین به ایلان ماسک اشاره کرده است که از توسعه ابرهوشی حمایت می‌کند که بتواند فراتر از زمین گسترش یابد. از دید سندرز، چنین دیدگاه‌هایی نشان می‌دهند که برخی چهره‌های صنعت فناوری، بشریت را صرفاً مرحله‌ای گذرا در مسیر شکل‌گیری سامانه‌ای ابرهوشمند و مبتنی بر فناوری دیجیتال می‌دانند.
او از پیتر تیل، یکی از بنیان‌گذاران شرکت پالانتیر، نیز نام برده است. به گفته سندرز، زمانی که از این میلیاردر پرسیده شد آیا بشریت باید به حیات خود ادامه دهد، او نتوانست بلافاصله پاسخی صریح و قطعی بدهد.
ارتباط فراانسان‌گرایی با هوش مصنوعی
سندرز این دیدگاه‌ها را با فراانسان‌گرایی مرتبط می‌داند؛ جنبشی که طرفداران آن معتقدند فناوری به انسان امکان می‌دهد از محدودیت‌های زیستی کنونی خود فراتر برود.
این رویکرد می‌تواند شامل ایجاد گونه‌ای جدید یا ادغام بدن انسان با ماشین‌ها باشد. طرفداران چنین ایده‌هایی معتقدند شکل‌های آینده حیات ممکن است از نظر هوشی از انسان پیشی بگیرند، در فضا سفر کنند و حتی به جاودانگی دست یابند.
از نظر این سناتور، مسئله این است که این ایده‌ها تنها مورد توجه علاقه‌مندان به داستان‌های علمی‌تخیلی نیستند؛ بلکه کارآفرینان بانفوذی نیز از آن‌ها حمایت می‌کنند که منابع لازم برای عملی کردن بلندپروازی‌های خود را در اختیار دارند.
او همچنین تأکید کرده است که توانایی‌های هوش مصنوعی با سرعت زیادی در حال گسترش است. این سامانه‌ها می‌توانند زبان را پردازش کنند، مسائل پیچیده ریاضی را حل کنند و به‌طور فزاینده‌ای گفت‌وگوهای انسانی را با قانع‌کنندگی زیادی شبیه‌سازی کنند.
سندرز برای نشان دادن نزدیک‌تر شدن انسان و ماشین، به شرکت نورالینک متعلق به ایلان ماسک اشاره کرده است که در حال توسعه ایمپلنت‌های مغزی برای برقراری ارتباط با رایانه‌هاست.
نمونه دیگر، پیشنهادهایی برای تأسیس شرکت‌هایی است که به‌وسیله عامل‌های هوش مصنوعی اداره شوند و به حضور ذی‌نفعان انسانی نیاز نداشته باشند.
چرا سندرز خواستار محدود کردن توسعه هوش مصنوعی است؟
این سناتور استدلال می‌کند که جامعه لزوماً با چشم‌انداز آینده‌ای که مدیران شرکت‌های فناوری ترویج می‌کنند، موافق نیست.
او در یادداشت خود به نتایج نظرسنجی‌هایی اشاره کرده است که بر اساس آن‌ها، ۹۱ درصد آمریکایی‌ها معتقدند توسعه هوش مصنوعی به تدابیر حفاظتی نیاز دارد، ۷۴ درصد به مدیران شرکت‌های هوش مصنوعی اعتماد ندارند و ۷۳ درصد نگران‌اند که این فناوری بقای بشریت را تهدید کند.
سندرز همچنین به هشدارهای پاپ لئوی چهاردهم درباره توسعه فناوری‌هایی اشاره کرده است که ممکن است کرامت انسانی را تضعیف کنند. رهبر کاتولیک‌های جهان هشدار داده است که نباید انسان‌ها را به داده، چرخ‌دنده‌ای در یک ماشین یا کالایی قابل معامله تقلیل داد.
به گفته سندرز، پیتر تیل در واکنش به این مواضع، پاپ را عامل کمونیست‌های چین خوانده است.
سناتور چه محدودیت‌هایی را پیشنهاد می‌کند؟
سندرز خواستار توقف فوری توسعه سامانه‌های پیشرفته هوش مصنوعی و ممنوعیت ساخت ابرهوش مصنوعی تا زمانی شده است که تدابیر حفاظتی لازم برای اطمینان از ایمنی این فناوری فراهم شود.
محدودیت‌های پیشنهادی او شامل سامانه‌هایی می‌شود که از هر انسانی باهوش‌تر باشند و بتوانند به‌صورت خودمختار و خارج از کنترل انسان فعالیت کنند.
این سناتور گفته است که برای پیشبرد قانونی با هدف محدود کردن چنین توسعه‌ای، با گرگ کاسار، عضو مجلس نمایندگان آمریکا، همکاری می‌کند.
سندرز معتقد است نباید گروه کوچکی از میلیاردرها که انگیزه‌هایشان پول و قدرت است، درباره آینده هوش مصنوعی تصمیم بگیرند.
او بر این باور است که جامعه و نهادهای دموکراتیک باید برای توسعه فناوری محدودیت تعیین کنند تا انسان همچنان در مرکز این فرایند قرار داشته باشد.
پیش‌تر، دونالد ترامپ، رئیس‌جمهور آمریکا که فعالانه از توسعه هوش مصنوعی حمایت می‌کند، از تشکیل نهادی دولتی با عنوان «کارگروه ابرهوش» برای هماهنگ کردن سیاست‌های دولت در زمینه هوش مصنوعی خبر داده بود. جزئیات این خبر پیش‌تر منتشر شده است.
در همین حال، بیل گیتس، یکی از بنیان‌گذاران مایکروسافت، هشدار داده است که هوش مصنوعی ممکن است به رویدادهای فاجعه‌باری با تلفات گسترده منجر شود. او پیش‌تر درباره این خطر هشدار داده بود.