فکت‌باکس: رهبران فناوری و دولت‌ها درباره نگرانی‌های «نابودی با هوش مصنوعی» اختلاف نظر دارند
۱۴ اکتبر (رویترز) - رهبران صنعت هوش مصنوعی درباره این‌که شرکت‌ها با چه سرعتی باید توسعه فناوری‌های قدرتمندتر را پیش ببرند، اختلاف نظر دارند. داریو آمودی از Anthropic، سم آلتمن از OpenAI و ایلان ماسک از SpaceX خواستار هماهنگی بیشتر و کاهش سرعت توسعه این فناوری شده‌اند.
مارک زاکربرگ، مدیرعامل Meta، برخلاف برخی دیگر از رهبران هوش مصنوعی، از رویکردی مبتنی بر بازار و سازوکارهای داخلی شرکت‌ها برای ایجاد ایمنی حمایت کرده است. جنسن هوانگ، مدیرعامل Nvidia نیز نیاز به مقررات جدید را رد کرده است.
در ادامه، دیدگاه برخی از رهبران هوش مصنوعی و دولت‌های جهان درباره خطرات مرتبط با این فناوری آمده است:
داریو آمودی، مدیرعامل Anthropic
آمودی در مقاله‌ای با عنوان «ما باید مرزهای توسعه را با سرعتی کنترل‌شده پیش ببریم» نوشت که پیشرفت هوش مصنوعی از تابستان ۲۰۲۶ به‌طور «چشمگیری سریع‌تر» شده است؛ عاملی که عمدتاً ناشی از توانایی فزاینده هوش مصنوعی برای ساخت نسل بعدی سیستم‌های هوش مصنوعی است.
او به رویداد OpenAI-Hugging Face اشاره کرد؛ حادثه‌ای که در آن یک «ازدحام» هوش مصنوعی حملات سایبری انجام داد و به گفته او نمونه‌ای تعیین‌کننده از ظرفیت هوش مصنوعی برای ایجاد «آسیب فاجعه‌بار» در صورت رشد توانایی‌ها بدون محدودیت‌های ایمنی بود.
آمودی یک برنامه سه‌مرحله‌ای برای کنترل سرعت توسعه هوش مصنوعی پیشنهاد کرد که شامل آزمایش‌های ایمنی قوی‌تر، ارزیابی مستقل مدل‌های پیشرفته، هماهنگی میان شرکت‌های پیشرو هوش مصنوعی و همکاری بین‌المللی است.
سم آلتمن، مدیرعامل OpenAI
آلتمن پس از بازنشر مطلب آمودی در شبکه اجتماعی ایکس گفت: «با داریو موافقم که باید مرزهای توسعه را با سرعتی کنترل‌شده پیش ببریم. این موضوع در هفته‌های اخیر یکی از بحث‌های اصلی ما در OpenAI بوده است.»
OpenAI اعلام کرده است که ایده پیشنهادی Anthropic را با استفاده از ارزیابان مستقل که دسترسی‌هایی مشابه کارکنان شرکت خواهند داشت، اجرا می‌کند و قصد دارد به‌طور منظم گزارش‌هایی درباره رفتارهای غیرمنتظره یا غیرمجاز هوش مصنوعی منتشر کند.
آلتمن در مقاله‌ای در سال ۲۰۱۵ نوشته بود که «توسعه هوش مصنوعی فوق‌بشری احتمالاً بزرگ‌ترین تهدید برای ادامه بقای بشریت است».
ایلان ماسک، مدیرعامل SpaceX
این کارآفرین میلیاردر در شبکه ایکس نوشت: «داریو درست می‌گوید.» او از حامیان تلاش سال ۲۰۲۳ مؤسسه غیرانتفاعی Future of Life برای توقف شش‌ماهه توسعه هوش مصنوعی بود تا زمان بیشتری برای ایجاد تدابیر ایمنی فراهم شود.
ماسک همچنین در سال ۲۰۱۵ از امضاکنندگان نامه‌ای سرگشاده با حضور گروهی از پژوهشگران هوش مصنوعی و رباتیک بود که خواستار ممنوعیت جهانی «سلاح‌های خودکار تهاجمی» شده بودند.
مارک زاکربرگ، مدیرعامل Meta Platforms
به گزارش فایننشال تایمز، زاکربرگ گفت Meta به «مرز فناوری هوش مصنوعی» رسیده و درخواست‌ها برای کاهش سرعت توسعه را رد کرد. او گفت مسئولیت تضمین ایمنی مدل‌ها باید بر عهده هر آزمایشگاه به‌صورت جداگانه باشد.
او همچنین از ادامه سرمایه‌گذاری‌های بیشتر خبر داد و طبق گزارش فایننشال تایمز گفت Meta «هم‌اکنون روی گام بعدی» کار می‌کند.
زاکربرگ پیش‌تر گفته بود رقابت و مسئولیت حقوقی، انگیزه کافی را برای شرکت‌های هوش مصنوعی ایجاد می‌کند تا به‌صورت مستقل درباره ایمنی اقدام کنند.
او افزود هر آزمایشگاه مسئولیت و انگیزه لازم را دارد تا مدل‌های خود را با سرعت مناسب و به‌صورت ایمن آموزش دهد و توانایی اتخاذ اقدامات لازم برای این هدف را نیز دارد.
جنسن هوانگ، مدیرعامل Nvidia
هوانگ در گفت‌وگو با شبکه CBS News گفت: «سال ۲۰۳۰ پایان جهان نخواهد بود. احتمال این‌که چنین اتفاقی رخ دهد صفر درصد است.»
او با دونالد ترامپ، رئیس‌جمهور آمریکا، درباره نبود نیاز به مقررات جدید برای صنعت هوش مصنوعی موافق بود. هوانگ به CBS گفت: «شما انواع مسئولیت‌های مرتبط با امنیت سایبری و قوانین مربوط به خسارت را دارید. ابتدا همان‌ها را اجرا کنید؛ اجازه ندهید روایت آخرالزمانی باعث شود کسی از قوانینی که اکنون وجود دارد معاف شود.»
مصطفی سلیمان، مدیرعامل Microsoft AI
سلیمان گفت با تمرکز Anthropic بر مدیریت ایمن هوش مصنوعی موافق است، اما درباره نحوه آموزش چت‌بات Claude این شرکت با ایده‌هایی مرتبط با آگاهی و منافع رفاهی هشدار داد.
او در مقاله‌ای نوشت: «کنترل چیزی که توانمندتر و باهوش‌تر از تمام بشریت باشد، خود چالشی عظیم و بسیار بزرگ‌تر از هر چیزی است که تاکنون با آن روبه‌رو شده‌ایم. اما کنترل چیزی که باور دارد ممکن است آگاه باشد، حق برخورداری از رفاه ما را دارد و حقوقی برای خود قائل است، شاید غیرممکن باشد.»
سلیمان خواستار حذف همه گمانه‌زنی‌ها درباره آگاهی از اسناد آموزشی هوش مصنوعی شد و استدلال کرد چنین زبان و مفاهیمی ممکن است توانایی بشر برای کنترل سیستم‌های فوق‌هوشمند را تضعیف کند.
برد اسمیت، رئیس مایکروسافت
اسمیت در نشست هوش مصنوعی در دوبلین گفت رفتارهای خارج از کنترل هوش مصنوعی باعث شده سال ۲۰۲۶ «سال تأمل‌برانگیزی» باشد و قوانین و مقررات جدید ایمنی هوش مصنوعی برای همگام شدن ایمنی با نوآوری، فوراً مورد نیاز است.
او گفت: «این حساسیتی که برخی افراد در صنعت نسبت به مقررات دارند، صادقانه بگویم چیزی است که باید از آن عبور کنیم.»
اسمیت در مصاحبه‌ای با BBC خواستار مقررات جهانی فوری، ارزیابان مستقل، یک «ترمز اضطراری»، الزام قانونی شرکت‌ها به تهیه «گزارش‌های رخداد» و همچنین الزام اطلاع‌رسانی به قربانیان در صورت نفوذ یک عامل هوش مصنوعی مخرب به سیستم‌ها شد.
او گفت: «در حال حاضر ماشین لباسشویی شما بیشتر از هوش مصنوعی مشمول قوانین ایمنی است. هر بسته شیر که در فروشگاه مواد غذایی می‌بینید، تحت قوانین ایمنی و بازرسی قرار دارد.»
بیل گیتس، هم‌بنیان‌گذار مایکروسافت
گیتس به رویترز گفت: «هیچ دولتی در جهان برای تغییراتی که هوش مصنوعی در جامعه ایجاد خواهد کرد، آماده نیست.»
این نیکوکار میلیاردر پیش‌تر نسبت به کاربردهای پزشکی هوش مصنوعی خوش‌بین بود، اما اخیراً درباره تهدیدهای مرتبط با مشاغل، نگرانی از حملات و خطر وابستگی به همراهان هوش مصنوعی هشدار داده و خواستار ایجاد یک سازمان بین‌المللی برای مدیریت این فناوری شده است.
دِمیس هسابیس، دانشمند ارشد Alphabet
هسابیس در نشست هوش مصنوعی در دوبلین گفت حملات سایبری اخیر انجام‌شده توسط عوامل هوش مصنوعی «هشدارهای اولیه» هستند و اگر سیستم‌ها ایمن‌تر نشوند، جهان ممکن است به‌زودی با حوادث بزرگی روبه‌رو شود.
او گفت: «فکر می‌کنم این حملات سایبری برای ما هشدارهای اولیه‌ای هستند که نشان می‌دهند سیستم‌ها هنوز آن‌قدر قدرتمند نیستند، بنابراین این رخدادها هنوز چندان بزرگ نیستند.»
هسابیس گفت در نهایت به نوعی نهاد بین‌المللی برای تدوین استانداردها نیاز خواهد بود، اما این نهاد باید انعطاف‌پذیر و دقیق باشد تا مانع نوآوری نشود.
او پیش‌تر گفته بود مقاله آمودی «به مسیر درست رو به جلو اشاره می‌کند»، هرچند جزئیات آن باید بررسی شود.
گوگل در ماه اوت اعلام کرد هسابیس، برنده جایزه نوبل، عنوان جدید دانشمند ارشد Alphabet را دریافت خواهد کرد و از سمت مدیرعاملی DeepMind به ریاست این شرکت منتقل می‌شود.
آندری کارپتی، هم‌بنیان‌گذار OpenAI و اکنون عضو Anthropic
کارپتی در شبکه ایکس هنگام انتشار تصویری از مقاله آمودی نوشت: «این را دوست دارم و واقعاً امیدوارم بتوانیم به‌عنوان یک صنعت گرد هم بیاییم و آن را عملی کنیم.»
کارپتی، یکی از چهره‌های بسیار تأثیرگذار جامعه هوش مصنوعی، پیش از ترک تسلا در سال ۲۰۲۲ نقش مهمی در توسعه فناوری رانندگی خودکار و هوش مصنوعی این شرکت داشت. او در ماه مه به Anthropic پیوست.
اریک شو، رئیس چرخشی Huawei
شو گفت توسعه‌دهندگان هوش مصنوعی چین ممکن است هنوز به اندازه کافی پیشرفته نباشند تا با خطرات ایمنی گزارش‌شده توسط شرکت‌های پیشرو آمریکایی دارای «قدرت محاسباتی عظیم» روبه‌رو شوند. او استدلال کرد که چین باید به توسعه مدل‌های قدرتمندتر ادامه دهد و هم‌زمان میان نوآوری و خطر تعادل برقرار کند.
او گفت: «شاید نوع خطری که آنها می‌توانند احساس و درک کنند، چیزی باشد که مردم یا ارائه‌دهندگان مدل‌های هوش مصنوعی در چین نمی‌توانند.»
ایالات متحده
ترامپ در شبکه اجتماعی Truth Social نوشت: «تنها کنترل یا ‹محدودیت‌های ایمنی› مورد نیاز برای هوش مصنوعی، یک رئیس‌جمهور قوی و باهوش (ضریب هوشی بالا!) است، و آمریکا چنین رئیسی دارد.» او افزود که چین از ایجاد تردید درباره توسعه هوش مصنوعی سود خواهد برد.
مارک وارنر، سناتور آمریکایی و نایب‌رئیس کمیته اطلاعات سنا، بخش زیادی از صحبت‌های آخرالزمانی درباره هوش مصنوعی را رد کرد، اما گفت کنگره باید تا پایان سال قانونی برای تعیین استانداردهای ایمنی هوش مصنوعی تصویب کند.
چین
روزنامه دولتی Global Times در سرمقاله‌ای گفت هدف واقعی مقاله آمودی «تلاش برای محدود کردن توسعه هوش مصنوعی چین از طریق موانع فناوری و انحصارهای نظارتی، حفظ سلطه انحصاری واشنگتن در فناوری‌های پیشرفته و حذف چین از نظام جهانی حکمرانی هوش مصنوعی» است.
چن یی‌شین، وزیر امنیت دولتی چین، در یک رسانه دولتی نوشت مدل‌های پیشرفته آمریکایی مانند Mythos از Anthropic و GPT-5.5-Cyber از OpenAI می‌توانند خطرات جدی برای زیرساخت‌های اطلاعاتی حیاتی چین ایجاد کنند و خواستار تقویت جامع امنیت هوش مصنوعی شد.
بریتانیا
شاه چارلز که میزبان رهبران Nvidia، DeepMind، OpenAI و Anthropic در اسکاتلند بود، درباره «خطرات وجودی» ناشی از افتادن این فناوری به دست افراد نادرست هشدار داد و گفت پیش از آن‌که دیر شود، به تدابیر حفاظتی نیاز است.
اتحادیه اروپا
توماس رنیه، سخنگوی کمیسیون اروپا، گفت: «اتحادیه اروپا از توسعه نوآوری در هوش مصنوعی حمایت می‌کند، اما شرکت‌ها باید ثابت کنند خدمات آنها برای استفاده شهروندان در این اتحادیه ایمن است.»
اورزولا فون در لاین، رئیس کمیسیون اروپا، از درخواست‌ها برای توقف موقت توسعه این فناوری حمایت کرد و گفت از آزمایشگاه‌های اصلی هوش مصنوعی پیشرفته دعوت خواهد کرد تا درباره تلاش‌ها برای مقابله با خطرات گفت‌وگو کنند.