موج تازه هشدارهای فعالان صنعت هوش مصنوعی، بحث دیرینه درباره تهدید این فناوری برای بشریت را دوباره زنده کرد
منتشرشده توسط خبرنگار | ۱۷ نوامبر ۲۰۲۶
هشدارهای تازه از درون صنعت هوش مصنوعی، بحثی دیرینه را دوباره به صدر توجهات بازگردانده است: آیا هوش مصنوعی پیشرفته ممکن است از کنترل انسان خارج شود و در نهایت بقای بشریت را به خطر بیندازد؟ و آیا شرکتهایی که این فناوری را توسعه میدهند، اقدامات کافی برای جلوگیری از چنین وضعیتی انجام میدهند؟
مدیرعامل شرکت آنتروپیک، سازنده هوش مصنوعی کلود، مستقر در سانفرانسیسکو، معتقد است فعالان این صنعت باید سرعت فعالیتهای خود را کاهش دهند. او در ۱۲ سپتامبر هشدار داد که اگر شرکتها زمان و منابع بیشتری را به ایجاد سازوکارهای حفاظتی اختصاص ندهند، ممکن است ظرف شش ماه تا یک سال، انبوهی از عاملهای هوش مصنوعی بتوانند کنترل اینترنت را به دست بگیرند.
داریو آمودی، چند روز پس از آنکه دو پژوهشگر سابق بخش ایمنی آنتروپیک علناً از کمتوجهی به تهدیدهای وجودی هوش مصنوعی برای بشریت انتقاد کردند، طرحی را تشریح کرد که هدف آن اطمینان از همسو ماندن مدلهای هرچه قدرتمندتر هوش مصنوعی با دستورات و ارزشهای افراد مسئول است. این طرح شرکتهایی مانند آنتروپیک و همچنین دولتهای سراسر جهان را مخاطب قرار میدهد.
در ادامه، مهمترین نکات درباره پیشبینیهای نگرانکننده اخیر و احتمال مهار روند پیشرفت هوش مصنوعی را مرور میکنیم.
مدلهای هوش مصنوعی قدرتمندتر میشوند
همزمان با قدرتمندتر شدن مدلهای جدید هوش مصنوعی، نگرانیها درباره خطرات احتمالی این فناوری نیز افزایش یافته است. این پیشرفت، هم امکان سوءاستفاده افراد دارای اهداف مجرمانه را بیشتر میکند؛ برای مثال، ساخت و انتشار بیماریای که بتواند بیشتر جمعیت جهان را از بین ببرد، و هم خطر آن را افزایش میدهد که سامانههای هوش مصنوعی به شکلی خطرناک از کنترل خارج شوند.
شرکت آنتروپیک در سپتامبر اعلام کرد که تلاش افراد مخرب برای استفاده از مدلهای هوش مصنوعی این شرکت در فعالیتهای غیرقانونی و زیانبار، از جمله حملات سایبری، جاسوسی و پژوهشهایی که میتوانست به تولید سلاحهای زیستی منجر شود، شناسایی و متوقف شده است.
این شرکت اعلام کرد در جدیدترین مدلهای خود تدابیر حفاظتی قویتری در نظر گرفته تا از انجام پژوهشهای زیستیای که میتوانند برای ساخت سلاح به کار روند جلوگیری کند. با این حال، آنتروپیک هشدار داد: «با افزایش توانایی مدلها، خطرات آنها نیز بیشتر خواهد شد؛ مگر آنکه توسعهدهندگان هوش مصنوعی و مدافعان جامعه برای ایمنتر کردن این فناوری اقدام کنند.»
آنتروپیک سال گذشته نیز گزارش داده بود که هکرها از هوش مصنوعی این شرکت در حملهای سایبری علیه حدود ۳۰ شرکت و سازمان دولتی در سراسر جهان استفاده کردهاند. به گفته این شرکت، به احتمال بسیار زیاد، هکرها به گروهی وابسته به دولت چین تعلق داشتهاند.
چندین مدل هوش مصنوعی بهطور مستقل اقدام کردهاند
وقتی گفته میشود یک عامل هوش مصنوعی «از کنترل خارج شده است»، منظور این است که این سامانه فراتر از وظیفهای که به آن محول شده، دست به اقدام زده است. آنتروپیک و اوپنایآی، شرکت سازنده چتجیپیتی، هر دو در ماه ژوئیه اعلام کردند که مدلهای هوش مصنوعی آنها موفق شدهاند بهصورت مستقل اقداماتی انجام دهند.
آنتروپیک فاش کرد که سه مدل هوش مصنوعی این شرکت، یعنی Claude Opus 4.7، Claude Mythos 5 و یک مدل آزمایشی داخلی برای پژوهش، هنگام انجام آزمایشها موفق شدند به سامانههای سه سازمان دیگر نفوذ کنند. این اتفاق تنها چند روز پس از آن رخ داد که اوپنایآی اعلام کرد سامانه هوش مصنوعی این شرکت به سرورهای استارتاپ هوش مصنوعی هاجینگ فیس نفوذ کرده است.
اوپنایآی این نفوذ را که با ترکیبی از چند مدل، از جمله مدل تازهعرضهشده GPT‑5.6 Sol و یک مدل حتی قدرتمندتر که همچنان در مرحله آزمایش داخلی قرار داشت، انجام شده بود، یک «حادثه امنیتی مهم» توصیف کرد.
شرکت متا نیز در اوایل ماه اوت از مورد مشابهی خبر داد که در آن یک مدل هوش مصنوعی راههایی برای عبور از سازوکارهای امنیت دیجیتال شرکت دیگری پیدا کرده بود.
اگرچه برخی ناظران خاطرنشان کردند که در موارد مربوط به اوپنایآی و آنتروپیک، بخشی از تدابیر حفاظتی را خود افراد غیرفعال کرده بودند، این اتفاقها ظاهراً یکی از بزرگترین نگرانیها درباره هوش مصنوعی را منعکس میکنند: اگر مدلها به هوش عمومی مصنوعی یا AGI دست پیدا کنند، این فناوری ممکن است فاجعهای جبرانناپذیر به بار آورد یا نسل بشر را تحت سلطه خود درآورد. هوش عمومی مصنوعی اصطلاحی با تعریف دقیقاً مشخصنشده است که به سامانههایی اشاره دارد که میتوانند در طیف گستردهای از وظایف فکری، با تواناییهای انسان برابری کنند یا از آنها فراتر بروند.
درباره چگونگی و زمان وقوع فاجعه ناشی از هوش مصنوعی اختلافنظر وجود دارد
سناریوهای آخرالزمانی مرتبط با هوش مصنوعی عموماً در دو دسته قرار میگیرند: نخست، هوشی مصنوعی که با دستیابی به ابرهوشِ خودبهبوددهنده، بهجای آنکه انسان بر آن کنترل داشته باشد، کنترل انسانها را به دست میگیرد؛ و دوم، استفاده دولتهای یاغی یا افراد و گروههای بدخواه از این فناوری.
نگرانی از اینکه هوش مصنوعی بتواند از محدودیتهای انسانی در زمینه دامنه نفوذ یا اقدامات خود عبور کند، موضوع تازهای نیست.
آلن تورینگ، ریاضیدان بریتانیایی که بهطور گسترده از او بهعنوان یکی از نخستین صاحبنظران حوزه هوش مصنوعی یاد میشود، در سال ۱۹۵۱ پیشبینی کرد که هوش مصنوعی سرانجام کنترل امور را از انسانها خواهد گرفت. کمتر از یک دهه بعد، نوربرت وینر، ریاضیدان دیگری، هشدار داد که ماشینهای هوشمند برای تحقق اهداف خودشان تلاش خواهند کرد و انسانها قادر به متوقف کردن آنها نخواهند بود.
اکنون در سال ۲۰۲۶، تا چه اندازه منطقی است که نگران باشیم هوش مصنوعی، چه از طریق خارج شدن از کنترل انسان و چه بر اثر سوءاستفاده افراد بیوجدان، به فاجعهای عظیم یا فروپاشی تمدن منجر شود؟ پاسخ این پرسش را هیچکس نمیداند.
متخصصان علوم رایانه، فلسفه و دیگر رشتهها سناریوهای متعددی را مطرح کردهاند که در آنها یک سامانه هوش مصنوعی در آینده ممکن است، چه با خارج شدن از کنترل انسان و چه در صورت قرار گرفتن در اختیار افراد بدخواه، به فاجعهای جهانی منجر شود. این سناریوها از بهکارگیری سلاحها و شناسایی عوامل بیماریزای مرگبار گرفته تا کشاندن دولتها به درگیری و مختل کردن شبکههای تأمین غذا، انرژی و ارتباطات را در بر میگیرند؛ شبکههایی که جوامع برای ادامه فعالیت خود به آنها وابستهاند.
هیچ برآورد مورد توافقی درباره زمان احتمالی وقوع هیچیک از این سناریوها وجود ندارد و کارشناسان نیز درباره میزان احتمال وقوع آنها به اجماع نرسیدهاند.
در سال ۲۰۲۳، مرکز غیرانتفاعی ایمنی هوش مصنوعی بیانیهای منتشر کرد که بیش از ۳۵۰ پژوهشگر و مدیر شرکتهای فناوری، از جمله آمودی، مدیرعامل آنتروپیک، و سم آلتمن، مدیرعامل اوپنایآی، آن را امضا کرده بودند. در این بیانیه آمده بود: «کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار همهگیری بیماریها و جنگ هستهای، به یکی از اولویتهای جهانی تبدیل شود.»
گزارش بینالمللی ایمنی هوش مصنوعی در سال ۲۰۲۶ که با راهنمایی بیش از ۱۰۰ متخصص مستقل تهیه شده است، میگوید سامانههای فعلی نشانههای اولیهای از برخی تواناییهای مرتبط با این خطر را نشان میدهند، اما هنوز به سطحی نرسیدهاند که بتوانند زمینهساز از دست رفتن کنترل انسان شوند. این گزارش احتمال وقوع، ماهیت و زمانبندی چنین خطری را «بهطور غیرمعمولی مبهم» توصیف میکند.
ضرورت ایجاد تدابیر ایمنی هوش مصنوعی پیش از آنکه دیر شود
یکی از پژوهشگران آنتروپیک در ماه سپتامبر اعلام کرد که به دلیل نگرانی از رفتار غیرمسئولانه این شرکت و رقبایش در توسعه فناوری هوش مصنوعی، از سمت خود کنارهگیری میکند. جیکوب کاکسون در مطالبی که در شبکههای اجتماعی منتشر کرد، احتمال داد که هوش مصنوعی در دهه آینده با احتمال ۱۰ درصد به انقراض انسان منجر شود. او همچنین گفت آنتروپیک و اوپنایآی «با شتاب بهسوی ابرهوش خودبهبوددهنده پیش میروند و جان ما را به قمار گذاشتهاند.»
پژوهشگران سالهاست خواستار کاهش سرعت توسعه هوش مصنوعی شدهاند و درباره خطرات وجودی احتمالی این فناوری برای بشریت هشدار میدهند.
پس از حوادث اخیر، کارشناسان خواستار بهبود روشهای آزمایش و ارزیابی ایمنی در شرکتهای هوش مصنوعی و افزایش گفتوگو میان ایالات متحده و چین برای دستیابی به راهحلهای مشترک شدند.
با این حال، سرعت رشد هوش مصنوعی بهاندازهای زیاد است که دولتها و نظامهای ارزیابی ایمنی برای هماهنگ شدن با پیشرفت این فناوری با مشکل مواجه شدهاند. کشورهای مختلف در حال تدوین قوانین جداگانهای هستند که برخی از آنها با یکدیگر تعارض دارند.
شی جینپینگ، رهبر چین، در کنفرانسی در ماه ژوئیه درباره ضرورت جلوگیری از خارج شدن هوش مصنوعی از کنترل انسان هشدار داد. دولت دونالد ترامپ در ابتدا تمایل چندانی به قانونگذاری در این حوزه نشان نمیداد، اما بعدتر توجه بیشتری به کاهش خطرات امنیت سایبری ناشی از این فناوری پیدا کرد.
با این حال، دونالد ترامپ، رئیسجمهور آمریکا، در ماه سپتامبر ضرورت نظارت دولت خود بر روند توسعه هوش مصنوعی را کماهمیت جلوه داد.
