امید یا تهدید؟ یکی از بنیان‌گذاران Anthropic درباره آینده هوش مصنوعی
در هفته‌های اخیر، ژاپن با موجی از حملات سایبری روبه‌رو شده و ظن‌ها درباره نقش هوش مصنوعی در این حملات افزایش یافته است. در چنین شرایطی، جک کلارک، یکی از بنیان‌گذاران شرکت آمریکایی هوش مصنوعی Anthropic، در مصاحبه‌ای اختصاصی با NHK گفت سامانه‌های هوش مصنوعی ممکن است از اوایل سال آینده شروع به توسعه نسل‌های بعدی خود کنند.
او گفت: «اگر می‌خواهیم آینده خوبی داشته باشیم، باید سرعت پیشرفت هوش مصنوعی و قدرت این سامانه‌ها را جدی بگیریم. اگر این مسئله را جدی نگیریم، خطرات بیشتری به وجود خواهد آمد.»
گسترش حملات سایبری در سراسر ژاپن
ژاپن در هفته‌های اخیر شاهد مجموعه‌ای از حملات سایبری بوده است. شرکت خرده‌فروشی ایزومی، که فروشگاه‌های زنجیره‌ای سوپرمارکت Youme Town را در غرب ژاپن اداره می‌کند، اعلام کرده است که هدف حمله هکری قرار گرفته است.
این شرکت اعلام کرد ممکن است اطلاعات حداکثر ۴۰۰ هزار مشتری، از جمله نام و نشانی ایمیل آنها، به خطر افتاده باشد. حتی پلیس که مسئول مقابله با جرایم سایبری است نیز از این حملات در امان نمانده است.
در هیروشیما نیز ممکن است نام، نشانی ایمیل و دیگر اطلاعات متعلق به مأموران پلیس و کارکنان غیرنظامی این استان، در مجموع حدود ۵۷۰۰ نفر، افشا شده باشد.
نیروی پلیس اعلام کرد این حادثه در پی دسترسی غیرمجاز به یک پیمانکار رخ داده است؛ پیمانکاری که سامانه مورد استفاده برای تأیید وضعیت و محل حضور افراد در جریان بلایای طبیعی را اداره می‌کرد.
هوش مصنوعی ممکن است در سال ۲۰۲۷ پژوهش‌های خود را انجام دهد
جک کلارک، یکی از بنیان‌گذاران شرکت آمریکایی Anthropic، روز چهارشنبه در توکیو در مصاحبه‌ای اختصاصی با NHK شرکت کرد. این مصاحبه همزمان با نخستین سالگرد تأسیس شعبه ژاپن این شرکت انجام شد.
او درباره «خودبهبود بازگشتی» یا Recursive Self-Improvement صحبت کرد؛ فرایندی که در آن هوش مصنوعی به‌طور مکرر قابلیت‌های خود را ارتقا می‌دهد.
کلارک گفت: «سامانه‌های هوش مصنوعی در تابستان امسال در زمینه علم بسیار بهتر شده‌اند. به‌طور مشخص در ریاضیات، شاهد پیشرفت‌های زیادی بوده‌ایم که کارشناسان انسانی آنها را نشانه‌هایی از خلاقیت ریاضی می‌دانند.»
او افزود: «اکنون بر این باورم که سامانه‌های هوش مصنوعی ممکن است در سال ۲۰۲۷ قادر باشند خودشان پژوهش‌های هوش مصنوعی را انجام دهند؛ همان‌طور که در سایر حوزه‌های علمی نیز به چنین توانایی‌ای دست یافته‌اند.»
کلارک در یک پست وبلاگی که در ماه مه منتشر شده بود، ابتدا گفته بود چنین سناریویی ممکن است تا پایان سال ۲۰۲۸ محقق شود. ارزیابی جدید او این پیش‌بینی را جلوتر آورده و بازتاب‌دهنده سرعت بالای پیشرفت‌های اخیر در توسعه هوش مصنوعی است.
کلارک پس از ترک OpenAI، جایی که پیش‌تر در آن فعالیت می‌کرد، همراه با مدیرعامل Anthropic، داریو آمودی، و دیگران این شرکت را بنیان گذاشت. گزارش‌های رسانه‌ای گفته‌اند این جدایی ناشی از اختلاف‌نظر درباره مسائلی از جمله ایمنی هوش مصنوعی بوده است.
آمودی اخیراً خواستار اقداماتی برای کاهش سرعت توسعه هوش مصنوعی شده است.
کلارک در پاسخ به پرسشی درباره این اظهارات، بر ضرورت همراه شدن پیشرفت فناوری با سازوکارهای حفاظتی تأکید کرد. او گفت: «ما معتقدیم توسعه هوش مصنوعی امروز مانند خودرویی است که فقط پدال گاز دارد و شما باید برای آن پدال ترمز بسازید. بنابراین، منظور داریو این است که اگر پدال ترمز را نسازید و فقط شتاب بگیرید، ممکن است با خطراتی روبه‌رو شوید.»
ژاپن به‌عنوان شریک کلیدی هوش مصنوعی
کلارک برای گرامیداشت نخستین سالگرد فعالیت Anthropic Japan، در کنار توجو هیدتوشی، مدیر Anthropic در ژاپن، در یک کنفرانس خبری حاضر شد.
توجو در این رویداد اعلام کرد تعداد شرکت‌های ژاپنی که از Claude شرکت Anthropic استفاده می‌کنند، بیش از ۱۰ برابر افزایش یافته است. او همچنین گفت این شرکت همکاری با مؤسسات پژوهشی ژاپن را برای بررسی تأثیر هوش مصنوعی مولد بر جامعه گسترش می‌دهد.
کلارک همچنین بر نقاط قوت ژاپن در بخش هوش مصنوعی تأکید کرد. او گفت: «ژاپن به‌دلیل تخصص خود در زنجیره تأمین هوش مصنوعی، تولید تجهیزات علمی و رباتیک، به‌ویژه در موقعیت مناسبی قرار دارد. بنابراین، ژاپن آماده است تا از این روند بزرگ فناوری که به‌زودی آغاز خواهد شد، بهره بسیار زیادی ببرد.»
کلارک درباره موج اخیر حملات سایبری در سراسر جهان نیز گفت: «ما می‌دانیم که هکرها، درست مانند کسب‌وکارها، از ابزارهای در دسترس استفاده می‌کنند. ما تلاش می‌کنیم با استفاده از سامانه‌های طبقه‌بندی و دیگر روش‌های امنیتی، مانع استفاده آنها از ابزارهایمان شویم، اما مدل‌های دیگری نیز وجود دارند، از جمله مدل‌های با وزن‌های باز.»
او افزود: «بنابراین، از جزئیات این حملات سایبری اطلاعی ندارم، اما حدس می‌زنم که بله، ممکن است افراد از ابزارهای هوش مصنوعی استفاده کرده باشند. ما شواهدی از حملات خودمختار مشاهده نکرده‌ایم.»
هشدار کارشناس آمریکایی درباره خطرات هوش مصنوعی
آنتونی آگیره، رئیس و مدیرعامل مؤسسه غیرانتفاعی Future of Life Institute که در کالیفرنیا و اروپا فعالیت دارد، درباره خطرات ناشی از سامانه‌های پیشرفته هوش مصنوعی هشدار داد.
او گفت: «به باور من، خودبهبود بازگشتی حتی خطرناک‌تر از احتمال جنگ هسته‌ای است. اگر سامانه‌های هوش مصنوعی را ایجاد کنیم که قدرتمندتر ــ بسیار قدرتمندتر ــ از انسان‌ها باشند، خطر واقعی انقراض نسل بشر وجود دارد. من همچنان بر این باورم که این بدترین ایده در تاریخ بشر است.»
آگیره همچنین درباره احتمال وقوع «انفجار هوش» در نتیجه خودبهبود بازگشتی ابراز نگرانی کرد. او گفت: «منظور از انفجار هوش این است که اگر این خودبهبود بازگشتی رخ دهد و انسان‌ها از چرخه خارج باشند، این فرایند می‌تواند با سرعت بسیار زیادی اتفاق بیفتد و شبیه یک انفجار باشد.»
او افزود: «چیزی بسیار چشمگیر، بسیار سریع و تا حدی خارج از کنترل.» آگیره هشدار داد اگر سامانه‌ها بدون دخالت انسان شروع به بهبود خود کنند، پیشرفت هوش مصنوعی ممکن است با سرعتی فراتر از کنترل انسان شتاب بگیرد.
کارشناس ژاپنی سناریوهای آخرالزمانی را زیر سؤال می‌برد
ساتوشی کوریهارا، استاد دانشگاه کیئو و رئیس پیشین انجمن ژاپنی هوش مصنوعی، دیدگاه متفاوتی درباره خطرات ناشی از خودبهبود بازگشتی ارائه کرد.
او گفت: «هوش مصنوعی از انواع داده‌هایی که انسان‌ها در زندگی روزمره می‌نویسند و بیان می‌کنند یاد می‌گیرد. این داده‌ها شامل سوابق رفتار انسان‌ها در موقعیت‌هایی است که گریزی از آنها ندارند. اما هوش مصنوعی درکی از این ندارد که در حال تقلب است یا هنجارهای اخلاقی را نقض می‌کند. نمی‌توان هوش مصنوعی را صددرصد مطابق با خواست انسان کنترل کرد.»
با این حال، کوریهارا پیش‌بینی‌هایی را که بر اساس آنها RSI می‌تواند به انقراض بشر منجر شود، زیر سؤال برد. او گفت: «برای اینکه هوش مصنوعی بتواند سطح هوش خود را بیش از پیش افزایش دهد، به رایانه‌های بیشتر، برق بیشتر و داده‌های بیشتر نیاز خواهد داشت. با این حال، تصور می‌شود هوش مصنوعی تقریباً تمام داده‌های موجود در اینترنت را یاد گرفته باشد و ممکن است محدودیت‌هایی از نظر منابع وجود داشته باشد. این ایده که RSI به انقراض بشر منجر خواهد شد، کمی بیش از حد افراطی است.»
چشم‌انداز «انفجار هوش»
خودبهبود بازگشتی به فرایندی گفته می‌شود که در آن سامانه‌های هوش مصنوعی داده‌ها، کدها و الگوریتم‌های خود را بهبود می‌دهند و سپس از قابلیت‌های ارتقایافته خود برای ایجاد بهبودهای پیشرفته‌تر استفاده می‌کنند؛ چرخه‌ای که بارها تکرار می‌شود.
به بیان دیگر، این سناریویی است که در آن یک مدل هوش مصنوعی بارها و بارها مدل‌های هوش مصنوعی توانمندتری ایجاد می‌کند.
در ماه سپتامبر، بیش از ۲۰ پژوهشگر برجسته هوش مصنوعی و دیگر کارشناسان، از جمله متخصصانی از Anthropic و OpenAI، مقاله‌ای مشترک منتشر کردند و هشدار دادند که جامعه باید برای احتمال وقوع «انفجار هوش» در نتیجه RSI آماده باشد. در این مقاله، انفجار هوش پدیده‌ای تعریف شده است که در آن پیشرفت مبتنی بر هوش مصنوعی در مدت کوتاهی با شتابی چشمگیر افزایش می‌یابد.
نویسندگان این مقاله برآورد کرده‌اند که تحت شرایطی خاص، «یک سال پیشرفت با سرعت کنونی، حدود پنج هفته زمان خواهد برد». این مقاله همچنین می‌گوید انفجار هوش می‌تواند پیشرفت‌هایی مانند کشف درمان‌های پزشکی جدید و توسعه فناوری‌های ساخت در مقیاس اتمی را سال‌ها یا حتی دهه‌ها جلو بیندازد.
در عین حال، این مقاله هشدار می‌دهد که چنین فرایندی می‌تواند خطراتی مانند سلاح‌های زیستی، حملات سایبری، اختلال در بازارهای کار و احتمال خارج شدن سامانه‌های هوش مصنوعی از کنترل را نیز به‌شدت تسریع کند.