لابراتوارهای نوپدید هوش مصنوعی چه هستند و چرا روی ابرهوش ایمن سرمایه‌گذاری می‌کنند؟
شمار فزاینده‌ای از پژوهشگران هوش مصنوعی در حال ترک شرکت‌های باسابقه فناوری و تأسیس آزمایشگاه‌های تحقیقاتی مستقل هستند. این مجموعه‌ها که «لابراتوارهای نوپدید هوش مصنوعی» (AI neolabs) نامیده می‌شوند، به دنبال دستیابی به پیشرفت‌های فنی بلندمدت‌اند و برخی از آن‌ها به‌جای کسب درآمد در کوتاه‌مدت، پژوهش را در اولویت قرار می‌دهند.
این روند میلیاردها دلار سرمایه‌گذاری در سراسر جهان جذب کرده است. اگرچه اهداف این آزمایشگاه‌ها با یکدیگر تفاوت دارد، اما یکی از محورهای مشترک و رو به گسترش پژوهش در آن‌ها، توسعه سامانه‌های هوش مصنوعی هرچه توانمندتر و در عین حال، اطمینان از ایمنی این سامانه‌ها و هم‌سویی آن‌ها با خواسته‌های انسان است.
ظهور لابراتوارهای نوپدید: میلیاردها دلار سرمایه، اما محصولات تجاری اندک
بر اساس گزارشی از اکونومیست، طی دو سال ۲۹ لابراتوار نوپدید تأسیس شده‌اند که در مجموع ۲۳ میلیارد دلار سرمایه جذب کرده‌اند. کمتر از ۳۵ درصد این مجموعه‌ها محصولات تجاری خود را عرضه کرده‌اند و تنها اندکی بیش از نیمی از آن‌ها کدهای خود را منتشر کرده‌اند؛ کدهایی که اغلب در قالب نمونه‌های آزمایشی پژوهشی ارائه شده‌اند.
شرکت «سیف سوپراینتلیجنس» (Safe Superintelligence Inc یا SSI) یکی از برجسته‌ترین نمونه‌های این روند است. این شرکت را ایلیا سوتسکور، دانشمند ارشد پیشین OpenAI، در ژوئن ۲۰۲۴ تأسیس کرد. SSI تنها چهار ماه پس از آغاز فعالیت خود یک میلیارد دلار سرمایه جذب کرد و بعدتر ارزش‌گذاری آن به گزارش‌ها به ۳۲ میلیارد دلار رسید. به نوشته اکونومیست، انویدیا نیز در ادامه ۵ میلیارد دلار دیگر در این شرکت سرمایه‌گذاری کرد و مجموع سرمایه جذب‌شده SSI را به ۸ میلیارد دلار رساند.
نکته قابل توجه این است که هدف اعلام‌شده SSI توسعه ابرهوش ایمن است. در وب‌سایت این شرکت آمده است که «یک هدف و یک محصول» دارد: «ابرهوش ایمن». این شرکت قصد دارد توانایی‌های هوش مصنوعی را ارتقا دهد، اما ایمنی را همواره مقدم بر افزایش این توانایی‌ها نگه دارد.
در همین حال، آزمایشگاه «تینکینگ ماشینز» (Thinking Machines Lab) که میرا موراتی، مدیر ارشد فناوری پیشین OpenAI، آن را تأسیس کرده است، به گزارش اکونومیست، ۲ میلیارد دلار سرمایه با ارزش‌گذاری ۱۲ میلیارد دلاری جذب کرده است. هدف این شرکت با مأموریت SSI تفاوت دارد؛ تینکینگ ماشینز می‌خواهد هوش مصنوعی‌ای بسازد که توانایی انسان برای اعمال اراده و قضاوت را گسترش دهد. این شرکت همچنین پلتفرم Tinker را راه‌اندازی کرده است؛ بستری که به پژوهشگران و توسعه‌دهندگان امکان می‌دهد مدل‌های هوش مصنوعی را شخصی‌سازی و تنظیم دقیق کنند.
چرا ایمنی ابرهوش به یکی از اولویت‌های پژوهشی تبدیل شده است؟
ابرهوش به سامانه‌های هوش مصنوعی‌ای گفته می‌شود که در طیف گسترده‌ای از وظایف، از توانایی‌های فکری انسان فراتر می‌روند. چالش فقط ساخت چنین سامانه‌هایی نیست؛ مسئله این است که با افزایش توانایی آن‌ها، همچنان مطابق خواسته‌های انسان عمل کنند.
این چالش با عنوان «مسئله هم‌سویی هوش مصنوعی» (AI alignment problem) شناخته می‌شود. هم‌سویی به این معناست که اقدامات یک سامانه هوش مصنوعی با اهداف، ارزش‌ها و خواسته‌های انسان سازگار بماند.
حل‌نشدن مسئله هم‌سویی ماه گذشته بار دیگر به تیتر خبرها راه یافت؛ زمانی که جیکوب کاکسون، پژوهشگر شرکت هوش مصنوعی آنتروپیک، استعفا داد و درباره خطرات توسعه سامانه‌های هوش مصنوعی هرچه قدرتمندتر هشدار داد.
کاکسون در گفت‌وگو با مجله WIRED گفت: «اجماع بر این است که یکی دو سال آینده، دوره‌ای سرنوشت‌ساز برای بشریت خواهد بود.» او استدلال کرد که رقابت میان توسعه‌دهندگان هوش مصنوعی ممکن است اولویت‌دادن به ایمنی را دشوارتر کند و خواستار هماهنگی بیشتر میان شرکت‌ها و دولت‌ها شد.
پژوهشگران هنوز نتوانسته‌اند روشی جامع برای تضمین این موضوع ارائه دهند که سامانه‌های پیشرفته هوش مصنوعی در موقعیت‌های ناآشنا نیز مطابق انتظار رفتار کنند. آزمایش‌ها می‌توانند کاستی‌ها و خطاها را آشکار کنند، اما نمی‌توانند ثابت کنند که همه مشکلات مهم ایمنی برطرف شده‌اند.
این وضعیت باعث شده است برخی سازمان‌های پژوهشی رویکردهای متفاوتی را برای هم‌سو کردن و مهار هوش مصنوعی بررسی کنند.
استارتاپ پژوهشی «کانجکچر» (Conjecture) که در زمینه هم‌سویی هوش مصنوعی فعالیت می‌کند، معماری‌ای به نام «شبیه‌سازی شناختی» (Cognitive Emulation) را بررسی کرده است. هدف این معماری، محدود نگه‌داشتن توانایی‌های هوش مصنوعی و واداشتن سامانه‌ها به استدلال به شیوه‌هایی است که انسان بتواند آن‌ها را درک و کنترل کند. مؤسسه غیرانتفاعی «مؤسسه ابرهوش مسئولانه» (Institute for Responsible Superintelligence یا RESI) نیز در پی توسعه سازوکارهای ایمنی‌ای است که بتوان تضمین‌های آن‌ها را پیش از به‌کارگیری سامانه‌ها تحلیل و ارزیابی کرد.