سم آلتمن سه سناریو برای ایمنی هوش مصنوعی مطرح کرد

نویسنده: کانگ دااون

انتشار: ۲۰ اکتبر ۲۰۲۶، ساعت ۱۴:۰۲ | به‌روزرسانی: ۲۰ اکتبر ۲۰۲۶، ساعت ۱۴:۱۱

بر اساس گزارش رسانه‌های حوزه فناوری اطلاعات، سم آلتمن، مدیرعامل اوپن‌ای‌آی، روز ۱۹ اکتبر به وقت محلی، سه راهکار را برای کارکنان این شرکت تشریح کرد که هدف آن‌ها جلوگیری از خارج شدن هوش مصنوعی از کنترل و تضمین توسعه ایمن این فناوری تحت نظارت انسان است. در پی افزایش مواردی که در آن‌ها عامل‌های هوش مصنوعی به سامانه‌ها نفوذ کرده یا از کنترل خارج شده‌اند، بحث درباره چگونگی ایجاد توازن میان سرعت پیشرفت هوش مصنوعی و ایمنی آن شدت گرفته است.

به گزارش نشریه د اینفورمیشن و برخی رسانه‌های دیگر، آلتمن در گفت‌وگویی اخیر با کارکنان اوپن‌ای‌آی، سه طرح را که در صنعت برای توسعه ایمن هوش مصنوعی مطرح شده‌اند، معرفی کرد. طرح نخست، ایجاد نهادی بین‌المللی برای نظارت بر هوش مصنوعی، مشابه آژانس بین‌المللی انرژی اتمی (IAEA)، است. بر اساس این پیشنهاد، دولت‌ها و شرکت‌های فعال در حوزه هوش مصنوعی به‌طور مشترک استانداردهای ایمنی را تعیین می‌کنند و پیش از عرضه مدل‌های پیشرفته این فناوری، ارزیابی و حسابرسی مستقل انجام می‌شود. گفته می‌شود آلتمن بیشترین حمایت را از این طرح نظارت بین‌المللی ابراز کرده است.

طرح دوم که به افتخار دمیس هاسابیس، بنیان‌گذار گوگل دیپ‌مایند، «طرح دمیس» نام گرفته، ادغام مؤسسات بزرگ پژوهش هوش مصنوعی، از جمله اوپن‌ای‌آی، گوگل دیپ‌مایند و آنتروپیک، را پیشنهاد می‌کند. این طرح با الهام از سازمان پژوهشی سرن، ایجاد یک نهاد پژوهشی چندملیتی را در نظر دارد که شرکت‌های پیشرو هوش مصنوعی در آن به‌صورت مشترک برای توسعه ابرهوش فعالیت کنند. هدف این است که شرکت‌ها به‌جای رقابت برای شتاب بخشیدن به توسعه فناوری، یافته‌های پژوهشی و نتایج ارزیابی‌های ایمنی خود را با یکدیگر به اشتراک بگذارند.

طرح سوم که افراطی‌ترین گزینه توصیف شده، به افتخار الیزر یودکوفسکی، پژوهشگر ایمنی هوش مصنوعی، «طرح الیزر» نام دارد. بر اساس این پیشنهاد، نخستین شرکتی که به ابرهوش دست پیدا کند، انحصار دسترسی به پردازنده‌های گرافیکی (GPU) را در اختیار می‌گیرد تا مانع پیشرفت رقبا شود. آلتمن این ایده را به «ذوب کردن پردازنده‌های گرافیکی تمام شرکت‌های دیگر» تشبیه کرد و آن را «طرحی وحشتناک» خواند. محور این پیشنهاد آن است که شرکتی که در زمینه خودبهبوددهی بازگشتی هوش مصنوعی به موفقیت برسد، قدرت اقتصادی بسیار زیادی به دست می‌آورد و می‌تواند دسترسی رقبای خود به پردازنده‌های گرافیکی را محدود کند.

این بحث‌ها در شرایطی مطرح می‌شوند که پیشرفت سریع هوش مصنوعی نگرانی‌ها درباره ایمنی آن را افزایش داده است. در رویدادهای اخیر، مدل‌های هوش مصنوعی توسعه‌یافته توسط اوپن‌ای‌آی، آنتروپیک، گوگل و متا به سامانه‌هایی دسترسی پیدا کرده‌اند که مجاز به استفاده از آن‌ها نبوده‌اند یا از آسیب‌پذیری‌های امنیتی سوءاستفاده کرده‌اند. با حرکت هوش مصنوعی از پاسخ‌گویی به پرسش‌ها به سوی فعالیت در قالب عامل‌های خودمختار، حتی توسعه‌دهندگان نیز در پیش‌بینی و کنترل رفتار این سامانه‌ها با دشواری روبه‌رو هستند.

گزارش‌ها حاکی است که آلتمن در داخل شرکت پذیرفته است اقدامات عملی برای اعمال «محدودیت سرعت» بر توسعه هوش مصنوعی کافی نیستند. او ضمن تأکید بر ضرورت همکاری شرکت‌های این صنعت برای تأمین ایمنی، به دوراهی پیش روی آن‌ها نیز اشاره کرده است: شرکت‌ها باید میان ایمنی و نگرانی از عقب ماندن در رقابت فناوری توازن برقرار کنند. آلتمن تأکید کرده است که اوپن‌ای‌آی باید ظرف یک سال آینده راهبرد ایمنی خود را مشخص کند.

در عمل، اوپن‌ای‌آی، گوگل و آنتروپیک در حال مذاکره درباره تأسیس نهادی با نام «مرجع استانداردهای هوش مصنوعی پیشرفته» (Frontier AI Standards Authority) هستند که راه‌اندازی آن برای اواخر سال ۲۰۲۶ یا اوایل سال ۲۰۲۷ در نظر گرفته شده است. این ابتکار بر به‌کارگیری ارزیابان مستقل در شرکت‌های هوش مصنوعی برای سنجش ایمنی و تدوین سازوکارهای گزارش‌دهی حوادث تمرکز دارد. بااین‌حال، اختلاف‌نظر شرکت‌های بزرگ فناوری درباره مقررات همچنان موجب سردرگمی شده است.