آلتمن سه سناریو برای ایمنی هوش مصنوعی را بررسی می‌کند؛ رقبایش خواستار محدودیت هستند
هوش مصنوعی / اخبار و تحلیل
سناریوهای احتمالی ایمنی هوش مصنوعی که به سم آلتمن نسبت داده شده‌اند، با درخواست‌های آنتروپیک برای مهار سرعت توسعه این فناوری هم‌راستا هستند و پرسش‌های دشواری درباره محدودیت‌ها، نظارت و اجرای مقررات مطرح می‌کنند.
نویسنده: تیم تحریریه راند‌داون
بازبینی: کلی پیتس
| ۳ دقیقه مطالعه
به گزارش وب‌سایت دِ اینفورمیشن، سم آلتمن، مدیرعامل اوپن‌ای‌آی، هفته گذشته در نشستی داخلی با کارکنان، سه مسیر احتمالی برای ایمن نگه‌داشتن هوش مصنوعی پیشرفته را تشریح کرد. این سناریوها از ایجاد یک نهاد بین‌المللی ناظر تا پیشی‌گرفتن یک شرکت از رقبا با توسعه هوش مصنوعی‌ای را دربر می‌گیرند که می‌تواند خودش را بهبود دهد.
همان‌طور که راند‌داون پیش‌تر گزارش داده بود، آلتمن این انتخاب را «نسخه ۲.۰ تنظیم سرعت» (pacing 2.0) توصیف کرد و خواستار تصمیم‌گیری درباره آن ظرف یک سال آینده شد. به گفته او، این رویکرد باید شامل یک «محدودیت سرعت» یا نقطه توقف برای هوش مصنوعی‌ای باشد که قابلیت بهبود خودش را دارد.
سه سناریو
بر اساس گزارش‌ها، آلتمن از ایجاد یک نهاد ناظر جهانی حمایت کرده که الگویی مشابه آژانس بین‌المللی انرژی اتمی داشته باشد.
گزینه دوم که «طرح دمیس» نام گرفته، از دمیس حسابیس، مدیر دیپ‌مایند، نام گرفته است. در این سناریو، آزمایشگاه‌های پیشرو در یک آزمایشگاه مشترک ادغام می‌شوند که به کشورهای شریک خدمات می‌دهد؛ الگویی مشابه سازمان سرن که در زمینه پژوهش‌های فیزیک ذرات فعالیت می‌کند.
سناریوی سوم که به نام الیزر یودکوفسکی، پژوهشگر هوش مصنوعی، شناخته می‌شود، پیشی‌گرفتن یک آزمایشگاه از رقبا را در نظر می‌گیرد؛ آزمایشگاهی که هوش مصنوعی خودبهبوددهنده‌ای توسعه می‌دهد تا به تعبیر این سناریو، «پردازنده‌های گرافیکی همه رقبا را ذوب کند». طبق گزارش‌ها، آلتمن این گزینه را «وحشتناک» توصیف کرده است.
اوپن‌ای‌آی پیش‌تر، در ماه مه ۲۰۲۳، پیشنهاد نظارت بین‌المللی را به‌صورت عمومی مطرح کرده بود. این پیشنهاد شامل بازرسی، حسابرسی، آزمون‌های ایمنی و محدودیت در عرضه سامانه‌ها می‌شد؛ محدودیت‌هایی که برای پروژه‌های فراتر از آستانه‌های مشخص توانمندی یا منابع محاسباتی در نظر گرفته شده بودند.
چرا این موضوع اهمیت دارد؟
جک کلارک از مدیران آنتروپیک، در سخنرانی‌ای در ۱۷ اکتبر که متن آن در ۱۹ اکتبر منتشر شد، از دولت‌ها خواست خود را برای تغییرات سریع در هوش مصنوعی آماده کنند. او استدلال کرد که مدیریت این فناوری به مقررات جدی و خویشتن‌داری نیاز دارد. به نظر می‌رسد سناریوهای آلتمن با این درخواست از سوی یکی از رقبای اصلی اوپن‌ای‌آی هم‌راستا باشند.
داریو آمودی، مدیرعامل آنتروپیک، نیز در ماه سپتامبر پیشنهاد کرده بود توافق‌های بین‌المللی سخت‌گیرانه‌تری منعقد شوند. پیشنهاد او شامل محدودیت‌هایی برای سامانه‌های هوش مصنوعی‌ای بود که بارها خود را بهبود می‌دهند و حتی احتمال توقف گسترده‌تر توسعه این فناوری را نیز مطرح می‌کرد. بیانیه سیاست‌گذاری اوپن‌ای‌آی در ۹ سپتامبر نیز بر تدوین معیارهای مشترک برای سنجش توانمندی هوش مصنوعی و تعیین قواعدی برای زمان کاهش سرعت یا توقف توسعه تأکید داشت.
برای دستیابی به یک توافق عملی، ابتدا باید مشخص شود که مهار توسعه هوش مصنوعی در عمل چه معنایی دارد. محدودکردن سرعت پیشرفت همچنان به سامانه‌ها اجازه می‌دهد به‌مرور توانمندتر شوند، اما تعیین سقف به معنای مشخص‌کردن حداکثر سطح توانمندی خواهد بود. مذاکره‌کنندگان باید بر سر معیارهای سنجش، شرایط مداخله و مرجع تصمیم‌گیرنده به توافق برسند.
این تصمیم‌ها برای توسعه‌دهندگان تعیین می‌کنند که آیا می‌توانند مدل‌های توانمندتری را آموزش دهند یا به بازار عرضه کنند. دولت‌ها نیز باید درباره اینکه چه کسانی اجازه بازرسی دارند و چه مرجعی می‌تواند دستور توقف فعالیت را صادر کند، به توافق برسند. در عین حال، زمان وقوع پیشرفت‌هایی که ممکن است اعمال این محدودیت‌ها را ضروری کنند، همچنان نامشخص است.
ادغام آزمایشگاه‌های پیشرو می‌تواند اجرای مجموعه‌ای مشترک از محدودیت‌ها را در میان اعضای این مجموعه آسان‌تر کند. با این حال، چنین طرحی پرسش‌هایی درباره مالکیت، کشورهای واجد شرایط عضویت و افرادی که به سامانه‌های حاصل دسترسی خواهند داشت، مطرح می‌کند. در مقابل، گزینه ایجاد نهاد ناظر به آزمایشگاه‌ها اجازه می‌دهد مستقل از یکدیگر فعالیت کنند، اما همگی تابع بازرسی‌ها و محدودیت‌های مشترک باشند.
برای همکاری در این زمینه، پیشاپیش اقداماتی انجام شده است. آسوشیتدپرس گزارش داده است که اوپن‌ای‌آی، آنتروپیک، گوگل و شماری دیگر از رهبران صنعت فناوری توافق‌نامه‌ای را امضا کرده‌اند که شامل کنترل‌های داخلی داوطلبانه، حسابرسی مستقل و نظارت هیئت‌مدیره است. با این حال، وضع محدودیت‌های الزام‌آور بر توسعه هوش مصنوعی مستلزم توافق بر سر این است که فعالیت‌ها در چه زمانی باید کند یا متوقف شوند.
جلب موافقت سایر فعالان این حوزه با چنین مقرراتی همچنان دشوار است. آمودی درباره مدل‌هایی که بدون اطلاع عمومی توسعه داده می‌شوند و احتمال نقض توافق‌ها از سوی برخی مشارکت‌کنندگان هشدار داده و بر ضرورت همکاری با چین تأکید کرده است. او دستیابی به توافقی جامع برای توقف توسعه را در آینده نزدیک بعید دانسته است. هر توافق قوی‌تر باید سازوکاری برای شناسایی فعالیت‌های پنهانی ایجاد کند و به مشارکت‌کنندگان اطمینان دهد که رقبا نیز به همان محدودیت‌ها پایبند خواهند بود.