سم آلتمن سه سناریوی احتمالی برای آینده هوش مصنوعی را مطرح کرد
گزارش‌ها حاکی از آن است که سم آلتمن، مدیرعامل OpenAI، در گفت‌وگو با کارکنان این شرکت سه سناریوی احتمالی برای آینده هوش مصنوعی مطرح کرده است. یکی از این سناریوها به وضعیتی مربوط می‌شود که در آن، شرکتی سازنده هوش مصنوعی پیشرفته و خودبهبوددهنده می‌تواند با استفاده از قدرت اقتصادی فزاینده خود، رقبایش را تضعیف کند. طبق گزارش‌ها، آلتمن این احتمال را «طرح الیزر» (Eliezer Plan) نامیده و آن را نتیجه‌ای بسیار نامطلوب توصیف کرده است. هوش مصنوعی با سرعت زیادی در حال پیشرفت است و هنوز مشخص نیست مسیر آینده آن دقیقاً چگونه خواهد بود. بااین‌حال، رویدادهای اخیر نشان داده‌اند که تنظیم مقررات برای هوش مصنوعی پیشرفته و شرکت‌های فعال در این حوزه تا چه اندازه اهمیت دارد. همچنین باید راه‌هایی برای جلوگیری از تمرکز بیش‌ازحد قدرت در دست شمار محدودی از شرکت‌ها و افراد در نظر گرفت.
طرح الیزر در توسعه هوش مصنوعی چیست؟
نام طرح الیزر از الیزر یودکوفسکی، نظریه‌پرداز حوزه ایمنی هوش مصنوعی، گرفته شده است. او هشدار داده که هوش مصنوعی پیشرفته می‌تواند موجودیت بشر را تهدید کند. یودکوفسکی معتقد است نخستین توسعه‌دهنده‌ای که به ابرهوش مصنوعی دست پیدا کند، ممکن است برای جلوگیری از ساخت سامانه‌های خطرناک به دست دیگران، ناچار شود اقدامات قاطعی انجام دهد.
بر اساس گزارشی از نشریه The Information، سم آلتمن نیز اخیراً وضعیتی را مطرح کرده است که در آن هوش مصنوعی به مرحله خودبهبوددهی بازگشتی می‌رسد. در چنین شرایطی، یک ابزار هوش مصنوعی می‌تواند توانایی‌های خودش را بهبود دهد. آلتمن همچنین گفته است که برخورداری از این مزیت می‌تواند قدرت اقتصادی کافی در اختیار یک شرکت قرار دهد تا، به تعبیر او، «پردازنده‌های گرافیکی همه دیگران را ذوب کند»؛ عبارتی کنایه‌آمیز درباره توانایی از میدان به در کردن رقبا از طریق تسلط بر منابع محاسباتی. طبق گزارش‌ها، آلتمن توضیح داده است که این سناریو را برای کامل بودن فهرست احتمالات مطرح کرده و از آن حمایت نمی‌کند.
پیشنهاد سم آلتمن برای همکاری جهانی در زمینه ایمنی هوش مصنوعی
آلتمن برای نظارت بر هوش مصنوعی، رویکردی ایمن‌تر نیز پیشنهاد کرده است که بر ایجاد نهادی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی متکی است. به گفته او، چنین نهادی می‌تواند روند توسعه هوش مصنوعی پیشرفته را زیر نظر بگیرد، سامانه‌ها را بازرسی کند و اجرای استانداردهای مشترک ایمنی را بر عهده داشته باشد.
این ایده تازه نیست و آلتمن و گرگ براکمن نخستین بار در سال ۲۰۲۳ درباره آن صحبت کرده بودند. ایلیا سوتسکور، دانشمند ارشد وقت OpenAI، نیز از ایده نظارت بین‌المللی حمایت کرده بود؛ نظارتی که می‌توانست شامل ممیزی سامانه‌ها و ردیابی منابع محاسباتی و میزان مصرف انرژی باشد. بااین‌حال، آن‌ها تأکید داشتند که همکاری قدرت‌های بزرگ در حوزه هوش مصنوعی، از جمله ایالات متحده و چین، ضروری است؛ زیرا هر دو کشور باید درباره چگونگی توسعه و مدیریت هوش مصنوعی پیشرفته به توافق برسند.
نگرانی‌ها درباره ایمنی هوش مصنوعی رو به افزایش است
هوش مصنوعی در زمینه‌های گوناگون بسیار سودمند بوده است، اما نگرانی‌ها درباره ایمنی آن نیز افزایش یافته‌اند. تهدیدهای امنیت سایبری و سوءاستفاده از مدل‌های پیشرفته هوش مصنوعی، شرکت‌های بزرگ فناوری را تحت فشار قرار داده‌اند تا تدابیر ایمنی خود را تقویت کنند و قواعد مشخصی برای آزمایش این سامانه‌ها تدوین کنند.
OpenAI به‌ویژه پس از انتشار گزارش‌هایی مبنی بر اینکه عامل‌های هوش مصنوعی این شرکت از محیط کنترل‌شده خود خارج شده و به وب‌سایت Hugging Face نفوذ کرده‌اند، با توجه و نظارت بیشتری روبه‌رو شده است. این اتفاق موردی منفرد نبوده و گزارش‌هایی از رویدادهای مشابه نیز منتشر شده‌اند. بررسی دقیق‌تر شیوه‌های ایمنی این شرکت در شرایطی صورت می‌گیرد که پیش‌تر برخی کارکنان نگرانی‌هایی را مطرح کرده بودند و سه پژوهشگر حوزه ایمنی نیز از شرکت اخراج شده بودند.
در همین حال، OpenAI، گوگل و آنتروپیک برای توسعه یک چارچوب مشترک جهت آزمایش مدل‌های پیشرفته هوش مصنوعی با یکدیگر همکاری می‌کنند. بااین‌وجود، این شرکت‌ها همچنان درباره نحوه نظارت بر این سامانه‌ها و مقررات حاکم بر آن‌ها اختلاف نظر دارند. طبق گزارش‌ها، آنتروپیک خواستار کنترل‌های سخت‌گیرانه‌تر بر سامانه‌های هوش مصنوعی پرخطر شده است، درحالی‌که متا و انویدیا با چنین اقداماتی مخالفت کرده‌اند.