سم آلتمن سه راهکار برای افزایش ایمنی هوش مصنوعی مطرح کرد

نویسنده: مودیت دوبه

۲۳ اکتبر ۲۰۲۶، ساعت ۱۵:۴۸

سم آلتمن، مدیرعامل OpenAI، در گفت‌وگو با کارکنان این شرکت سه راهکار احتمالی برای توسعه ایمن هوش مصنوعی مطرح کرده است. نخستین راهکار، تشکیل یک نهاد نظارتی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) است که مسئولیت اجرای استانداردهای ایمنی در توسعه هوش مصنوعی را بر عهده داشته باشد. طبق گزارش‌ها، آلتمن این رویکرد را ترجیح می‌دهد. مدیران OpenAI از سال ۲۰۲۳ خواستار تشکیل چنین نهادی بوده‌اند و پیشنهاد کرده‌اند که این سازمان بتواند سامانه‌های هوش مصنوعی را بازرسی کند، شرکت‌ها را به انجام ممیزی ملزم سازد و بر میزان استفاده آزمایشگاه‌های هوش مصنوعی از منابع پردازشی و انرژی نظارت داشته باشد.

ادغام آزمایشگاه‌های بزرگ هوش مصنوعی

دومین راهکار که «طرح دمیس» نام گرفته، بر پایه پیشنهادی است که پیش‌تر دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، مطرح کرده بود.

بر اساس این طرح، شرکت‌های بزرگ فعال در حوزه هوش مصنوعی یا در یک مجموعه واحد ادغام می‌شوند یا از طریق نهادی مشترک با یکدیگر همکاری می‌کنند. این نهاد وظیفه ارائه مدل‌های هوش مصنوعی به کشورهای شریک را بر عهده خواهد داشت.

آلتمن نیز در گفت‌وگوی خود با کارکنان OpenAI این ایده را مطرح کرده است.

«طرح الیزر»؛ تمرکز قدرت اقتصادی و منابع پردازشی

سومین راهکار که به نام الیزر یودکوفسکی، نظریه‌پرداز ایمنی هوش مصنوعی، «طرح الیزر» نام‌گذاری شده است، شرایطی را ترسیم می‌کند که در آن یک توسعه‌دهنده هوش مصنوعی به چنان قدرت اقتصادی بزرگی دست می‌یابد که می‌تواند دسترسی رقبای خود به منابع پردازشی را مسدود کند.

با این حال، آلتمن مخالفت خود را با چنین سناریویی اعلام کرده و گفته است که این گزینه را صرفاً برای کامل‌کردن فهرست راهکارهای احتمالی مطرح کرده است.

برخی کارکنان، اظهارنظر آلتمن را کنایه‌ای به شرکت آنتروپیک تلقی کرده‌اند؛ برداشتی که به ارتباط یودکوفسکی با این شرکت، سازنده مدل هوش مصنوعی Claude، بازمی‌گردد.

نگرانی‌ها درباره رخنه‌های امنیتی در مدل‌های هوش مصنوعی

آلتمن این پیشنهادها را در شرایطی مطرح کرده است که نگرانی‌ها درباره رخنه‌های امنیتی مرتبط با مدل‌های هوش مصنوعی شرکت‌های OpenAI، آنتروپیک، گوگل و متا رو به افزایش است.

برای مقابله با این مشکلات، چند آزمایشگاه پیشرو در حال همکاری برای تشکیل یک نهاد جدید ایمنی با عنوان «مرجع استانداردهای هوش مصنوعی پیشرفته» (Standards Authority for Frontier AI) هستند. انتظار می‌رود این نهاد تا اوایل سال ۲۰۲۷ فعالیت خود را آغاز کند.

همچنین گفت‌وگوهایی درباره پیش‌نویس یک لایحه در جریان است که در صورت تصویب، به وزارت بازرگانی آمریکا اختیار می‌دهد فعالیت مدل‌های هوش مصنوعی دارای قابلیت ایجاد آسیب‌های گسترده را متوقف کند.