سم آلتمن، مدیرعامل OpenAI، سه رویکرد احتمالی برای ایمنی هوش مصنوعی را تشریح کرد

به گزارش نشریه The Information، سم آلتمن، مدیرعامل OpenAI، سه رویکرد احتمالی برای مدیریت خطرات هوش مصنوعی پیشرفته را تشریح کرده و به کارکنان گفته است که شرکت باید ظرف یک سال تصمیم بگیرد از کدام مسیر حمایت می‌کند.

این بحث در شرایطی مطرح شده است که دولت دونالد ترامپ در حال تدوین نخستین چارچوب خود برای نظارت بر توسعه‌دهندگان هوش مصنوعی اَبَرهوشمند است. پیشنهادهای مطرح‌شده شامل نظارت بین‌المللی، تشکیل یک سازمان مشترک برای پژوهش در حوزه هوش مصنوعی و سناریویی است که در آن یک توسعه‌دهنده با تسلط بر منابع محاسباتی، دسترسی رقبای خود را محدود می‌کند.

سه رویکرد برای ایمنی هوش مصنوعی

نخستین پیشنهاد، تشکیل نهادی بین‌المللی با الگوبرداری از آژانس بین‌المللی انرژی اتمی (IAEA) است؛ نهادی که توسعه هوش مصنوعی را زیر نظر بگیرد و رعایت استانداردهای ایمنی را تضمین کند. به گزارش The Information، به نظر می‌رسد آلتمن از این گزینه حمایت می‌کند.

مدیران OpenAI از سال ۲۰۲۳ از ایجاد چنین نهادی حمایت کرده‌اند. آلتمن، گرگ براکمن، رئیس شرکت، و ایلیا سوتسکیور، دانشمند ارشد وقت OpenAI، در پیشنهادی که همان سال ارائه کردند، مطرح کرده بودند که این نهاد می‌تواند سامانه‌های هوش مصنوعی را بازرسی کند، انجام ممیزی را الزامی سازد و میزان استفاده از توان محاسباتی و انرژی را زیر نظر بگیرد.

گزینه دوم که آلتمن آن را «طرح دمیس» نامیده، از ایده‌ای مرتبط با دمیس هاسابیس، مدیرعامل Google DeepMind الهام گرفته است. در این طرح، سازمانی مشابه سرن (CERN) تشکیل می‌شود که شرکت‌های بزرگ هوش مصنوعی مدل‌های خود را در اختیار کشورهای همکار قرار می‌دهند.

گزینه سوم که «طرح الیزر» نام گرفته، به الیزر یودکوفسکی، پژوهشگر ایمنی هوش مصنوعی، اشاره دارد. این سناریو وضعیتی را توصیف می‌کند که در آن یک توسعه‌دهنده به هوش مصنوعی خودبهبوددهنده دست پیدا می‌کند و سپس از قدرت اقتصادی خود برای محدود کردن دسترسی رقبایش به تراشه‌های محاسباتی استفاده می‌کند.

بر اساس گزارش‌ها، آلتمن با چنین نتیجه‌ای مخالف بوده و این سناریو را صرفاً برای کامل بودن فهرست گزینه‌ها مطرح کرده است. به گزارش The Information، برخی کارکنان OpenAI این اظهارنظر را کنایه‌ای احتمالی به شرکت Anthropic تلقی کردند؛ زیرا یودکوفسکی با این شرکت ارتباطاتی دارد.

شتاب گرفتن تلاش‌ها برای ایمنی هوش مصنوعی

این بحث پس از وقوع حوادث امنیتی مرتبط با مدل‌های هوش مصنوعی شرکت‌های OpenAI، Anthropic، Google و Meta مطرح شده است. OpenAI و Anthropic همچنین در حال حرکت به سمت عرضه عمومی سهام خود هستند؛ روندی که فشارهای رقابتی را تشدید می‌کند.

OpenAI، گوگل و Anthropic در حال همکاری برای تشکیل گروهی مستقر در ایالات متحده با نام «نهاد استانداردهای هوش مصنوعی پیشرفته» (Standards Authority for Frontier AI) هستند و قصد دارند آن را تا اوایل سال ۲۰۲۷ راه‌اندازی کنند. با این حال، این شرکت‌ها درباره نحوه آزمایش مدل‌های جدید توافق نظر ندارند.

Anthropic همچنین به‌طور جداگانه پیش‌نویس قانونی پیشنهاد کرده است که به وزارت بازرگانی ایالات متحده اجازه می‌دهد عرضه مدل‌هایی را که قادر به ایجاد خسارت گسترده هستند، متوقف کند.

در چارچوب داوطلبانه فعلی دولت آمریکا، از توسعه‌دهندگان خواسته می‌شود دسترسی به برخی مدل‌های هوش مصنوعی را حداکثر ۳۰ روز پیش از انتشار عمومی در اختیار دولت قرار دهند. در ۲۹ سپتامبر، مدیران شرکت‌های Anthropic، Google، Meta، OpenAI، Nvidia و xAI توافق‌نامه‌ای داوطلبانه را امضا کردند که ترامپ آن را «از نظر اخلاقی الزام‌آور» توصیف کرد؛ هرچند این توافق هیچ مسئولیت حقوقی ایجاد نمی‌کند.

مهلت یک‌ساله‌ای که طبق گزارش‌ها آلتمن تعیین کرده است، OpenAI را تحت فشار قرار می‌دهد تا رویکرد مورد حمایت خود را مشخص کند؛ آن هم در شرایطی که صنعت هوش مصنوعی همچنان به دنبال پیشرفت‌های بیشتر است و هم‌زمان درباره چگونگی مدیریت خطرات مرتبط با این فناوری بحث می‌کند.