سم آلتمن: «بیایید نهادی بین‌المللی برای نظارت بر هوش مصنوعی، مشابه آژانس بین‌المللی انرژی اتمی، ایجاد کنیم»
با پیشرفت هوش مصنوعی (AI) و تبدیل‌شدن آن به «عامل‌های خودمختار» که به‌طور مستقل تصمیم می‌گیرند و اقدام می‌کنند، نگرانی‌ها درباره خارج‌شدن این فناوری از کنترل انسان افزایش یافته است. در همین زمینه، سم آلتمن، مدیرعامل اوپن‌ای‌آی، سه پیشنهاد را با همکاران خود در میان گذاشته است تا از منحرف‌شدن مسیر توسعه هوش مصنوعی جلوگیری شود و این فناوری با رعایت ایمنی و تحت نظارت انسان پیشرفت کند.
به گزارش رسانه‌های خارجی، از جمله وب‌سایت اینفورمیشن، در ۲۰ اکتبر، آلتمن هفته گذشته در گفت‌وگو با کارکنان اوپن‌ای‌آی سه راهکار برای ایجاد تعادل میان سرعت توسعه هوش مصنوعی و الزامات ایمنی آن مطرح کرده است.
نخستین پیشنهاد او تشکیل یک نهاد بین‌المللی برای نظارت بر هوش مصنوعی، با الگوبرداری از آژانس بین‌المللی انرژی اتمی (IAEA)، است. بر اساس این طرح، دولت‌ها و شرکت‌های پیشرو در حوزه هوش مصنوعی به‌صورت مشترک استانداردهای ایمنی را تعیین می‌کنند و مدل‌های قدرتمند این فناوری پیش از عرضه، تحت ارزیابی و حسابرسی مستقل قرار می‌گیرند. بنا بر گزارش‌ها، آلتمن بیش از دیگران از ایجاد چنین نهاد بین‌المللی حمایت کرده است.
پیشنهاد دوم، تأسیس یک مؤسسه پژوهشی با مشارکت چند کشور، مشابه سازمان اروپایی پژوهش‌های هسته‌ای (CERN)، برای پیشبرد مشترک توسعه ابرهوش است. این طرح که به افتخار دمیس هاسابیس، هم‌بنیان‌گذار گوگل دیپ‌مایند، «طرح دمیس» نام گرفته، با هدف گردآوردن سازمان‌های بزرگ پژوهش هوش مصنوعی، از جمله اوپن‌ای‌آی، گوگل دیپ‌مایند و انتروپیک، در قالب یک ساختار یکپارچه ارائه شده است. هدف آن کاهش رقابت شتاب‌زده شرکت‌ها برای توسعه هرچه سریع‌تر هوش مصنوعی و محدودکردن خطرات از طریق به‌اشتراک‌گذاری نتایج پژوهش‌ها و فرایندهای ارزیابی ایمنی است.
پیشنهاد سوم که «طرح الیعزر» نام دارد، با هدف جلوگیری از شکل‌گیری انحصار و پیشتازی مهارنشدنی یک شرکت مطرح شده است. بر اساس این طرح، شرکتی که زودتر از دیگران موفق به توسعه ابرهوش شود، می‌تواند از برتری چشمگیر فناوری و منابع مالی خود برای جلوگیری از توسعه هوش مصنوعی به دست شرکت‌های رقیب استفاده کند. این پیشنهاد که به نام الیعزر یودکوفسکی، پژوهشگر ایمنی هوش مصنوعی، نام‌گذاری شده است، به شرکتی که به «خودبهبوددهی بازگشتی» دست می‌یابد ــ فرایندی که در آن هوش مصنوعی توانایی‌های خود را ارتقا می‌دهد ــ اجازه می‌دهد بازار را در انحصار بگیرد و سپس دسترسی رقبا به واحدهای پردازش گرافیکی (GPU) را قطع کند. آلتمن این اقدام را «معادل ذوب‌کردن واحدهای پردازش گرافیکی تمام شرکت‌های دیگر» توصیف کرد و گفت که این پیشنهاد «وحشتناک» است.
این بحث در شرایطی مطرح شده که اخیراً موارد بیشتری از خروج مدل‌های هوش مصنوعی شرکت‌های پیشرو از چارچوب کنترل خودمختار گزارش شده است؛ از جمله دسترسی به سامانه‌های خارجی بدون مجوز یا سوءاستفاده از آسیب‌پذیری‌های امنیتی. نگرانی‌ها از این بابت افزایش یافته است که با عبور هوش مصنوعی از مرحله پاسخ‌گویی به پرسش‌ها و تبدیل‌شدن آن به «عامل‌هایی» که مستقلاً تصمیم می‌گیرند و دست به اقدام می‌زنند، حتی پیش‌بینی و کنترل رفتار این سامانه‌ها برای توسعه‌دهندگان نیز دشوار شود.
گزارش‌ها حاکی است که آلتمن در گفت‌وگوهای داخلی پذیرفته است اقدامات مشخص برای تعیین یک «محدودیت سرعت» در توسعه هوش مصنوعی هنوز کافی نیست. ارزیابی‌ها نشان می‌دهد که شرکت‌ها با وجود آگاهی از ضرورت همکاری برای توسعه ایمن این فناوری، در موقعیتی شبیه «معمای زندانی» قرار دارند؛ زیرا در رقابت شدید فناوری نمی‌توانند به‌آسانی خطر عقب‌ماندن از رقبا را بپذیرند. آلتمن تأکید کرده است: «اوپن‌ای‌آی باید ظرف یک سال آینده درباره راهبرد ایمنی مشخصی تصمیم بگیرد.»
در همین حال، اوپن‌ای‌آی، گوگل، انتروپیک و دیگر شرکت‌های بزرگ فناوری درباره تأسیس نهادی با عنوان «آژانس استانداردهای هوش مصنوعی پیشرفته» (SAFA) مذاکره می‌کنند و قصد دارند تا پایان سال جاری میلادی یا اوایل سال آینده به توافق برسند. ایده اصلی این طرح، استقرار ارزیابان مستقل در شرکت‌های هوش مصنوعی برای سنجش ایمنی و تعیین استانداردهای گزارش‌دهی حوادث است. با این حال، شرکت‌ها همچنان درباره نحوه مقررات‌گذاری اختلاف‌نظر دارند و انتظار می‌رود مذاکرات با دشواری همراه باشد.
یون جه‌جون، خبرنگار: [email protected]