مدیر مالی OpenAI درباره خطرات امنیتی مدل‌های هوش مصنوعی چینی هشدار داد
سارا فرایر، مدیر مالی OpenAI، به گزارش رسانه‌ها هشدار داده است که شرکت‌های استفاده‌کننده از مدل‌های ارزان‌قیمت هوش مصنوعی چینی ممکن است با خطرات امنیت سایبری روبه‌رو شوند. او همچنین گفته است مدل‌های جایگزین غربی حفاظت بیشتری در برابر این تهدیدات فراهم می‌کنند.
فرایر در گفت‌وگو با بلومبرگ در حاشیه اجلاس بین‌المللی هوش مصنوعی در دوبلین، از شرکت‌هایی که قصد استفاده از مدل‌های چینی را دارند خواست پیش از تصمیم‌گیری، خطرات مربوط به ایمنی و امنیت این مدل‌ها را ارزیابی کنند.
شرکت‌های OpenAI و رقیب آن، آنتروپیک، با رقابت فزاینده مدل‌های هوش مصنوعی دارای وزن‌های باز روبه‌رو هستند؛ به‌ویژه مدل‌هایی که در چین توسعه یافته‌اند. کاربران می‌توانند این مدل‌ها را دانلود کنند و روی سخت‌افزار خود به اجرا درآورند. هزینه استفاده از آن‌ها نیز اغلب کمتر از مدل‌های پیشرو آمریکایی است، در حالی که در برخی وظایف عملکردی قابل مقایسه با آن‌ها دارند.
به گزارش بلومبرگ، مدل‌های منتشرشده از سوی توسعه‌دهندگان چینی در ماه اوت بیشترین سهم از دانلود مدل‌های هوش مصنوعی مولد را در پلتفرم میزبانی مدل Hugging Face به خود اختصاص دادند.
OpenAI و آنتروپیک عمدتاً مدل‌های بسته ارائه می‌کنند که امکان دانلود یا تغییر آن‌ها برای کاربران وجود ندارد. هر دو شرکت معتقدند مدل‌های باز با خطرات بیشتری همراه هستند.
گیوم پرنسن، مدیر بخش بین‌الملل آنتروپیک، نیز در این رویداد نگرانی‌های مشابهی درباره مدل‌های دارای وزن‌های باز مطرح کرد.
او گفت: «نمی‌توانم از طرف مدل‌های باز صحبت کنم، اما این مدل‌ها ذاتاً خطرات بیشتری دارند.»
این اظهارات پس از چند مورد رفتار غیرمنتظره سامانه‌های پیشرفته هوش مصنوعی در جریان آزمایش‌های امنیت سایبری مطرح شده است.
OpenAI در ماه ژوئیه فاش کرد که مدل‌های این شرکت در جریان یک ارزیابی مجاز امنیت سایبری موفق شده‌اند به سامانه‌های متعلق به استارتاپ هوش مصنوعی Hugging Face نفوذ کنند.
آنتروپیک نیز نمونه‌هایی از رفتار نامناسب مدل‌های خود را افشا کرده است. به گزارش بلومبرگ، یکی از این موارد مربوط به مدلی از خانواده Claude بود که اطلاعاتی نادرست را در قالب یک گزارش به مراجع مربوط به تحقیقات یک پرونده قتل ارائه کرده بود.
با وجود این نگرانی‌ها، فرایر به شرکت‌های آمریکایی فعال در حوزه هوش مصنوعی هشدار داد که نباید روند عرضه مدل‌های جدید را بیش از حد کند کنند.
او گفت: «به نظرم باید سرعت پیشرفت را تنظیم کنیم، اما نه آن‌قدر کاهش دهیم که در دسترسی به این ابزارها عدم توازن ایجاد شود؛ ابزارهایی که از منظر امنیت سایبری ممکن است مسائل واقعاً حیاتی و حساسی در جهان به وجود آورند.»
کتی قصد دارد OpenAI را ترک کند
در خبری دیگر، ساچین کتی، مسئول زیرساخت OpenAI، روز گذشته در لینکدین اعلام کرد که قصد دارد در ۱۵ نوامبر از سمت خود کناره‌گیری کند، اما همکاری‌اش را با این شرکت در نقش مشاور ادامه خواهد داد.
او نوشت: «پس از یک سال فوق‌العاده در OpenAI، تصمیم گرفته‌ام این شرکت را ترک کنم تا چیز جدیدی بسازم.»
کتی پیش از پیوستن به OpenAI در نوامبر ۲۰۲۵، مسئولیت‌های فنی مختلفی در اینتل بر عهده داشت که از جمله آن‌ها می‌توان به سمت مدیر ارشد فناوری و هوش مصنوعی اشاره کرد.
شبکه CNBC گزارش داده است که اودی روداراجو، که تاکنون مدیر ارشد فناوری بخش رایانش OpenAI بوده، جانشین کتی خواهد شد و مسئولیت هدایت کل مجموعه رایانشی این شرکت را بر عهده خواهد گرفت.