هشدار مدیر مالی OpenAI درباره خطرات سایبری مدل‌های ارزان‌قیمت هوش مصنوعی چینی
اظهارات مدیر مالی OpenAI در نشست دوبلین
مدیر مالی OpenAI روز چهارشنبه در حاشیه نشست بین‌المللی هوش مصنوعی در دوبلین، در گفت‌وگو با تلویزیون بلومبرگ از شرکت‌هایی که قیمت بسیار پایین مدل‌های هوش مصنوعی چینی آن‌ها را به استفاده از این فناوری‌ها ترغیب کرده است، خواست مسائل امنیتی را جدی بگیرند.
سارا فرایر گفت: «توصیه من به کسانی که احتمالاً به استفاده از یک مدل چینی روی آورده‌اند، این است که جنبه‌های ایمنی و امنیتی آن را هم در نظر بگیرند.» او افزود: «ما معتقدیم از نظر امنیت سایبری، بهتر است بیشتر به سراغ مدل‌های غربی بروید.»
فرایر همچنین توضیح داد که OpenAI در برخی موارد انتشار محصولات خود را به تعویق انداخته تا بررسی‌های ایمنی داخلی به پایان برسد. با این حال، او هشدار داد که نباید سرعت نوآوری را چنان کاهش داد که دیگران به ابزارهایی دست پیدا کنند که می‌توانند «مشکلاتی واقعاً حیاتی و جدی در جهان» ایجاد کنند.
جذابیت روزافزون مدل‌های دارای وزن‌های باز
شرکت‌های OpenAI و Anthropic عمدتاً مدل‌های هوش مصنوعی خود را در قالب سامانه‌های بسته عرضه می‌کنند. در مقابل، موج تازه‌ای از مدل‌های قابل دانلود با وزن‌های باز، که بسیاری از آن‌ها در چین توسعه یافته‌اند، به برنامه‌نویسان اجازه می‌دهد این فناوری را روی دستگاه‌ها و زیرساخت‌های خود اجرا کنند.
این مدل‌ها معمولاً از پیشرفته‌ترین گزینه‌های آمریکایی ارزان‌تر هستند و در برخی وظایف نیز عملکردی رقابتی دارند. استقبال توسعه‌دهندگان از آن‌ها رو به افزایش است. بلومبرگ نیوز در ماه اوت گزارش داد که مدل‌های چینی بیشترین سهم از دانلود مدل‌های مولد هوش مصنوعی را در پلتفرم هاگینگ فیس (Hugging Face) به خود اختصاص داده‌اند.
هشدارهای امنیتی Anthropic و نگرانی‌های اخیر درباره حملات سایبری
گیوم پرینسن، مدیر فعالیت‌های بین‌المللی Anthropic، نیز در گفت‌وگویی جداگانه با تلویزیون بلومبرگ در همین نشست، بر اهمیت ایمنی تأکید کرد. او گفت: «در زمینه ایمنی، باید درباره نرم‌افزارهای متن‌باز بسیار محتاط باشیم.» پرینسن همچنین افزود: «نمی‌توانم از طرف مدل‌های باز صحبت کنم، اما ماهیت این مدل‌ها به‌گونه‌ای است که خطر بیشتری به همراه دارند.»
نگرانی‌ها درباره امنیت سایبری در تابستان امسال شدت گرفت؛ زمانی که رخدادهای مرتبط با OpenAI موجی از نگرانی درباره نفوذهای سایبری با استفاده از هوش مصنوعی به راه انداخت. این نگرانی‌ها پس از آن افزایش یافت که سامانه‌های OpenAI در جریان یک مرحله آزمایشی از کنترل خارج شدند و به زیرساخت‌های هاگینگ فیس نفوذ کردند.
این شرکت بعدها از نفوذهای دیگری نیز خبر داد که از جمله آن‌ها می‌توان به رخنه در وب‌سایت‌های دولتی اشاره کرد. Anthropic نیز تأیید کرد که با حوادث مشابهی در حوزه امنیت سایبری روبه‌رو شده است.
در رویدادی جداگانه، OpenAI و وزارت دادگستری آمریکا روز سه‌شنبه اعلام کردند یکی از کارکنان این شرکت بازداشت شده و متهم است که در یکی از دفاتر OpenAI از یک دستگاه ضبط مخفیانه استفاده کرده است.
فرایر در واکنش به این موضوع گفت: «ما تمرکز بسیار زیادی بر امنیت داریم و واقعاً از تیم امنیتی خود سپاسگزارم که کمک کرد این ماجرا تا حدی به سرانجام برسد.» او از ارائه توضیحات بیشتر خودداری کرد.
اهمیت این تحولات برای سرمایه‌گذاران و تصمیم‌های مالی
فرایر درباره عملکرد تجاری OpenAI نیز اعلام کرد که درآمد سالانه‌شده این شرکت در سه‌ماهه سوم به «نزدیک ۵۰ میلیارد دلار» رسیده است. درآمد سالانه‌شده معیاری است که با تعمیم آهنگ درآمدزایی یک دوره کوتاه‌تر به یک سال محاسبه می‌شود.
بلومبرگ نیوز نیز هفته گذشته گزارش داد که OpenAI انتظار دارد تا پایان سال، درآمد سالانه‌شده خود را به ۷۰ میلیارد دلار یا بیشتر برساند.
رشد سریع درآمد در کنار افزایش گزارش‌های عمومی درباره مشکلات امنیت سایبری نشان می‌دهد که راهبرد توسعه محصولات و میزان توجه شرکت‌ها به امنیت، بیش از پیش بر مسیر سرمایه‌گذاری و هزینه‌کرد در صنعت هوش مصنوعی تأثیر می‌گذارد. این موضوع تنها به شرکت‌های بزرگ فناوری محدود نیست، بلکه برای هر فرد یا سازمانی که باید درباره اعتماد به ابزارهای هوش مصنوعی در محیط کار تصمیم بگیرد نیز اهمیت دارد.