مدیر ارشد آنتروپیک هشدار داد مدل‌های هوش مصنوعی متن‌باز خطرات امنیتی بیشتری دارند
گیوم پرینسن، مدیر بخش بین‌الملل آنتروپیک و ارشدترین مدیر فروش این شرکت در خارج از آمریکا، روز چهارشنبه هشدار داد که مدل‌های هوش مصنوعی با وزن‌های باز نسبت به سامانه‌های بسته مانند محصولات شرکت او، خطرات بیشتری در حوزه ایمنی و امنیت سایبری دارند.
پرینسن در گفت‌وگو با تلویزیون بلومبرگ در نشست بین‌المللی هوش مصنوعی در دوبلین گفت: «باید درباره مدل‌های متن‌باز از نظر ایمنی بسیار محتاط باشیم. من نمی‌توانم درباره مدل‌های باز صحبت کنم، اما به‌طور تعریف‌شده، خطر بیشتری در آنها وجود دارد.»
مدل‌های هوش مصنوعی با وزن‌های باز، پارامترهای زیربنایی خود را در اختیار عموم قرار می‌دهند؛ به این معنا که هر فردی می‌تواند آنها را دانلود، تغییر دهد و روی سخت‌افزاری که کنترل می‌کند اجرا کند. به گفته بلومبرگ، حامیان این مدل‌ها معتقدند که آنها در مقایسه با سامانه‌های اختصاصی شرکت‌هایی مانند آنتروپیک و OpenAI هزینه کمتری دارند و با تمایل کشورها برای کنترل زیرساخت‌های هوش مصنوعی خود هماهنگ‌تر هستند.
اظهارات پرینسن موضعی فراتر از دیدگاه مدیرعامل آنتروپیک مطرح می‌کند. داریو آمودی در ماه ژوئیه نوشته بود که آنتروپیک هرگز خواستار ممنوعیت مدل‌های دارای وزن باز نشده و مدل‌هایی که قابلیت‌های خطرناک ندارند، می‌توانند یک منفعت عمومی باشند، به گزارش The Next Web. در حالی که دیدگاه آمودی بر خطرناک بودن یا نبودن یک مدل مشخص تمرکز دارد، موضع پرینسن کل این دسته از مدل‌ها را دربر می‌گیرد.
پرینسن نگرانی‌های خود را به تلاش‌های داخلی آنتروپیک برای ایمن‌سازی محصولات این شرکت مرتبط دانست. طبق گزارش بلومبرگ، پس از چند رخنه امنیتی مهم در حوزه هوش مصنوعی، این شرکت تدابیری حفاظتی برای جلوگیری از سوءاستفاده و تبدیل مدل‌هایش به ابزارهای تسلیحاتی اتخاذ کرد. آنتروپیک همچنین خواستار کندتر شدن روند توسعه هوش مصنوعی تا زمان ایجاد استانداردهای بین‌المللی و روش‌های ارزیابی یکسان شده است.
این اظهارات در شرایطی مطرح شد که آنتروپیک با رقابت فزاینده مدل‌های دارای وزن باز در مناطقی روبه‌رو است که نسبت به وابستگی به فناوری هوش مصنوعی آمریکا نگرانی دارند. شرکت فرانسوی Mistral AI مدل جدیدی را به‌عنوان گزینه‌ای مستقل برای اروپا معرفی کرده است که انتظار می‌رود وزن‌های آن در اواخر همین ماه منتشر شود. همچنین عرضه مدل‌های مشابه از سوی توسعه‌دهندگان چینی توجه روزافزون بین‌المللی را به خود جلب کرده است، به گزارش بلومبرگ.
اوایل همین هفته، آنتروپیک هشدار داده بود که مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی نوع جدیدی از بات‌نت‌ها را ایجاد کنند که بتوانند به‌صورت خودکار از طریق دستگاه‌های متصل به اینترنت، مانند اجاق‌های هوشمند، گسترش پیدا کنند، طبق گزارش بلومبرگ.
نگرانی درباره مدل‌های باز به موضوع رقابت‌پذیری هزینه‌ها نیز کشیده شده است. پرینسن در پاسخ به دغدغه مشتریان سازمانی درباره هزینه‌ها گفت سرمایه‌گذاری روی مدل‌های پیشرفته‌تر، شرط‌بندی‌ای است که با گذشت زمان نتیجه خواهد داد. او گفت: «همیشه روی مرز فناوری سرمایه‌گذاری کنید، زیرا شش ماه، یک سال یا دو سال دیگر، هزینه همان کاربرد نیز کاهش خواهد یافت.»
او افزود مدل Claude Opus 5.5 آنتروپیک ۴۰ درصد ارزان‌تر از نسخه قبلی است؛ رقمی که هزینه‌های معمول را نشان می‌دهد. به گفته The Next Web، قیمت فهرستی این مدل ۲۰ درصد کاهش یافته و بخش باقی‌مانده این کاهش هزینه از مصرف کمتر توکن‌ها ناشی شده است. پرینسن که در سال ۲۰۲۵ پس از فعالیت در شرکت Stripe به آنتروپیک پیوست، درباره برنامه‌های عرضه اولیه سهام این شرکت یا هزینه‌های آموزش مدل‌ها اظهارنظر نکرد.
در مقابل، جو تسای، رئیس هیئت‌مدیره علی‌بابا، هفته گذشته استدلال متفاوتی مطرح کرد و از اروپا خواست هوش مصنوعی متن‌باز را به‌عنوان بهترین مسیر منطقه برای دستیابی به استقلال فناورانه از آمریکا و چین بپذیرد.