مدیر اجرایی آنتروپیک: مدل‌های هوش مصنوعی متن‌باز خطرات بیشتری برای امنیت سایبری دارند
نوشته مارک برگن و تام مکنزی
مدیر ارشد فروش بین‌المللی شرکت آنتروپیک پی‌بی‌سی استدلال کرد که جایگزین‌های متن‌باز برای مدل‌های هوش مصنوعی این شرکت، «خطر بیشتری» برای رخدادهای امنیت سایبری یا دیگر تهدیدها به همراه دارند.
گوئیوم پرینسن، مدیر بخش بین‌الملل آنتروپیک، روز چهارشنبه در حاشیه اجلاس بین‌المللی هوش مصنوعی در دوبلین به تلویزیون بلومبرگ گفت: «باید درباره متن‌باز بودن در حوزه ایمنی بسیار محتاط باشیم. من نمی‌توانم درباره مدل‌های باز صحبت کنم، اما ذاتاً با آن‌ها خطر بیشتری وجود دارد.»
آنتروپیک که در آستانه عرضه عمومی سهام خود قرار دارد، با افزایش رقابت در کشورهایی روبه‌رو شده است که نگرانی بیشتری درباره وابستگی به فناوری هوش مصنوعی آمریکا دارند. یکی از گزینه‌های محبوب در این میان، مدل‌های هوش مصنوعی با وزن‌های باز است؛ مدل‌هایی که پارامترهایشان به‌صورت عمومی منتشر می‌شود و به کاربران اجازه می‌دهد آن‌ها را تغییر دهند و روی سخت‌افزارهای خود اجرا کنند.
حامیان این مدل‌ها می‌گویند آن‌ها در مقایسه با سامانه‌های بسته و به‌شدت کنترل‌شده شرکت‌هایی مانند آنتروپیک و اوپن‌ای‌آی، هزینه کمتری دارند و برای حاکمیت فناورانه کشورها مناسب‌تر هستند.
شرکت فرانسوی میسترال‌ای‌آی اخیراً یک مدل با وزن‌های باز عرضه کرد که به‌عنوان گزینه‌ای مستقل برای اروپا معرفی شد. همچنین مجموعه‌ای از مدل‌های مشابه چینی در خارج از این کشور در حال افزایش محبوبیت هستند.
آنتروپیک همچنین هشدارهای خود درباره توانایی‌های هوش مصنوعی را افزایش داده است. این شرکت در اوایل همین هفته اعلام کرد که مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بتوانند نوع جدیدی از بات‌نت‌ها را ایجاد کنند که قابلیت تکثیر خودکار در دستگاه‌های کوچک متصل به اینترنت، مانند یک اجاق هوشمند، را دارند.
پرینسن که علاوه بر مسئولیت بین‌المللی، هدایت تلاش‌های فروش آنتروپیک برای استارتاپ‌ها و شرکت‌های «دیجیتال‌محور» را نیز بر عهده دارد، گفت نگرانی‌های او درباره مدل‌های دارای وزن باز، از تلاش‌های آنتروپیک برای ایمن‌سازی محصولات خودش ناشی می‌شود. پس از چندین حمله پرسر‌وصدا به سامانه‌های هوش مصنوعی، آنتروپیک اعلام کرده است که تدابیر حفاظتی بیشتری برای جلوگیری از رفتارهای مخرب مدل‌هایش اعمال کرده است.
این شرکت از کاهش سرعت توسعه هوش مصنوعی تا زمان ایجاد استانداردهای بین‌المللی و ارزیابی‌های یکپارچه حمایت کرده است.
پرینسن درباره مدل‌های گران‌تر آنتروپیک گفت به کسب‌وکارها توضیح می‌دهد که پرداخت هزینه برای مدل‌های توانمندتر در نهایت سودمند خواهد بود. او گفت: «همیشه باید روی مرزهای پیشرفت سرمایه‌گذاری کنید، زیرا شش ماه، یک سال یا دو سال دیگر، هزینه استفاده از آن کاربرد نیز کاهش خواهد یافت.»
او افزود جدیدترین مدل کلود این شرکت، Opus 5.5، نسبت به نسخه قبلی ۴۰ درصد ارزان‌تر است. پرینسن همچنین گفت شرکت‌هایی که برای مدل‌های «پیشرو» آنتروپیک هزینه پرداخت می‌کنند، بخش بسیار بزرگی از کسب‌وکار این شرکت را تشکیل می‌دهند، اما جزئیات بیشتری ارائه نکرد.
پرینسن از اظهارنظر درباره برنامه‌های عرضه اولیه سهام آنتروپیک یا میزان هزینه‌ای که این شرکت برای آموزش مدل‌های جدید خود صرف می‌کند، خودداری کرد.