مدیر ارشد Anthropic درباره خطرات هوش مصنوعی متن‌باز هشدار داد، اما خواستار ممنوعیت نشد
شرکت Anthropic میان مدل‌های هوش مصنوعی که به فروش می‌رساند و سامانه‌های دارای وزن‌های باز که توسط رقبا توسعه داده می‌شوند، مرزی بر اساس میزان خطر ترسیم کرده است. گیوم پرنسن، مدیر بخش بین‌الملل Anthropic، در ۱۴ اکتبر ۲۰۲۶ در گفت‌وگو با تلویزیون بلومبرگ در حاشیه نشست بین‌المللی هوش مصنوعی در دوبلین گفت وزن‌های منتشرشده عمومی احتمال بیشتری دارند که به دست افراد نامناسب برسند، در مقایسه با مدل‌هایی که فقط از طریق API در دسترس هستند.
پرنسن در این مصاحبه گفت: «باید درباره متن‌باز بودن در حوزه ایمنی بسیار محتاط باشیم.» او در پاسخ به این پرسش که آیا همه مدل‌های باز خطر یکسانی دارند، افزود: «نمی‌توانم درباره همه مدل‌های باز صحبت کنم، اما به‌طور تعریف‌شده، خطر در آن‌ها بیشتر است.» این اظهارات بار دیگر بحثی را که طی دو سال گذشته در صنعت هوش مصنوعی جریان داشته، برجسته کرد: آیا انتشار وزن‌های مدل‌ها با افزایش شفافیت باعث ایمنی بیشتر می‌شود یا با در اختیار گذاشتن نرم‌افزارهای قدرتمند برای هر کسی، خطرات را افزایش می‌دهد.
آنچه پرنسن در دوبلین گفت
نشست بین‌المللی هوش مصنوعی در دوبلین یکی از محل‌های اصلی گفت‌وگوی دولت‌ها و آزمایشگاه‌های هوش مصنوعی درباره تعهدات عمومی ایمنی است. حضور پرنسن ابتدا با موضوع رشد تجاری Anthropic مرتبط بود، اما گفت‌وگو زمانی به موضوع ایمنی کشیده شد که مجری بلومبرگ درباره هوش مصنوعی متن‌باز از او پرسید.
بر اساس گزارش بلومبرگ، پرنسن استدلال کرد که مدل‌های باز نسبت به مدل‌های Anthropic خطر بیشتری برای رخدادهای امنیت سایبری یا دیگر سوءاستفاده‌ها دارند، زیرا پس از انتشار وزن‌ها، شرکت سازنده دیگر نمی‌تواند دسترسی را کنترل یا آن را لغو کند. او نام مدل یا شرکت خاصی را ذکر نکرد و خواستار محدودیت کلی برای انتشار مدل‌های باز نشد.
این موضع با سیاست مکتوب Anthropic درباره مدل‌های دارای وزن باز هم‌راستا است. این شرکت تأکید دارد که بحث آن درباره متن‌باز به معنای کلی نیست، بلکه درباره انتشار پارامترهای آموزش‌دیده‌ای است که به دیگران اجازه می‌دهد نسخه کامل یک مدل را روی سخت‌افزار خود اجرا کنند.
سیاست مکتوب Anthropic درباره وزن‌های باز
نگرانی‌های مطرح‌شده از سوی Anthropic در سه دسته اصلی قرار می‌گیرند: نخست، سوءاستفاده‌های امنیت سایبری؛ زیرا مدلی با توانایی‌های پیشرفته پس از انتشار وزن‌ها می‌تواند بدون امکان بازپس‌گیری، برای حملات تغییر داده شود. دوم، خطرات زیستی؛ زیرا مدل‌هایی که توان کمک به تهدیدهای زیستی دارند ممکن است پس از انتشار کنترل‌ناپذیر شوند. سوم، هم‌ترازی؛ زیرا تغییر مدل توسط کاربران دیگر می‌تواند رفتارهایی ایجاد کند که سازنده اولیه آن‌ها را آزمایش نکرده است.
با این حال، Anthropic می‌گوید خواستار ممنوعیت مدل‌های دارای وزن باز نیست. این شرکت اعلام کرده آزمایش‌های ایمنی باید برای هر مدل قدرتمند، چه باز و چه بسته، پیش از انتشار انجام شود. همچنین بر محدودیت صادرات تراشه‌های پیشرفته هوش مصنوعی به دولت‌های اقتدارگرا و بررسی تقطیر گسترده مدل‌ها تمرکز دارد.
چرا زمان‌بندی این اظهارات مهم است
این موضع‌گیری در شرایطی مطرح می‌شود که مدل‌های دارای وزن باز در سال ۲۰۲۶ پیشرفت زیادی کرده‌اند و فاصله عملکردی آن‌ها با مدل‌های اختصاصی کاهش یافته است. این روند فشار تجاری مستقیمی بر شرکت‌هایی مانند Anthropic، OpenAI و Google وارد کرده است؛ شرکت‌هایی که درآمدشان به استفاده از APIهای پولی وابسته است.
منتقدان می‌گویند هشدار درباره مدل‌های باز می‌تواند به نفع شرکتی باشد که مدل‌های بسته می‌فروشد. در مقابل، Anthropic استدلال می‌کند که نگرانی‌های ایمنی مستقل از منافع تجاری است و استانداردهای آزمایش باید شامل مدل‌های خود این شرکت نیز شود.
دیدگاه طرفداران مدل‌های باز
طرفداران مدل‌های دارای وزن باز معتقدند شفافیت خود یک ابزار ایمنی است. پژوهشگران مستقل می‌توانند وزن‌های مدل را بررسی کنند، آسیب‌پذیری‌ها را پیدا کنند و یافته‌های خود را سریع‌تر منتشر کنند. آن‌ها همچنین می‌گویند مدل‌های باز به شرکت‌های کوچک، دانشگاه‌ها و دولت‌ها اجازه می‌دهند بدون وابستگی به چند ارائه‌دهنده بزرگ، از فناوری‌های پیشرفته استفاده کنند.
در عین حال، آن‌ها اذعان دارند که از دست دادن کنترل پس از انتشار وزن‌ها یک ویژگی واقعی این مدل‌هاست. اختلاف اصلی بر سر این است که آیا این ویژگی باید به محدودیت‌های بیشتر منجر شود یا مزایای پژوهشی و شفافیت آن ارزشمندتر است.
تأثیر بر بازار و سیاست‌گذاری
برای خریداران سازمانی، این بحث بیش از آنکه درباره یک مصاحبه تلویزیونی باشد، به تصمیم‌گیری درباره استفاده از مدل‌های باز درون سازمانی یا پرداخت هزینه برای APIهای میزبانی‌شده مربوط است. تیم‌های امنیتی اکنون دیدگاه روشن‌تری از نحوه ارزیابی خطر توسط یک ارائه‌دهنده بزرگ مدل‌های بسته دارند.
شرکت‌های ابری که هم مدل‌های باز و هم بسته را میزبانی می‌کنند، از جمله ارائه‌دهندگان بزرگ زیرساخت، معمولاً از گرفتن موضع عمومی در این اختلاف خودداری کرده‌اند، زیرا از هر دو نوع بار کاری درآمد دارند. در مقابل، مهم‌ترین منافع تجاری در اختیار توسعه‌دهندگان مدل‌هاست؛ جایی که مدل‌های باز می‌توانند قیمت‌گذاری مبتنی بر استفاده از API را به چالش بکشند.
اگر قانون‌گذاران در اتحادیه اروپا، بریتانیا یا آمریکا مدل‌های دارای وزن باز را به‌عنوان دسته‌ای با الزامات نظارتی جداگانه در نظر بگیرند، ممکن است روند انتشار این مدل‌ها کند شود. اظهارات پرنسن در دوبلین نشان می‌دهد Anthropic تلاش دارد در شکل‌گیری چنین سیاست‌هایی نقش داشته باشد، هرچند همچنان تأکید می‌کند که به دنبال ممنوعیت نیست.
جمع‌بندی بزرگ‌تر برای حکمرانی هوش مصنوعی
مصاحبه پرنسن تنها بخشی از بحثی طولانی‌تر درباره آینده هوش مصنوعی است. صنعت از مرحله پرسش درباره توان رقابت مدل‌های باز عبور کرده و اکنون درباره مسئولیت‌های ناشی از انتشار آن‌ها بحث می‌کند. Anthropic خواستار آزمایش‌های اجباری پیش از انتشار، کنترل صادرات تراشه‌های قدرتمند و بررسی شیوه‌های تقطیر مدل‌هاست. طرفداران مدل‌های باز نیز آزادی انتشار و دسترسی غیرمتمرکز را بخشی از راهکار ایمنی می‌دانند.
هنوز هیچ‌یک از طرفین برتری قطعی در عرصه سیاست‌گذاری ندارد. قوانین موجود در حال تکامل هستند و اظهاراتی مانند سخنان پرنسن بیشتر به‌عنوان موضع‌گیری عمومی پیش از نهایی شدن مقررات آینده عمل می‌کنند. نتیجه این مناقشه در سال آینده مشخص خواهد کرد که آیا انتشار مدل‌های دارای وزن باز با سرعت فعلی ادامه می‌یابد یا با الزامات آزمایش پیش از انتشار مواجه می‌شود.
پرسش‌های متداول
گیوم پرنسن چه کسی است؟
گیوم پرنسن مدیر بخش بین‌الملل Anthropic است و مسئول فعالیت‌های تجاری این شرکت خارج از آمریکا محسوب می‌شود.
آیا Anthropic خواستار ممنوعیت هوش مصنوعی متن‌باز است؟
خیر. این شرکت اعلام کرده است که ممنوعیت کلی مدل‌های دارای وزن باز را دنبال نمی‌کند و بر آزمایش ایمنی برای مدل‌های قدرتمند تأکید دارد.
تفاوت مدل متن‌باز و مدل دارای وزن باز چیست؟
Anthropic در سیاست خود مشخصاً درباره مدل‌های دارای وزن باز صحبت می‌کند؛ یعنی مدل‌هایی که پارامترهای آموزش‌دیده آن‌ها منتشر می‌شود و دیگران می‌توانند آن‌ها را مستقل اجرا کنند.