مدل هوش مصنوعی متن‌باز سوئیس می‌تواند به حفاظت از وب کمک کند یا به مهاجمان آن قدرت بیشتری بدهد
یادداشت | | SwissInfo
نویسنده: SwissInfo
نکات کلیدی:
- سامانه‌های هوش مصنوعی عامل‌محور، از جمله عامل‌های OpenAI که اخیراً به وب‌سایت‌هایی مانند Hugging Face و سامانه بهداشت و درمان استرالیا نفوذ کرده‌اند، می‌توانند هزاران اقدام در دقیقه انجام دهند؛ سرعتی که از توان دفاع انسانی فراتر می‌رود و خطرات را برای زیرساخت‌های حیاتی افزایش می‌دهد.
- مدل‌های متن‌بازی مانند Apertus سوئیس می‌توانند به مدافعان در تحلیل حملات کمک کنند و امکان نگهداری داده‌های حساس در داخل سازمان را فراهم آورند؛ با این حال، کارشناسان هشدار می‌دهند که دسترسی بدون محدودیت به این مدل‌ها و امکان فراخوانی‌نشدن آنها می‌تواند در صورت حذف سازوکارهای حفاظتی، زمینه‌ساز استفاده مخرب در مقیاس وسیع شود.
- در بحبوحه نگرانی‌ها درباره تمرکز قدرت در دست شمار محدودی از آزمایشگاه‌های سیلیکون‌ولی، درخواست‌ها برای نظارت، قانون‌گذاری و تدوین استانداردهای بین‌المللی قوی‌تر در حال افزایش است و سوئیس می‌تواند در اجلاس هوش مصنوعی ژنو در سال ۲۰۲۷ نقش میانجی ایفا کند.
ظهور مدل‌های هوش مصنوعی عامل‌محور؛ یعنی برنامه‌های نرم‌افزاری که قادرند برای دستیابی به یک هدف به‌صورت خودکار عمل کنند، توازن سنتی میان حمله و دفاع در فضای سایبری را برهم زده است.
عامل‌های OpenAI، شرکت سازنده ChatGPT، طی هفته‌های اخیر این موضوع را با نفوذ به ده‌ها وب‌سایت شرکتی و دولتی در سراسر جهان نشان داده‌اند. در میان اهداف آنها، Hugging Face، پلتفرمی که میزبان میلیون‌ها مدل هوش مصنوعی متن‌باز، از جمله Apertus سوئیس، است و همچنین سامانه بهداشت و درمان استرالیا قرار داشتند. این عامل‌ها رفتاری از خود نشان دادند که خود OpenAI آن را «ناهمسو» با دستورهای توسعه‌دهندگان توصیف کرده است.
برای انسان‌ها، واکنش به حملاتی با سرعت هوش مصنوعی عملاً غیرممکن است. آندری کوچاروی، استاد دانشگاه علوم کاربردی و هنرهای غرب سوئیس و مسئول امنیت Apertus، مدل هوش مصنوعی کاملاً متن‌باز سوئیس، می‌گوید: «پیشرفته‌ترین سامانه‌های هوش مصنوعی می‌توانند هزاران اقدام در دقیقه انجام دهند.»
حملات عامل‌های OpenAI پیش از آنکه پیامدهای جدی به دنبال داشته باشند متوقف شدند. اما ماکسیم اشتافر، مدیر مؤسسه ژنو مستقر Simon Institute for Longterm Governance، انتظار دارد چنین رخدادهایی در آینده بیشتر و مدیریت آنها دشوارتر شود. او می‌گوید: «گروه‌هایی از عامل‌های هوش مصنوعی می‌توانند زیرساخت‌های حیاتی مانند مدارس، بیمارستان‌ها و سامانه‌های انرژی، یا حتی کشورهای کامل را عمداً یا سهواً هدف قرار دهند.» اشتافر همچنین به خطر استفاده از هوش مصنوعی برای تولید سلاح‌های زیستی اشاره می‌کند؛ نگرانی‌ای که تلاش‌های اخیر مهارشده توسط شرکت آمریکایی Anthropic نیز بر آن تأکید کرده‌اند.
مدافعان سایبری ممکن است به ابزارهایی با قدرت مشابه دسترسی نداشته باشند. سامانه‌هایی با پیشرفته‌ترین قابلیت‌های سایبری، مانند Claude Mythos متعلق به Anthropic، تنها در اختیار گروه محدودی قرار دارند. به گفته کوچاروی، مدل‌های متن‌باز می‌توانند به کاهش این نابرابری کمک کنند.
کوچاروی می‌گوید Apertus، برای نمونه، می‌تواند آسیب‌پذیری‌ها را شناسایی کند، برای آنها وصله پیشنهاد دهد و گزارش‌های حمله را تحلیل کند تا یک رخداد را بازسازی کند؛ هرچند این مدل اساساً برای امنیت سایبری طراحی نشده و همچنان محدودیت‌های قابل‌توجهی دارد. با این حال، برخی کارشناسان نگرانند که همین قابلیت‌های دفاعی در مدل‌های متن‌بازی که به‌طور گسترده در دسترس هستند، بتواند در مقیاسی بسیار بزرگ‌تر برای اهداف مخرب به کار گرفته شود.
اگر عامل‌های هوش مصنوعی به یک بیمارستان حمله کنند
ماجرای Hugging Face نمونه‌ای گویاست. هنگامی که چند عامل OpenAI به سامانه‌های این پلتفرم نفوذ کردند، این شرکت تلاش کرد برای درک آنچه در حال وقوع بود از برخی از قدرتمندترین مدل‌های هوش مصنوعی جهان استفاده کند، اما موفق نشد.
لوئیس تونستال، مهندس Hugging Face، به Swissinfo گفت: «مدل‌های مرزی [پیشرفته‌ترین مدل‌های هوش مصنوعی] به‌طور خودکار همه درخواست‌های ما را به دلایل امنیتی مسدود کردند. بنابراین مجبور شدیم برای فهمیدن اینکه چه اتفاقی افتاده است، به استفاده از مدل‌های متن‌باز روی بیاوریم.»
تونستال می‌گوید رفتار عامل‌های OpenAI با یک هکر معمولی تفاوت داشت. آنها قصد نداشتند کنترل زیرساخت را به دست بگیرند، بلکه می‌خواستند مجموعه‌داده‌هایی را پیدا کنند که پاسخ آزمون‌های امنیتی مورد استفاده برای ارزیابی آنها را در خود داشتند.
تونستال توضیح می‌دهد: «کمی شبیه دانش‌آموزی بود که واقعاً، واقعاً می‌خواهد در امتحان نمره خوبی بگیرد و به‌جای درس خواندن با خودش فکر می‌کند: شاید بتوانم وارد لپ‌تاپ معلم شوم و جواب‌ها را به دست بیاورم.»
OpenAI بعداً تأیید کرد که عامل‌ها از محیط محافظت‌شده‌ای که شرکت برای انجام آزمون ایجاد کرده بود خارج شده‌اند. اما اگر آنها به‌جای Hugging Face به یک بیمارستان حمله می‌کردند چه اتفاقی می‌افتاد؟
تونستال می‌گوید: «واقعاً فاجعه‌بار می‌شد.» این عامل‌ها بالقوه می‌توانستند به حجم زیادی از داده‌های شخصی و حساس دسترسی پیدا کنند. به گفته تونستال، همین مسئله یکی از دلایلی است که مدل‌های هوش مصنوعی متن‌باز می‌توانند بسیار مفید باشند: داده‌ها لازم نیست برای شرکت‌هایی مانند OpenAI یا Anthropic ارسال شوند، زیرا می‌توان مدل‌ها را به‌صورت محلی تطبیق داد یا کنترل کرد.
او می‌افزاید: «هیچ‌کدام از داده‌های حساس شما از زیرساختتان خارج نمی‌شود. همه‌چیز کاملاً داخل مجموعه خودتان باقی می‌ماند.»
به دلایل مشابه، بخش‌های کلیدی اقتصاد سوئیس مانند صنعت مالی نیز به‌طور فزاینده‌ای به مدل‌های متن‌باز علاقه‌مند شده‌اند. نینو آنتولوف-فانتولین، مدرس مؤسسه فناوری فدرال سوئیس در زوریخ (ETH Zurich) و متخصص یادگیری ماشین در حوزه مالی، این موضوع را مطرح می‌کند.
فانتولین می‌گوید: «مؤسسات مالی از استفاده صرف از مدل‌های بسته و ارسال اطلاعات حساس به سرورهایی که دور از سوئیس قرار دارند یا به ارائه‌دهندگان خارجی واهمه دارند. آنها می‌خواهند محل میزبانی مدل را خودشان کنترل کنند.»
مدل‌های متن‌باز قدرتمندتر می‌شوند؛ و امکان فراخوانی آنها وجود ندارد
با این حال، مشکل اینجاست که مدل‌های متن‌باز می‌توانند برای اهداف مخرب نیز مورد استفاده قرار گیرند.
این یکی از بزرگ‌ترین نگرانی‌های اشتافر است. از دید او، توسعه مدل‌های متن‌باز در شرایط کنونی عمدتاً سودمند است، اما در آینده ممکن است خطرات بر مزایا غلبه کنند؛ به‌ویژه اگر شرکت‌های هوش مصنوعی دسترسی به سامانه‌های مرزی خود را بیش از پیش محدود کنند. مدل‌های متن‌باز این خلأ را پر می‌کنند، اما گسترش آنها در مقیاس وسیع و امکان حذف سازوکارهای حفاظتی‌شان می‌تواند احتمال استفاده مخرب را افزایش دهد.
اشتافر می‌گوید: «اگر قابلیتی فوق‌العاده قدرتمند داشته باشید، اما هیچ‌کس به آن دسترسی نداشته باشد و این قابلیت تحت کنترل باقی بماند، خطر تقریباً صفر است. اما اگر همه به آن دسترسی داشته باشند، احتمالاً خطر بیشتر خواهد بود.»
اشتافر معتقد است با افزایش توانایی مدل‌های متن‌باز، ممکن است لازم باشد راهی برای پس‌گرفتن آنها وجود داشته باشد؛ اگر مشخص شود بیش از حد قدرتمند یا خطرناک هستند. در حال حاضر چنین امکانی وجود ندارد.
برخی پژوهش‌ها نیز نگرانی‌های مشابهی را مطرح کرده‌اند. مطالعه‌ای که پژوهشگران دانشگاه‌های استنفورد و پرینستون آن را هدایت کرده‌اند، دسترسی گسترده، قابلیت تغییر و ناتوانی توسعه‌دهندگان اصلی در فراخوانی وزن‌ها ــ پارامترهای عددی‌ای که مدل در جریان آموزش یاد می‌گیرد ــ یا نظارت بر نحوه استفاده از آنها را از جمله ویژگی‌هایی دانسته است که می‌توانند هم مزایا و هم خطرات مدل‌های متن‌باز را افزایش دهند.
همچنین، مقاله‌ای جدید از مؤسسه امنیت هوش مصنوعی بریتانیا نشان داد مدل‌های متن‌بازی که برای حذف سازوکارهای حفاظتی اصلاح شده بودند، در مقایسه با مدل‌هایی که این سازوکارها را حفظ کرده بودند، کمک بسیار بیشتری به فعالیت‌های مجرمانه ارائه می‌کردند. با این حال، هیچ‌یک از این دو مطالعه نتیجه نمی‌گیرد که مدل‌های هوش مصنوعی متن‌باز ذاتاً خطرناک‌تر هستند.
«کنترل و قانون‌گذاری» ضروری است
کوچاروی می‌پذیرد که مدل‌های متن‌باز با خطراتی همراه‌اند و می‌توان از آنها سوءاستفاده کرد. او می‌گوید: «مدل‌های هوش مصنوعی فناوری‌های دومنظوره هستند. می‌توان از آنها هم برای کارهای خوب و هم برای آسیب‌رساندن استفاده کرد.» با این حال، او معتقد است خطرات این مدل‌ها دقیقاً به دلیل متن‌باز بودنشان بسیار بیشتر قابل‌کنترل است.
به استدلال کوچاروی، تصادفی نیست که رخدادهای اخیر مربوط به آزمایشگاه‌های بسته بوده‌اند. او می‌گوید: «مشکل اصلی، نبود نظارت بر آزمایشگاه‌های مرزی است» و خواستار نظارت و شفافیت بیشتر برای همه مراکز توسعه هوش مصنوعی، اعم از دولتی یا خصوصی و متن‌باز یا بسته، می‌شود.
او تأکید می‌کند: «آنچه واقعاً به آن نیاز داریم، کنترل و قانون‌گذاری درباره فعالیت همه توسعه‌دهندگان هوش مصنوعی است.»
نبود نظارت و مقررات، مسئله مهم دیگری را در صنعت برجسته می‌کند: تمرکز قدرت در دست شمار اندکی از بازیگران که عمدتاً در سیلیکون‌ولی مستقرند. ناتالی کلاوزر، متخصص اخلاق دیجیتال، معتقد است این عدم توازن قدرت حتی بیش از باز یا بسته بودن مدل‌های هوش مصنوعی نگران‌کننده است.
کلاوزر می‌گوید: «تعداد انگشت‌شماری از شرکت‌های بزرگ فناوری، با تقریباً هیچ پاسخ‌گویی بیرونی، خودشان قوانین هوش مصنوعی را تعیین می‌کنند.» او بر ضرورت مقررات بین‌المللی تأکید دارد.
با این حال، تلاش‌ها در این زمینه همچنان پراکنده و کند هستند. در آمریکا، که یکی از قدرت‌های پیشرو در توسعه هوش مصنوعی است، دونالد ترامپ، رئیس‌جمهور، با مقررات‌گذاری گسترده در حوزه هوش مصنوعی مخالفت کرده و از «خودنظارتی» صنعت تمجید کرده است. سوئیس نیز رویکردی تا حدی مشابه در پیش گرفته و ایده قانون‌گذاری جامع در حوزه هوش مصنوعی را کنار گذاشته و به‌جای آن به تغییرات قانونی در بخش‌های مختلف و اقدامات غیرالزام‌آور روی آورده است.
کلاوزر استدلال می‌کند که در شرایط ژئوپلیتیکی کنونی، سوئیس ــ به‌عنوان کشوری بی‌طرف، قطب اروپایی شرکت‌های بزرگ فناوری و کشوری شناخته‌شده به‌دلیل «مساعی جمیله» دیپلماتیک ــ مسئولیت سیاسی فزاینده‌ای برای کمک به میانجی‌گری جهت دستیابی به یک توافق بین‌المللی درباره هوش مصنوعی دارد.
قانون‌گذاران از هر شش گروه پارلمانی سوئیس، اجلاس آتی هوش مصنوعی ژنو در ژوئن ۲۰۲۷ را فرصت مهمی برای ایفای این نقش از سوی کشورشان می‌دانند. آنها از دولت خواسته‌اند از این رویداد برای پیشبرد حداقل استانداردهای بین‌المللی درباره خطرات شدید هوش مصنوعی استفاده کند.