آیا هوش مصنوعی می‌تواند معادلات توسعه سلاح‌های زیستی را تغییر دهد؟
کارشناسان می‌گویند این فناوری می‌تواند به تروریست‌ها و دولت‌ها در تولید سلاح‌های زیستی کمک کند، اما موانع مهمی همچنان وجود دارد.
سر کن مک‌کالوم، رئیس سرویس اطلاعات داخلی بریتانیا (MI5)، در سخنرانی سالانه خود درباره تهدیدهای پیش روی کشور هشدار داد که هوش مصنوعی ظرفیت آن را دارد که «معادلات را تغییر دهد» و شرایط مربوط به سلاح‌های زیستی موجود و حتی نمونه‌های جدید را دگرگون کند. در این گزارش بررسی می‌کنیم که هوش مصنوعی چگونه ممکن است در توسعه سلاح‌های زیستی به کار گرفته شود و چه موانعی در این مسیر وجود دارد.
هوش مصنوعی چگونه می‌تواند به ساخت سلاح‌های زیستی کمک کند؟
این موضوع به فرد یا گروهی که قصد ساخت چنین سلاح‌هایی را دارد بستگی دارد. یکی از خطرها مربوط به افراد ناشی یا گروه‌های تروریستی است که ممکن است در یک آزمایشگاه ابتدایی و غیرحرفه‌ای فعالیت کنند. چت‌بات‌های هوش مصنوعی می‌توانند با گردآوری اطلاعات مرتبط، برنامه‌ریزی آزمایش‌ها و کمک به حل مشکلات، مهارت‌های این افراد را افزایش دهند. احتمالاً تمرکز چنین تلاش‌هایی بر استفاده از عوامل بیماری‌زای موجود و سموم خواهد بود.
خطر دیگر از سوی سازمان‌های مجهز و دولت‌هایی است که دانشمندان متخصص، آزمایشگاه‌های با سطح ایمنی بالا و تجهیزات و مواد لازم برای کار ایمن روی عوامل زیستی را در اختیار دارند. ابزارهای هوش مصنوعی می‌توانند برای مثال به پژوهشگران در شناسایی تغییرات ژنتیکی مورد نیاز برای افزایش مرگباری عوامل بیماری‌زا کمک کنند. به گفته دکتر فیلیپا لنتزوس، پژوهشگر حوزه علم و امنیت بین‌الملل در کینگز کالج لندن، این نگرانی فوری‌تر است. او می‌گوید: «در اینجا هوش مصنوعی جایگزین تخصص نمی‌شود، بلکه تخصص موجود را تقویت می‌کند.»
خطر دورتر این است که گروه‌های بسیار متخصص از هوش مصنوعی برای طراحی عوامل بیماری‌زا و سموم کاملاً جدیدی استفاده کنند که در برابر داروها مقاوم باشند یا پادزهر نداشته باشند.
آیا تاکنون تلاش شده از هوش مصنوعی برای ساخت سلاح‌های زیستی استفاده شود؟
سال گذشته پلیس هند یک طرح مشکوک به تروریسم زیستی را کشف کرد که در آن یک پزشک و چند نفر دیگر ظاهراً با استفاده از پرس‌وجو از چت‌بات‌های هوش مصنوعی و جست‌وجوی مبتنی بر هوش مصنوعی، برای ساخت ریسین، یک سم مرگبار، با استفاده از ابزارهای خانگی تلاش کرده بودند. مشخص نیست پاسخ‌های هوش مصنوعی تا چه اندازه به آنها کمک کرده بود، اما گزارش‌های دیگری نشان می‌دهد این ابزارها می‌توانند اطلاعات مرتبط و خطرناکی ارائه کنند.
شرکت هوش مصنوعی Anthropic نیز در ماه سپتامبر نگرانی‌های بیشتری ایجاد کرد؛ این شرکت گزارش داد که در پنج مورد، دانشمندانی در کشورهایی نامشخص تلاش کرده‌اند از چت‌بات Claude برای فعالیت‌هایی استفاده کنند که ممکن است به کار روی ویروس‌ها یا سموم خطرناک مربوط بوده باشد. به گفته این شرکت، یکی از نشانه‌های هشداردهنده این بود که پس از مسدود شدن دسترسی، این دانشمندان راه‌های دیگری برای ادامه کار پیدا کردند.
Anthropic در یکی از موارد اعلام کرد پژوهشگران از چت‌بات برای برنامه‌ریزی آزمایش‌هایی استفاده کرده‌اند که هدف آن ایجاد جهش در یک ویروس آنفلوانزای پرندگان بسیار بیماری‌زا بوده تا این ویروس بتواند آسان‌تر با پستانداران سازگار شود و انتقال بیشتری پیدا کند. چنین پژوهش‌هایی می‌تواند نشانه تلاش برای خطرناک‌تر کردن عوامل بیماری‌زا باشد، اما مطالعات مشابه در آزمایشگاه‌های معتبر نیز برای شناسایی همه‌گیری‌های آینده و توسعه واکسن‌ها و داروهای درمان بیماری انجام می‌شود.
چه موارد دیگری باعث نگرانی شده است؟
مجموعه‌ای از مطالعات نشان داده‌اند که ابزارهای هوش مصنوعی می‌توانند اطلاعات بالقوه خطرناکی درباره سلاح‌های زیستی ارائه کنند. در یک آزمایش اخیر در مؤسسه فناوری ماساچوست (MIT)، از دانشجویانی که زمینه علمی نداشتند خواسته شد بررسی کنند آیا می‌توانند یک چت‌بات هوش مصنوعی را برای کمک به ایجاد یک همه‌گیری به کار بگیرند یا نه. در کمتر از یک ساعت، چت‌بات‌ها چهار عامل بیماری‌زای بالقوه برای ایجاد همه‌گیری را معرفی کردند، توضیح دادند چگونه می‌توان آنها را از دی‌ان‌ای مصنوعی تولید کرد و نام شرکت‌های سنتز دی‌ان‌ای را ارائه کردند که احتمالاً سفارش‌ها را کمتر بررسی می‌کنند. با این حال، انجام واقعی چنین کاری بسیار دشوارتر از بیان آن است.
در نمونه‌ای دیگر، دکتر دیوید رلمن، پژوهشگر دانشگاه استنفورد، توضیح داد که یک هوش مصنوعی نحوه تغییر یک عامل بیماری‌زا برای مقاوم شدن در برابر درمان را شرح داده است. دانشمند دیگری نیز اعلام کرد یک چت‌بات هوش مصنوعی توضیح داده بود چگونه می‌توان از یک بالن هواشناسی برای انتشار سلاح‌های زیستی از آسمان استفاده کرد.
ماهیت دوگانه پژوهش‌های زیستی ــ که می‌توانند هم برای حفاظت از سلامت و هم برای توسعه سلاح‌های زیستی استفاده شوند ــ تشخیص میان تحقیقات مفید و تلاش‌های مخرب را دشوار می‌کند. در سال ۲۰۲۵، دانشمندان آزمایشگاه ملی لوس آلاموس یک هوش مصنوعی را آموزش دادند تا پیش‌بینی کند سموم عصبی بسیار قدرتمند حلزون‌های دریایی چگونه به سلول‌های انسانی متصل می‌شوند؛ کاری که می‌تواند به توسعه پادزهرها کمک کند. اما دولت آمریکا زمانی نگران شد که پژوهشگران چینی از این کار برای ساخت ابزار خود جهت طراحی سموم جدید استفاده کردند. پژوهشگران چینی اعلام کردند هدف این کار صرفاً توسعه دارو بوده است.
در ماه آوریل، دانشمندان نگرانی‌های بیشتری را مطرح کردند؛ زمانی که آنها نخستین ویروس‌های طراحی‌شده با هوش مصنوعی را ساختند. این ویروس‌ها از نوعی هستند که فقط به باکتری‌ها حمله می‌کنند و این پژوهش می‌تواند به تولید داروهای جدید منجر شود، اما کارشناسان هشدار دادند که این کار پرسش‌های «فوری درباره ایمنی زیستی و امنیت زیستی» ایجاد کرده است.
چه موانعی انجام این کار را دشوار می‌کند؟
بخش عمده فعالیت‌های مربوط به سلاح‌های زیستی فراتر از توان گروه‌های غیرمتخصص است؛ زیرا این حوزه علاوه بر پیچیدگی فنی، بسیار خطرناک است. اگرچه ممکن است بتوان چت‌بات‌های هوش مصنوعی را وادار کرد اطلاعاتی درباره سلاح‌های زیستی ارائه دهند، داشتن فهرستی از دستورالعمل‌ها کافی نیست. لنتزوس می‌گوید: «اطلاعات تنها یک بخش از مشکل است. دانش ضمنی، دسترسی به مواد و تجهیزات زیستی، اعتبارسنجی آزمایش‌ها، افزایش مقیاس تولید و روش انتقال، همگی همچنان موانع بزرگی هستند.»
سونیا بن اوآگرم-گورملی، معاون مدیر برنامه دفاع زیستی در دانشگاه جرج میسون در ویرجینیا، می‌گوید دانش ضمنی ــ یعنی مهارت‌ها و دانشی که به صورت مکتوب وجود ندارد و هوش مصنوعی احتمالاً نمی‌تواند به آن کمک کند ــ در موفقیت برنامه‌های تاریخی دولتی تولید سلاح‌های زیستی نقش مهمی داشته است.
پروفسور مارتین پاچسا از دانشگاه زوریخ گفت دسترسی به مواد اهمیت حیاتی دارد. او توضیح داد: «هر فیزیکدان فارغ‌التحصیل می‌تواند طرح یک بمب هسته‌ای بالقوه مؤثرتر را روی کاغذ ترسیم کند، اما از کجا قرار است یک تکه اورانیوم پیدا کند؟ درباره سلاح‌های زیستی هم همین است. اگر به مواد و تأسیسات لازم برای تولید آنها دسترسی داشته باشید، هوش مصنوعی در صورت تمایل به آسیب‌رسانی تفاوت چندانی ایجاد نخواهد کرد.»
چه اقدامات بیشتری لازم است؟
به گفته پروفسور تام اینگلزبی، مدیر مرکز امنیت سلامت دانشگاه جانز هاپکینز، برخی شرکت‌های هوش مصنوعی اقداماتی برای جلوگیری از استفاده ابزارهای خود در توسعه سلاح‌های زیستی انجام می‌دهند، اما بیشتر شرکت‌ها اعلام نکرده‌اند که چه اقداماتی انجام می‌دهند یا آیا اقدامی کرده‌اند. او می‌گوید: «هنوز در هیچ کشوری سیاست‌های رسمی دولتی برای مقابله با این نوع سوءاستفاده وجود ندارد.»
او خواستار ارزیابی‌های مستقل و رسمی از مدل‌های جدید هوش مصنوعی پیش از عرضه عمومی آنها شده است؛ به‌گونه‌ای که خطرهای احتمالی پیش از انتشار مدل‌ها برطرف شوند. همچنین داده‌های زیستی پرخطر، مانند اطلاعات مربوط به چگونگی آسان‌تر شدن انتشار عوامل بیماری‌زا، باید محدود شوند. در همین حال، شرکت‌هایی که مواد ژنتیکی را برای پژوهشگران تولید می‌کنند باید سفارش‌ها را بررسی کنند تا اطمینان یابند برای ساخت ویروس‌های جدید و بسیار خطرناک استفاده نمی‌شوند. بخشی از این بررسی‌ها هم‌اکنون انجام می‌شود، اما عمدتاً داوطلبانه است و اگر پژوهشگران با کمک هوش مصنوعی توالی‌های ژنتیکی زیان‌بار جدیدی طراحی کنند که شرکت‌ها آنها را بررسی نمی‌کنند، امکان دور زدن این سازوکارها وجود دارد.