بریتانیا ۱۰۰ میلیون پوند برای آزمایشگاه امنیت زیستی هوش مصنوعی اختصاص می‌دهد؛ تعهد ۲۰۰ میلیون پوندی OpenAI و Anthropic

تحلیل

دولت بریتانیا ۱۰۰ میلیون پوند برای تأسیس آزمایشگاه امنیت زیستی هوش مصنوعی اختصاص داده است؛ مرکزی که آن را نخستین سازمان تخصصی جهان در حوزه امنیت زیستی هوش مصنوعی می‌داند. شرکت‌های OpenAI و Anthropic نیز متعهد شده‌اند تا سقف ۲۰۰ میلیون پوند اعتبار استفاده از مدل‌های هوش مصنوعی و توان پردازشی در اختیار این مرکز بگذارند.

این طرح که بامداد شنبه به وقت بریتانیا اعلام شد، ابتکار ملی امنیت زیستی هوش مصنوعی را شکل می‌دهد؛ برنامه‌ای که نهادهای امنیت سلامت، سازمان‌های نظارتی حوزه دارو و سه آزمایشگاه پیشرو هوش مصنوعی را در چارچوبی مشترک گرد هم می‌آورد.

نکات کلیدی

• بودجه نقدی: تنها بخش نقدی این بسته، ۱۰۰ میلیون پوند دولت بریتانیاست که برای تأسیس آزمایشگاه امنیت زیستی هوش مصنوعی (AIBL) به‌عنوان سازمانی غیرانتفاعی و مستقل، با الگوبرداری از مؤسسه امنیت هوش مصنوعی، اختصاص می‌یابد.
• اعتبارهای غیرنقدی: تعهد ۱۰۰ میلیون پوندی OpenAI و تعهد حداکثر ۱۰۰ میلیون پوندی Anthropic به شکل توان پردازشی، اعتبار استفاده از مدل‌ها، دسترسی مورد اعتماد و پشتیبانی فنی ارائه می‌شود؛ این موارد کمک مالی نقدی نیستند.
• شرکای پژوهشی: Google DeepMind و Basecamp Research نیز به‌عنوان شرکای پژوهشی مشارکت می‌کنند و به‌ترتیب مدل‌های پیشرفته Gemini و مدل‌های تخصصی علمی، و همچنین مدل‌ها و تخصص هوش مصنوعی در زیست‌شناسی را در اختیار طرح می‌گذارند.
• ساختار همکاری: این آزمایشگاه محور ابتکار ملی امنیت زیستی هوش مصنوعی خواهد بود و با آژانس امنیت سلامت بریتانیا، آژانس سلامت حیوانات و گیاهان، آزمایشگاه علوم و فناوری دفاعی، نهاد نظارت بر داروها و محصولات سلامت و بخش علوم زیستی همکاری می‌کند.
• اطلاعات نامشخص: هنوز جدول زمانی اجرا، محل استقرار، تعداد کارکنان و مدیران مشخص نشده‌اند. دولت وعده داده است جزئیات کمیته مشورتی علمی را نیز در آینده اعلام کند.

مبلغ اعلام‌شده با آنچه تیتر القا می‌کند تفاوت دارد

بریتانیا می‌خواهد نخستین کشوری باشد که نهادی دائمی و مشخص برای بررسی پیوند هوش مصنوعی و خطرهای زیستی ایجاد می‌کند. اعلامیه رسمی دولت که اندکی پس از نیمه‌شب شنبه به وقت بریتانیا در وب‌سایت GOV.UK منتشر شد، تأسیس آزمایشگاه امنیت زیستی هوش مصنوعی را در قالب ابتکار ملی امنیت زیستی هوش مصنوعی اعلام می‌کند. این طرح دو شرکت از پیشروترین شرکت‌های هوش مصنوعی جهان را مستقیماً وارد ساختار امنیت زیستی کشور می‌کند.

دولت در توضیح این طرح به دوگانگی کاربردهای هوش مصنوعی اذعان کرده است. به گفته دولت، هوش مصنوعی می‌تواند پژوهش‌ها را سرعت ببخشد، درک بیماری‌ها را بهبود دهد و کشف اقدامات مقابله‌ای پزشکی را تسریع کند؛ اما سامانه‌های هرچه توانمندتر، «خطرهای زیستی تازه‌ای نیز ایجاد می‌کنند و ممکن است موانع فعالیت‌های زیان‌بار را کاهش دهند». مأموریت آزمایشگاه، بهره‌گیری از پیشرفته‌ترین سامانه‌های هوش مصنوعی برای شناخت، پیشگیری، شناسایی و مقابله با تهدیدهای زیستی است. تمرکز اولیه آن بر دو توانمندی خواهد بود: شناسایی زودهنگام تهدیدهای زیستی نوظهور و تسریع تولید واکسن‌ها، درمان‌ها و دیگر ابزارهای مقابله‌ای.

بر اساس مأموریت اعلام‌شده، این آزمایشگاه استعدادهای برتر در حوزه هوش مصنوعی پیشرفته و علوم زیستی را گرد هم می‌آورد تا توانمندی‌های فنی کاربردی توسعه دهند؛ یعنی ابزارهایی که بتوان از آن‌ها در عمل استفاده کرد، نه صرفاً مقاله‌های پژوهشی. هدف این است که توان بریتانیا برای شناخت، پیشگیری، شناسایی و مقابله با تهدیدهای زیستی تقویت شود.

دولت این طرح را راهی برای افزایش تاب‌آوری بریتانیا و جهان در برابر «طیف گسترده‌ای از خطرهای زیستی، از جمله خطرهایی که پیشرفت‌های هوش مصنوعی امکان بروز آن‌ها را فراهم می‌کنند» توصیف کرده است. آزمایشگاه با استفاده از هوش مصنوعی پیشرفته از شرکایی مانند مراکز ملی امنیت زیستی بریتانیا و صنعت علوم زیستی این کشور پشتیبانی خواهد کرد. هدف آن شناسایی زودتر تهدیدها و سرعت بخشیدن به کشف، توسعه و آزمایش واکسن‌ها و درمان‌هاست تا بریتانیا و دیگر کشورهای جهان بتوانند سریع‌تر به شیوع بیماری‌ها واکنش نشان دهند.

بررسی دقیق سند نشان می‌دهد که حمایت اعلام‌شده به ارزش «حداکثر ۳۰۰ میلیون پوند» از تعهدهایی با ماهیت متفاوت تشکیل شده است. دولت در توضیح این بسته از «حداکثر ۳۰۰ میلیون پوند بودجه دولتی و تعهد شرکت‌ها» سخن می‌گوید، اما تنها ۱۰۰ میلیون پوند آن بودجه دولتی است. باقی مبلغ به شکل حمایت غیرنقدی ارائه خواهد شد.

در این میان، دو نکته اهمیت دارد. نخست، تفاوت در میزان تعهد شرکت‌هاست: سهم OpenAI دقیقاً ۱۰۰ میلیون پوند اعلام شده، درحالی‌که تعهد Anthropic حداکثر ۱۰۰ میلیون پوند است. دولت توضیح نداده که چرا این دو تعهد ساختار متفاوتی دارند. دوم، هیچ‌یک از کمک‌های شرکت‌ها نقدی نیست. این کمک‌ها شامل توان پردازشی، اعتبار استفاده از مدل‌ها، دسترسی و پشتیبانی است؛ منابعی که ارزشمندند، اما بودجه نقدی محسوب نمی‌شوند و ارزش واقعی آن‌ها به میزان استفاده آزمایشگاه از این امکانات بستگی دارد. ۱۰۰ میلیون پوند دولت تنها مبلغی است که مستقل از میزان استفاده از خدمات شرکت‌ها تأمین شده است.

چه کسانی در این طرح مشارکت دارند؟

آزمایشگاه امنیت زیستی هوش مصنوعی به‌عنوان سازمانی غیرانتفاعی و مستقل فعالیت خواهد کرد و ساختار آن صراحتاً از مؤسسه امنیت هوش مصنوعی الگوبرداری شده است. به گفته دولت، این ساختار برای جذب استعدادهای برجسته دانشگاهی و صنعتی طراحی شده و باید «از استقلال کافی برخوردار باشد تا با سرعت و تمرکز یک شرکت فعال در مرزهای پیشرفته هوش مصنوعی و زیست‌شناسی فعالیت کند». کمیته‌ای مشورتی متشکل از متخصصان دانشگاهی، صنعتی و بخش سوم نیز از فعالیت‌های آن پشتیبانی خواهد کرد؛ جزئیات این کمیته بعداً اعلام می‌شود.

این ساختار همکاری دو کارکرد هم‌زمان دارد. از نظر عملیاتی، آزمایشگاهی که هنوز تأسیس نشده است از همان آغاز به مدل‌های پیشرفته‌ای دسترسی خواهد داشت که آموزش مستقل آن‌ها برایش ممکن نیست: توانمندترین مدل‌های مرتبط OpenAI از طریق برنامه Rosalind Biodefense، مدل‌های Anthropic همراه با پشتیبانی فنی اختصاصی، مدل Gemini و مدل‌های تخصصی علمی Google DeepMind و مدل‌های هوش مصنوعی در زیست‌شناسی Basecamp Research.

از نظر سیاسی، این همکاری شرکت‌های سازنده مدل‌ها را به ساختار امنیت زیستی دولت پیوند می‌دهد. همان شرکت‌هایی که دولت می‌گوید سامانه‌هایشان ممکن است «موانع فعالیت‌های زیان‌بار را کاهش دهند»، اکنون به مشارکت‌کنندگان قراردادی نهادی تبدیل می‌شوند که قرار است از بروز چنین پیامدهایی جلوگیری کند. این دوگانگی، تنش اصلی این طرح است؛ اعلامیه دولتی آن را برطرف نمی‌کند، بلکه در قالب یک ساختار نهادی رسمیت می‌بخشد.

ساختار نهادی پیرامون آزمایشگاه از مهم‌ترین نکات این اعلامیه است. آزمایشگاه به‌تنهایی فعالیت نخواهد کرد، بلکه در چارچوب ابتکار ملی امنیت زیستی هوش مصنوعی راه‌اندازی می‌شود؛ ابتکاری که آژانس امنیت سلامت بریتانیا (UKHSA)، آژانس سلامت حیوانات و گیاهان (APHA)، آزمایشگاه علوم و فناوری دفاعی (Dstl)، خود آزمایشگاه و بخش علوم زیستی را کنار هم قرار می‌دهد.

آزمایشگاه همچنین با آژانس تنظیم مقررات داروها و محصولات سلامت (MHRA) همکاری خواهد کرد تا برای وضعیت‌های اضطراری سلامت آماده شود و، نکته مهم‌تر، در «تدوین مقررات مربوط به داروهای طراحی‌شده با هوش مصنوعی» نقش داشته باشد. به این ترتیب، نهاد ناظر بر داروها پیش از ورود داروهای طراحی‌شده با هوش مصنوعی به این حوزه وارد فرایند می‌شود، نه پس از آن.

دولت همچنین اعلام کرده است که انتظار می‌رود در طول زمان، منابع مالی عمومی و کمک‌های بشردوستانه از آزمایشگاه پشتیبانی کنند و «امکان هدایت سرمایه‌گذاری‌های بیشتر به سمت تقویت توانمندی‌های امنیت زیستی» را فراهم آورند. بنابراین، ساختار در نظر گرفته‌شده صرفاً برای تأمین مالی یک آزمایشگاه نیست؛ این نهاد قرار است با سرمایه اولیه ۱۰۰ میلیون پوندی، منابع بیشتری را نیز جذب کند.

داده‌های اختصاصی TECHi: دومین نهاد ملی در حوزه هوش مصنوعی طی ۲۴ ساعت

این دومین نهاد ملی مرتبط با ایمنی هوش مصنوعی است که طی حدود یک روز از تأسیس آن خبر داده می‌شود. TECHi در گزارشی در ۲۳ اکتبر اعلام کرده بود که OpenAI با NASK، مؤسسه ملی پژوهشی لهستان، توافق‌نامه‌ای برای پژوهش در زمینه ایمنی هوش مصنوعی امضا کرده است. آن توافق چارچوبی پژوهشی بود که نه خروجی مشخصی برای آن تعریف شده بود و نه بودجه‌ای داشت. تنها نتیجه قابل تأیید آن تا امروز، اجرای یک طرح آزمایشی در ماه ژوئیه بود که در همکاری با CERT Polska به شناسایی و رفع شش آسیب‌پذیری در روترها انجامید.

مقایسه این دو طرح گویاست. توافق لهستان یک چارچوب پژوهشی است، اما طرح بریتانیا به تأسیس نهادی تأمین‌مالی‌شده منجر می‌شود که از تعهد دولتی ۹ رقمی، پشتیبانی غیرنقدی دو آزمایشگاه پیشرو هوش مصنوعی، همکاری پژوهشی با شرکت سومی یعنی DeepMind و مشارکت یک شرکت تخصصی هوش مصنوعی در زیست‌شناسی برخوردار است. این نهاد همچنین جایگاهی رسمی در ساختار امنیت زیستی ملی خواهد داشت.

دولت‌ها دیگر صرفاً اصول ایمنی هوش مصنوعی را تدوین نمی‌کنند، بلکه در حال ایجاد نهادهایی برای اجرای آن‌ها هستند. بریتانیا اکنون برای نسخه خود از این رویکرد، بودجه مشخص و ساختار سازمانی تعریف کرده است.

TECHi همچنین در گزارشی در ۲۳ اکتبر نوشته بود که OpenAI پس از توقف ایمنی ۱۱روزه، دسترسی به اینترنت را در فرایند آموزش مدل‌های پیشرفته خود قطع کرده است. در همان هفته‌ای که شرکت‌ها محیط‌های آموزشی خود را ایمن‌تر می‌کنند، دولت‌ها نیز در حال ایجاد ظرفیت عمومی برای رصد خطرهای زیستی هستند.

در همین حال، Anthropic همچنان محصولات پیشرفته خود را عرضه می‌کند؛ عامل هوش مصنوعی Claude Duet این شرکت در ۲۲ اکتبر معرفی شد، درحالی‌که این شرکت اعتبار استفاده از مدل‌هایش را نیز به آزمایشگاه بریتانیا اختصاص می‌دهد.

در اعلامیه چه چیزهایی مشخص نشده است؟

برای ارزیابی اعلامیه‌های دولتی باید به اطلاعاتی که در آن‌ها وجود ندارد نیز توجه کرد. در این مورد، هیچ جدول زمانی برای اجرای طرح ارائه نشده است: تاریخی برای آغاز فعالیت آزمایشگاه، محل استقرار، تعداد نیروی انسانی موردنیاز و نام مدیران آن مشخص نیست. کمیته مشورتی علمی نیز فعلاً در حد یک وعده مطرح شده و دولت گفته است جزئیات آن «در زمان مقتضی» اعلام خواهد شد.

نقش MHRA در تنظیم مقررات داروهای طراحی‌شده با هوش مصنوعی نیز به‌عنوان یک هدف اعلام شده، نه چارچوبی اجرایی و مشخص. همچنین، توصیف این آزمایشگاه به‌عنوان «نخستین سازمان تخصصی جهان در حوزه امنیت زیستی هوش مصنوعی» ادعای دولت است؛ درستی آن زمانی قابل ارزیابی خواهد بود که آزمایشگاه فعالیت خود را آغاز کند و مشخص شود نهاد مشابهی پیش از آن وجود نداشته است.

این کاستی‌ها اصل اعلام طرح را بی‌اعتبار نمی‌کنند، اما تفاوت میان یک نهاد واقعی و یک برنامه اعلام‌شده را روشن می‌سازند. بودجه ۱۰۰ میلیون پوندی مشخص است، شرکای طرح نام برده شده‌اند و سازوکار همکاری با نهادهایی چون UKHSA، APHA، Dstl و MHRA تعریف شده است؛ بااین‌حال، خود آزمایشگاه هنوز باید ایجاد شود.

چه تحولاتی را باید دنبال کرد؟

یکی از نکات مهم، این است که آیا بودجه آینده یا اعلامیه‌ای تکمیلی، تعهد «حداکثر ۱۰۰ میلیون پوندی» Anthropic را به رقمی قطعی‌تر تبدیل می‌کند یا خیر. مشخص شدن رئیس کمیته مشورتی علمی نیز نشان خواهد داد که آیا با نهادی برخوردار از نیروی انسانی و ساختار مدیریتی کامل روبه‌رو هستیم یا صرفاً با طرحی که بودجه قابل‌توجهی برای آن اعلام شده است.

اقدام بعدی MHRA درباره داروهای طراحی‌شده با هوش مصنوعی نیز اهمیت دارد. اشاره به این موضوع در اعلامیه، نخستین نشانه از شکل‌گیری چارچوبی نظارتی برای داروهایی است که با هوش مصنوعی طراحی می‌شوند؛ چارچوبی که آثار آن به بریتانیا محدود نخواهد ماند.

در نهایت، باید دید دیگر دولت‌ها چگونه واکنش نشان می‌دهند. لهستان در همین هفته چارچوبی پژوهشی ایجاد کرد و بریتانیا از تأسیس آزمایشگاهی با بودجه مشخص خبر داد. رقابت برای نهادینه‌کردن امنیت زیستی هوش مصنوعی اکنون رسماً آغاز شده است.