ماشین در آزمایشگاه: خلأ ناشی از هوش مصنوعی در قانون هند درباره سلاح‌های کشتار جمعی
گزارش سپتامبر ۲۰۲۶ شرکت آنتروپیک درباره سوءاستفاده زیستی از هوش مصنوعی، پرسشی فوری را مطرح کرده است: هنگامی که مدل‌های هوش مصنوعی عمومی (GPAI) با قابلیت‌های پرخطر و اثرگذاری گسترده در میان هستند، مسئولیت حقوقی پژوهش‌های دومنظوره بر عهده چه کسی است؟ منظور از «دومنظوره» اطلاعات، دانش، محصولات و فناوری‌هایی است که برای کاربردی مفید و با نیتی مثبت توسعه یافته‌اند، اما امکان سوءاستفاده از آن‌ها برای آسیب‌رسانی نیز وجود دارد. در حوزه پژوهش، «پژوهش دومنظوره» (DUR) به تحقیقات علمی‌ای گفته می‌شود که ممکن است از طریق تسلیحاتی‌کردن نتایج یا روش‌های دیگر مورد سوءاستفاده قرار گیرند. «پژوهش دومنظوره نگران‌کننده» (DURC) نیز به تحقیقاتی گفته می‌شود که برای ایجاد آسیب، به تغییرات بسیار اندک یا حتی هیچ تغییری نیاز ندارند.
در نخستین مطالعه موردی گزارش، یک پلتفرم مبتنی بر مدل زبانی بزرگ (LLM) که به پژوهشگران دانشگاهی وابسته به مؤسسات تحقیقاتی غیرنظامی و نظامی در کشورهایی خدمات می‌داد که آنتروپیک در آن‌ها فعالیت نمی‌کند، از طریق فروشندگان بازار خاکستری و حساب‌های کاربری ساختگی به مدل‌های پیشرفته هوش مصنوعی آمریکا دسترسی پیدا کرد. این پژوهشگران مشغول انجام تحقیقات بسیار نگران‌کننده «افزایش کارکرد» (GOFR) روی ویروس چیکونگونیا بودند. از آنجا که توسعه‌دهندگان نتوانستند سازوکارهای طبقه‌بندی ایمنی را دور بزنند، مکانیسم جایگزینی طراحی کردند تا درخواست‌های حساس را به مدل‌هایی با محدودیت‌های کمتر هدایت کند.
در مورد دوم، پژوهشگری از منطقه‌ای که تحت پوشش خدمات قرار نداشت، به کلود دسترسی پیدا کرد و جهش‌های ویروس آنفلوانزای پرخطر پرندگان را بررسی کرد. این جهش‌ها بالقوه می‌توانستند به همه‌گیری انسانی منجر شوند و در مدل‌های حیوانی امکان انتقال ویروس از طریق هوا را فراهم کنند. پژوهشگر نیز به نمونه‌های جداشده ویروس دسترسی فیزیکی داشت. چون امکان عبور از سامانه‌های طبقه‌بندی ایمنی زیستی کلود فراهم نشد، از مدل‌های ضعیف‌تر، یعنی Sonnet 4 و Haiku 4.5، برای کمک‌های اداری و ویرایشی استفاده شد. مورد سوم به کاربر ناشناس دیگری مربوط بود که با استفاده از Opus 5، پیش‌نویس درخواست کمک‌هزینه‌ای برای پژوهش درباره ارتوپاکس‌ویروس تهیه کرد. از آنجا که پژوهش بر تضعیف ویروس متمرکز بود، کلود اطلاعات مورد نیاز را ارائه داد؛ زیرا این موضوع ماهیتی دومنظوره داشت. در چهارمین و پنجمین مطالعه موردی نیز تحقیقات درباره زهرها و سمومی بررسی شد که می‌توان از آن‌ها هم برای تولید عوامل درمانی و هم برای ساخت عوامل فلج‌کننده استفاده کرد. این موارد نگرانی‌ها درباره عوامل ناتوان‌کننده را برجسته می‌کنند. حساب‌های مرتبط با این دو مورد در مه ۲۰۲۶، به دلیل نقض سیاست آنتروپیک درباره مناطق تحت پوشش خدمات، مسدود شدند.
قانون هند با عنوان «قانون منع فعالیت‌های غیرقانونی مرتبط با سلاح‌های کشتار جمعی و سامانه‌های پرتاب آن‌ها، مصوب ۲۰۰۵» (قانون WMD)، در راستای اجرای قطعنامه ۱۵۴۰ شورای امنیت سازمان ملل متحد تصویب شد تا از دستیابی بازیگران غیردولتی به سلاح‌های کشتار جمعی، از جمله سلاح‌های زیستی، جلوگیری کند. ماده ۸ این قانون، ساخت، تحصیل، نگهداری، توسعه، حمل‌ونقل یا انتقال غیرقانونی و مستقیم یا غیرمستقیم سلاح‌های هسته‌ای، شیمیایی و زیستی، از جمله ادوات انفجاری هسته‌ای، و همچنین سامانه‌های مشخص پرتاب موشک را ممنوع می‌کند. این قانون در دوران پیش از ظهور هوش مصنوعی تدوین شده است، اما تعریف «فناوری» در بند ۴(ل) آن به‌اندازه‌ای گسترده است که می‌توان خروجی‌های هوش مصنوعی را نیز دربرگیرد. از سوی دیگر، گفت‌وگوهای خصوصی نیز شرط در دسترس نبودن اطلاعات در حوزه عمومی را برآورده می‌کنند. با این حال، تا زمانی که مواد ۹ تا ۱۳ برای پوشش صریح هوش مصنوعی اصلاح نشوند، این مقررات همچنان در برابر سوءاستفاده آسیب‌پذیر خواهند بود.
ماده ۹ انتقال هرگونه مواد، تجهیزات یا فناوری «اعلام‌شده مشمول این قانون» یا «هر قانون دیگری» مرتبط با فعالیت‌های مورد نظر را به بازیگران غیردولتی یا تروریست‌ها ممنوع می‌کند. تاکنون هیچ ابلاغیه‌ای صادر نشده است که ارائه‌دهندگان داخلی هوش مصنوعی یا مدل‌های هوش مصنوعی عمومی دارای خطر نظام‌مند را مشمول این قانون کند. بند ۴(ز) نیز «بازیگران غیردولتی» را صرفاً به‌عنوان اشخاص و نهادها تعریف می‌کند. در نتیجه، پژوهشگرانی که برای انجام چنین تحقیقاتی از مدل‌های هوش مصنوعی استفاده می‌کنند، ممکن است مشمول استثنایی شوند که انتقال فناوری به بازیگران غیردولتیِ فعال تحت «اختیار قانونی در هند» را مجاز می‌داند؛ زیرا بیشتر پژوهشگران از طریق مؤسسات به‌رسمیت‌شناخته‌شده فعالیت می‌کنند. ماده ۱۱ صادرات چنین فناوری‌هایی را ممنوع می‌کند، اما مقررات داخلی مشخصی برای نحوه پاسخ‌گویی ارائه‌دهندگان هوش مصنوعی به درخواست‌های کاربران داخل کشور وجود ندارد. در حال حاضر، این موضوع کاملاً به افشای داوطلبانه اطلاعات وابسته است. اصلاح قانون برای گنجاندن صریح مدل‌های هوش مصنوعی و یادگیری ماشین، به‌منظور نظارت بهتر بر پژوهش‌های دومنظوره و تعیین مسئولیت ارائه‌دهندگان هوش مصنوعی، ضرورتی فوری است.
ماده ۱۲ واسطه‌گری در انتقال اقلام مربوط را ممنوع می‌کند، اما در تبصره آن، حمل‌ونقل در شرایط «بی‌اطلاعی» از ممنوعیت مستثنا شده است. این استثنا به مسئله‌ای که در سومین مطالعه موردی گزارش مطرح شده، پاسخ نمی‌دهد: کلود اطلاعات زیستی مرتبط را در اختیار پژوهشگرانی قرار داد که از ماهیت دومنظوره آن آگاه بودند، اما استفاده خود را با عنوان «کاربرد مثبت» توجیه می‌کردند. در عمل، اگر کاربر ثابت کند که پژوهش دومنظوره هدفی «مشروع و واقعی» دارد، ممکن است مدل هوش مصنوعی از مسئولیت معاف بماند و در هر صورت اطلاعات را ارائه کند. ماده ۱۳ صادرات، انتقال، انتقال مجدد، عبور و ترانزیت مجدد اقلام اعلام‌شده مشمول قانون را تنظیم می‌کند. توضیح مربوط به بند ۳ این ماده، انتقال از هند به کشورهای دیگر و نیز انتقال از یک کشور خارجی به کشور خارجی دیگر را دربرمی‌گیرد، اما تنها در صورتی که انتقال به دست یک شهروند یا مقیم هند انجام شود یا تحت کنترل او باشد. این مقرره انتقال فناوری در قالب خروجی‌های هوش مصنوعی میان خود شهروندان هندی را پوشش نمی‌دهد. در نتیجه، امکان سوءاستفاده داخلی همچنان یکی از آسیب‌پذیرترین نقاط این چارچوب قانونی است.
ظهور مدل‌های زبانی بزرگ با قابلیت‌های نظام‌مند، دسترسی شهروندان عادی به ابزارهای مورد استفاده در پژوهش‌های افزایش کارکرد را آسان‌تر کرده و خطر از بین رفتن دستاوردهای هند در تنظیم مقررات سلاح‌های کشتار جمعی بر اساس قطعنامه ۱۵۴۰ شورای امنیت سازمان ملل را افزایش داده است. تشکیل یک کمیته مستقل از کارشناسان فنی برای ارزیابی مدل‌های هوش مصنوعی پیش از عرضه می‌تواند خطرهای پنهان آن‌ها را آشکار کند و با تقویت تدابیر امنیت سایبری، از دست‌کاری این مدل‌ها به دست بازیگران مخربی که در پی دستیابی به اطلاعات حساس و ارزشمند هستند، جلوگیری کند. قانون‌گذاران همچنین باید چارچوبی ملی برای تنظیم هوش مصنوعی و امنیت زیستی تدوین کنند که کارشناسان کمیسیون ملی پزشکی هند (NMC) و شورای تحقیقات پزشکی هند (ICMR) در آن حضور داشته باشند. پیشنهادهای این کارشناسان باید بررسی شود و در صورت لزوم، وزارت بهداشت و رفاه خانواده آن‌ها را اجرا کند. سامانه‌های هوش مصنوعی عمومی نیز باید تدابیر حفاظتی موجود، از جمله الزامات ثبت‌نام، را تقویت کنند. برای این منظور، می‌توان دامنه استاندارد «احراز هویت مشتری» (KYC) را گسترش داد تا بازیگران بدخواهی که به اطلاعات خطرناک دسترسی دارند، شناسایی شوند.
تا زمانی که سازوکارهای صدور مجوز و گزارش‌دهی در قانون سلاح‌های کشتار جمعی به فناوری دومنظوره تولیدشده با هوش مصنوعی در داخل کشور تسری پیدا نکند، امنیت زیستی هند در برابر چنین سوءاستفاده‌هایی نه بر قانون، بلکه بر هوشیاری داوطلبانه ارائه‌دهندگان خارجی هوش مصنوعی متکی خواهد بود.
تجاس آناند
نویسنده دانشجوی سال پنجم حقوق در دانشگاه IP دهلی است.