آنتروپیک درباره آزمایش ایمنی هوش مصنوعی با MeitY گفت‌وگو می‌کند و خواستار قوانین الزام‌آور شفافیت است
نکات مهم
- آنتروپیک با وزارت الکترونیک و فناوری اطلاعات هند درباره فراهم کردن دسترسی به مدل‌های هوش مصنوعی این شرکت برای آزمایش‌های ایمنی در حال مذاکره است.
- قرار است ارزیابی‌های پیشنهادی با مشارکت مؤسسه ایمنی IndiaAI انجام شوند.
- رئیس سیاست‌گذاری آنتروپیک در هند خواستار قوانین الزام‌آور شفافیت برای شرکت‌های هوش مصنوعی داخلی و خارجی شده است.
- هند در حال بررسی تصویب قانونی اختصاصی برای هوش مصنوعی است و سیاست‌گذاران در حال بازنگری سازوکارهای موجود حکمرانی هستند.
- این گفت‌وگوها پرسش‌هایی درباره ارزیابی مستقل، امنیت مدل‌ها و دسترسی به اطلاعات لازم برای سنجش ریسک‌های هوش مصنوعی مطرح می‌کنند.
آنتروپیک درباره دسترسی مؤسسه ایمنی هوش مصنوعی هند به مدل‌ها گفت‌وگو می‌کند
به گفته آملان موهانتی، رئیس سیاست‌گذاری آنتروپیک در هند، این شرکت با وزارت الکترونیک و فناوری اطلاعات هند (MeitY) درباره سازوکاری برای در دسترس قرار دادن مدل‌های هوش مصنوعی خود به‌منظور انجام آزمایش‌های ایمنی گفت‌وگو می‌کند.
موهانتی در نشست پایانی «جشنواره اعتماد و ایمنی هند ۲۰۲۶» در دهلی نو در ۱۵ اکتبر گفت مذاکرات برای فراهم کردن دسترسی مؤسسه ایمنی IndiaAI به مدل‌ها در جریان است. اظهارات او از تمایل شرکت به حمایت از این فرایند حکایت دارد، اما در این اعلامیه توافق نهایی، برنامه زمانی آزمایش‌ها یا مدل‌هایی که قرار است در ارزیابی‌ها قرار گیرند، تأیید نشده است.
این تعامل در شرایطی شکل می‌گیرد که هند در حال بررسی شیوه ارزیابی سامانه‌های هوش مصنوعی هرچه توانمندتر و ایجاد سازوکارهای حکمرانی متناسب با ریسک‌های احتمالی آن‌هاست. مؤسسه ایمنی IndiaAI که در چارچوب مأموریت IndiaAI ایجاد شده، قرار است از پژوهش، ارزیابی و آزمایش‌های مرتبط با ایمنی هوش مصنوعی پشتیبانی کند.
دسترسی به مدل‌ها می‌تواند به ارزیابان کمک کند رفتار سامانه‌ها را در شرایط مختلف بررسی کنند؛ از جمله نحوه پاسخ‌گویی آن‌ها به درخواست‌های بالقوه مضر و عملکردشان در سناریوهای حساس از نظر امنیتی. با این حال، دامنه دقیق هرگونه ارزیابی مدل‌های آنتروپیک در هند هنوز مشخص نشده است.
درخواست شرکت برای الزامات الزام‌آور شفافیت در حوزه هوش مصنوعی
هم‌زمان با گفت‌وگوها درباره دسترسی به مدل‌ها، آنتروپیک از وضع مقررات الزام‌آوری حمایت می‌کند که شرکت‌های هوش مصنوعی را به شفافیت درباره مدل‌های خود ملزم کند. موهانتی گفت این الزامات باید همه شرکت‌های فعال در هند را، صرف‌نظر از داخلی یا خارجی بودن آن‌ها، دربر بگیرد.
این موضع یکی از پرسش‌های اصلی در حکمرانی هوش مصنوعی را برجسته می‌کند: توسعه‌دهندگان باید چه اطلاعاتی را ملزم به افشا باشند تا نهادهای نظارتی و ارزیابان مستقل بتوانند ریسک‌های مرتبط با سامانه‌هایشان را ارزیابی کنند؟
چارچوب‌های احتمالی شفافیت می‌توانند حوزه‌هایی مانند مستندسازی قابلیت‌های مدل، محدودیت‌های شناخته‌شده، روش‌های ارزیابی، آزمایش‌های ایمنی و گزارش حوادث را پوشش دهند. با این حال، در اظهارات منتشرشده، الزامات مشخصی که آنتروپیک در این مورد پیشنهاد کرده، در قالب یک طرح رسمی تشریح نشده است.
موهانتی همچنین میان دسترسی معنادار ارزیابان و دسترسی به وزن‌های مدل تفاوت قائل شد و وزن‌های مدل را یک راز تجاری توصیف کرد. این موضوع به بحث گسترده‌تری درباره چگونگی نظارت دقیق ارزیابان خارجی بر سامانه‌های قدرتمند هوش مصنوعی بدون الزام توسعه‌دهندگان به افشای همه اجزای فناوری اختصاصی آن‌ها اشاره دارد.
برای سیاست‌گذاران، چالش اصلی تعیین این است که چه اطلاعاتی برای نظارت معتبر ضروری است، چه افرادی باید به این اطلاعات دسترسی داشته باشند و چگونه می‌توان از اطلاعات حساس تجاری یا مرتبط با امنیت محافظت کرد.
بازنگری هند در رویکرد مقررات‌گذاری هوش مصنوعی
این گفت‌وگوها در شرایطی انجام می‌شوند که دولت هند در حال بررسی این موضوع است که آیا این کشور به قانونی اختصاصی برای هوش مصنوعی نیاز دارد یا خیر.
«دستورالعمل‌های حکمرانی هوش مصنوعی هند» که در نوامبر ۲۰۲۵ منتشر شد، در ابتدا بر استفاده از چارچوب‌های قانونی و سازوکارهای حکمرانی موجود تأکید داشت و تصویب فوری یک قانون مستقل برای هوش مصنوعی را در اولویت قرار نمی‌داد. از آن زمان، اظهارات دولت نشان داده است که علاقه به بررسی اقدامات نظارتی مستقیم‌تر افزایش یافته است.
وزارت الکترونیک و فناوری اطلاعات هند همچنین از برنامه خود برای تهیه یک سند مشورتی با تمرکز بر مقررات خبر داده است که به ایمنی و حکمرانی هوش مصنوعی می‌پردازد. مسیر دقیق قانون‌گذاری و هرگونه الزامات آینده برای افشای اطلاعات همچنان به تصمیم‌های دولت بستگی دارد.
تمایز میان الزامات موجود و مقررات پیشنهادی برای شرکت‌هایی که در هند هوش مصنوعی توسعه می‌دهند یا به کار می‌گیرند، اهمیت زیادی دارد. صرف درخواست برای شفافیت الزام‌آور، به‌خودی‌خود تعهد قانونی ایجاد نمی‌کند. هرگونه الزام جدید باید از طریق فرایند مناسب سیاست‌گذاری یا قانون‌گذاری تعریف و تصویب شود.
برای شرکت‌ها، تغییرات در این حوزه در نهایت می‌تواند بر نحوه مستندسازی ریسک‌های مدل‌ها، پشتیبانی از ارزیابی‌های مستقل و اطلاع‌رسانی درباره محدودیت‌های سامانه‌ها به مشتریان تأثیر بگذارد. اثر عملی این تغییرات به دامنه نهایی مقررات و نحوه اعمال آن‌ها بر سامانه‌ها و موارد استفاده مختلف هوش مصنوعی بستگی خواهد داشت.
ارزیابی هوش مصنوعی پیشرفته فراتر از تعدیل محتوا
موهانتی همچنین استدلال کرد رویکردهای ایمنی که عمدتاً برای تعدیل محتوای آنلاین طراحی شده‌اند، برای عامل‌های هوش مصنوعی که می‌توانند در بازه‌های زمانی طولانی فعالیت کنند، با عامل‌های دیگر تعامل داشته باشند و در محیط‌های واقعی دست به اقدام بزنند، کافی نیستند.
این تمایز با حرکت محصولات هوش مصنوعی از تولید صرف متن و تصویر به سمت سامانه‌هایی که می‌توانند از ابزارهای نرم‌افزاری استفاده کنند، با خدمات دیجیتال تعامل داشته باشند و وظایف چندمرحله‌ای را انجام دهند، اهمیت بیشتری پیدا می‌کند. ریسک این سامانه‌ها ممکن است تنها به محتوایی که تولید می‌کنند محدود نباشد و اقداماتی را که انجام می‌دهند، مجوزهایی که در اختیار دارند و سامانه‌هایی را که می‌توانند به آن‌ها دسترسی پیدا کنند نیز دربر بگیرد.
آزمایش چنین سامانه‌هایی ممکن است مستلزم بررسی رفتار آن‌ها در زنجیره‌ای از اقدامات باشد؛ از جمله اینکه آیا عامل هوش مصنوعی کنترل‌های دسترسی را رعایت می‌کند، با شرایط پیش‌بینی‌نشده به‌صورت ایمن برخورد می‌کند و از پیامدهای ناخواسته جلوگیری می‌کند یا خیر. این پرسش‌ها فراتر از آن هستند که صرفاً مشخص شود یک پاسخ منفرد حاوی محتوای ممنوع یا گمراه‌کننده است یا نه.
موهانتی همچنین بر اهمیت دسترسی مدافعان حوزه سایبری به ابزارهای توانمند هوش مصنوعی برای شناسایی و رفع آسیب‌پذیری‌ها تأکید کرد. این دیدگاه بازتاب‌دهنده بحث گسترده‌تری درباره این است که چگونه مدل‌های پیشرفته می‌توانند از فعالیت‌های دفاعی پشتیبانی کنند و در عین حال احتمال سوءاستفاده از آن‌ها محدود شود.
این اعلامیه پروتکل آزمایش تفصیلی ارائه نکرد و مقررات جدیدی برای استقرار ابزارهای سایبری در سازمان‌های هندی نیز تعیین نکرد.
ارزیابی مستقل همچنان یک چالش در حکمرانی است
گفت‌وگوهای آنتروپیک با MeitY همچنین در چارچوب بحث گسترده‌تری درباره نحوه انجام ارزیابی‌های مستقل ایمنی هوش مصنوعی قرار می‌گیرد. ارزیابان برای آزمایش معنادار سامانه‌ها به دسترسی کافی نیاز دارند، در حالی که توسعه‌دهندگان نیز انگیزه دارند از اطلاعات مشتریان، فناوری اختصاصی و جزئیات حساس امنیتی محافظت کنند.
یک چارچوب معتبر باید دامنه دسترسی، استقلال ارزیابان و نحوه گزارش یافته‌ها را مشخص کند. قوانین شفافیت می‌توانند به ایجاد انتظارات یکسان میان شرکت‌ها کمک کنند، اما اثربخشی آن‌ها به وجود استانداردهای روشن و اجرای عملی مقررات بستگی خواهد داشت.
برای هند، گام‌های بعدی این است که آیا این گفت‌وگوها به یک سازوکار رسمی برای آزمایش منجر می‌شوند و دولت چگونه چارچوب نظارتی گسترده‌تر خود را تدوین خواهد کرد.
در حال حاضر، موضع آنتروپیک نشان‌دهنده حمایت این شرکت از نظارت ساختارمندتر بر هوش مصنوعی است، در حالی که همچنان مرزهایی برای اجزای اختصاصی مدل‌ها در نظر می‌گیرد. نتیجه این گفت‌وگوها می‌تواند به روشن‌تر شدن رویکرد هند نسبت به رابطه میان دسترسی به مدل‌ها، ارزیابی ایمنی و شفافیت اجباری، هم‌زمان با پیشرفت قابلیت‌های هوش مصنوعی، کمک کند.