پیشنویس قانون هوش مصنوعی آلمان برای امور پناهندگی بر آموزش کارکنان تکیه دارد؛ درحالیکه پژوهشها میگویند آموزش نمیتواند سوگیری ناشی از اتکای بیش از حد به ماشین را مهار کند
نویسنده: آدریان پارهم
تاریخ انتشار: ۱۷ نوامبر ۲۰۲۶، ساعت ۴:۲۷ بامداد به وقت شرق آمریکا

پیشنویس قانون آلمان درباره استفاده از هوش مصنوعی در نظام اداری مهاجرت، موسوم به KIMVG، برای جلوگیری از اعتماد بیش از حد به خروجی سامانههای ماشینی بر دو راهکار تکیه دارد: بازبینی دستی نتایج و آموزش ویژه کارکنانی که با این سامانهها کار میکنند. بااینحال، در متن لایحه هیچ اشارهای به اصطلاح «سوگیری خودکارسازی» نشده است. این در حالی است که یک مرور پژوهشی منتشرشده در سال ۲۰۱۰ در نشریه Human Factors نشان میدهد این پدیده هم در افراد تازهکار و هم در متخصصان رخ میدهد و نمیتوان با آموزش یا دستورالعمل از آن جلوگیری کرد. روز دوشنبه، ۳۷ سازمان جامعه مدنی، از جمله AlgorithmWatch، با انتشار بیانیهای اعتراضی از پارلمان آلمان خواستند پیش از برگزاری جلسه استماع عمومی کمیسیون امور داخلی در ۲۳ نوامبر، متن لایحه را بازنگری کند. این جلسه ساعت ۸ صبح به وقت شرق آمریکا، برابر با ساعت ۱۴ به وقت برلین، برگزار خواهد شد؛ به گزارش نتسپولیتیک.
تمام افرادی که پرونده پناهندگی یا اقامت آنها در اداره فدرال مهاجرت و پناهندگان آلمان (BAMF) یا یکی از ادارات محلی اتباع خارجی در جریان است، ممکن است تحت تأثیر این قانون قرار بگیرند. تطبیق اینترنتی که لایحه اجازه آن را میدهد، منابع عمومی آنلاین را برای یافتن اطلاعات درباره متقاضیان جستوجو میکند. بنابراین، افرادی که نامی مشابه متقاضی دارند یا نامشان در کنار او در محتوای عمومی اینترنت آمده است نیز ممکن است در نتایج این جستوجو ظاهر شوند.
لایحه چه اختیاراتی برای استفاده از اطلاعات پروندهها به نهادهای دولتی میدهد؟
لایحه دولت فدرال، با شماره سند پارلمانی 21/8275، اصلاحاتی را در قانون پناهندگی و قانون اقامت پیشبینی میکند. یکی از مفاد آن اجازه میدهد از اطلاعات موجود در پروندهها برای آموزش، اعتبارسنجی و آزمایش سامانههای هوش مصنوعی استفاده شود. بند دوم، امکان «پایش روند رسیدگی» و بررسی نحوه پیشرفت پروندهها در دستگاههای اداری را فراهم میکند. بند سوم نیز تطبیق اطلاعات متقاضیان با دادههای موجود در منابع عمومی اینترنت را مجاز میداند.
دولت فدرال میگوید هدف از این طرح، افزایش سرعت، کارایی و امنیت فرایندهاست. کابینه آلمان در ۵ نوامبر ۲۰۲۵ از سند اولیه تعیین محورهای این طرح مطلع شد و در ۲۹ ژوئیه ۲۰۲۶ لایحه را به تصویب رساند. وزارت کشور آلمان اعلام کرده است که در سال ۲۰۲۵، تعداد ۱۱۳ هزار و ۲۳۶ درخواست اولیه پناهندگی در این کشور ثبت شده است.
بازبینی انسانی و آموزش کارکنان؛ دو راهکار اصلی پیشبینیشده در لایحه
طبق لایحه، کارکنان باید نتایج تطبیق اینترنتی را بهصورت دستی ارزیابی کنند. همچنین در گزارش توجیهی طرح تصریح شده است که تطبیق خودکار اطلاعات بهخودیخود اختیار تصمیمگیری ندارد. افزون بر این، کارکنانی که مسئول پایش روند رسیدگی و تطبیق اطلاعات اینترنتی هستند، باید آموزشهای ویژه ببینند. دولت فدرال نیز در پاسخ به شورای فدرال آلمان اعلام کرده است که بررسی و تصمیمگیری درباره هر پرونده همچنان بر عهده کارکنان مسئول خواهد بود و فرایندهای خودکار نه جایگزین ارزیابی حقوقی میشوند و نه بهصورت الزامآور بر تصمیمها تأثیر میگذارند.
سوگیری خودکارسازی پدیدهای مستند است: وقتی افراد برای تصمیمگیری از یک ابزار کمکی استفاده میکنند، معمولاً تمایل دارند از پیشنهاد آن پیروی کنند؛ حتی اگر پیشنهاد اشتباه باشد. در چنین شرایطی، ممکن است خطاهایی را که سامانه تشخیص نداده است نیز نادیده بگیرند. آریان هنینگ، نویسنده حوزه حقوق اساسی، در مقالهای در وبسایت Verfassungsblog، نقش بازبین انسانی در چنین سامانههایی را به پوششی ظاهری برای تصمیمگیری ماشین تشبیه میکند. آنا-لنا پریبه و لیزه کنر نیز در مقالهای دیگر در همین وبسایت استدلال میکنند که سپردن تصمیم نهایی به انسان و الزام کارکنان به گذراندن دورههای آموزشی، بهدلیل وجود سوگیری خودکارسازی کافی نیست. به باور این دو نویسنده، ابزارهای پایش روند رسیدگی و تطبیق اینترنتی احتمالاً طبق قانون هوش مصنوعی اتحادیه اروپا در گروه سامانههای پرخطر قرار میگیرند.
این نگرانی از آن جهت جدیتر است که تصمیمگیری درباره پروندههای پناهندگی اغلب به ارزیابی اعتبار اظهارات متقاضیان و تحلیل زبانی وابسته است. اداره فدرال مهاجرت و پناهندگان آلمان هماکنون از نرمافزار تشخیص گویش با نام DIAS استفاده میکند؛ ابزاری که AlgorithmWatch آن را بحثبرانگیز توصیف کرده است. در گزارش توجیهی لایحه نیز بهعنوان نمونهای از دلایل موجه برای ایجاد تردید درباره اظهارات متقاضی، به موردی اشاره شده است که زبان گفتاری یا گویش فرد با منطقهای که مدعی است از آنجا آمده، مطابقت نداشته باشد.
نبود الزام عمومی به ناشناسسازی اطلاعات
در این لایحه هیچ الزام عمومی برای ناشناسسازی اطلاعات پیشبینی نشده است. بر اساس گزارش توجیهی، اگر ناشناسسازی یا مستعارسازی اطلاعات از نظر فنی امکانپذیر نباشد، نامتناسب باشد یا کیفیت نتایج را بهشکل قابلتوجهی کاهش دهد، ضرورتی برای انجام آن وجود ندارد. در این گزارش همچنین نام و تاریخ تولد از جمله اطلاعاتی معرفی شدهاند که برای بررسی میزان معقولبودن و اعتبار اطلاعات پرونده، زمینه و قرائن مفیدی فراهم میکنند. گزارش حتی به امکان الزام به استفاده از دادههای واقعی نیز اشاره دارد. در مقابل، سازمان AlgorithmWatch در بیانیه اعتراضی خود خواستار آن شده است که ناشناسسازی اطلاعات به قاعده عمومی تبدیل شود.
پروندههای پناهندگی ممکن است حاوی اطلاعاتی درباره خاستگاه قومی، مذهب و وضعیت سلامت افراد باشند؛ اطلاعاتی که طبق ماده ۹ مقررات عمومی حفاظت از دادههای اتحادیه اروپا (GDPR)، در دسته دادههای شخصی حساس قرار میگیرند. بر اساس گزارشی که نتسپولیتیک در ماه اوت منتشر کرد، دفتر مسئول حفاظت از دادهها که در آن زمان لوئیزا اشپشت-ریشمایدر ریاست آن را بر عهده داشت، خواهان استفاده نخست از دادههای ناشناسشده، سپس دادههای مستعارشده و استفاده از اطلاعات شخصی فقط در موارد ضروری بود. موریتس هنمان از اول اکتبر ریاست این دفتر را بر عهده گرفته است.
آیا قانون هوش مصنوعی اتحادیه اروپا از قبل این موارد را پوشش میدهد؟ معافیتها و تعویق اجرا
در اصل، بله. قانون هوش مصنوعی اتحادیه اروپا، استفاده از سامانههای هوش مصنوعی برای کمک به ارزیابی درخواستهای پناهندگی، ویزا و اقامت را طبق پیوست سوم در گروه کاربردهای پرخطر قرار داده است. بااینحال، بر اساس مواد ۶(۳) و ۶(۴)، ارائهدهنده یک سامانه میتواند ادعا کند که سامانه مشمول پیوست سوم پرخطر نیست، مشروط بر اینکه صرفاً الگوهای تصمیمگیری را شناسایی کند و بدون بازبینی انسانی مناسب، جایگزین ارزیابی قبلی انسان نشود یا بر آن تأثیر نگذارد. این معافیت در هیچ شرایطی شامل سامانههای مورد استفاده برای پروفایلسازی افراد نمیشود. همچنین، ادعای استفاده از این معافیت باید مستند و سامانه مربوطه ثبت شود. اینکه سامانهای که با استفاده از اطلاعات پروندهها آموزش دیده و برای علامتگذاری پروندهها به کار میرود، واجد شرایط این معافیت هست یا نه، همچنان محل اختلاف است. پریبه و کنر معتقدند این معافیت درباره ابزارهای پیشبینیشده در لایحه KIMVG صدق نمیکند.
زمانبندی اجرای قانون نیز اهمیت دارد. مقررات موسوم به «دیجیتال اومنیبوس» با شماره 2026/1744 اتحادیه اروپا در ۲۷ ژوئیه ۲۰۲۶ لازمالاجرا شد و اجرای الزامات مربوط به پیوست سوم را تا ۲ دسامبر ۲۰۲۷ به تعویق انداخت. بنابراین، اگر سامانهای پیش از این تاریخ به کار گرفته شود، مقررات مربوط به سامانههای پرخطر هنوز آن را ملزم به رعایت این الزامات نخواهند کرد.
منتقدان و حامیان درباره کافیبودن تدابیر حفاظتی اختلاف نظر دارند
بیانیه اعتراضی AlgorithmWatch مجموعهای از درخواستها را مطرح میکند: ناشناسسازی اطلاعات بهعنوان قاعده عمومی، محدودکردن استفاده از پروندههای کامل پناهندگی و اطلاعات ثبتشده در پایگاههای داده مرکزی، تعیین شرایط سختگیرانهتر برای تطبیق اینترنتی، انجام ارزیابی تأثیر بر حقوق بنیادین با مشارکت جامعه مدنی و تضمین شفافیت، امکان اعتراض و جبران خسارت و ثبت سامانههای مورد استفاده.
گزارش نتسپولیتیک درباره این اعتراض به رسوایی کمکهزینه مراقبت از کودکان در هلند اشاره میکند؛ پروندهای که در گزارش عفو بینالملل با عنوان «ماشینهای بیگانهستیز» (Xenophobic Machines) مستند شده است. همچنین به فرایند بررسی درخواست ویزا در بریتانیا اشاره میشود که با کمک الگوریتم انجام میشد و در سال ۲۰۲۰، پس از مطرحشدن اتهامهای تبعیضآمیز، کنار گذاشته شد. وزارت کشور بریتانیا هنگام توقف استفاده از این ابزار، این اتهامها را رد کرد.
بااینحال، همه دیدگاهها درباره این طرح منفی نیستند. به گزارش نتسپولیتیک، فردا آتامان، کمیسر فدرال مبارزه با تبعیض، در جریان بررسیهای دولتی نگرانیهای جدی خود را مطرح کرده است و گروه مدافع حقوق پناهندگان Pro Asyl نیز تدابیر حفاظتی لایحه را ناکافی میداند. در مقابل، ناتالی پاولیک، کمیسر فدرال امور ادغام، از این طرح استقبال کرده و گفته است هوش مصنوعی میتواند زمان انتظار متقاضیان را کاهش دهد.
پارلمان آلمان در ۸ اکتبر، نخستین قرائت لایحه را در جلسهای ۲۰ دقیقهای برگزار کرد و سپس آن را برای بررسی به کمیسیون امور داخلی ارجاع داد. شورای فدرال نیز پیشنهاد کرد دامنه تطبیق اینترنتی به احراز هویت و تابعیت افراد و بررسی گزینههای بازگرداندن آنها گسترش پیدا کند. دولت فدرال اعلام کرده است که این پیشنهاد را بررسی خواهد کرد. دادگاه قانون اساسی فدرال آلمان در کارلسروهه نیز در رأی سال ۲۰۲۳ خود درباره تحلیل خودکار دادهها تأکید کرده بود که استفاده از چنین ابزارهایی باید بر آستانهها و معیارهای قانونی کافی استوار باشد. البته آن پرونده به قوانین پلیس در ایالتهای هسن و هامبورگ مربوط میشد، نه مدیریت امور مهاجرت.
پیش و پس از جلسه استماع، باید منتظر چه تحولاتی بود؟
جلسه استماع ۲۳ نوامبر، فرصت بعدی برای تغییر متن لایحه خواهد بود. به گزارش نتسپولیتیک، از جمله کارشناسان دعوتشده به این جلسه میتوان به الکساندر اشتین از انجمن انفورماتیک آلمان، فرانتسیسکا گورلیتس از انجمن حقوق مدنی و اریک توپفر از مؤسسه حقوق بشر آلمان اشاره کرد.
سه موضوع در این جلسه و مراحل بعدی بررسی لایحه اهمیت ویژهای دارند: نخست، اینکه آیا متن قانون به مسئله سوگیری خودکارسازی میپردازد و تدابیری فراتر از بازبینی انسانی و آموزش کارکنان در نظر میگیرد؛ دوم، اینکه آیا ناشناسسازی اطلاعات به یک الزام قانونی تبدیل میشود؛ و سوم، اینکه آیا قانون نهایی ثبت سامانهها و انجام ارزیابی تأثیر بر حقوق بنیادین را مطابق مواد ۲۷ و ۴۹ قانون هوش مصنوعی اتحادیه اروپا الزامی خواهد کرد یا نه. متقاضیان نیز میتوانند بر اساس ماده ۱۵ مقررات GDPR درخواست دسترسی به اطلاعات شخصی خود را مطرح کنند؛ اقدامی که راهکار عملی آنها برای اطلاع از دادههای نگهداریشده توسط نهادهای دولتی است.
پرسشهای متداول
قانون KIMVG آلمان چیست؟
قانون مدیریت مهاجرت با هوش مصنوعی (KI-Migrationsverwaltungsgesetz) لایحهای دولتی است که به اداره فدرال مهاجرت و پناهندگان و ادارات اتباع خارجی اجازه میدهد از اطلاعات پروندهها برای آموزش سامانههای هوش مصنوعی استفاده کنند، روند رسیدگی را زیر نظر بگیرند و اطلاعات متقاضیان را با دادههای عمومی اینترنت تطبیق دهند. جزئیات این طرح در سند پارلمانی شماره 21/8275 آمده است.
آیا آموزش کارکنان میتواند از سوگیری خودکارسازی جلوگیری کند؟
یک مرور پژوهشی پرارجاع منتشرشده در سال ۲۰۱۰ در نشریه Human Factors نشان میدهد که نمیتوان با آموزش یا دستورالعمل از این سوگیری جلوگیری کرد. به همین دلیل، منتقدان به لایحهای که بر آموزش کارکنان و بازبینی دستی تکیه دارد، اعتراض میکنند.
آیا قانون هوش مصنوعی اتحادیه اروپا تصمیمگیری درباره پناهندگی را پوشش میدهد؟
بله. استفاده از هوش مصنوعی برای کمک به ارزیابی درخواستهای پناهندگی، ویزا و اقامت، طبق پیوست سوم قانون در گروه کاربردهای پرخطر قرار دارد؛ اما اجرای الزامات مربوط به این گروه تا ۲ دسامبر ۲۰۲۷ به تعویق افتاده است.
آیا این لایحه ناشناسسازی اطلاعات شخصی من را الزامی میکند؟
خیر. هیچ الزام عمومی در این زمینه وجود ندارد. طبق گزارش توجیهی لایحه، اگر ناشناسسازی یا مستعارسازی اطلاعات از نظر فنی ناممکن یا نامتناسب باشد، یا به کیفیت نتایج آسیب برساند، انجام آن ضروری نیست.
