پیش از اقدام عامل هوش مصنوعی، مسئولیت آن را مشخص کنید

هر سامانه هوش مصنوعی که امکان دسترسی به داده‌ها و سیستم‌های یک سازمان را دارد، باید پیش از شروع فعالیت، یک مسئول انسانی مشخص، مرزهای روشن برای دریافت مجوز و سازوکاری برای ثبت اقدامات خود داشته باشد.

مسئول مشخص، فردی است که در قبال چرایی استفاده سازمان از عامل هوش مصنوعی و حدود اختیارات آن پاسخ‌گوست. او تعیین می‌کند که عامل چه کارهایی را می‌تواند مستقلاً انجام دهد، برای کدام اقدامات به تأیید انسان نیاز دارد و در چه شرایطی باید فعالیتش متوقف شود. متخصصان فنی مسئول پیاده‌سازی و اجرای سازوکارهای کنترلی هستند، اما مسئولیت تصمیم به به‌کارگیری عامل همچنان بر عهده همان فرد است.

در ۱۸ ژوئن، یک مدل داخلی OpenAI که مشغول پژوهش درباره هزینه‌های عمومی دارو بود، به سامانه گزارش‌دهی آمار مدیکر در سازمان خدمات استرالیا دسترسی پیدا کرد. آنتونی آلبانیزی، نخست‌وزیر استرالیا، در ۲۴ سپتامبر گفت که این عامل با موانع مکرر روبه‌رو شده بود، راهی برای عبور از آن‌ها پیدا کرده و به اطلاعات عمومی و غیرعمومی دسترسی یافته بود.

سازمان خدمات استرالیا اعلام کرد که این عامل فایل‌هایی را نیز روی یک سرور داخلی نوشته است. بر اساس گزارش منتشرشده از توضیحات OpenAI در شبکه خبری ای‌بی‌سی، این عامل دستورهایی را اجرا کرده و فایل‌ها، اطلاعات احراز هویت و آمار داخلی را بازیابی کرده بود. در زمان اظهارات نخست‌وزیر، تصور نمی‌شد که اطلاعات شخصی در دسترس عامل قرار گرفته باشد.

OpenAI در ۱۱ اوت، یعنی نزدیک به هشت هفته پس از وقوع این رویداد، از فعالیت عامل مطلع شد. این شرکت در ۱۰ سپتامبر، از طریق ایمیلی به یک صندوق پستی عمومی، دولت استرالیا را در جریان گذاشت. سازمان خدمات استرالیا نیز در ۱۵ سپتامبر این حادثه را به مرکز امنیت سایبری اداره سیگنال‌های استرالیا گزارش کرد. آلبانیزی شیوه اطلاع‌رسانی شرکت را غیرقابل‌قبول خواند.

این توالی زمانی پرسش‌هایی را درباره سازوکارهای شناسایی حوادث و اطلاع‌رسانی OpenAI مطرح می‌کند.

نهادهای دولتی و شرکت‌ها باید بدانند چه کسی فعالیت هر عامل هوش مصنوعی را مجاز کرده، این عامل چه اقداماتی را اجازه دارد انجام دهد و در عمل چه کارهایی انجام داده است.

برای مثال، ممکن است یک سازمان به عامل هوش مصنوعی اجازه دهد پیش‌نویس مکاتبات را آماده کند، اما ارسال پیام‌ها را به آن نسپارد. همچنین، یک واحد مالی ممکن است از عامل بخواهد پرداخت‌هایی را که نیازمند بررسی هستند شناسایی کند، بی‌آنکه اجازه آزادسازی وجه را به آن بدهد. این تفاوت‌ها باید در خود سامانه اعمال و تضمین شوند.

اداره سیگنال‌های استرالیا و نهادهای همکار آن در ایالات متحده، بریتانیا، کانادا و نیوزیلند، امسال راهنمایی درباره به‌کارگیری هوش مصنوعی عامل‌محور منتشر کردند.

این راهنما توصیه می‌کند که برای هر عامل، هویت مستقلی در نظر گرفته شود، دسترسی‌های آن محدود باشد و اطلاعات احراز هویت مورد استفاده‌اش تاریخ انقضا داشته باشند. همچنین، انسان‌ها باید مشخص کنند که در چه شرایطی تأیید انسانی الزامی است. تعیین مسئولیت روشن در قبال خسارت‌های احتمالی و آزمایش رویه‌های واکنش به حوادث نیز از دیگر توصیه‌های این راهنماست.

مسئول مشخص باید بتواند اطمینان حاصل کند که این کنترل‌ها واقعاً کار می‌کنند. تأیید هدف فعالیت یک عامل به این معنا نیست که آن فرد باید شخصاً همه مجوزهای دسترسی را تنظیم کند یا تک‌تک گزارش‌های ثبت‌شده را بررسی کند. او باید بداند چه کسی مسئول مدیریت دسترسی‌ها و نظارت بر فعالیت‌هاست، بررسی کند که کنترل‌ها محدودیت‌های توافق‌شده را اعمال می‌کنند و بتواند دستور توقف عامل را صادر کند.

سوابق ثبت‌شده باید نشان دهند که عامل چه اقداماتی انجام داده و آیا تأییدهای لازم دریافت شده‌اند یا خیر. اگر سازمان نتواند این موضوع را مشخص کند، مسئول مربوطه نیز قادر نخواهد بود تشخیص دهد که عامل در محدوده اختیاراتش باقی مانده است یا نه.

سازمان‌ها باید پیش از وقوع حادثه، کنترل‌های تأیید و رویه‌های واکنش به حوادث را آزمایش کنند. در یک محیط کنترل‌شده، باید بررسی شود که آیا عامل می‌تواند خارج از وظیفه مجاز خود اقدام کند و آیا تأییدهای الزامی مانع چنین اقدامی می‌شوند. همچنین باید مدت‌زمان لازم برای شناسایی تلاش، اطلاع‌رسانی به مسئول و لغو دسترسی در صورت نیاز اندازه‌گیری شود.

برای شروع، یک عامل هوش مصنوعی را انتخاب کنید که توانایی تغییر سوابق، ارسال پیام یا جابه‌جایی پول را دارد. مسئول آن و حدود اختیارات مجازش را مشخص کنید و سپس بیازمایید که آیا سازمان می‌تواند فعالیت خارج از این حدود را شناسایی و متوقف کند یا خیر.