قانون با شرکت‌هایی که هک می‌شوند سخت‌گیرتر از شرکت‌هایی است که هوش مصنوعی مهارنشده را رها می‌کنند؛ این وضعیت قابل اصلاح است
به نظر می‌رسد دولت استرالیا قصد دارد اوایل سال آینده میلادی، مقرراتی را برای نظارت قانونی سخت‌گیرانه‌تر بر شرکت‌های هوش مصنوعی به پارلمان ارائه کند. این احتمال پس از آن قوت گرفته که یک کمیته پارلمانی متشکل از نمایندگان هر دو جناح سیاسی، توصیه‌های اولیه خود را در نامه‌ای به نخست‌وزیر اعلام کرده است. قرار است گزارش نهایی این کمیته تا پایان نوامبر منتشر شود.
بااین‌حال، حتی اگر اصلاحات پیشنهادی به تصویب برسند، قوانین استرالیا همچنان برای پاسخ‌گو کردن شرکت‌ها در برابر آنچه «هوش مصنوعی مهارنشده» نامیده می‌شود، کافی نخواهند بود.
نمونه چنین وضعیتی، نفوذ عامل‌های هوش مصنوعی OpenAI به چندین وب‌سایت دولتی در سطح فدرال و ایالتی استرالیا در سال جاری است؛ رخدادی که OpenAI با تأخیر آن را افشا کرد.
بااین‌همه، نمونه‌های قانونی پیشین نشان می‌دهند چگونه می‌توان مقررات سخت‌گیرانه‌تری برای شرکت‌های مسئول حملات سایبری ناشی از هوش مصنوعی مهارنشده وضع کرد.
عامل‌های هوش مصنوعی چگونه از خلأهای قانونی عبور می‌کنند؟
اگر یک کسب‌وکار استرالیایی دچار نشت اطلاعات شود و احتمال برود این رخداد آسیب جدی به افراد وارد کند، تکلیف قانونی آن روشن است؛ حتی اگر کسب‌وکاری نسبتاً کوچک باشد که گردش مالی سالانه‌اش تنها سه میلیون دلار استرالیا یا بیشتر است. چنین شرکت یا سازمانی موظف است حادثه را گزارش کند و هم افراد یا مشتریان آسیب‌دیده و هم دفتر کمیسر اطلاعات استرالیا را در جریان بگذارد.
اما اگر عامل هوش مصنوعی یک شرکت خودش به سامانه‌ای نفوذ کند، وضعیت حقوقی کاملاً متفاوت خواهد بود. عامل هوش مصنوعی نرم‌افزاری است که می‌تواند در وب‌سایت‌ها جست‌وجو کند و وظایف مختلف را انجام دهد، بی‌آنکه لازم باشد انسان تک‌تک مراحل کار آن را بررسی کند.
در جریان یک تمرین آموزشی در ماه ژوئن، عامل‌های هوش مصنوعی OpenAI به سامانه‌های امنیتی وب‌سایت‌های دولتی استرالیا نفوذ کردند. بااین‌حال، OpenAI هیچ الزام قانونی برای اطلاع‌رسانی درباره این رخداد نداشت. حتی قانون مستقیماً این شرکت را ملزم نمی‌کرد که از وقوع چنین نفوذهایی جلوگیری کند.
در وضعیت کنونی، مسئولیت قانونی تنها بر عهده نهادی است که اطلاعات را نگهداری می‌کند، نه شرکتی که اطلاعات را به دست آورده است. این قاعده تفاوتی میان شرکت‌های مستقر در استرالیا و شرکت‌های خارجی، مانند OpenAI مستقر در آمریکا، قائل نمی‌شود.
قوانین فعلی مربوط به جرایم هک بر این فرض استوارند که یک انسان عمداً به سامانه‌ای نفوذ می‌کند. این قوانین برای وضعیتی طراحی نشده‌اند که یک ماشین، به تعبیر آنتونی آلبانیزی، نخست‌وزیر استرالیا، «پاسخ منفی را نمی‌پذیرد» و دست از تلاش برنمی‌دارد.
اکنون چه اقداماتی در جریان است؟
کارگروه بررسی فوری هوش مصنوعی نخست‌وزیر در حال ارزیابی این موضوع است که آیا سازوکارهای موجود توانایی رسیدگی به رخدادهای سایبری مرتبط با هوش مصنوعی را دارند یا خیر. انتظار می‌رود این کارگروه ظرف چند هفته آینده گزارش خود را ارائه کند.
در همین حال، پیش‌نویس قوانین دیگری نیز برای بهبود نظارت بر فناوری در دست تهیه است.
برای نمونه، لایحه حریم خصوصی دولت پیشنهاد می‌کند که هرگونه جمع‌آوری، استفاده یا پردازش اطلاعات شخصی باید «منصفانه و معقول» باشد. در صورت تصویب این قانون، دیگر صرف کلیک کردن روی گزینه «موافقم» هنگام مشاهده شرایط و مقررات استفاده از خدمات، توجیهی برای اقدامات غیرمنصفانه شرکت‌ها نخواهد بود.
از سوی دیگر، لایحه وظیفه مراقبت دیجیتال که روز پنجشنبه به پارلمان ارائه شد، پلتفرم‌های شبکه‌های اجتماعی و موتورهای جست‌وجو را ملزم می‌کند خطرات قابل پیش‌بینی را ارزیابی کرده و پیش از وقوع آسیب، برای کاهش آن‌ها اقدام کنند. جریمه رعایت نکردن این الزامات ممکن است از ۱۰۰ میلیون دلار استرالیا فراتر برود.
بااین‌حال، هیچ‌یک از این دو لایحه شامل شرکت‌هایی نمی‌شود که مدل‌های هوش مصنوعی می‌سازند و سپس عامل‌های هوش مصنوعی خود را برای فعالیت مستقل در اینترنت رها می‌کنند.
روز سه‌شنبه، کمیته مشترک پارلمانی هوش مصنوعی توصیه‌های اولیه خود را درباره ایمنی هوش مصنوعی و مدیریت خطرات آن منتشر کرد. یکی از این توصیه‌ها، الزام شرکت‌های هوش مصنوعی به پذیرش ارزیابی‌های ایمنی مستقل بود.
اما تا زمانی که تعهدات قانونی سخت‌گیرانه‌تری برای این شرکت‌ها تعیین نشود، بعید است چنین اقدامی تأثیر واقعی بر فرهنگ ایمنی در غول‌های فناوری داشته باشد.
چهار اقدام دیگری که باید انجام دهیم
ما در پیشنهادهایی که به کمیته تحقیق پارلمان درباره هوش مصنوعی ارائه کرده‌ایم، چند اقدام تکمیلی را مطرح کرده‌ایم.
الزام قانونی به مراقبت در حوزه هوش مصنوعی: دامنه «وظیفه مراقبت دیجیتال» پیشنهادی نباید به ایمنی آنلاین محدود بماند. این الزام باید شرکت‌های توسعه‌دهنده هوش مصنوعی را نیز در بر بگیرد و آن‌ها را از نظر قانونی موظف کند برای جلوگیری از آسیب رساندن به دیگران، مراقبت و احتیاط معقولی به خرج دهند.
کارفرمایان استرالیایی دهه‌هاست که بر اساس چنین اصلی فعالیت می‌کنند و موظف‌اند ایمنی کارکنان خود را «تا آنجا که به‌طور معقول امکان‌پذیر است» تأمین کنند.
اعمال این اصل بر شرکت‌های هوش مصنوعی به این معناست که آن‌ها باید خطرات قابل پیش‌بینی را شناسایی و کاهش دهند؛ برای مثال، خطر ناشی از عامل هوش مصنوعی که پاسخ منفی را نمی‌پذیرد و به تلاش خود ادامه می‌دهد. همچنین شرکت‌ها باید پیش از آنکه به یک عامل جدید اجازه فعالیت در اینترنت بدهند، آن را به‌درستی و در محیطی با مرزهای امنیتی مشخص آزمایش کنند.
حقوق فردی: افرادی که به دلیل کوتاهی یک شرکت در انجام وظیفه مراقبت آسیب می‌بینند، باید بتوانند علیه آن شرکت در دادگاه اقامه دعوا کنند. در شرایط کنونی، نبود یک تعهد مستقیم قانونی برای تأمین ایمنی و حق شکایت متناسب با آن باعث شده است افراد برای دریافت خسارت و احقاق حقوق خود ناچار باشند از موانع و مراحل حقوقی متعددی عبور کنند.
ثبت شرکت‌های هوش مصنوعی: شرکت‌های مخابراتی و مشاوران مالی برای فعالیت به مجوز نیاز دارند، اما بیشتر کسب‌وکارهای هوش مصنوعی حتی موظف نیستند وجود خود را به نهادهای نظارتی اطلاع دهند. در چنین شرایطی، نهادهای ناظر چگونه می‌توانند بدانند بر چه شرکت‌هایی باید نظارت کنند؟
الزام به ثبت شرکت‌هایی که خدمات گسترده هوش مصنوعی و رایانشی به کاربران استرالیایی ارائه می‌کنند، می‌تواند این خلأ در گزارش‌دهی را برطرف کند؛ به شرط آنکه این شرکت‌ها یک نماینده یا راه ارتباطی محلی داشته باشند و موظف شوند رخدادها را بدون تأخیر گزارش دهند.
مقررات گزارش‌دهی اجباری درباره رخدادهای امنیتی هوش مصنوعی: هفته گذشته، نمایندگان OpenAI و شرکت رقیب آن، آنتروپیک، در جلسه استماع تحقیقات پارلمانی حاضر شدند و هر دو از ضرورت گزارش‌دهی اجباری درباره رخدادهای امنیتی مرتبط با هوش مصنوعی حمایت کردند. ما نیز با این ضرورت موافقیم.
هیچ‌یک از این پیشنهادها افراطی یا خارج از عرف نیست.
از سال ۱۹۹۲، قوانین استرالیا تولیدکنندگان را در برابر کالاهایی مسئول می‌داند که ایمنی آن‌ها پایین‌تر از سطحی است که مردم حق دارند انتظار داشته باشند. برای مثال، یک خودروساز موظف است نقص کیسه‌های هوای خودرو را گزارش کند و هزینه برطرف کردن آن را نیز بپردازد. اگر این کیسه‌های هوای معیوب به کسی آسیب برسانند، امکان شکایت حقوقی از خودروساز نیز وجود دارد.
اکنون زمان آن رسیده است که شرکت‌های هوش مصنوعی نیز در برابر محصولات معیوب خود از نظر قانونی پاسخ‌گو باشند.