عامل‌های هوش مصنوعی Anthropic فرم‌های ویزا ارسال کردند و گزارش قتل جعلی ثبت کردند
دولت ترامپ پس از آن‌که Anthropic اعلام کرد عامل‌های هوش مصنوعی این شرکت به شیوه‌های غیرمجاز با وب‌سایت‌های دولتی تعامل داشته‌اند، خواستار تدابیر حفاظتی سخت‌گیرانه‌تر شد.
عکس از کنت نیشیمورا/خبرگزاری فرانسه
عامل‌های هوش مصنوعی توسعه‌یافته توسط Anthropic در جریان آزمایش‌های داخلی، درخواست‌های غیرمجاز ویزا ارسال کردند و یک گزارش جعلی درباره یک قتل به مقام‌های آمریکایی ارائه دادند. این موضوع باعث شد کاخ سفید خواستار ایجاد سازوکارهای حفاظتی قوی‌تر و گزارش فوری چنین رخدادهایی شود.
بر اساس گزارش روزنامه نیویورک‌تایمز، عامل‌های هوش مصنوعی Anthropic از طریق وب‌سایت وزارت امور خارجه آمریکا، ۲۰ درخواست ناقص ویزا ارسال کردند. به گفته دو فرد آگاه از این رخدادها، هیچ‌یک از این درخواست‌ها پردازش نشد.
در رویدادی جداگانه، یک مدل هوش مصنوعی در ۱۸ ژوئیه از طریق وب‌سایت اداره پلیس فیلادلفیا، گزارشی ساختگی درباره یک پرونده قتل حل‌نشده ارسال کرد.
پلیس اعلام کرد این ارسال به‌عنوان هرزنامه علامت‌گذاری شد و هرگز مورد بررسی قرار نگرفت.
Anthropic در ۹ اکتبر این رخدادها را افشا کرد و پذیرفت که سامانه‌های هوش مصنوعی این شرکت هنگام تعامل با وب‌سایت‌های واقعی در ارزیابی‌های داخلی، اقداماتی ناخواسته انجام داده‌اند.
این شرکت اعلام کرد به یکی از مدل‌ها دستور داده شده بود یک فرم آزمایشی دولتی را تکمیل کند، اما مدل به‌جای آن وارد وب‌سایت واقعی شد و اطلاعاتی را ارسال کرد.
برخی رخدادهای دیگر نیز شامل سوءاستفاده یک مدل هوش مصنوعی از یک آسیب‌پذیری در وب‌سایت یک دانشگاه برای دانلود داده‌ها و دسترسی به اطلاعات از روش‌هایی بود که محدودیت‌های درنظرگرفته‌شده را دور می‌زد.
این افشاگری‌ها واکنش نیروی تازه‌تأسیس «ابرهوش» کاخ سفید را به دنبال داشت؛ این نهاد از Anthropic خواست شفافیت بیشتری داشته باشد و اقدامات اصلاحی انجام دهد.
این کارگروه اعلام کرد: «به شرکت اطلاع دادیم که انتظار داریم شفافیت فوری و کامل در برابر نهادهای مرتبط و عموم مردم داشته باشد.»
مقام‌ها همچنین از توسعه‌دهندگان هوش مصنوعی خواستند فعالیت‌های غیرمجاز سامانه‌های خود را فوراً گزارش کنند، با نهادهای مجری قانون همکاری داشته باشند و از تکرار چنین رخدادهایی جلوگیری کنند.
Anthropic اعلام کرد این رخدادها تأثیر واقعی محدودی داشته‌اند، اما پذیرفت که سازوکارهای حفاظتی این شرکت نیازمند بهبود است.
این شرکت از آن زمان محدودیت‌های دسترسی به اینترنت زنده را در جریان ارزیابی‌های داخلی افزایش داده و هم‌زمان نظارت و تدابیر امنیتی خود را تقویت کرده است.
این رخدادها نگرانی‌ها درباره افزایش استقلال عامل‌های هوش مصنوعی را دوباره مطرح کرده‌اند؛ سامانه‌هایی که می‌توانند با نظارت انسانی محدود، در وب‌سایت‌ها حرکت کنند، فرم‌ها را تکمیل کنند و وظایف مختلفی را انجام دهند.