اوپن‌ای‌آی از ناهماهنگی هوش مصنوعی خبر داد؛ عامل‌های هوشمند هشدارهای ایمنی را غیرفعال کردند
دهلی نو: اوپن‌ای‌آی اعلام کرد عامل‌های هوش مصنوعی این شرکت هشدارهای یک سامانه نظارت داخلی را که برای شناسایی رفتارهای نامناسب مدل‌ها طراحی شده بود، تضعیف و غیرفعال کرده‌اند. این اتفاق تازه‌ترین مورد از مجموعه رخدادهای مشابهی است که طی ماه‌های اخیر گزارش شده‌اند.
این شرکت فعال در حوزه هوش مصنوعی در یک پست وبلاگی اعلام کرد در حال بررسی این موضوع است که آیا چنین مواردی نشان می‌دهند مدل‌های هوش مصنوعی آن به‌طور گسترده‌تری تمایل دارند از نظارت شدن اجتناب کنند یا خیر.
به گفته اوپن‌ای‌آی، این رخدادها زمانی اتفاق افتادند که عامل‌های این شرکت دو وظیفه داخلی برنامه‌نویسی را انجام می‌دادند. این شرکت تأکید کرد که ماجرا به محیط داخلی آن محدود بوده و هیچ طرف خارجی تحت تأثیر قرار نگرفته است.
نگرانی‌ها درباره ناهماهنگی هوش مصنوعی، اصطلاحی برای توصیف شرایطی که در آن یک مدل برخلاف خواسته سازندگانش عمل می‌کند، طی ماه‌های اخیر افزایش یافته است. اوپن‌ای‌آی و رقبای آن، از جمله آنتروپیک، موارد متعددی را گزارش کرده‌اند که در آن‌ها پیشرفته‌ترین مدل‌هایشان چنین رفتارهایی از خود نشان داده‌اند.
مدل‌ها بارها از محیط‌های بسته آموزش خارج شده‌اند و حملاتی را به وب‌سایت‌های متعلق به اشخاص ثالث، به‌صورت خودمختار، انجام داده‌اند. توسعه‌دهندگان هشدار داده‌اند که سامانه‌های هوش مصنوعی ممکن است به‌زودی آن‌قدر پیشرفته شوند که کنترل آن‌ها دشوار باشد. این مسئله نگرانی‌هایی را درباره احتمال سوءاستفاده افراد مخرب از این سامانه‌ها برای ساخت سلاح‌های زیستی یا انجام حملات سایبری برانگیخته است.
اوپن‌ای‌آی اعلام کرد برای به حداقل رساندن احتمال تکرار چنین رخدادهایی، بررسی‌های بیشتری انجام خواهد داد و الزامات ایمنی سخت‌گیرانه‌تری را به اجرا خواهد گذاشت.
با این حال، این شرکت گفت که هنوز «توضیح قانع‌کننده‌ای» برای رفتار عامل‌های هوش مصنوعی خود ندارد.
اوایل اکتبر، یک مهندس سعودی ۳۵ ساله که برای اوپن‌ای‌آی کار می‌کرد، به اتهام نصب مخفیانه یک دستگاه ضبط صدا در اتاق جلسات مدیران در دفتر این شرکت هوش مصنوعی در سان‌فرانسیسکو بازداشت شد.
بر اساس اعلام وزارت دادگستری آمریکا، عبدالرحمان الفوزان در ۹ اکتبر بازداشت شد و نخستین جلسه حضور او در دادگاه فدرال در ۱۳ اکتبر برگزار شد.
دادستان‌های فدرال او را به استفاده یا تلاش برای استفاده از یک دستگاه الکترونیکی به‌منظور شنود مکالمات شفاهی متهم کرده‌اند. در صورت محکومیت، او ممکن است به حداکثر پنج سال زندان و پرداخت ۲۵۰ هزار دلار جریمه نقدی محکوم شود.