مدیر مالی OpenAI درباره خطرات پنهان مدل‌های ارزان‌قیمت هوش مصنوعی چینی هشدار داد
نویسنده: موز فاروق (ACCA)
تاریخ انتشار: چهارشنبه ۱۴ اکتبر ۲۰۲۶، ساعت ۳:۳۹ بعدازظهر به وقت شرق آمریکا
این مقاله نخستین بار در وب‌سایت گوروفوکوس منتشر شده است.
مدل‌های ارزان‌قیمت هوش مصنوعی می‌توانند هزینه‌های شرکت‌ها را کاهش دهند. اما پرسش دشوارتر این است که اگر این ابزارها اطلاعات حساس را به‌درستی مدیریت نکنند یا تصمیمی پرهزینه بگیرند که هیچ‌کس نداند چگونه باید پیامدهای آن را جبران کرد، چه اتفاقی خواهد افتاد؟
سارا فرایر، مدیر مالی OpenAI که از حمایت مایکروسافت (MSFT) برخوردار است، به شرکت‌ها هشدار داده پیش از اتکا به مدل‌های ارزان‌قیمت هوش مصنوعی چینی، خطرات احتمالی آن‌ها را به‌دقت بررسی کنند. به گفته او، برخی سامانه‌های متن‌باز ممکن است امنیت سایبری شبکه‌های شرکتی را به خطر بیندازند.
فرایر در گفت‌وگو با تلویزیون بلومبرگ گفت شرکت‌ها برای حفاظت از اطلاعات حساس خود بهتر است نرم‌افزارهای هوش مصنوعی غربی را در اولویت قرار دهند.
گیوم پرنسن، از مدیران شرکت آنتروپیک، نیز دیدگاه مشابهی مطرح کرد. او گفت مدل‌های باز ممکن است خطرات بیشتری داشته باشند، زیرا کاربران می‌توانند کد زیربنایی آن‌ها را تغییر دهند.
این هشدارها در شرایطی مطرح می‌شود که مدل‌های هوش مصنوعی چینی در حال گسترش هستند؛ روندی که بخشی از آن به قیمت پایین‌تر و سهولت دانلود این مدل‌ها در مقایسه با بسیاری از گزینه‌های پیشرفته و گران‌قیمت آمریکایی مربوط می‌شود.
به این ترتیب، شرکت‌ها با دوراهی آشنایی روبه‌رو هستند: از یک سو می‌توانند هزینه نرم‌افزار را کاهش دهند و از سوی دیگر ممکن است با خطرات امنیتی بیشتری مواجه شوند.
شرکت‌ها هنوز نمی‌دانند مسئولیت اشتباهات هوش مصنوعی بر عهده چه کسی است
بااین‌حال، امنیت تنها بخشی از مشکل است.
پژوهشی جداگانه از مدرسه کسب‌وکار وارتون نشان می‌دهد مدیران هنوز درباره اینکه در صورت بروز اشتباهی جدی از سوی هوش مصنوعی در محیط کار، چه کسی باید پاسخ‌گو باشد، اختلاف‌نظر دارند.
پاسخ‌دهندگان به این پژوهش تقریباً به سه گروه مساوی تقسیم شدند. گروهی کارمندی را که از ابزار هوش مصنوعی استفاده می‌کند مسئول می‌دانستند، گروهی مدیر آن کارمند را و گروهی دیگر معتقد بودند مسئولیت باید بر عهده تیم مدیریت ریسک شرکت باشد.
این نبود توافق زمانی اهمیت بیشتری پیدا می‌کند که شرکت‌ها به عامل‌های هوش مصنوعی اجازه می‌دهند به اطلاعات مشتریان و سامانه‌های داخلی دسترسی داشته باشند.
خطر لزوماً از یک خرابی بزرگ و چشمگیر در سامانه آغاز نمی‌شود.
گاهی یک اشتباه بسیار کوچک کافی است.
در این گزارش به نمونه‌ای اشاره شده که در آن یکی از کارکنان یک فروشگاه خرده‌فروشی، تنظیمات یک ربات را اشتباه انجام داد و ربات ظرف چند ساعت، اطلاعیه‌های نادرست بازپرداخت وجه را برای ۱۸ هزار مشتری ارسال کرد.
تفاوت اساسی زمانی آشکار می‌شود که نرم‌افزار دیگر فقط به پرسش‌ها پاسخ نمی‌دهد، بلکه خودش دست به اقدام می‌زند.
در چنین شرایطی، اشتباه انسانی که پیش‌تر ممکن بود فقط یک تراکنش را تحت تأثیر قرار دهد، می‌تواند ناگهان هزاران بار تکرار شود.
OpenAI می‌گوید کند کردن روند توسعه نیز خطرات خاص خود را دارد
فرایر همچنین تأکید کرد که شرکت‌های آمریکایی فعال در حوزه هوش مصنوعی نمی‌توانند برای مقابله با این خطرات، صرفاً سرعت توسعه فناوری را کاهش دهند.
نگرانی او این است که احتیاط بیش‌ازحد ممکن است فرصت پیشروی را در اختیار رقبای خارجی قرار دهد.
در همین حال، OpenAI همچنان با سرعت زیادی در حال گسترش فعالیت‌های خود است. فرایر گفت درآمد سالانه‌شده این شرکت در سه‌ماهه سوم به نزدیک ۵۰ میلیارد دلار رسیده و انتظار می‌رود این رقم تا پایان سال به حدود ۷۰ میلیارد دلار افزایش یابد.
آنچه از نظر من در این میان اهمیت دارد، این است که هر دو موضوع در واقع به یک مسئله مشترک برمی‌گردند.
شرکت‌ها می‌خواهند هوش مصنوعی ارزان‌تر، سریع‌تر و مستقل‌تر عمل کند. اما هرچه اختیار بیشتری به نرم‌افزارها واگذار کنند، پرسش‌های مربوط به امنیت، سطح دسترسی و مسئولیت‌پذیری اهمیت بیشتری پیدا می‌کند.
به نظر من، سرمایه‌گذاران و کسب‌وکارها باید سه روند را زیر نظر داشته باشند: میزان هزینه‌کرد شرکت‌ها برای امنیت هوش مصنوعی، گسترش استفاده از عامل‌های خودمختار و اینکه آیا شرکت‌ها برای خطاهای سامانه‌های هوش مصنوعی مسئولیت‌های روشن‌تری تعیین می‌کنند یا خیر.
مرحله بعدی گسترش هوش مصنوعی در محیط کار تنها بر اساس توانایی‌های مدل‌ها ارزیابی نخواهد شد.
معیار مهم دیگر این خواهد بود که وقتی این سامانه‌ها مرتکب اشتباه می‌شوند، چه کسی مسئولیت آن را بر عهده می‌گیرد.