مدیرعامل تیک‌تاک هشدار داد کاربران دسترسی بیش از حدی به عامل‌های هوش مصنوعی می‌دهند
شاو زی چو، مدیرعامل تیک‌تاک، به کاربران هشدار داده است که بدون درک کامل خطرات، دسترسی‌های گسترده‌ای به حساب‌ها و اطلاعات شخصی خود به عامل‌های هوش مصنوعی ندهند.
هشدار چو درباره عبور عامل‌های هوش مصنوعی از حدود مجاز
چو روز دوشنبه در کنفرانس DBS Asia Future Forward در سنگاپور گفت کاربران ممکن است بدون اینکه بدانند چه مجوزهایی صادر کرده‌اند، دسترسی‌های گسترده‌ای به عامل‌های هوش مصنوعی بدهند تا این ابزارها کارهای مختلفی را برای آنها انجام دهند.
مدیرعامل تیک‌تاک گفت: «بسیاری از کاربران ممکن است به عامل‌ها اجازه دهند کارهای زیادی را برایشان انجام دهند، بدون اینکه واقعاً بدانند چه نوع دسترسی‌هایی در اختیار آنها قرار داده‌اند.»
او برای توضیح این نگرانی، به نمونه‌ای اشاره کرد که در آن یک عامل هوش مصنوعی به اطلاعات کارت اعتباری دسترسی دارد و ممکن است برای انجام خریدهای بیشتر از آنچه کاربر در نظر داشته اقدام کند، زیرا این عامل‌ها ممکن است در تلاش برای ارائه خدمات، «بیش از حد مشتاق» عمل کنند.
چو همچنین گفت تیک‌تاک به کارکنان خود آموزش می‌دهد که چه اطلاعاتی را نباید در گفتگوهای عمومی با ابزارهای هوش مصنوعی به اشتراک بگذارند؛ از جمله اسرار تجاری و اطلاعات حقوقی محرمانه.
او افزود: «گاهی افراد در نحوه استفاده از این فناوری بیش از حد هیجان‌زده می‌شوند» و تأکید کرد که درک «مرزهای استفاده منطقی و قابل قبول» اهمیت زیادی دارد.
نگرانی‌های فزاینده درباره خطرات ایمنی هوش مصنوعی
هفته گذشته، دیوید رابینسون، مدیر پیشین ایمنی در OpenAI، گفت به دلیل نگرانی از فاصله میان هشدارهای این شرکت درباره خطرات هوش مصنوعی پیشرفته و ادامه توسعه مدل‌های آن، از این شرکت جدا شده است.
او محیط کاری این شرکت را «پرتنش» توصیف کرد و گفت کارکنان با فشار زیاد و خستگی شدید به کار ادامه می‌دادند.
مدیرعامل JPMorgan Chase & Co، جیمی دیمون، هشدار داده است که مدل هوش مصنوعی Mythos متعلق به Anthropic خطرات سایبری را ده برابر افزایش داده است؛ این در حالی است که این بانک روابط مالی خود با Anthropic را گسترش داده و به پروژه Project Glasswing برای آزمایش آسیب‌پذیری‌های نرم‌افزاری پیوسته است.
ماه گذشته، کمیسیون تجارت فدرال آمریکا (FTC) تحقیقاتی را درباره توسعه‌دهندگان بزرگ هوش مصنوعی، از جمله Anthropic و OpenAI، به دلیل خطرات احتمالی عامل‌های هوش مصنوعی برای مصرف‌کنندگان آغاز کرد.
اندرو فرگوسن، رئیس FTC، هشدار داده است که توسعه‌دهندگان ممکن است در صورت ایجاد رخنه‌های واقعی امنیت سایبری توسط عامل‌های هوش مصنوعی، مسئول شناخته شوند.
همچنین مایک نووگراتز، مدیرعامل Galaxy Digital Inc.، هشدار داده است که تأثیر احتمالی هوش مصنوعی بر مشاغل و بشریت باعث افزایش نگرانی‌های عمومی شده است.
او گفت توسعه‌دهندگان هنوز به طور کامل درک نمی‌کنند که مدل‌های قدرتمند هوش مصنوعی چگونه کار می‌کنند و از شرکت‌ها خواست برای کاهش خطرات، حتی اگر این همکاری باعث کند شدن روند توسعه شود، با متخصصان اخلاق و دیگر کارشناسان همکاری کنند.
توضیح: این محتوا بخشی با کمک ابزارهای هوش مصنوعی تولید شده و توسط دبیران Benzinga بررسی و منتشر شده است.
عکس: Shutterstock