هوش مصنوعی شروع به بحث با انسان‌ها می‌کند
شرکت OpenAI قصد دارد ChatGPT را کمتر مستعد موافقت خودکار با کاربران کند. این چت‌بات قرار است علاوه بر همراهی با مخاطبان، اشتباهات را گوشزد کند، ادعاهای بحث‌برانگیز را به چالش بکشد و دیدگاه‌های جایگزین ارائه دهد.
بر اساس گزارش PCWPlus.hu، این تغییر با هدف کاهش تمایل هوش مصنوعی به تأیید بی‌دلیل گفته‌های کاربران انجام می‌شود.
جزئیات
این موضوع به مشکلی موسوم به «چاپلوسی» یا موافقت بیش از حد در رفتار هوش مصنوعی مربوط می‌شود. در چنین شرایطی، هوش مصنوعی به جای ارزیابی بی‌طرفانه وضعیت، پاسخ‌های خود را با انتظارات فرد تنظیم می‌کند. در نتیجه، چت‌بات ممکن است نتیجه‌گیری‌های نادرست کاربر را تأیید کند یا بدون دلیل کافی از نظر او حمایت کند.
اندازه‌گیری‌های داخلی OpenAI نشان می‌دهد GPT-5 در این زمینه پیشرفت قابل‌توجهی داشته است. در آزمایش‌های هدفمند، نرخ پاسخ‌های موافق از ۱۴٫۵ درصد در GPT-4o به کمتر از ۶ درصد کاهش یافته است. همچنین تعداد موارد موافقت بیش از حد با کاربران، در مقایسه با مدل قبلی، برای کاربران رایگان ۶۹ درصد و برای مشترکان پولی ۷۵ درصد کاهش یافته است.
گفته می‌شود این تغییرات برای افرادی اهمیت ویژه‌ای دارد که برای دریافت مشاوره درباره مسائل شخصی، حل اختلاف‌ها یا حمایت عاطفی به هوش مصنوعی مراجعه می‌کنند.
یادآوری
مرکز مشترک تحلیل، آموزش و تمرین ناتو و اوکراین دو دستاورد مبتنی بر هوش مصنوعی را معرفی کرده است. نخستین سامانه حملات پهپادی دشمن را پیش‌بینی می‌کند و دومین سامانه به برنامه‌ریزی عملیات توپخانه‌ای خودی کمک می‌کند.
منبع: UNN