افزودن قابلیت خرید خودکار و ابزارهای ایمنی کودکان به ChatGPT؛ واکنش آلتمن به کناره‌گیری هوانگ

theaiinsider.tech

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

نویسنده: جیمز دارگان | ۱۷ نوامبر ۲۰۲۶

OpenAI قابلیت‌های ChatGPT را گسترش داده و ویژگی جدیدی به نام کیف پول معرفی کرده است که به دستیارهای هوش مصنوعی این پلتفرم امکان می‌دهد از طرف کاربران خرید کنند. این شرکت همچنین مجموعه‌ای از ابزارها را برای مقابله با تصاویر سوءاستفاده جنسی از کودکان (CSAM) ارائه کرده است. در همین حال، سم آلتمن، مدیرعامل OpenAI، گفته است صنعت هوش مصنوعی بدون حضور جنسن هوانگ در رأس انویدیا نیز به فعالیت خود ادامه خواهد داد.

کیف پول جدید ChatGPT به دستیارهای هوش مصنوعی OpenAI که با نام «دات‌ها» (dots) شناخته می‌شوند، اجازه می‌دهد به کاربران در انتخاب کالاهای موردنظرشان کمک کنند و سپس فرایند خرید را نیز به نمایندگی از آن‌ها انجام دهند. این قابلیت در مرحله نخست تنها برای تعداد محدودی از مشترکان آمریکایی ChatGPT Pro که دست‌کم ۱۸ سال دارند و کارت بانکی Visa، Mastercard یا American Express صادرشده در آمریکا در اختیار دارند، فعال شده است.

کاربران کافی است یک‌بار کارت‌های واجد شرایط خود را به کیف پول اضافه کنند و سپس از دات خود بخواهند در خرید موردنظرشان کمک کند. پیش از نهایی شدن سفارش، امکان بررسی اقلام انتخاب‌شده، مبلغ کل و کارت پرداخت برای کاربر فراهم است. هر خرید نیز باید با یک مرحله تأیید امنیتی، مانند Face ID یا اثر انگشت، تأیید شود و سابقه‌ای از تراکنش ثبت خواهد شد.

پرداخت‌ها با استفاده از یک توکن انجام می‌شوند که جایگزین اطلاعات واقعی کارت بانکی است. در نتیجه، اطلاعات کارت نه در اختیار دستیار هوش مصنوعی قرار می‌گیرد و نه به فروشنده منتقل می‌شود. دات به‌صورت خودکار اطلاعات تماس و نشانی ارسال کالا را در اختیار فروشنده می‌گذارد. کاربران همچنین امتیازها و مزایای کارت بانکی خود و حمایت‌های مربوط به آن، از جمله امکان اعتراض به تراکنش‌ها، را حفظ می‌کنند.

OpenAI اعلام کرده است که اجرای محدود این قابلیت فرصتی برای آزمایش و بهبود آن پیش از عرضه گسترده‌تر فراهم می‌کند. این شرکت در برنامه‌های آینده خود قصد دارد امکان تعیین سقف هزینه و اعمال محدودیت بر اساس دسته‌بندی کالاها و بازه‌های زمانی را اضافه کند. به این ترتیب، کاربران می‌توانند برخی خریدها را از پیش تأیید کنند تا دستیار هوش مصنوعی در ادامه آن‌ها را با استقلال بیشتری انجام دهد.

این شرکت همچنین در پی افزودن فروشگاه‌های بیشتری به این سیستم است؛ هرچند برخی خرده‌فروشان، از جمله آمازون، مانع فعالیت دستیارهای هوش مصنوعی در وب‌سایت‌های خود می‌شوند. OpenAI برای کمک به فروشندگان در سازگاری با تجارت مبتنی بر دستیارهای هوش مصنوعی، راهنمایی با عنوان «راهنمای شرکای تجاری» (Commerce Partner Playbook) منتشر کرده که شامل ابزارها و توصیه‌های لازم در این زمینه است.

این اقدام در شرایطی صورت می‌گیرد که شرکت‌های فعال در حوزه هوش مصنوعی مصرف‌کننده همچنان به دنبال یافتن تناسب میان محصول و نیاز بازار هستند. DoorDash و Uber گزارش داده‌اند که تعداد سفارش‌هایی که دستیارهای هوش مصنوعی از طریق پلتفرم‌های آن‌ها ثبت می‌کنند، همچنان پایین است. در مقابل، شرکت متا اعلام کرده خرید به یکی از فعالیت‌های اصلی دستیار هوش مصنوعی Muse تبدیل شده است؛ دستیارى که بیش از ۱۰ میلیون کاربر دارد. برخی دستیارهای شخصی دیگر، از جمله Instinct، نیز امکان انجام خرید را فراهم کرده‌اند.

OpenAI در اقدامی جداگانه، تدابیر جدیدی برای مقابله با تصاویر سوءاستفاده جنسی از کودکان معرفی کرده است. یکی از این اقدامات، توسعه یک طبقه‌بند تصویری جدید با همکاری مرکز ملی کودکان مفقودشده و مورد سوءاستفاده قرارگرفته آمریکا (NCMEC) است. این ابزار می‌تواند تصاویر آزارگرانه، از جمله تصاویر تولیدشده با هوش مصنوعی، را شناسایی کند و با اختصاص یک امتیاز به هر تصویر، به کارشناسان انسانی در اولویت‌بندی موارد برای بررسی کمک کند.

OpenAI دسترسی رایگان به این ابزار را از طریق API خود برای برخی شرکت‌های منتخب فراهم کرده و برای به‌اشتراک‌گذاری آن با ائتلاف فناوری (Tech Coalition) و سازمان ROOST همکاری می‌کند. در آزمایش‌های اولیه، این طبقه‌بند با حفظ توانایی شناسایی همان تعداد تصویر آزارگرانه، ۴۸ درصد تصاویر کمتری را علامت‌گذاری کرد. همچنین احتمال آزارگرانه بودن تصاویری که این ابزار شناسایی کرده بود، دو برابر بیشتر بود. این نتایج می‌تواند حجم کار کارشناسان انسانی را کاهش دهد و بررسی موارد مشکوک را هدفمندتر کند.

ChatGPT همچنین هنگام تلاش کاربران برای دسترسی به محتوایی که کودکان را از منظر جنسی به تصویر می‌کشد، صفحات هشدار نمایش خواهد داد. این هشدارها کاربران را به دریافت کمک از مراکز تخصصی راهنمایی می‌کنند و حساب کاربری آن‌ها به مدت ۲۴ ساعت تعلیق می‌شود. تکرار این تخلف‌ها نیز ممکن است به حذف دائمی حساب منجر شود.

OpenAI این پیام‌های هشدار را با همکاری سازمان‌هایی از جمله Protect Children و بنیاد لوسی فیثفول (Lucy Faithfull Foundation) تدوین کرده است. جوئل اسکنلان از دانشگاه تاسمانی نیز به‌طور مستقل یک دوره آزمایشی از پیام‌های بازدارنده را ارزیابی کرده است.

این شرکت علاوه بر این، دستورالعمل‌هایی برای کمک به توسعه‌دهندگان منتشر کرده است تا بتوانند تصاویر سوءاستفاده جنسی از کودکان را پیشگیری، شناسایی و گزارش کنند. OpenAI همچنین ابزارهای تحقیقاتی مبتنی بر هوش مصنوعی، آموزش و یک راهنمای میدانی را در اختیار نیروهای مجری قانون قرار می‌دهد.

این اقدامات پس از طرح شکایت‌های حقوقی علیه OpenAI صورت می‌گیرد که در آن‌ها فناوری این شرکت به آسیب رساندن به کاربران، به‌ویژه کودکان، متهم شده است. همچنین مؤسسه Common Sense Media فناوری OpenAI را برای نوجوانان خطری غیرقابل‌قبول ارزیابی کرده است. OpenAI طی یک سال گذشته مجموعه‌ای از اقدامات ایمنی را در پیش گرفته که از جمله آن‌ها می‌توان به انتشار نقشه راه ایمنی، سخت‌گیرانه‌تر کردن دستورالعمل‌های محتوایی، تنظیم مجدد مدل‌های هوش مصنوعی و معرفی نسخه مخصوص نوجوانان ChatGPT اشاره کرد.

آلتمن روز دوشنبه در رویداد «سیلیکون‌ولی و جهان» (Silicon Valley & The World) به میزبانی رسانه Semafor، برای نخستین بار به‌صورت علنی درباره کناره‌گیری هوانگ از انویدیا اظهارنظر کرد. این کناره‌گیری پس از آن صورت گرفت که هوانگ به داشتن رابطه‌ای خارج از ازدواج با فردی که گفته می‌شود جاسوس چینی بوده، اعتراف کرد.

آلتمن گفت اطلاعات کافی برای اظهارنظر درباره لزوم بازگشت هوانگ به سمت خود ندارد، اما با اشاره به تجربه شخصی‌اش از برکناری موقت از OpenAI در سال ۲۰۲۳، با او ابراز همدلی کرد. او گفت تصور انقلاب هوش مصنوعی بدون هوانگ و شرکتی که او ساخته است دشوار است و از او به‌عنوان قهرمانی یاد کرد که در کنار نقاط قوت، ضعف‌هایی نیز دارد.

مدیرعامل OpenAI همچنین گفت نگران نیست که منابع مالی انویدیا برای سرمایه‌گذاری در این حوزه متوقف شود و خاطرنشان کرد که مردم همچنان به تضمین‌های این شرکت اعتماد دارند. انویدیا اخیراً پذیرفته است تا سقف ۱۰۵ میلیارد دلار از پروژه مرکز داده OpenAI در ایالت اوهایو حمایت مالی و آن را تضمین کند. این توافق یکی از چندین معامله‌ای است که در آن منابع مالی انویدیا به خرید تراشه‌های ساخت خود این شرکت کمک می‌کند.

آلتمن با اشاره به رشد چشمگیر تقاضا و درآمد در حوزه هوش مصنوعی گفت این صنعت در مجموع عملکرد خوبی خواهد داشت. او در عین حال نقش ویژه هوانگ را در پیشبرد این صنعت با جاه‌طلبی فراوان به رسمیت شناخت.

این اظهارات در شرایطی مطرح می‌شود که شماری از مدیران سرشناس فناوری، از جمله ایلان ماسک و تیم سوئینی، از نامه‌ای عمومی در حمایت از بازگشت هوانگ به سمت خود پشتیبانی کرده‌اند. همچنین گزارش شده است که هوانگ در حال گردآوری گروهی از مدیران اجرایی سیلیکون‌ولی است تا برای بازگشت او به این سمت رایزنی کنند.