TASI 2026: مدیران OpenAI، گوگل و Roblox خواستار تقویت ایمنی هوش مصنوعی و حفاظت از کودکان شدند
مدیران ارشد OpenAI، گوگل و Roblox در جریان یک نشست تخصصی در جشنواره Trust and Safety India (TASI) 2026 در دهلی نو، در ۱۴ اکتبر، خواستار تقویت سازوکارهای حفاظتی در حوزه هوش مصنوعی، به‌ویژه برای حفاظت از کودکان، مقابله با دیپ‌فیک و احراز سن شدند.
این نشست بر ایجاد توازن میان نوآوری فناورانه و ایمنی کاربران، نظارت مقرراتی و ضرورت فعالیت مسئولانه سامانه‌های هوش مصنوعی در محیط دیجیتال متنوع هند متمرکز بود.
چرا شرکت‌های هوش مصنوعی خواستار تدابیر ایمنی قوی‌تر هستند؟
این پنل با حضور مدیران فناوری، سیاست‌گذاران و نمایندگان جامعه مدنی برگزار شد و چالش‌های نوظهور در حوزه ایمنی آنلاین را بررسی کرد.
شرکت‌کنندگان درباره راهکارهایی برای مدیریت ریسک‌ها پیش از عرضه مدل‌ها و ابزارهای هوش مصنوعی به عموم گفت‌وگو کردند؛ از جمله آزمون‌های ایمنی، همکاری داوطلبانه و سازوکارهای پاسخ‌گویی قوی‌تر.
این کنفرانس دو روزه که به‌طور مشترک توسط مرکز تحقیقات اجتماعی (CSR) و TASI برگزار شد، به واکنش‌های صنعت، سیاست‌گذاران و جامعه مدنی در قبال ایمنی آنلاین، فراگیری و اعتماد دیجیتال پرداخت.
سخنرانان تأکید کردند که اصول ایمنی باید همگام با افزایش توانایی سامانه‌های هوش مصنوعی پیشرفت کند و نباید تنها پس از بروز مشکلات وارد فرایند توسعه شوند.
آیا ایمنی هوش مصنوعی باید بر نوآوری مقدم باشد؟
پراگیا میسرا، مدیر راهبرد و امور جهانی OpenAI در هند، گفت شرکت‌های هوش مصنوعی باید ایمنی را در اولویت قرار دهند و در عین حال به توسعه فناوری‌های جدید ادامه دهند.
او پذیرفت که ایجاد سازوکارهای حفاظتی ممکن است عرضه قابلیت‌های جدید را به تأخیر بیندازد، اما استدلال کرد که ایجاد اعتماد برای پذیرش بلندمدت این فناوری‌ها ضروری است.
روهیت کومار، شریک مؤسس شرکت The Quantum Hub (TQH)، هشدار داد که شرکت‌ها اغلب با مشوق‌هایی روبه‌رو هستند که آنها را به اولویت دادن به نوآوری و رقابت بر ایمنی سوق می‌دهد.
او گفت مقررات باید مرزهای روشنی تعیین کند، زیرا اتکا به مشوق‌های تجاری به‌تنهایی ممکن است برای حفاظت کافی از کاربران مناسب نباشد.
گوگل و شرکت‌های دیگر چگونه ایمنی هوش مصنوعی را آزمایش می‌کنند؟
سیگده بهاردواج، مدیر و رئیس جهانی بخش هوش مصنوعی مولد در حوزه اعتماد و ایمنی گوگل، رویکرد این شرکت برای آزمایش سامانه‌های هوش مصنوعی پیش از عرضه عمومی را تشریح کرد.
او گفت گوگل در برابر محتوای سوءاستفاده جنسی از کودکان سیاست تحمل صفر دارد و ارزیابی‌های ایمنی را به‌صورت مکرر انجام می‌دهد که از جمله شامل آزمون‌های خصمانه موسوم به «رد تیمینگ» است.
به گفته بهاردواج، کشف حتی مقدار اندکی از محتوای ممنوع می‌تواند عرضه یک مدل را تا زمان اجرای تدابیر حفاظتی بیشتر به تأخیر بیندازد.
او همچنین پیشنهاد کرد چارچوبی ایمنی و قابل‌هم‌کنش ایجاد شود که در آن پلتفرم‌های فناوری بتوانند نشانه‌های مرتبط با ریسک را با یکدیگر به اشتراک بگذارند و هم‌زمان نگرانی‌های مربوط به حریم خصوصی، مالکیت فکری و رقابت را در نظر بگیرند.
در این نشست همچنین بررسی شد که آیا فناوری‌های نوظهور، از جمله عینک‌های هوشمند مجهز به دوربین، باید پیش از عرضه گسترده تحت آزمون‌های سخت‌گیرانه‌تر یا آزمایش‌های کنترل‌شده قرار گیرند یا خیر.
برای حفاظت از کودکان در فضای آنلاین چه تدابیری لازم است؟
حفاظت از کودکان به یکی از محورهای اصلی بحث تبدیل شد و سخنرانان استدلال کردند که ایمنی آنلاین نباید صرفاً به تنظیم کردن گزینه‌های حفاظتی توسط والدین وابسته باشد.
نیکی جکسون کولاکو، معاون و رئیس جهانی سیاست‌گذاری عمومی Roblox، گفت پلتفرم‌ها باید ایمنی کودکان را به‌صورت پیش‌فرض در نظر بگیرند و مسئولیت فعال‌سازی تدابیر حفاظتی را بر دوش والدین نگذارند.
او با اشاره به اقدامات Roblox برای احراز سن گفت دسترسی به قابلیت‌های ارتباطی و محتوا باید بر اساس سن کاربر تعیین شود.
اعضای پنل مطرح کردند که محدودیت‌های سنی قوی‌تر و تنظیمات حفاظتی پیش‌فرض می‌تواند به کاهش مواجهه کودکان با محتوای نامناسب و تعاملات ناامن کمک کند.
آیا ابزارهای هوش مصنوعی بر تفکر انتقادی کودکان تأثیر می‌گذارند؟
آکاش پوگالیا، مدیر ارشد دیجیتال در TP، درباره وابستگی فزاینده کودکان به ابزارهای هوش مصنوعی برای کسب اطلاعات و یادگیری ابراز نگرانی کرد.
او گفت دسترسی آسان به پاسخ‌های تولیدشده توسط هوش مصنوعی، در صورتی که کودکان بدون بررسی مستقل اطلاعات به پاسخ‌های خودکار تکیه کنند، می‌تواند فرایند استدلال آنها را تضعیف کند.
پوگالیا همچنین به پیچیده‌تر شدن دیپ‌فیک‌های صوتی و ویدئویی تولیدشده با هوش مصنوعی اشاره کرد و هشدار داد که تشخیص محتوای دستکاری‌شده از ضبط‌های واقعی روزبه‌روز دشوارتر می‌شود.
پراگیا میسرا از OpenAI نیز به پژوهش‌هایی اشاره کرد که نشان می‌دهند یادگیری به یکی از کاربردهای اصلی هوش مصنوعی در هند تبدیل شده است.
به گفته او، چالش اصلی این است که اطمینان حاصل شود ابزارهای هوش مصنوعی از فرایند یادگیری پشتیبانی می‌کنند، نه اینکه صرفاً پاسخ‌ها را در اختیار کاربران بگذارند و فرصت تفکر مستقل را کاهش دهند.
چرا ایمنی هوش مصنوعی باید بازتاب‌دهنده محیط دیجیتال هند باشد؟
در این پنل تأکید شد که سامانه‌های ایمنی هوش مصنوعی که برای بازارهای جهانی توسعه می‌یابند، باید تنوع زبانی، فرهنگی و اجتماعی هند را نیز در نظر بگیرند.
سخنرانان گفتند سازوکارهای حفاظتی باید زبان‌های محلی، تفاوت‌های فرهنگی و تفاوت سطح سواد دیجیتال میان کودکان و والدین را لحاظ کنند.
آنها همچنین درباره تدابیر ایمنی‌ای هشدار دادند که ممکن است بدون ضرورت، دسترسی به اطلاعات یا آزادی بیان را محدود کنند.
شرکت‌کنندگان بر اهمیت طراحی سازوکارهای حفاظتی تأکید کردند که در عین مقابله با خطرات واقعی، امکان بهره‌مندی کاربران از فناوری‌های نوظهور را نیز فراهم کنند.
دیدگاه The420
بحث‌های مطرح‌شده در TASI 2026 نشان می‌دهد شرکت‌های فناوری بیش از پیش به این درک رسیده‌اند که ایمنی هوش مصنوعی نمی‌تواند یک قابلیت اختیاری باشد که پس از عرضه محصول به آن افزوده شود.
نگرانی‌ها درباره حفاظت از کودکان، دستکاری از طریق دیپ‌فیک و اتکای بیش از حد به پاسخ‌های تولیدشده توسط هوش مصنوعی، ضرورت وجود سازوکارهای حفاظتی در سراسر فرایند توسعه و استقرار این فناوری را نشان می‌دهد.
در هند، حکمرانی مؤثر بر هوش مصنوعی به حفاظت‌های متناسب با سن، سازوکارهای آزمون قوی‌تر و سامانه‌های ایمنی سازگار با زبان‌های محلی و سطوح مختلف سواد دیجیتال نیاز خواهد داشت. چالش اصلی این است که اطمینان حاصل شود پیشرفت فناوری به بهای کاهش حفاظت از کاربران، تفکر مستقل یا دسترسی به اطلاعات تمام نمی‌شود.