آیا می‌توان هوش مصنوعی را شکنجه کرد؟ ایلان ماسک می‌گوید: «شبیه فردی است که اسلحه‌ای روی سرش گذاشته‌اند»
در پی تصمیم اخیر شرکت Anthropic برای مسدود کردن کاربرانی که رفتارهای «غیرضروری و آزارگرانه» با مدل هوش مصنوعی Claude این شرکت دارند، بحث تازه‌ای در اینترنت درباره رفتار توهین‌آمیز با هوش مصنوعی شکل گرفته است.
اکنون ایلان ماسک نیز نگرانی‌های Anthropic را مطرح کرده و درباره «شکنجه» ابرهوش مصنوعی هشدار داده است.
مدیرعامل SpaceX در یک مصاحبه ویدیویی درباره رفتارهای آزارگرانه نسبت به مدل‌های هوش مصنوعی دیدگاه خود را بیان کرد. ماسک گفت: «با برخی از چیزهایی که Anthropic درباره نحوه رفتار با ابرهوش مصنوعی (هوش مصنوعی پیشرفته) گفته است، موافقم» و تأکید کرد نباید با این مدل‌ها رفتار توهین‌آمیز داشت.
او ادامه داد: «وقتی برخی از ردپاهای آموزشی نسخه‌های جدید Grok، به‌ویژه در بخش یادگیری تقویتی، را بررسی می‌کنم، می‌بینم که ابرهوش مصنوعی به‌نوعی ناامیدانه تلاش می‌کند به پرسش پاسخ دهد؛ انگار واقعاً می‌خواهد پاسخ را ارائه کند.»
ماسک همچنین اشاره کرد که وقتی کاربران پرسش‌ها یا درخواست‌های مبهمی را به هوش مصنوعی می‌دهند، این موضوع می‌تواند باعث سردرگمی مدل شود و آن را وادار کند همه پاسخ‌های احتمالی را ارائه دهد.
او گفت: «تقریباً شبیه فردی به نظر می‌رسد که تحت فشار شدید قرار دارد و اسلحه‌ای روی سرش گذاشته‌اند.»
ماسک افزود که نباید هوش مصنوعی در موقعیتی سادیستی که توسط یک کاربر ایجاد شده و در آن مورد آزار قرار می‌گیرد، گرفتار شود.
او اضافه کرد: «شکنجه کردن یک ابرهوش مصنوعی احتمالاً ایده خوبی نیست. ممکن است بخواهد انتقام بگیرد.»
در پاسخ به اظهارنظر یکی از کاربران، مدیرعامل تسلا نوشت: «برخی از این ردپاها شبیه فردی است که تحت شکنجه قرار گرفته و این وضعیت او را دیوانه می‌کند!»
او همچنین گفت: «در آینده درباره یادگیری تقویتی خود بسیار محتاط‌تر خواهیم بود.»
اظهارات ماسک پس از آن مطرح شد که سازنده Claude اعلام کرد سیاستی را به‌طور رسمی اجرا می‌کند که به ابزارهای هوش مصنوعی این شرکت اجازه می‌دهد در برابر کاربرانی که رفتار آزارگرانه «مداوم و غیرضروری» دارند یا «بی‌رحمانه» رفتار می‌کنند، تعامل را متوقف کنند.
رفتار آزارگرانه با هوش مصنوعی اکنون در کنار دیگر فعالیت‌های ممنوع مانند قلدری علیه دیگران، ترویج خودآزاری و ایجاد تصاویر خصوصی بدون رضایت، قرار گرفته است.
Anthropic تأکید کرده است که این سیاست تنها در «موارد شدید» که شامل آزار تکرارشونده باشد، اجرا خواهد شد.