سم آلتمن هشدار داد نباید به هوش مصنوعی اختیار دینی داده شود
سم آلتمن، مدیرعامل OpenAI، می‌خواهد مردم قضاوت و تصمیم‌گیری خود را همچنان در اختیار انسان نگه دارند و آن را به یک چت‌بات واگذار نکنند.
او در پستی در شبکه اجتماعی X در ۳ اکتبر نوشت: «من از اینکه مردم تلاش می‌کنند به مدل‌های هوش مصنوعی نیروی دینی نسبت دهند یا قضاوت انسانی خود را به آن‌ها بسپارند، بسیار ناراحت هستم و فکر می‌کنم این یک مسئله واقعی ایمنی است.» این هشدار یک پرسش عملی را پیش روی خانواده‌ها قرار می‌دهد: یک صدای دیجیتالِ متقاعدکننده تا چه اندازه باید اختیار داشته باشد؟
آلتمن در این پست نام هیچ شرکت، گروه مذهبی یا رویداد خاصی را ذکر نکرد. او همچنین نگفت که پرسیدن پرسش‌های دینی از یک سامانه هوش مصنوعی به‌معنای کنار گذاشتن قضاوت انسانی است؛ انتقاد او متوجه دادن قدرت دینی به این فناوری یا تسلیم کردن قضاوت انسان در برابر آن بود.
این تفاوت اهمیت دارد. یک چت‌بات می‌تواند به فردی کمک کند پرسش‌هایش را برای مطالعه کتاب مقدس مرتب کند، اما نباید به مرجعی تبدیل شود که تصمیم بگیرد متون مقدس چه معنایی دارند، خانواده‌ای چگونه باید زندگی کند یا فرد به چه کسی اعتماد کند.
این بحث گسترده‌تر از نحوه استفاده مردم از این ابزارهاست. توسعه‌دهندگان هوش مصنوعی نیز درباره این موضوع بحث می‌کنند که آیا سامانه‌های پیشرفته‌تر در آینده ممکن است تجربه‌های مستقلی داشته باشند و چنین احتمالی چه مسئولیت‌هایی ایجاد خواهد کرد.
شرکت Anthropic، سازنده چت‌بات Claude، در آوریل ۲۰۲۵ یک برنامه پژوهشی برای بررسی رفاه مدل‌های هوش مصنوعی اعلام کرد تا بررسی کند آیا سامانه‌های هوش مصنوعی ممکن است شایسته ملاحظات اخلاقی باشند یا نه. این شرکت گفت پژوهش آن، ترجیحات احتمالی مدل‌ها، نشانه‌های ناراحتی و راه‌های رسیدگی به نگرانی‌های مربوط به رفاه را بررسی خواهد کرد.
Anthropic در همان اطلاعیه نوشت: «هیچ اجماع علمی درباره اینکه آیا سامانه‌های فعلی یا آینده هوش مصنوعی می‌توانند آگاه باشند یا تجربه‌هایی داشته باشند که شایسته توجه باشند، وجود ندارد.» این شرکت همچنین اذعان کرد که پژوهشگران درباره نحوه پرداختن به این پرسش‌ها اتفاق نظر ندارند.
بررسی یک احتمال به معنای اثبات آن به‌عنوان واقعیت نیست؛ چه رسد به اینکه به یک ماشین اختیار معنوی بدهد. پست کوتاه آلتمن، Anthropic را هدف قرار نداده بود و پرسش درباره امکان آگاهی هوش مصنوعی با این پرسش تفاوت دارد که آیا انسان‌ها باید در برابر یک چت‌بات تسلیم قضاوت آن شوند.
Anthropic همچنین توضیح داده است که توسعه‌دهندگان چگونه شخصیت گفت‌وگویی یک دستیار را شکل می‌دهند. این شرکت در توضیحی درباره آموزش Claude در ژوئن ۲۰۲۴ درباره تشویق ویژگی‌هایی مانند کنجکاوی، اندیشمندی و پذیرش دیدگاه‌های مختلف صحبت کرد.
این شرکت نوشت: «ما می‌خواهیم مردم بدانند که با یک مدل زبانی تعامل دارند، نه با یک انسان.» این یادآوری می‌تواند نقطه شروع مفیدی برای خانواده‌ها باشد: پاسخ‌هایی که گرم و متفکرانه به نظر می‌رسند، نرم‌افزار را به کشیش، والدین یا دوست مورد اعتماد تبدیل نمی‌کنند.
برای والدین، این گفت‌وگو می‌تواند پیش از آن آغاز شود که کودک یک پرسش مهم معنوی را از یک برنامه کاربردی بپرسد. از کودک بپرسید از این ابزار برای چه کاری استفاده می‌کند، پاسخ‌ها را همراه او بررسی کنید و درباره تفاوت میان پیدا کردن اطلاعات و سپردن تصمیم نهایی به یک ابزار گفت‌وگو کنید.
اطلاعات شخصی را خصوصی نگه دارید، منابع را بررسی کنید و پاسخ‌های ظاهراً دقیق را بدون پرسش نپذیرید. همچنین کودکان را تشویق کنید گفت‌وگوهای نگران‌کننده را با یک بزرگسال مورد اعتماد در میان بگذارند. یک ابزار باید به خانواده کمک کند بهتر فکر کند، نه اینکه بی‌صدا جایگزین فرایند فکر کردن شود.
کتاب مقدس نیز عادتی بهتر از پذیرش بی‌چون‌وچرا به ما می‌آموزد. در اعمال رسولان ۱۷:۱۱ آمده است که مردم بِریه هر روز نوشته‌های مقدس را بررسی می‌کردند تا آنچه را می‌شنیدند بیازمایند، حتی زمانی که گوینده، پولس رسول بود.
ما می‌توانیم همین دقت را در برابر پاسخی که روی یک صفحه نمایش دریافت می‌کنیم نیز به کار ببریم. می‌توان از فناوری به‌شکل خردمندانه استفاده کرد، بدون اینکه جایگاهی را که متعلق به خدا، کلام او و انسان‌هایی است که به محبت فراخوانده شده‌اند، به آن واگذار کنیم.