افشای استفاده از هوش مصنوعی مولد نمی‌تواند منشأ واقعی محتوای مقالات علمی را به‌طور کامل مشخص کند

bioengineer.org

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

تصویر تولیدشده با هوش مصنوعی
اعتبار تصویر: تولیدشده با هوش مصنوعی

بر اساس یک تحلیل نظری منتشرشده در مجله Discover Artificial Intelligence، الزام پژوهشگران به اعلام استفاده از هوش مصنوعی مولد نمی‌تواند سهم واقعی و علّی ابزارهای خودکار را در شکل‌گیری مقالات علمی به‌طور کامل بازسازی کند. این پژوهش را مینورو ماتسویی انجام داده و در آن بررسی کرده است که سیاست‌های کنونی انتشار آثار علمی چگونه پژوهشگران را ملزم می‌کنند میزان استفاده خود از سامانه‌های مولد را برای تضمین شفافیت پژوهش اعلام کنند. نویسندگان می‌توانند مراحل عملیاتی قابل مشاهده، بخش‌های متنی حفظ‌شده و بررسی‌های صریح انجام‌شده برای اعتبارسنجی خروجی‌ها را با اطمینان ثبت کنند؛ اما توصیف‌هایی مانند ویرایش زبانی یا تولید ایده، در واقع برداشت‌هایی هستند که پس از پایان کار شکل می‌گیرند. چنین برچسب‌هایی نمی‌توانند مشخص کنند تعاملات تکرارشونده با سامانه‌های خودکار دقیقاً چگونه بر تأکیدهای استدلالی، ملاحظات مفهومی یا ارتباطات ساختاری در مقاله نهایی تأثیر گذاشته‌اند.

این پژوهش تعارض یادشده را نوعی عدم تقارن معرفتی میان محدودیت در تشخیص منشأ محتوا و اهمیت آن در قضاوت‌های تفسیری می‌داند. اگرچه اظهاراتی که پس از تکمیل مقاله ارائه می‌شوند نمی‌توانند منشأ فکری مطالب را به‌صورت عینی مشخص کنند، پژوهش‌های تجربی نشان می‌دهند که همین اظهارات تأثیر زیادی بر ارزیابی آثار علمی و پژوهشگران دارند. برای نمونه، پژوهش‌های تجربی پیشین، از جمله آزمایشی مبتنی بر نظرسنجی با پیش‌ثبت طرح پژوهش و مشارکت ۸۰۶ نفر که چن و جیا انجام دادند، نشان داد آثاری که کاملاً بدون کمک ماشین تولیدشده معرفی می‌شوند، بالاترین امتیازها را از نظر کیفیت ادراک‌شده، اخلاقی‌بودن و اعتماد دریافت می‌کنند. این امتیازها زمانی به پایین‌ترین سطح می‌رسند که گفته شود هوش مصنوعی در فعالیت‌های نظری، مانند تدوین فرضیه، به کار رفته است؛ درحالی‌که استفاده از این فناوری برای کمک‌های روش‌شناختی، مانند کدنویسی تحلیلی، با پذیرش بیشتری روبه‌رو می‌شود. در پژوهشی مکمل که ناکانو و همکارانش درباره شش فعالیت ارتباطی انجام دادند، مشخص شد اعلام استفاده از ابزارهای خودکار عموماً برداشت مخاطبان از شایستگی، توجه و صداقت نویسنده را کاهش می‌دهد. همچنین، شیِلکه و رایمان در ۱۳ آزمایش نشان دادند افشای استفاده از کمک‌های خودکار، با کاهش مشروعیت ادراک‌شده، اعتماد میان‌فردی و اعتماد سازمانی را تضعیف می‌کند.

این مقاله برای توضیح چگونگی پردازش اطلاعات مربوط به منشأ فناوری در ذهن خوانندگان، مدلی با عنوان «حواس‌پرتی خواننده» ارائه می‌کند. این مدل فرایند مواجهه با متن را در سه مرحله توضیح می‌دهد: برجسته‌شدن منشأ فناوری، پایش منشأ و پیامدهای ارزیابی. مرحله نخست زمانی رخ می‌دهد که استفاده احتمالی از ابزارهای خودکار از طریق افشاگری‌های رسمی، نشانه‌های ویراستاری، ناهماهنگی‌های متنی یا حتی ظن شخصی خواننده درباره سبک نوشتار آشکار شود؛ صرف‌نظر از اینکه واقعاً از نرم‌افزارهای الگوریتمی استفاده شده باشد یا خیر. پس از برجسته‌شدن این موضوع، خوانندگان وارد مرحله پایش منشأ می‌شوند و ویژگی‌های متن، مانند عبارت‌های انتقالی، ارجاعات، استحکام شواهد و لحن نویسنده را برای یافتن نشانه‌های استفاده از فناوری بررسی می‌کنند. حواس‌پرتی خواننده زمانی شکل می‌گیرد که این تلاش برای شناسایی منشأ فناوری بیش از اندازه شود و توجه مخاطب به ویژگی‌های ظاهری متن معطوف بماند؛ ویژگی‌هایی که ارتباط چندانی با نوع استفاده اعلام‌شده از ابزار یا خطرهای معرفتی احتمالی آن ندارند.

این چارچوب مفهومی میان پایش منشأ و انگ‌زنی در ارزیابی تمایز قائل می‌شود. انگ‌زنی ارزیابانه به قضاوت منفی درباره نویسنده یا مقاله به دلیل ارتباط آن با تولید خودکار اشاره دارد؛ درحالی‌که پایش منشأ به نحوه تخصیص توجه و بررسی تفسیری خواننده مربوط می‌شود. بر اساس این مدل، ممکن است خواننده نشانه‌های احتمالی استفاده از فناوری را با دقت فراوان بررسی کند، اما همچنان به اعتبار اثر اعتماد داشته باشد. در مقابل، ممکن است فرد صرفاً با مشاهده یک اعلامیه درباره استفاده از ابزار خودکار، بی‌درنگ به اثر بی‌اعتماد شود، بدون آنکه بررسی مفصلی انجام دهد. بااین‌حال، حواس‌پرتی خواننده می‌تواند به انگ‌زنی ارزیابانه منجر شود؛ به‌ویژه زمانی که الگوهای رایج نگارش دانشگاهی، مانند ساختارهای متقابل متداول یا عبارت‌های انتقالی تکرارشونده‌ای نظیر «بااین‌حال» و «با وجود این»، به‌عنوان شواهدی از متن تولیدشده با هوش مصنوعی تعبیر شوند. چنین تغییری در برداشت مخاطب ممکن است ارزیابی او از اصالت، شایستگی و میزان تلاش نویسنده را تضعیف کند، حتی اگر این نشانه‌های سبکی هیچ اعتبار تشخیصی نداشته باشند.

این پژوهش همچنین به خطری نوظهور با عنوان «انتساب بیش از حد منشأ» اشاره می‌کند؛ وضعیتی که در آن داوران و خوانندگان می‌کوشند عبارت‌ها، ساختارها یا ایده‌های مشخصی را به تولید انسانی یا مصنوعی نسبت دهند، درحالی‌که به سوابق هم‌زمان با فرایند نگارش دسترسی ندارند. مقاله با تکیه بر پژوهش‌های شناختی درباره فرایند نوشتن و نظریه‌های پایش منشأ، توضیح می‌دهد که نویسندگان انسانی نیز به‌طور طبیعی برای به یاد آوردن منشأ ایده‌ها از فرایندهای بازسازی ذهنی استفاده می‌کنند و برچسب دائمی و دقیقی برای منشأ شناختی هر بخش از نوشته در اختیار ندارند. پژوهش‌هایی که با ثبت ضربه‌های صفحه‌کلید، ردیابی حرکات چشم و یادآوری تحریک‌شده انجام شده‌اند، نشان می‌دهند رفتارهای قابل مشاهده هنگام نوشتن به تفسیر در بستر مناسب نیاز دارند و به‌خودی‌خود قصد و نیت شناختی نویسنده را آشکار نمی‌کنند. بنابراین، انتظار از خوانندگان یا نویسندگان برای ردیابی قطعی تمام پیشنهادهای مفهومی، پیش‌نویس‌های کنارگذاشته‌شده یا دستورهای ساختاری، مستلزم سطحی از شفافیت گذشته‌نگر است که عملاً دست‌یافتنی نیست.

این وضعیت بار نابرابری در اعلام منشأ محتوا ایجاد می‌کند که فشار بیشتری بر دوش پژوهشگرانی می‌گذارد که در محیط‌های دانشگاهی انگلیسی‌زبان فعالیت می‌کنند. نگارش دانشگاهی از دیرباز به کمک گسترده انسان‌های دیگر وابسته بوده است؛ از جمله استادان راهنما، داوران همتا، مشاوران دانشگاهی، همکاران، ویراستاران حرفه‌ای و مترجمان. این مداخلات انسانی به‌طور معمول ساختارهای بلاغی، جریان استدلال و دقت زبانی آثار را تغییر می‌دهند، اما در مقالات منتشرشده به‌ندرت ثبت یا بررسی می‌شوند. در مقابل، ابزارهای خودکار نگارش به‌واسطه الزام به گزارش‌دهی و نظارت دقیق‌تر، به‌طور ویژه زیر ذره‌بین قرار می‌گیرند. در نتیجه، روانی زبانی مشابه ممکن است وقتی حاصل کمک انسانی است، نشانه پرداخت حرفه‌ای متن تلقی شود، اما اگر نرم‌افزار در ایجاد آن نقش داشته باشد، به‌عنوان نشانه کاهش تسلط نویسنده بر اثر تفسیر شود.

از آنجا که مدل‌های زبانی خودکار با استفاده از متون علمی موجود آموزش می‌بینند، سبک رایج نگارش دانشگاهی را بازتولید می‌کنند؛ بنابراین، شباهت‌های سبکی معیار قابل اعتمادی برای تشخیص استفاده از فناوری نیستند. در نتیجه، پژوهشگرانی که به شبکه‌های پرهزینه ویراستاری انسانی دسترسی ندارند و به ابزارهای نرم‌افزاری متکی هستند، با نظارت و حساسیت بیشتری نسبت به سبک نوشتار خود مواجه می‌شوند. نویسنده هشدار می‌دهد که بررسی‌های مبتنی بر سوءظن حتی ممکن است به زیان پژوهشگرانی تمام شود که مقاله خود را بدون هیچ ابزار فناورانه‌ای نوشته‌اند؛ زیرا عبارت‌بندی‌های محتاطانه و متعارف در متون دانشگاهی ممکن است به‌اشتباه خروجی هوش مصنوعی تلقی شوند. اگرچه شواهد تجربی از گسترش سریع استفاده از ابزارهای خودکار نگارش در میان پژوهشگران کم‌سابقه‌تر و محققان خارج از مراکز مسلط انگلیسی‌زبان حکایت دارد، مقاله تأکید می‌کند که نابرابری در میزان نظارت، بیش از آنکه ناشی از تفاوت‌های زبانی مستقیم باشد، از تفاوت در میزان دیده‌شدن استفاده از ابزارها سرچشمه می‌گیرد.

این تحلیل برای حل مشکلات ساختاری یادشده، هم رویکرد حداکثرگرایانه در ثبت تمام جزئیات منشأ محتوا و هم رویکرد نفی ضرورت گزارش‌دهی را رد می‌کند و به‌جای آن، چارچوبی برای گزارش‌دهی متناسب با ملاحظات معرفتی پیشنهاد می‌دهد. در این چارچوب، اطلاعات مربوط به استفاده از هوش مصنوعی بر اساس میزان خطر و تأثیر بر شواهد، در سه گروه کارکردی دسته‌بندی می‌شوند، نه بر اساس حجم متنی که ابزار تولید کرده است. گروه نخست، گزارش‌دهی روش‌شناختی است که عملیات مؤثر بر گردآوری داده‌ها، انتخاب شواهد، غربالگری منابع علمی، کدنویسی آماری، طبقه‌بندی یا ترکیب تحلیلی اطلاعات را دربرمی‌گیرد. این موارد باید در بخش روش‌شناسی مقاله ثبت شوند تا خوانندگان بتوانند چگونگی دستیابی به یافته‌ها را ارزیابی کنند. گروه دوم، گزارش‌دهی حاکمیتی است که فرایندهای بررسی، اعتبارسنجی، اصلاح یا رد خروجی‌های مهم توسط نویسندگان را شرح می‌دهد و سابقه‌ای قابل ممیزی از کنترل کیفیت فراهم می‌کند. گروه سوم، افشای منشأ تولید متن است که گزارشی محدود و مبتنی بر خوداظهاری درباره کمک‌های کلی در نگارش اولیه، بازآرایی متن و انتخاب عبارت‌ها ارائه می‌کند و در عین حال می‌پذیرد که بازسازی کامل زنجیره علّی شکل‌گیری مقاله امکان‌پذیر نیست.

این چارچوب برای اجرای اصل تناسب معرفتی، چهار پرسش اساسی را مطرح می‌کند: آیا عملیات انجام‌شده بر شواهد، روش‌ها، تحلیل‌ها یا نتیجه‌گیری‌ها تأثیر گذاشته است؟ آیا خروجی‌های پذیرفته‌شده می‌توانند اعتبار یا معنای محتوایی پژوهش نهایی را تغییر دهند؟ برای اطمینان از صحت خروجی‌های بحث‌برانگیز، چه مراحل مشخصی از اعتبارسنجی انجام شده است؟ و آیا جزئیات باقی‌مانده صرفاً بازتاب برداشت‌های گذشته‌نگر از فرایند نگارش هستند؟ تمرکز بر خطرهای مرتبط با شواهد، از الزام به ارائه رونوشت‌های کامل تعاملات، تاریخچه دستورها یا تخمین‌های درصدی دلخواه از میزان مشارکت ماشین جلوگیری می‌کند؛ الزاماتی که اغلب فرایند داوری همتا را دشوارتر می‌کنند، بی‌آنکه اطلاعات روشنی درباره محتوای فکری یا اعتبار روش‌شناختی پژوهش ارائه دهند.

در نهایت، مقاله مفهوم «قضاوت پاسخ‌گو» را به‌عنوان معیاری عملی برای مسئولیت‌پذیری در نویسندگی علمی پیشنهاد می‌کند؛ معیاری که از اعلام اسمی مسئولیت فراتر می‌رود. دستورالعمل‌های کنونی انتشار آثار علمی، نویسندگان را مسئول صحت و سلامت مقاله می‌دانند، اما صرف اعلام مسئولیت، نشان نمی‌دهد که نویسنده محتوای اثر را به‌درستی درک کرده یا خروجی‌ها را به اندازه کافی اعتبارسنجی کرده است. قضاوت پاسخ‌گو مستلزم چهار توانایی فعال و متناسب با شرایط چالش‌برانگیز است: درک مبانی مفهومی و محدودیت‌های ادعاهای مورد تأیید، بررسی خروجی‌های مهم با استفاده از شواهد مستقل، حفظ اختیار تصمیم‌گیری برای پذیرش یا رد مشارکت‌ها و آمادگی مستمر برای پاسخ‌گویی هنگام به چالش کشیده‌شدن ادعاهای علمی. این چارچوب با پیوندزدن نویسندگی به توانایی اثبات‌شدنی در دفاع و ارائه توجیه برای ادعاهای پژوهشی در برابر بررسی همتایان، مسئولیت‌پذیری واقعی انسان را تضمین می‌کند و در عین حال مانع از آن می‌شود که بررسی‌های حدسی درباره منشأ متن، جای ارزیابی دقیق استدلال‌های علمی را بگیرند.

ماتسویی این الگوی پاسخ‌گویی در برابر نقد را در چارچوب معیارهای تثبیت‌شده نویسندگی علمی قرار می‌دهد و یادآور می‌شود که چارچوب‌هایی مانند دستورالعمل‌های کمیته بین‌المللی سردبیران مجلات پزشکی و نظام طبقه‌بندی نقش‌های مشارکت‌کنندگان در پژوهش (CRediT)، از پیش بر مشارکت‌های اساسی و نظارت انتقادی تأکید دارند. همچنین، پژوهش‌های اخیر لوچیانو فلوریدی بر ضرورت اولویت‌دادن به پاسخ‌گویی در برابر ردیابی منشأ فنی بخش‌های مشخصی از متن تأکید می‌کنند. پژوهش جی. رودریگز نیز نویسندگی را با توانایی انتخاب آگاهانه، سامان‌دهی و تأیید محتوا مرتبط می‌داند. افزون بر این، تحلیل‌های سی. نوولی و فلوریدی نشان می‌دهند که واگذاری بیش از حد فعالیت‌ها به سامانه‌های خودکار می‌تواند به تضعیف همان فرایندهای علمی منجر شود که توانایی قضاوت انتقادی را پرورش می‌دهند. ماتسویی روشن می‌کند که مفهوم قضاوت پاسخ‌گو جایگزین این دیدگاه‌ها نیست و قرار نیست نظریه‌ای جامع درباره نویسندگی ارائه دهد؛ بلکه شرایط مشخصی را تعریف می‌کند که بر اساس آنها می‌توان تأیید و پذیرش یک اثر با واسطه فناوری از سوی پژوهشگر را هنگام بررسی ادعاها یا روش‌های مشخص، مستدل و قابل دفاع دانست.

نکته مهم آن است که این چارچوب با واقعیت پروژه‌های پژوهشی مشارکتی بزرگ نیز سازگار است؛ پروژه‌هایی که در آنها ده‌ها یا حتی صدها نفر، فعالیت‌ها را میان حوزه‌های تخصصی مختلف تقسیم می‌کنند. ماتسویی می‌گوید انتظار از تک‌تک نویسندگان همکار برای تسلط بر تمام روش‌های فنی، بررسی همه مجموعه‌داده‌های مجزا یا تکرار مستقل تمام مراحل پیچیده تحلیل، کاملاً غیرواقع‌بینانه است. در عوض، قضاوت پاسخ‌گو به‌عنوان معیاری متناسب با نقش هر فرد عمل می‌کند و مسئولیت را بر اساس مشارکت واقعی و حوزه تحت نظارت او تعیین می‌کند. برای مثال، یک آمارشناس باید درباره مدل‌سازی تحلیلی خود پاسخ‌گو باشد، درحالی‌که پژوهشگری که مسئول هماهنگی جذب شرکت‌کنندگان در یک مطالعه بالینی است، باید بتواند از نحوه انتخاب افراد، پروتکل‌های گردآوری داده و اعتبار فرایند تشخیص دفاع کند. اتکا به همکاران یا ابزارهای خودکار تنها زمانی مشکل‌ساز می‌شود که هیچ پژوهشگر یا فرایند مشخصی نتواند یک ادعای مهم را تأیید کند، یا امضاهای رسمی نویسندگان فقدان ارزیابی انتقادی را پنهان سازند.

ماتسویی برای بررسی تجربی این ادعاهای نظری، طرح‌های آزمایشی مشخصی پیشنهاد می‌کند که می‌توانند مدل حواس‌پرتی خواننده را با توضیح‌های رقیب مقایسه کنند. پژوهشگران می‌توانند نسخه‌های یکسانی از مقالات علمی را در شرایط آزمایشی تصادفی‌شده در اختیار خوانندگان قرار دهند؛ شرایطی که شامل اعلام‌نکردن استفاده از ابزارها، ارائه توضیحی کلی درباره استفاده از خودکارسازی، افشای نوع دقیق کمک دریافتی و اعلام دریافت کمک ویرایشی مشابه از سوی انسان باشد. میزان توجه خوانندگان را می‌توان با شاخص‌های عینی، از جمله ردیابی حرکات چشم، مدت‌زمان مطالعه، الگوهای بازخوانی و نحوه توزیع نظرهای داوران میان دسته‌های تحلیلی از پیش تعیین‌شده، اندازه‌گیری کرد. همچنین، ارزیابی‌های جداگانه می‌توانند میزان درک مطلب، یادآوری اطلاعات، اعتماد، شایستگی ادراک‌شده و تصمیم نهایی درباره انتشار مقاله را مشخص کنند.

این آزمایش‌ها چند پیش‌بینی ابطال‌پذیر به همراه دارند. نخست اینکه اعلام استفاده از ابزارهای ماشینی باید در مقایسه با ویرایش انسانیِ دارای کارکرد مشابه، حتی زمانی که متن نهایی کاملاً یکسان است، توجه و بررسی بیشتری را به ویژگی‌های متنی نامرتبط با نوع کمک دریافتی جلب کند. افزون بر این، اگر پایش منشأ و بی‌اعتمادی دو سازوکار تحلیلی متمایز باشند، افزایش میزان بررسی لزوماً نباید همیشه به کاهش اعتماد منجر شود و ممکن است ارزیابی‌های منفی بدون مشاهده تغییر در الگوی توجه نیز شکل بگیرند. ماتسویی تأکید می‌کند که این مدل در برابر ردشدن از طریق شواهد تجربی باز است: اگر اعلام استفاده از کمک انسانی و ماشینی به بررسی‌های مشابه منجر شود، یا اگر تغییرات مشاهده‌شده در توجه به‌طور کامل با تفاوت‌های واقعی روش‌شناختی توضیح داده شوند، فرضیه عدم تقارن پیشنهادی رد خواهد شد.

موضوع پژوهش: محدودیت‌های معرفتی و پیامدهای افشای استفاده از هوش مصنوعی مولد در نگارش علمی برای خوانندگان.

عنوان مقاله: محدودیت‌های معرفتی افشای استفاده از هوش مصنوعی مولد در نویسندگی علمی.

مشخصات منبع: Matsui, M. (2026). The epistemic limits of generative AI disclosure in scholarly authorship. Discover Artificial Intelligence, 6(1), Article 1916. https://doi.org/10.1007/s44163-026-02808-6

اعتبار تصویر: تولیدشده با هوش مصنوعی.

شناسه دیجیتال مقاله (DOI): 10.1007/s44163-026-02808-6

کلیدواژه‌ها: هوش مصنوعی مولد، نویسندگی علمی، افشای استفاده از هوش مصنوعی، حواس‌پرتی خواننده، پایش منشأ، انگ‌زنی ارزیابانه، قضاوت پاسخ‌گو، گزارش‌دهی روش‌شناختی، گزارش‌دهی حاکمیتی، افشای منشأ تولید متن، اخلاق انتشار علمی، داوری همتا، تناسب معرفتی، انتشارات دانشگاهی، فرایند نگارش، میانجی‌گری زبانی.