چرا هوش مصنوعی می‌تواند آینده علم را به خطر بیندازد
نویسنده: دکتر جاناتان رایشنتال
نویسنده مهمان
مشارکت‌کنندگان فوربز تحلیل‌ها و دیدگاه‌های تخصصی مستقل منتشر می‌کنند. دکتر جاناتان رایشنتال درباره فناوری در کسب‌وکار و جامعه می‌نویسد.
در سال ۱۹۹۸، دکتر اندرو ویکفیلد، پزشک و پژوهشگر بریتانیایی، نویسنده اصلی مقاله‌ای علمی شد که احتمال وجود ارتباط میان واکسن سه‌گانه سرخک، اوریون و سرخجه (MMR) و اوتیسم را مطرح می‌کرد. دوازده سال بعد، مجله معتبر پزشکی لنست در پی مطرح شدن پرسش‌های جدی درباره یافته‌ها و سلامت فرایند پژوهش، مقاله را پس گرفت. بررسی‌های بعدی شواهدی به دست داد که نشان می‌داد ویکفیلد اطلاعات بیماران را نادرست بازنمایی کرده، تعارض منافع مالی خود را افشا نکرده و مرتکب تخلفات اخلاقی جدی شده است.
با وجود بی‌اعتبار شدن این مقاله، میلیون‌ها نفر همچنان به ارتباط نادرست میان واکسن‌ها و اوتیسم باور دارند؛ ادعایی که طی دهه‌ها بر سیاست‌گذاری عمومی و پیامدهای سلامت تأثیر گذاشته است.
نکته جالب اینکه مقاله در همان سالی منتشر شد که گوگل تأسیس شد؛ سالی که اینترنت نیز تازه داشت شیوه یافتن و به‌اشتراک‌گذاشتن اطلاعات را دگرگون می‌کرد. در ابتدا رسانه‌های سنتی به گسترش این مناقشه دامن زدند، اما با توسعه فضای آنلاین و ظهور مدل‌های زبانی بزرگ، ادعاهای علمی گمراه‌کننده به مخاطبانی بی‌سابقه دست یافتند و ماندگاری بیشتری پیدا کردند.
تردیدی نیست که اینترنت دستاوردی بزرگ برای همکاری‌های علمی بوده است، اما در کنار آن، زمینه را برای فعالیت‌هایی فراهم کرده که به پژوهش آسیب می‌زنند و حتی می‌توانند زیان‌های واقعی به بار آورند. اکنون که هوش مصنوعی تولید پژوهش‌هایی متقاعدکننده اما بالقوه جعلی را آسان‌تر از هر زمان دیگری کرده، خطرات نیز جدی‌تر شده‌اند.
وب، علم را در دسترس همگان قرار می‌دهد
در سال ۱۹۸۹، سر تیم برنرز لی، دانشمند بریتانیایی، طرح شبکه جهانی وب را ارائه کرد. او که در سازمان اروپایی پژوهش‌های هسته‌ای (سرن) کار می‌کرد، به این نیاز پی برده بود که هزاران دانشمند، رایانه و منبع داده باید به یکدیگر متصل شوند تا از پژوهش‌های آنان پشتیبانی شود و این فعالیت‌ها پیشرفت کنند. ایده او بر مفهومی به نام ابرمتن استوار بود؛ روشی که به کاربران امکان می‌داد با کلیک روی پیوندهای موجود در اسناد، به اطلاعات ذخیره‌شده در نقاط دیگر جهان دسترسی پیدا کنند.
این ایده ساده، زمینه‌ساز شکل‌گیری وب امروزی شد و ارتباطات جهانی را متحول کرد. نکته مهم آن است که برنرز لی تصمیم گرفت از اختراع خود بهره‌برداری تجاری انحصاری نکند و حق اختراع آن را به ثبت نرساند. در سال ۱۹۹۳ نیز سرن نرم‌افزار لازم برای راه‌اندازی وب را بدون دریافت حق امتیاز در دسترس همگان قرار داد.
وب از جمله با فراهم کردن دسترسی گسترده‌تر به متون علمی، پژوهش و توسعه را در سراسر جهان شتاب بخشید. تردیدی نیست که این قابلیت، روند نوآوری را در حوزه‌هایی مانند مهندسی، پزشکی، رایانش و فیزیک و بسیاری زمینه‌های دیگر سرعت داده است.
با تکامل وب، پژوهشگران، دانشگاه‌ها، دولت‌ها و شمار فزاینده‌ای از ناشران به استقبال شفافیت بیشتر و دسترسی آسان‌تر به دانش علمی رفتند. به نظر می‌رسید که به‌اشتراک‌گذاری اطلاعات و همکاری، مزایای روشنی برای همه به همراه دارد.
با این حال، در کنار مزایای آشکار دسترسی آسان‌تر به علم، پیامدی منفی نیز پدیدار شد که تا حد زیادی پیش‌بینی نشده بود و گاه عواقبی زیان‌بار به دنبال داشت.
روی تاریک علم در فضای آنلاین
کنت اندرسون و جوی مور مدت‌هاست درباره خطراتی هشدار می‌دهند که مدل‌های کسب‌وکار نشر علمی، تحت تأثیر فزاینده اینترنت و هوش مصنوعی، برای پژوهش به وجود آورده‌اند.
اندرسون و مور هر دو چندین دهه در صنعت نشر دانشگاهی فعالیت کرده‌اند؛ صنعتی که یکی از ارکان اصلی زیست‌بوم جهانی پژوهش به شمار می‌رود. آن‌ها در شکل‌گیری شیوه طراحی، عرضه و درآمدزایی از انتشارات علمی نقش داشته‌اند، به‌ویژه در دوره گذار این صنعت به فضای آنلاین. از جمله سازمان‌هایی که این دو در آن‌ها فعالیت کرده‌اند می‌توان به نیو انگلند ژورنال آو مدیسین، نیچر و مک‌گراوهیل اشاره کرد.
آن‌ها ضمن اذعان به مزایای چشمگیر دسترسی آسان‌تر به علم در فضای آنلاین و استفاده از هوش مصنوعی در پژوهش، درباره خطرات فزاینده‌ای هشدار می‌دهند که این فناوری‌ها ممکن است ایجاد کرده باشند.
نشر آنلاین و هوش مصنوعی به پژوهشگران بیشتری امکان داده‌اند تا آثار مهم خود را در معرض دید قرار دهند و آن‌ها را سریع‌تر منتشر کنند؛ اما در عین حال، فرصت‌هایی نیز ایجاد کرده‌اند تا پژوهش‌های بی‌کیفیت یا حتی جعلی به مجاری انتشار علمی راه پیدا کنند.
فرایندهای داوریِ زیر فشار، فناوری‌های جدید و مدل‌های کسب‌وکار در حال تحول، از جمله عواملی هستند که باعث شده‌اند پژوهش‌های غیرقابل‌اعتماد و جعلی به سوابق رسمی علم راه یابند.
این مشکل بسیار فراتر از محیط دانشگاهی است. در دنیای به‌هم‌پیوسته امروز، ادعاهای فاقد پشتوانه می‌توانند به‌سرعت در گزارش‌های خبری شبانه، ویدئوهای تیک‌تاک، توصیه‌های سلامت ارائه‌شده از سوی افرادی که خود را متخصص معرفی می‌کنند و حتی سیاست‌های عمومی بازتاب پیدا کنند.
امروزه هوش مصنوعی تولید دست‌نوشته‌هایی را که ظاهری متقاعدکننده دارند اما از پژوهش کافی برخوردار نیستند، آسان‌تر از هر زمان دیگری کرده است. این فناوری همچنین امکان جعل منابع پشتیبان و تولید انبوه مطالبی را فراهم می‌کند که ظاهر علمی دارند. انگیزه افراد سودجو از این کار متفاوت است و می‌تواند شامل ساختن اعتبار علمی جعلی، پیشبرد یک دستور کار خاص، کسب منافع مالی و فشار ناشی از الزام به انتشار مقاله برای حفظ موقعیت دانشگاهی باشد.
بخشی از این محتوا ممکن است به مجاری معتبر نشر علمی راه پیدا کند، در حالی که حجم بسیار بیشتری از آن بدون هیچ داوری علمی معناداری در اینترنت دست‌به‌دست می‌شود. در چنین شرایطی، ممکن است یک چهره بانفوذ در فضای آنلاین نتایج مشکوک این مطالب را به میلیون‌ها نفر عرضه کند و اندکی بعد، سیاست‌گذاران نیز به آن‌ها توجه نشان دهند.
انگیزه افراد سودجو چندان دشوار نیست که درک شود، اما ناشران علمی چه انگیزه‌ای دارند؟ به گفته اندرسون و مور، رقابت شدید برای جلب توجه مخاطبان نقشی بسیار پررنگ در تغییر رفتار این صنعت داشته است.
در گذشته، بسیاری از مجلات علمی معتبر موفقیت تجاری خود را بر گزینش‌گری سخت‌گیرانه، شهرت و اشتراک‌های سازمانی استوار می‌کردند. اما گسترش نشر با دسترسی آزاد و شکل‌گیری بازاری رقابتی، انگیزه‌های اقتصادی تازه‌ای به وجود آورده است. در برخی مدل‌هایی که هزینه انتشار را نویسنده می‌پردازد، ناشر از هر مقاله پذیرفته‌شده درآمد کسب می‌کند. این وضعیت می‌تواند میان حفظ کنترل‌های کیفی سخت‌گیرانه و افزایش تعداد مقالات منتشرشده تعارض ایجاد کند.
حفاظت از اعتبار علم
اندرسون و مور عمیقاً معتقدند که اگر اقدامی صورت نگیرد، مشکل انتشار پژوهش‌های بی‌کیفیت و جعلی وخیم‌تر خواهد شد. تعداد مقالات دانشگاهی منتشرشده در سراسر جهان هر سال به‌سرعت افزایش می‌یابد و هم‌اکنون به چندین میلیون مقاله رسیده است. سهم مقالات جعلی نیز به‌شدت افزایش یافته است. این دو نویسنده در واکنش به وخامت اوضاع، به‌تازگی کتاب «چگونه اینترنت علم را مختل کرد» را منتشر کرده‌اند تا توجه‌ها را به این مشکل جلب کنند و راهکارهایی برای مقابله با آن پیشنهاد دهند.
آن‌ها به‌عنوان مدیران پیشین صنعت نشر دانشگاهی، درکی عمیق‌تر از بسیاری افراد دیگر از این مسائل دارند. پیشنهادهایشان برای ایجاد تغییرات مثبت، از راهکارهای عملی تا ایده‌های بلندپروازانه را در بر می‌گیرد. آن‌ها معتقدند ناشران، به دلیل جایگاهشان به‌عنوان واسطه‌های مورد اعتماد میان پژوهشگران و استفاده‌کنندگان از متون علمی، نقشی محوری در حل این مشکل دارند.
در سطح عملی، آن‌ها خواستار آن هستند که مجلات آنلاین بار دیگر بر جوامع علمی مشخصی تمرکز کنند که به آن‌ها خدمت می‌رسانند. از نظر این دو، مجلات باید به‌جای اولویت دادن به تعداد مقالات منتشرشده، محتوای علمی معتبر و برخوردار از سلامت پژوهشی را در کانون فعالیت خود قرار دهند.
پیشنهاد بحث‌برانگیزتر آن‌ها این است که برای دسترسی عموم مردم به مقالات علمی موانعی محدود و سنجیده ایجاد شود، بی‌آنکه دسترسی پژوهشگران به این مقالات مختل شود. آن‌ها در نهایت از شفافیت و دسترسی گسترده‌تر حمایت می‌کنند، اما می‌پذیرند که عموم مردم لزوماً دانش لازم برای درک و تفسیر یک مقاله علمی را ندارند. هر کسی که تاکنون مقاله‌ای علمی دیده باشد، منظور آن‌ها را به‌خوبی درک می‌کند.
مقالات دانشگاهیِ حاوی خطا همیشه وجود داشته‌اند. آنچه تغییر کرده، سرعت و گستره انتشار، میزان تأثیرگذاری و انگیزه‌های گسترش علم بی‌کیفیت و جعلی است. کسانی که می‌خواهند فرایند علمی را به انحراف بکشانند، اکنون بیش از هر زمان دیگری ابزار و امکان دسترسی به مخاطبان گسترده را در اختیار دارند. دستورکارهای ایدئولوژیک، سیاسی و تجاری می‌توانند بر تصمیم‌گیری‌های علمی تأثیر بگذارند و پیامدهای جدی برای افراد و جامعه داشته باشند.
اینترنت توزیع اطلاعات علمی را آسان‌تر کرد، انگیزه‌های تجاری باعث شد افزایش حجم انتشار برای برخی ناشران جذاب‌تر شود و اکنون هوش مصنوعی تهدید می‌کند که تولید پژوهش‌های غیرقابل‌اعتماد را به‌مراتب آسان‌تر کند.
هر راهکاری که انتخاب شود، نخستین گام، به‌رسمیت شناختن ابعاد رو به گسترش این مشکل است. پس از آن باید راه‌هایی پیدا کنیم تا فناوری همچنان مرزهای اکتشاف علمی را گسترش دهد، بی‌آنکه اعتبار و سلامت خود علم قربانی این پیشرفت شود.