انتشار تصویر جعلی تولیدشده با هوش مصنوعی از یک آخوندک در iNaturalist دانشمندان را نگران کرد
تأیید شده است که تصویر آخوندکی با ظاهری شبیه برگ، جعلی و تولیدشده با هوش مصنوعی است. کارشناسان نگران‌اند که تصاویر ساختگی و بسیار واقع‌گرایانه هوش مصنوعی، پایگاه‌های داده علمی را آلوده کنند.
بر اساس گزارشی که روزنامه نیویورک تایمز در ۱۶ اکتبر به وقت محلی منتشر کرد، تصویری از آخوندکی با ظاهری شبیه به یک گونه جدید در سکوی آمریکایی علوم شهروندی iNaturalist بارگذاری شده بود. علوم شهروندی روشی پژوهشی است که در آن مردم عادی در گردآوری، مشاهده و تحلیل داده‌های علمی مشارکت می‌کنند. در سکوی iNaturalist، دانشمندان و علاقه‌مندان از سراسر جهان می‌توانند اطلاعات مربوط به گیاهان و جانوران را ثبت و منتشر کنند.
اهمیت علوم شهروندی در این است که امکان گردآوری حجم عظیمی از داده‌ها را فراهم می‌کند. مشاهده همه گونه‌های زیستی در مناطق گسترده، کاری نیست که دانشمندان به‌تنهایی بتوانند به‌طور کامل انجام دهند.
بیشتر تصاویر حیات وحش منتشرشده در iNaturalist به گونه‌هایی تعلق دارند که از قبل شناخته شده‌اند. با این حال، گاهی تصاویری در این سکو منتشر می‌شوند که ارزش انتشار در مجلات علمی را دارند؛ برای مثال، تصاویری از گونه‌هایی که پیش‌تر مشاهده نشده‌اند یا رفتارهای غیرمعمول جاندارانی که از قبل شناخته شده‌اند.
اخیراً تصویری از آخوندکی با ظاهری متفاوت در این سکو منتشر شد. در تصویر، آخوندک خود را به شکل برگ خشک و پهنی با ساختاری شبیه سپر استتار کرده بود. بررسی کارشناسان نشان داد که این تصویر جعلی است و با هوش مصنوعی تولید شده است.
جامعه علمی مدت‌هاست هشدار می‌دهد که هوش مصنوعی، با وجود مزایایی مانند کاهش زمان و هزینه پژوهش، می‌تواند به منبعی بزرگ برای تولید انبوه اطلاعات بی‌کیفیت و گمراه‌کننده تبدیل شود. به‌ویژه با افزایش شمار مقالات علمی کم‌کیفیت، درخواست‌ها برای ایجاد سازوکارهایی به‌منظور کنترل مقالات نوشته‌شده با هوش مصنوعی بیشتر شده است.
پایگاه arXiv که مقالات پیش‌چاپ علمی را منتشر می‌کند و فرایندهای بررسی آن در مقایسه با مجلات علمی سنتی سخت‌گیری کمتری دارد، اخیراً تصمیم گرفته است تعداد ارسال‌های ماهانه هر نویسنده را محدود کند. این تصمیم در پی افزایش چشمگیر پژوهش‌های کم‌کیفیت تولیدشده با هوش مصنوعی اتخاذ شده است.
اکنون سکوهای علوم شهروندی مانند iNaturalist نیز ناچارند تدابیر حفاظتی را در نظر بگیرند. eBird، سکوی ثبت مشاهدات پرندگان که دانشگاه کرنل آمریکا آن را اداره می‌کند، اعلام کرده است سامانه‌ای برای شناسایی و فیلتر کردن داده‌های تولیدشده با هوش مصنوعی راه‌اندازی خواهد کرد.
علوم شهروندی صرفاً فعالیتی تفریحی نیست. سازمان غیرانتفاعی بین‌المللی SafeCast از این روش برای گردآوری داده‌های مربوط به تشعشعات و کیفیت هوا استفاده می‌کند. سازمان Citizens of the Reef نیز با کمک علوم شهروندی، مرجان‌ها را رصد می‌کند تا وضعیت سلامت اکوسیستم‌های دریایی را ارزیابی کند.
از آنجا که علوم شهروندی می‌تواند تأثیر چشمگیری بر علم و جامعه داشته باشد، قابل اعتماد بودن داده‌های آن اهمیت اساسی دارد. بر اساس گزارش‌ها، تاکنون انتشار عمدی تصاویر جعلی در سکوهای علوم شهروندی مانند iNaturalist و eBird نسبتاً نادر بوده است.
با این حال، تغییر ناخواسته تصاویر به دست داوطلبان مسئله‌ای نسبتاً رایج است. گاهی افراد با نیت خیر عکس‌ها را ویرایش می‌کنند، اما در این فرایند رنگ یک جاندار تغییر می‌کند یا نقش‌ونگارهایی به آن افزوده می‌شود که در تصویر اصلی وجود نداشته است. حتی اگر این تغییرات با قصد فریب انجام نشوند، انباشته شدن چنین تصاویری می‌تواند پایگاه‌های داده علمی را مخدوش کند. این تصاویر همچنین ممکن است مدل‌های هوش مصنوعی مورد استفاده برای شناسایی گونه‌ها را دچار سردرگمی کنند.
علوم شهروندی بر پایه دسترسی آزاد و امکان مشارکت همگان شکل گرفته است، اما در عصر هوش مصنوعی با این چالش روبه‌روست که ضمن حفظ این گشودگی، سازوکارهای راستی‌آزمایی داده‌ها را نیز تقویت کند. کارشناسان می‌گویند اکنون که داده‌های جعلی چنان پیشرفته شده‌اند که حتی تشخیص آن‌ها برای متخصصان نیز دشوار است، اطمینان از اعتبار داده‌های علمی بیش از هر زمان دیگری اهمیت دارد.