چه کسی اثبات‌های ریاضی تولیدشده با هوش مصنوعی OpenAI را بررسی خواهد کرد؟
شرکت OpenAI در ۶ اکتبر، به وقت محلی، با انتشار ۷۲۲ دست‌نوشته پژوهشی درباره راه‌حل مسائل ریاضی که یک مدل داخلی و هنوز منتشرنشده هوش مصنوعی تولید کرده بود، جنجال تازه‌ای به راه انداخت.
معمولاً مقالات ریاضی پیش از انتشار در مجلات علمی، تحت فرایند «داوری همتا» قرار می‌گیرند و ریاضی‌دانان دیگر آن‌ها را بررسی می‌کنند. حتی پس از انتشار نیز نویسندگان باید به پرسش‌ها پاسخ دهند و خطاهای احتمالی را اصلاح کنند. اما OpenAI این دست‌نوشته‌ها را یک‌جا و بدون چنین بررسی‌ای منتشر کرد و توضیحات کافی درباره اثبات‌های تولیدشده با هوش مصنوعی ارائه نداد. این اقدام پرسش‌هایی را درباره چگونگی بررسی صدها اثبات تولیدشده با هوش مصنوعی و مسئولیت‌پذیری در قبال آن‌ها مطرح کرده است.
OpenAI برای بررسی برخی از این اثبات‌ها از ابزار راستی‌آزمایی رایانه‌ای «Lean» استفاده کرده است. این ابزار هنگامی که راه‌حل‌ها به کد تبدیل می‌شوند، خطاهای منطقی را بررسی می‌کند. بااین‌حال، انسان‌ها همچنان باید بررسی کنند که آیا ادعاهای مطرح‌شده در کد با محتوای مقالات اصلی مطابقت دارند یا خیر. عبور از آزمون منطقی رایانه به این معنا نیست که اثبات به‌طور کامل بررسی و تأیید شده است. OpenAI که از جنجال‌های مربوط به فرایند بررسی این آثار آگاه بود، در ۲۱ سپتامبر اعلام کرد گروه مشورتی «ریاضیات و هوش مصنوعی» با نام اختصاری AGMAI را با حضور ۹ نفر تشکیل داده است.
بااین‌حال، همچنان این وظیفه باقی است که صدها دست‌نوشته خوانده شوند، خطاهای احتمالی آن‌ها شناسایی شود و توضیحات لازم به آن‌ها افزوده شود. اورسولا مارتین، استاد دانشگاه آکسفورد، در مجله نیچر از این رویکرد انتقاد کرد و گفت: «OpenAI انتظار دارد جامعه دانشگاهی پیش‌نویس‌های آشفته‌ای را که بیرون ریخته است، سر و سامان دهد.»
نگرانی دیگری نیز وجود دارد: حتی اگر هوش مصنوعی مسائل دشوار را حل کند، ممکن است رشته ریاضیات نتواند به‌سادگی این دستاوردها را در خود جذب کند. ترنس تائو، استاد دانشگاه کالیفرنیا در لس‌آنجلس (UCLA)، گفت: «عمیقاً ناامیدکننده است که هیچ‌یک از افرادی که در این اثبات‌ها نقش داشته‌اند، نمی‌توانند به پرسش‌ها پاسخ دهند یا درباره آن‌ها سخنرانی کنند.» در روال معمول، فردی که اثبات را ارائه می‌کند، راه‌حل مسئله را توضیح می‌دهد، به نسل بعدی آموزش می‌دهد و زمینه را برای پژوهش‌های بعدی فراهم می‌کند؛ اما اکنون این زنجیره گسسته شده است.