اوپن‌ای‌آی مدل «شپرد» را برای اعتبارسنجی پژوهش‌های هوش مصنوعی معرفی کرد
اوپن‌ای‌آی در حال تغییر رویکرد خود برای اعتبارسنجی دستاوردهای علمی تولیدشده با هوش مصنوعی است. این شرکت کمتر از یک ماه پس از آنکه صدها دست‌نوشته ریاضی بررسی‌نشده را در اختیار جامعه پژوهشی قرار داد، از سه دستاورد جدید در ریاضیات، فیزیک و علوم رایانه خبر داد؛ با این تفاوت که این بار متخصصان دانشگاهی بیرون از شرکت، در قالب آنچه اوپن‌ای‌آی «شپرد» می‌نامد، بر فرایند کار نظارت داشتند. این تغییر می‌تواند نقطه عطفی در شیوه برخورد آزمایشگاه‌های هوش مصنوعی با پژوهش‌های تولیدشده به‌وسیله ماشین باشد؛ پژوهش‌هایی که بررسی مستقل صحت آن‌ها برای متخصصان انسانی نیز دشوار است.
اوپن‌ای‌آی اکنون رویکرد تازه‌ای را برای مدیریت دستاوردهای هوش مصنوعی معرفی کرده است؛ دستاوردهایی که درک آن‌ها حتی برای انسان‌ها آسان نیست. این شرکت از سه پیشرفت مهم در ریاضیات، علوم رایانه و فیزیک خبر داده است، اما آنچه بیش از خود نتایج توجه‌ها را جلب کرده، شیوه دستیابی به آن‌ها و بررسی اعتبارشان است.
زمان‌بندی این اقدام معنادار است. تنها چند هفته پیش، اوپن‌ای‌آی صدها دست‌نوشته ریاضی تولیدشده با هوش مصنوعی را در اختیار جامعه پژوهشی گذاشت و مدعی شد که این نوشته‌ها راه‌حل‌هایی برای مسائل دیرینه ارائه می‌کنند. این اقدام سردرگمی زیادی به وجود آورد، زیرا ریاضی‌دانان برای بررسی اثبات‌هایی با هزاران صفحه با دشواری روبه‌رو شدند. انتشار پیشین پرسش‌های نگران‌کننده‌ای درباره پیامدهای تولید پژوهش با سرعتی فراتر از توان انسان‌ها برای اعتبارسنجی آن مطرح کرد.
اوپن‌ای‌آی اکنون رویکرد دیگری را می‌آزماید. برای دستاوردهای مربوط به فیزیک و علوم رایانه، این شرکت از متخصصان مستقل با عنوان «شپرد» کمک گرفته است تا کار هوش مصنوعی را هدایت کنند و پیش از انتشار، نتایج را اعتبارسنجی کنند. در مورد مسئله ریاضی، یعنی اثباتی مرتبط با هموارسازی موضعی برای معادله موج اقلیدسی، اوپن‌ای‌آی از همین متخصصان مشورت گرفت، اما تصمیم گرفت خروجی خام هوش مصنوعی را منتشر کند تا پژوهشگران خود آن را بررسی کنند و توضیح‌های لازم را ارائه دهند.
این شرکت امروز نتایج ریاضی را در گیت‌هاب منتشر کرد و اثبات را با عبارتی توصیف کرد که با «از یک چندجمله‌ای کمکی...» آغاز می‌شود، اما توضیح ارائه‌شده ناتمام است. این وضعیت به‌خوبی دشواری پیش روی این حوزه را نشان می‌دهد: حتی خلاصه‌کردن اثبات‌های تولیدشده با هوش مصنوعی نیز به تخصصی نیاز دارد که بیشتر مردم از آن برخوردار نیستند.
مدل شپرد تلاشی از سوی اوپن‌ای‌آی برای ایجاد تعادل میان دو هدف است. این شرکت می‌خواهد اعتبار دستاوردهای علمی را به نام خود ثبت کند؛ دستاوردهایی که می‌توانند جایگاه آن را فراتر از سازنده یک چت‌بات تثبیت کنند. در عین حال، این نتایج باید در برابر بررسی دقیق جامعه پژوهشی تاب بیاورند؛ جامعه‌ای که نسبت به هیاهوی پیرامون هوش مصنوعی بدبین‌تر شده است. تأیید کار پیش از انتشار از سوی دانشگاهیان معتبر می‌تواند از اوپن‌ای‌آی در برابر انتقادها محافظت کند و در عین حال، روند اعتبارسنجی را سرعت ببخشد.
این رویکرد در شرایطی مطرح شده که اوپن‌ای‌آی از چند جهت با فشار فزاینده‌ای روبه‌رو است. ممیزی‌های ایمنی اخیر، ضعف‌هایی را در زیرساخت نظارتی این شرکت آشکار کرده‌اند و رقبایی مانند آنتروپیک با محصولاتی نظیر عامل هوش مصنوعی کلود دوت که به‌تازگی عرضه شده است، بخشی از موقعیت بازار آن را به چالش می‌کشند. هم‌زمان، خروج مدیران کلیدی زیرساخت نیز پرسش‌هایی درباره ثبات داخلی شرکت ایجاد کرده است.
اوپن‌ای‌آی تاکنون جز توصیف دستاوردهای فیزیک و علوم رایانه به‌عنوان پیشرفت‌هایی «مهم»، جزئیات چندانی درباره آن‌ها منتشر نکرده است. این شرکت مشخص نکرده که متخصصان دانشگاهی همکار از کدام مؤسسات هستند یا هوش مصنوعی دقیقاً چه مسائلی را حل کرده است. این ابهام با روحیه همکاری علمی‌ای که اوپن‌ای‌آی مدعی حمایت از آن است، همخوانی ندارد؛ هرچند تنش مستمر میان شفافیت و حفظ مزیت رقابتی را نیز بازتاب می‌دهد.
آزمایش مدل شپرد پرسش‌های دشواری را برای کل جامعه پژوهشی هوش مصنوعی مطرح می‌کند. اگر سامانه‌های هوش مصنوعی بتوانند به بینش‌های علمی معتبر دست یابند، اما اعتبارسنجی این نتایج به راهنمایی متخصصان نیاز داشته باشد، اعتبار این دستاوردها به چه کسی تعلق می‌گیرد؟ فرایندهای سنتی داوری علمی چگونه باید با شرایطی سازگار شوند که در آن یک سامانه هوش مصنوعی می‌تواند در یک روز پژوهش‌هایی بیش از توان انسان برای بررسی در یک سال تولید کند؟ و اگر خود متخصصان راهنما نیز نتوانند استدلال هوش مصنوعی را به‌طور کامل توضیح دهند، چه اتفاقی خواهد افتاد؟
جامعه ریاضی‌دانان هم‌اکنون با این مسائل دست‌وپنجه نرم می‌کند. انتشار خروجی خام هوش مصنوعی و واگذاری تفسیر آن به پژوهشگران، عملاً فرایند اعتبارسنجی را به مشارکتی جمعی تبدیل می‌کند؛ اما اگر اثبات‌ها نادرست از آب درآیند، این کار ممکن است ساعت‌های بی‌شماری از وقت پژوهشگران را هدر دهد. اوپن‌ای‌آی بار دیگر از جامعه پژوهشی می‌خواهد این ریسک را بپذیرد.
اهمیت این مقطع فقط به سه دستاوردی که اوپن‌ای‌آی اعلام کرده محدود نمی‌شود؛ نکته مهم‌تر، پذیرش ضمنی این شرکت است که رویکرد قبلی آن کارآمد نبوده است. انتشار صدها دست‌نوشته بررسی‌نشده، به‌جای روشن‌ترکردن موضوع، سردرگمی بیشتری ایجاد کرد. مدل شپرد دست‌کم می‌پذیرد که برای پرکردن فاصله میان خروجی ماشین و پذیرش علمی، به تخصص انسانی نیاز است.
با این حال، هنوز مشخص نیست که آیا می‌توان این رویکرد را در مقیاس گسترده اجرا کرد یا نه. یافتن متخصصان واجد شرایط برای هدایت و بررسی هر دستاورد تولیدشده با هوش مصنوعی آسان نخواهد بود، به‌ویژه با شتاب‌گرفتن روند تولید پژوهش به‌وسیله ماشین‌ها. افزون بر این، موفقیت چنین مدلی به آن بستگی دارد که متخصصان راهنما به اطلاعات کافی دسترسی داشته باشند تا بفهمند هوش مصنوعی چگونه به نتایج خود رسیده است؛ امری که سامانه‌های اختصاصی اوپن‌ای‌آی همیشه امکان‌پذیر نمی‌کنند.
آزمایش شپرد پاسخی عمل‌گرایانه به مشکلی است که خود اوپن‌ای‌آی نیز در شکل‌گیری آن نقش داشته است: سامانه‌های هوش مصنوعی پژوهش‌هایی تولید می‌کنند که سرعت تولیدشان از توان انسان‌ها برای اعتبارسنجی بیشتر است. اگر این مدل موفق شود، ممکن است به الگویی برای نحوه برخورد آزمایشگاه‌های هوش مصنوعی با ادعاهای مربوط به دستاوردهای علمی تبدیل شود. اگر شکست بخورد، احتمال دارد با افزایش رقابت شرکت‌ها برای اعلام پیشرفت‌هایی که اعتبارشان هنوز مشخص نیست، سردرگمی بیشتری به وجود آید. فعلاً جامعه پژوهشی منتظر است ببیند آیا سه دستاورد جدید اوپن‌ای‌آی در برابر بررسی‌های دقیق، برخلاف صدها دست‌نوشته پیشین، سربلند بیرون می‌آیند یا خیر.