یک ریاضی‌دان ایده‌هایش را با هوش مصنوعی در میان گذاشت؛ حالا پژوهش‌هایش را از OpenAI دور نگه می‌دارد
یک ریاضی‌دان دانشگاه نیویورک پس از آنکه درباره احتمال هم‌پوشانی میان ایده‌های پژوهشی که در ابزار Codex شرکت OpenAI وارد کرده بود و کارهای ریاضی این شرکت پرسش‌هایی مطرح کرد، در به‌اشتراک گذاشتن پژوهش‌های اصلی خود با OpenAI محتاط‌تر شده است.
تریستان باک‌مستر ثابت نکرده است که OpenAI از درخواست‌های خصوصی او استفاده کرده است. OpenAI نیز می‌گوید فعالیت‌های او در Codex نمی‌توانسته بر نتایج این شرکت تأثیر گذاشته باشد.
این پرونده یادآور اختلاف جداگانه‌ای درباره زیست‌شناس ماریا رودریگز مستره است که گفته بود پژوهش منتشرنشده خود را با مدل Claude شرکت Anthropic به اشتراک گذاشته بود، پیش از آنکه این شرکت از یک کشف با کمک هوش مصنوعی در همان حوزه خبر دهد.
هیچ‌یک از این دو مورد تاکنون ثابت نکرده است که یک شرکت هوش مصنوعی از کار خصوصی یک پژوهشگر استفاده کرده باشد. با این حال، این دو ماجرا در کنار هم پرسش‌هایی را درباره چگونگی استفاده دانشمندان از هوش مصنوعی بدون به خطر انداختن ایده‌هایی که هنوز منتشر نشده‌اند، مطرح می‌کنند.
چرا ریاضی‌دان دانشگاه نیویورک دیگر ایده‌هایش را با OpenAI به اشتراک نمی‌گذارد
باک‌مستر هنگام بررسی ایده‌های پژوهشی برای حل مسئله‌ای مرتبط با معادله اویلر که حرکت سیالات را توصیف می‌کند، از Codex شرکت OpenAI، یک عامل هوش مصنوعی برای برنامه‌نویسی، استفاده کرده بود. او این کار را همراه با لونت آلپوگه، ریاضی‌دان شرکت Anthropic، انجام می‌داد.
در ۸ سپتامبر، OpenAI نتیجه‌ای پژوهشی درباره معادلات مرتبط ناویر–استوکس اعلام کرد. این معادلات چگونگی حرکت سیالاتی مانند هوا و آب را توصیف می‌کنند. باک‌مستر این پرسش را مطرح کرد که آیا گفت‌وگوهای او با Codex ممکن است بر کار OpenAI تأثیر گذاشته باشد یا نه. با این حال، صرفاً هم‌زمانی زمانی نمی‌تواند وجود چنین ارتباطی را ثابت کند.
او همچنان برای کارهای دیگر از این ابزارها استفاده می‌کند، اما گفته است از این پس ایده‌های اصلی خود را در Codex وارد نخواهد کرد تا از آن‌ها محافظت کند. برای پژوهشگران، دستیار هوش مصنوعی می‌تواند به آزمایش ایده‌ها کمک کند، اما به اشتراک گذاشتن کارهای ناتمام یا منتشرنشده شرایط متفاوتی دارد؛ به‌ویژه زمانی که شرکت ارائه‌دهنده این خدمات خود نیز در حال دنبال کردن دستاوردهای جدید است.
OpenAI تأثیر درخواست‌های خصوصی بر پژوهش‌های خود را رد می‌کند
OpenAI می‌گوید بررسی کرده و تأیید کرده است که درخواست‌های Codex باک‌مستر که در دو ماه پیش از اعلام نتیجه این شرکت ثبت شده بودند، نمی‌توانسته‌اند بر پژوهش OpenAI تأثیر بگذارند. این شرکت همچنین می‌گوید اثبات‌های ریاضی مطرح‌شده مربوط به نسخه‌های متفاوتی از معادلات سیالات بوده‌اند؛ زیرا باک‌مستر و آلپوگه روی حالتی با نیروی خارجی کار می‌کردند، در حالی که نتیجه OpenAI به نسخه بدون نیروی خارجی مربوط بوده است.
در اختلاف مربوط به زیست‌شناسی، Anthropic اعلام کرد که Claude یک سامانه آنزیمی را شناسایی کرده که پیش‌تر مشخص نشده بود. با این حال، مستره می‌گوید او و همکارانش سال‌ها روی آنزیم‌های مرتبط مطالعه کرده بودند. او پیش از این پایان‌نامه و پیش‌نویس مقاله‌های خود را با Claude به اشتراک گذاشته بود.
OpenAI همچنین نتایج ریاضی به‌دست‌آمده از یک مدل داخلی خود را منتشر کرده و برای برخی از آن‌ها اثبات‌های قابل بررسی با رایانه ارائه داده است. چنین موادی به پژوهشگران امکان بررسی می‌دهند، اما همه پرسش‌ها درباره اصالت ایده‌ها یا اعتباردهی به دستاوردها را حل نمی‌کنند.
هیچ مدرک عمومی وجود ندارد که ثابت کند یکی از این دو شرکت هوش مصنوعی از کار خصوصی پژوهشگران استفاده کرده است. با این حال، این اختلاف نشان می‌دهد که برای پژوهشگران خارج از شرکت‌ها، دسترسی به فرایندهای توسعه داخلی یک شرکت تا چه اندازه دشوار است. OpenAI برخی مواد پشتیبان را منتشر کرده، اما اطلاعات مربوط به مدل و فرایند کامل توسعه آن برای بررسی مستقل در دسترس نیست.
این اختلاف بار دیگر نگرانی‌ها درباره اشتراک‌گذاری داده‌های منتشرنشده با هوش مصنوعی را افزایش داده است
هیچ‌یک از این دو مورد ثابت نمی‌کند که یک شرکت هوش مصنوعی ایده یک دانشمند را برداشته است. با این حال، این ماجراها نشان می‌دهند که بررسی یک سامانه هوش مصنوعی اختصاصی، به‌ویژه زمانی که یک شرکت نتایجی هم‌پوشان با پژوهش‌های در حال انجام دیگران منتشر می‌کند، چقدر دشوار است. با گسترش استفاده از هوش مصنوعی فراتر از نقش یک ابزار پژوهشی، پژوهشگران باید پیش از ارسال کارهای منتشرنشده خود، سیاست‌های داده و تنظیمات دقیق سرویسی را که استفاده می‌کنند بررسی کنند.
کاربران شخصی ChatGPT شرکت OpenAI می‌توانند از استفاده از داده‌های خود برای آموزش مدل‌ها انصراف دهند. Anthropic اعلام کرده است که گفت‌وگوهای کاربران عادی ممکن است برای بهبود Claude استفاده شود، اگر کاربران اجازه دهند یا در برخی شرایط دیگر؛ در حالی که خدمات تجاری این شرکت شرایط پیش‌فرض متفاوتی دارند.
هیچ‌یک از این دو اختلاف، سوءاستفاده از درخواست‌های خصوصی را ثابت نمی‌کند، اما هر دو نشان می‌دهند که چرا دانشمندان ممکن است ارزشمندترین ایده‌های ناتمام خود را تا زمانی که آماده انتشار عمومی نشده‌اند، از گفت‌وگو با ابزارهای هوش مصنوعی دور نگه دارند.
منابع: The Washington Post، BeInCrypto