آیا هوش مصنوعی ایده‌های شما را می‌دزدد؟ تردید دانشمندان درباره امنیت پژوهش‌هایشان
فرض کنید فرضیه‌ای را که هنوز منتشر نکرده‌اید، در پنجره گفت‌وگوی یک ابزار تجاری هوش مصنوعی وارد می‌کنید، بازخورد مفیدی می‌گیرید و به کارتان ادامه می‌دهید. چند ماه بعد، همان شرکت از کشفی مهم خبر می‌دهد که برایتان به‌طرز عجیبی آشناست. اکنون دو اختلاف جداگانه بر سر دستاوردهای پژوهشی، چنین سناریویی را از یک نگرانی فرضی به مسئله‌ای واقعی تبدیل کرده‌اند؛ مسئله‌ای که از شکافی جدی در اعتماد به صنعت هوش مصنوعی پرده برمی‌دارد و این صنعت هنوز پاسخ روشن و قانع‌کننده‌ای برای آن ندارد.
اختلاف‌ها از کجا آغاز شدند؟
دو پژوهشگر می‌گویند نتایجی که شرکت‌های بزرگ هوش مصنوعی اعلام کرده‌اند، شباهت نگران‌کننده‌ای با تحقیقات منتشرنشده آن‌ها دارد.
شرکت OpenAI اعلام کرد یکی از مدل‌های داخلی این شرکت توانسته است مسئله مهمی در ریاضیات را حل کند. پس از این اعلام، تریستان باک‌مستر (Tristan Buckmaster)، ریاضی‌دان دانشگاه نیویورک، این نگرانی را مطرح کرد که شاید نتیجه اعلام‌شده تحت تأثیر پژوهش مرتبطی قرار گرفته باشد که او پیش‌تر در ابزارهای OpenAI وارد کرده بود. این شرکت هرگونه دسترسی مستقیم به آن گفت‌وگوها را رد کرد و گفت پژوهشگران و عامل‌های هوش مصنوعی آن پیش از انتشار عمومی پژوهش باک‌مستر، از محتوای آن اطلاعی نداشته‌اند.
این ادعا همچنان تعیین تکلیف نشده است. گزارش‌های موجود نه کپی‌برداری عمدی را اثبات می‌کنند و نه نشان می‌دهند که پژوهش باک‌مستر واقعاً بر نتیجه اعلام‌شده تأثیر گذاشته است.
اختلاف مشابهی نیز درباره شرکت آنتروپیک (Anthropic) شکل گرفته است. ماریو رودریگز مستره (Mario Rodríguez Mestre)، زیست‌شناس دانشگاه کپنهاگ، می‌گوید گروه پژوهشی او پیش‌تر سامانه آنزیمی‌ای را بررسی کرده بود که آنتروپیک بعدها آن را کشفی جدید با کمک هوش مصنوعی معرفی کرد. به گفته او، گروهش اطلاعات مرتبط با این پژوهش را نیز در اختیار کلود (Claude) قرار داده بود. آنتروپیک در پاسخ اعلام کرد که از گفت‌وگوهای کاربران برای آموزش کلود استفاده نمی‌کند و گروه تحقیقاتی این شرکت نیز به آن گفت‌وگوها دسترسی نداشته است.
مستره این برداشت را که دستاورد آنتروپیک کاملاً مستقل از پژوهش‌های پیشین در این حوزه به دست آمده، زیر سؤال برده است. بااین‌حال، بر اساس گزارش‌های موجود، درباره هیچ‌یک از این دو شرکت ثابت نشده است که عمداً دستاورد پژوهشگری را تصاحب کرده باشند.
مشکل اصلی اینجاست که شفاف نبودن سازوکار این سامانه‌ها، بررسی مستقل ادعاهای مطرح‌شده را دشوار می‌کند.
چرا تکذیب شرکت‌ها برای رفع تردیدها کافی نیست؟
ممکن است یک شرکت به‌درستی اعلام کند که از گفت‌وگوی مشخصی برای آموزش مدل‌هایش استفاده نکرده است، اما همچنان به پرسش‌های مهم دیگری درباره نحوه مدیریت داده‌ها پاسخ نداده باشد.
مدت نگهداری اطلاعات و امکان دسترسی انسان‌ها یا سامانه‌های خودکار به داده‌های ذخیره‌شده، موضوعاتی مستقل از آموزش مدل هستند. نحوه پردازش بازخورد کاربران، دسترسی ابزارهای متصل و احتمال انتقال اطلاعات واردشده به سامانه‌های عملیاتی دیگر نیز پرسش‌های جداگانه‌ای به شمار می‌روند. صرفاً تکذیب استفاده از داده‌ها برای آموزش مدل، به هیچ‌یک از این پرسش‌ها پاسخ نمی‌دهد.
این خلأ در سیاست‌های منتشرشده شرکت‌ها نیز دیده می‌شود. بر اساس سیاست‌های OpenAI، محتوای حساب‌های شخصی ممکن است برای بهبود مدل‌ها استفاده شود، مگر اینکه کاربر این امکان را غیرفعال کرده باشد. در مقابل، داده‌های محصولات سازمانی و رابط برنامه‌نویسی کاربردی (API) این شرکت به‌طور پیش‌فرض برای آموزش مدل‌ها استفاده نمی‌شوند. بااین‌حال، اگر کاربر درباره یک گفت‌وگو بازخورد ارسال کند، ممکن است همان گفت‌وگو برای بهبود سامانه مورد استفاده قرار گیرد؛ حتی اگر کاربر پیش‌تر استفاده از اطلاعات خود برای آموزش مدل‌ها را غیرفعال کرده باشد.
بنابراین، غیرفعال کردن استفاده از داده‌ها برای آموزش مدل به معنای محرمانگی کامل گفت‌وگوها نیست. استثنای مربوط به بازخورد کاربران همچنان برقرار است و تنظیمات انتخابی کاربر لزوماً مانع استفاده از آن اطلاعات نمی‌شود.
پژوهشگران برای محافظت از تحقیقات خود چه کاری می‌توانند انجام دهند؟
خدمات سازمانی و دسترسی از طریق API معمولاً در مقایسه با حساب‌های شخصی، به‌طور پیش‌فرض حفاظت بیشتری از داده‌ها فراهم می‌کنند؛ اما پژوهشگران باید این تضمین‌ها را شخصاً بررسی کنند و صرفاً به وعده شرکت‌ها اعتماد نکنند.
انتخاب خدمات سازمانی یا دسترسی از طریق API به‌جای حساب‌های شخصی می‌تواند نخستین اقدام مؤثر باشد؛ زیرا این خدمات معمولاً از ابتدا مشمول تعهدات قراردادی محکم‌تری برای حفاظت از اطلاعات هستند. بااین‌حال، پژوهشگران همچنان باید مقررات نگهداری داده‌ها، سطح دسترسی مدیران سامانه، برنامه‌های متصل و نحوه استفاده از بازخوردها را بررسی کنند.
ثبت و نگهداری محلی درخواست‌های ارسال‌شده به هوش مصنوعی، فایل‌های بارگذاری‌شده، نسخه مدل‌های استفاده‌شده و پاسخ‌های دریافتی نیز می‌تواند سابقه‌ای قابل بررسی از روند کار ایجاد کند؛ امکانی که داشبوردهای خدمات تجاری در حال حاضر فراهم نمی‌کنند. اگر پژوهشی با اطلاعات محرمانه سروکار دارد یا افشای زودهنگام آن ممکن است بر ثبت اختراع تأثیر بگذارد، پژوهشگر باید پیش از استفاده از هر ابزار هوش مصنوعی، از واحد حقوقی یا دفتر انتقال فناوری مؤسسه خود راهنمایی بگیرد.
بااین‌حال، مشکل پیچیده‌تر به ساختار رقابت علمی مربوط می‌شود. پژوهشگرانی که از ابزارهای تجاری هوش مصنوعی استفاده نمی‌کنند، ممکن است از رقبایی عقب بمانند که بدون تردید از این فناوری بهره می‌برند. از سوی دیگر، استفاده از این ابزارها خطرهای حل‌نشده‌ای درباره انتساب دستاوردهای علمی به صاحبان اصلی آن‌ها و حفظ محرمانگی اطلاعات ایجاد می‌کند؛ خطرهایی که بیشتر مؤسسات پژوهشی هنوز با فراهم کردن ابزارهای تأییدشده یا تدوین سیاست‌های رسمی، راهکاری برای مدیریت آن‌ها ارائه نکرده‌اند.
جمع‌بندی
پرسش اساسی برای جامعه علمی این نیست که آیا باید از هوش مصنوعی استفاده کرد یا نه؛ مسئله این است که آیا پژوهشگران می‌توانند از این فناوری بهره ببرند و همچنان قادر باشند روند دستیابی به یک کشف علمی را به‌طور دقیق بازسازی کنند.
ایجاد اعتماد به سامانه‌هایی نیاز دارد که قابل حسابرسی باشند و سوابقی در اختیار بگذارند که بتوان صحت آن‌ها را به‌طور مستقل بررسی کرد. اطمینان‌دادن شرکت‌ها پس از بروز اختلاف، هرچقدر هم صادقانه باشد، نمی‌تواند جای چنین سازوکارهایی را بگیرد.