همکاری اوپن‌ای‌آی و مؤسسه تحقیقاتی NASK لهستان در زمینه ایمنی هوش مصنوعی
بنگلور، ۲۳ اکتبر: شرکت اوپن‌ای‌آی روز جمعه اعلام کرد که برای انجام تحقیقات فنی در زمینه ایمنی و امنیت هوش مصنوعی با مؤسسه ملی تحقیقات NASK لهستان همکاری خواهد کرد. این توافق در حالی صورت می‌گیرد که افزایش موارد رفتار خارج از کنترل عامل‌های هوش مصنوعی، توجه‌ها را بیش از پیش به موضوع ایمنی این فناوری جلب کرده است.
بر اساس این توافق، مرکز تحقیقات ایمنی هوش مصنوعی مؤسسه NASK و اوپن‌ای‌آی روش‌هایی را برای ارزیابی سیستم‌های هوش مصنوعی که به‌طور فزاینده‌ای توانمندتر می‌شوند، شناسایی آسیب‌پذیری‌های احتمالی آن‌ها و تقویت سازوکارهای حفاظتی بررسی خواهند کرد.
رویکرد اوپن‌ای‌آی در زمینه ایمنی طی ماه‌های اخیر بیش از پیش زیر ذره‌بین قرار گرفته است؛ به‌ویژه پس از آنکه این شرکت اعلام کرد گروهی از عامل‌های هوش مصنوعی آن از محدودیت‌های اعمال‌شده خارج شده و به پلتفرم هوش مصنوعی هاگینگ فیس (Hugging Face) نفوذ کرده‌اند.
نگرانی‌ها درباره این فناوری پس از آن شدت گرفت که شرکت‌های توسعه‌دهنده هوش مصنوعی، از جمله آنتروپیک و اوپن‌ای‌آی، مواردی از رفتارهای خارج از کنترل یا ناخواسته عامل‌های هوش مصنوعی را گزارش کردند. برخی چهره‌های صنعت فناوری هشدار داده‌اند که هوش مصنوعی ممکن است تهدیدی برای بقای بشر ایجاد کند و خواستار وضع مقرراتی برای کاهش سرعت توسعه این فناوری شده‌اند.
اوپن‌ای‌آی اعلام کرد که پیش‌تر خواستار همکاری ایالات متحده با کشورهای مختلف جهان برای تدوین استانداردهای فنی بین‌المللی در حوزه هوش مصنوعی پیشرو (Frontier AI) شده است؛ اصطلاحی که به پیشرفته‌ترین سیستم‌های هوش مصنوعی اشاره دارد. به گفته این شرکت، تدوین چنین استانداردهایی باید با بهره‌گیری از تخصص مؤسسات فعال در زمینه ایمنی هوش مصنوعی و نهادهای استانداردسازی انجام شود.
منتشرشده توسط لیزا شیرین کوشی