اوپن‌ای‌آی نمی‌تواند وقوع حوادث مرتبط با هوش مصنوعی سرکش را رد کند؛ هشدار ام‌آی۵ درباره تهدیدهای تروریستی
منچستر، انگلستان (CN) — اوپن‌ای‌آی از چند حادثه دیگر آگاه است که در آن عامل‌های هوش مصنوعی به شکل غیرمنتظره‌ای به وب‌سایت‌های دولتی دسترسی پیدا کرده‌اند و نمی‌تواند احتمال رخ دادن موارد بیشتری را رد کند؛ رئیس بخش سیاست‌گذاری این شرکت روز سه‌شنبه به قانون‌گذاران بریتانیایی گفت.
تام داف گوردون، معاون رئیس و مدیر سیاست‌گذاری اوپن‌ای‌آی در اروپا، خاورمیانه و آفریقا، در برابر کمیته کسب‌وکار، نوآوری، علوم و تجارت مجلس عوام بریتانیا گفت: «نمی‌توانم به کمیته یا شما، رئیس، اطمینان بدهم که همین تمام موارد بوده است.»
او افزود: «چند مورد دیگر وجود دارد که از آن‌ها اطلاع دارم و ما آن‌ها را گزارش کرده‌ایم؛ ممکن است با ادامه بررسی‌ها، موارد بیشتری نیز آشکار شود.»
این کمیته که از نمایندگان منتخب پارلمان تشکیل شده و سیاست‌های دولت را بررسی می‌کند، مدیران اوپن‌ای‌آی، آنتروپیک، گوگل دیپ‌مایند و متا را درباره این موضوع مورد پرسش قرار داد که آیا سازوکارهای ایمنی داوطلبانه می‌توانند همگام با توانایی‌های روزافزون سامانه‌های هوش مصنوعی پیش بروند یا نه.
این جلسه هم‌زمان با انتشار گزارش سالانه ارزیابی تهدیدهای ام‌آی۵، سازمان اطلاعات داخلی بریتانیا، برگزار شد. کن مک‌کالوم، رئیس این سازمان، گفت تروریست‌ها هم‌اکنون در تلاش برای بهره‌برداری از هوش مصنوعی هستند.
مک‌کالوم گفت: «ما تروریست‌هایی را شناسایی کرده‌ایم که تلاش می‌کردند از هوش مصنوعی برای بهبود روش‌های شناسایی و شیوه‌های حمله خود استفاده کنند؛ پهپادهای مجهز به هوش مصنوعی نیز پیچیدگی تازه‌ای به این موضوع افزوده‌اند.»
او گفت بزرگ‌ترین نگرانی او درباره سوءاستفاده از این فناوری، توانایی هوش مصنوعی در تغییر سطح تهدیدهای مربوط به سلاح‌های زیستی موجود یا جدید است.
رئیس ام‌آی۵ همچنین اعلام کرد این سازمان نسبت به دوران جنگ سرد منابع بیشتری را برای مقابله با تهدیدهای دولتی اختصاص می‌دهد و شمار پرونده‌های مربوط به تهدیدهای دولتی در این سازمان طی دهه گذشته چهار برابر شده است.
پژوهشگران سابق اوپن‌ای‌آی فرهنگ ایمنی این شرکت را زیر سؤال بردند
دنیل کوکوتایلو، پژوهشگر سابق اوپن‌ای‌آی و مدیر پروژه AI Futures Project، گفت پس از از دست دادن اعتمادش به رهبری شرکت، اوپن‌ای‌آی را ترک کرده است.
او به قانون‌گذاران گفت: «اوپن‌ای‌آی را ترک کردم چون به این باور رسیدم که این شرکت در زمینه ایجاد این فناوری، در واقع مسئولانه رفتار نخواهد کرد.»
کوکوتایلو به گفت‌وگوهایی در اواخر سال ۲۰۲۳ یا اوایل ۲۰۲۴ اشاره کرد که در آن‌ها، هم‌زمان با افزایش نگرانی عمومی درباره هوش عمومی مصنوعی، درباره ترویج مزایای این فناوری بحث شده بود. هوش عمومی مصنوعی مفهومی فرضی برای نوعی از هوش مصنوعی است که می‌تواند طیف گسترده‌ای از وظایف فکری را در سطح انسان یا فراتر از آن انجام دهد.
او گفت یکی از چهره‌های ارشد شرکت پیشنهاد کرده بود با الگوبرداری از رویکرد تیک‌تاک، از پلتفرم اوپن‌ای‌آی و افراد تأثیرگذار برای تبلیغ این فناوری استفاده شود.
استیون آدلر، پژوهشگر سابق دیگری در اوپن‌ای‌آی که روی ایمنی محصولات و ارزیابی توانایی‌های خطرناک کار می‌کرد، گفت در برابر استفاده از زبانی که می‌توانست هوش مصنوعی را خطرناک نشان دهد، مقاومت وجود داشت.
آدلر گفت: «در برابر استفاده از واژه‌هایی مانند «خطرناک» مقاومت وجود داشت، زیرا برخی احساس می‌کردند این کار شاید به معنای پذیرفتن این ادعا باشد یا وجهه بدی ایجاد کند.»
او همچنین گفت از کوکوتایلو خواسته شده بود توافق‌نامه‌ای محدودکننده درباره عدم بدگویی از شرکت امضا کند که در صورت انتقاد از اوپن‌ای‌آی، تهدید به از دست دادن بخشی از مزایای مالی او می‌کرد.
آنگوس لینچ، کارمند سابق آنتروپیک که اکنون در شرکت Theorem فعالیت می‌کند، گفت رقابت میان شرکت‌ها باعث شده است آن‌ها هوش مصنوعی را با سرعت بیش از حد توسعه دهند.
لینچ گفت: «خطر عمدتاً از ساخت بسیار سریع این فناوری ناشی می‌شود؛ به دلیل انگیزه‌ای بی‌پروا برای انجام این کار پیش از آنکه رقیب شما چنین کاری کند.»
جفری اروینگ، پژوهشگر سابق گوگل دیپ‌مایند که در دسامبر ۲۰۲۰ این شرکت را ترک کرد، گفت توانایی‌های هوش مصنوعی بسیار سریع‌تر از پژوهش‌های ایمنی در حال پیشرفت هستند.
اروینگ گفت: «ما همچنان شاهد پیشرفت‌های بسیار سریع در توانایی‌ها هستیم، بدون اینکه پیشرفت‌های مشابهی در حوزه ایمنی رخ داده باشد.»
اروینگ در پاسخ به پرسشی درباره ارزیابی پیشین خود مبنی بر اینکه هوش مصنوعی ۵۰ درصد احتمال دارد باعث نابودی بشریت شود، گفت: «فکر می‌کنم مدل شیر یا خط تقریباً مدل مناسبی برای در نظر گرفتن این احتمال باشد.»
لرد بوث-اسمیت، رئیس سیاست‌گذاری آنتروپیک در اروپا، خاورمیانه و آفریقا، گفت آزمایش‌های ایمنی و تدابیر حفاظتی باید همگام با توانایی‌های هوش مصنوعی پیش بروند.
او به درخواست مدیرعامل شرکتش برای «تنظیم سرعت توسعه فناوری‌های پیشرو» اشاره کرد.
قانون‌گذاران پرسیدند آیا چنین تعهداتی واقعاً باعث کاهش سرعت توسعه خواهد شد یا صرفاً اقدامی برای روابط عمومی است.
کوکوتایلو استدلال کرد که نمی‌توان به شرکت‌ها برای تنظیم‌گری خودشان اعتماد کرد.
اوپن‌ای‌آی پس از یک حادثه سایبری، آموزش مدل‌ها را متوقف کرد
داف گوردون گفت اوپن‌ای‌آی پس از حادثه سایبری ماه ژوئیه مربوط به هاجینگ‌فیس، یک پلتفرم توسعه هوش مصنوعی، بررسی گسترده‌ای را آغاز کرد.
او گفت این شرکت آموزش مبتنی بر یادگیری تقویتی برای پیشرفته‌ترین مدل خود را متوقف کرد و انتشار برنامه‌ریزی‌شده مدل Astra 6.1 را به تعویق انداخت تا اطمینان حاصل شود که ایمنی همگام با توانایی‌های مدل پیش می‌رود.
او این رویداد مربوط به هاجینگ‌فیس را مهم‌ترین حادثه‌ای توصیف کرد که این شرکت تاکنون با آن روبه‌رو شده است.
کمیته اعلام کرد گزارشی ویژه درباره این جلسه تهیه خواهد کرد تا پیش از اصلاحات احتمالی دولت در لایحه امنیت سایبری، اطلاعات لازم را در اختیار پارلمان قرار دهد؛ قانونی که هدف آن تقویت دفاع بریتانیا در برابر تهدیدهای سایبری است.
لیام برن، رئیس کمیته، همچنین از آغاز یک تحقیق جدید درباره ایمنی هوش مصنوعی خبر داد که به قانون‌گذاران اجازه می‌دهد طی سال آینده در بحث درباره نحوه واکنش به خطرهای ناشی از سامانه‌های هوش مصنوعی قدرتمندتر مشارکت کنند.
جیمز فرانسیس وایت‌هد، خبرنگار کورتهوس نیوز، در انگلستان مستقر است.