مدیر مالی OpenAI: «اجازه ندهید تردیدها و ناامنی‌های درونی مانع پیشرفتتان شوند»

سارا فرایر، مدیر مالی OpenAI، در سخنرانی خود در اجلاس بین‌المللی هوش مصنوعی در دوبلین که هم‌زمان با دوره ریاست ایرلند بر اتحادیه اروپا در حال برگزاری است، گفت: «سرعت تحولات روزبه‌روز بیشتر می‌شود.»

او ادامه داد: «همگام ماندن با این سرعت تغییرات و نداشتن احساس عقب‌ماندگی اغلب دشوار است. به همین دلیل، مهم‌ترین توصیه‌ای که همیشه به همه، حتی فرزندان نوجوانم، می‌کنم این است که کنجکاو باشید، ذهنی باز داشته باشید، انعطاف‌پذیر بمانید و اجازه ندهید تردیدها و احساس ناامنی درونی مانع پیشرفتتان شوند.»

تنظیم سرعت پیشرفت در مرزهای هوش مصنوعی

فرایر گفت: «اعتماد، همه‌چیز است.»

فناوری ممکن است پیامدهای پیش‌بینی‌نشده‌ای داشته باشد و فرایر به‌خوبی از این موضوع آگاه است؛ به‌ویژه آنکه OpenAI در تابستان گذشته زنجیره‌ای از رخدادهای هک خودکار با استفاده از هوش مصنوعی را به راه انداخت.

OpenAI به همراه شمار محدودی از شرکت‌های دیگر هوش مصنوعی، از پیشگامان تعیین سرعت پیشرفت این فناوری در مرزهای دانش هستند. با افزایش بحث‌ها درباره ناهم‌راستایی هوش مصنوعی با اهداف انسانی و ضرورت مهار آن، به نظر می‌رسد این شرکت‌ها اکنون در انتشار عمومی مدل‌های خود محتاط‌تر شده‌اند.

برای نمونه، OpenAI هنوز مدل داخلی خود را که مسئله ناویه–استوکس را حل کرده و از GPT-6 Astra توانمندتر است، منتشر نکرده است.

فرایر توضیح داد: «ما گاهی از انتشار مدل‌ها خودداری می‌کنیم و به همین دلیل از تنظیم سرعت پیشرفت در مرزهای هوش مصنوعی صحبت می‌کنیم. همین حالا مدلی در داخل شرکت داریم که هنوز آن را منتشر نکرده‌ایم، با اینکه همان مدلی است که معادلات ناویه–استوکس را اثبات کرده است. فقط در هفته گذشته نیز ۳۵۰ اثبات ریاضی دیگر انجام دادیم. بااین‌حال، قصد داریم چند مرحله بررسی و اصلاح دیگر روی این مدل انجام دهیم تا مطمئن شویم از نظر ایمنی و هم‌راستایی با اهداف موردنظر، وضعیت مناسبی دارد.»

OpenAI همچنین مدل‌های پیشرفته دیگری را که در مرز توانمندی‌های هوش مصنوعی قرار دارند، به‌دقت زیر نظر گرفته است.

فرایر افزود: «به‌ویژه مدل‌های چینی که از نظر قابلیت‌های سایبری بسیار پیشرفت کرده‌اند. افراد زیادی می‌توانند به این مدل‌ها دسترسی داشته باشند، زیرا اغلب متن‌باز هستند یا وزن‌های آن‌ها به‌صورت عمومی منتشر می‌شود. کسانی که نیت مخرب دارند به این ابزارها دسترسی دارند؛ بنابراین باید مطمئن شویم کسانی که وظیفه دفاع را بر عهده دارند نیز از ابزارهای لازم برخوردارند.»

فرایر در پاسخ به بحث توقف احتمالی نوآوری، دیدگاهی که اکنون بسیاری از فعالان سیلیکون‌ولی نیز با آن هم‌نظرند، تأکید کرد که باید سرعت پیشرفت فناوری را مدیریت کرد، اما نباید آن را بیش از اندازه کاهش داد؛ زیرا چنین کاری ممکن است به ایجاد عدم توازن در دسترسی کشورهای مختلف و گروه‌های گوناگون به این فناوری منجر شود.

«ما به‌عنوان آزمایشگاه‌های پیشرو در توسعه هوش مصنوعی می‌خواهیم با یکدیگر همکاری کنیم و خواستار نوعی مقررات‌گذاری جهانی شده‌ایم که آزمایشگاه‌های پیشرو واقعاً به آن پایبند باشند. [...] اگر می‌خواهید سریع حرکت کنید، به‌تنهایی بروید؛ اما اگر می‌خواهید راه دوری را طی کنید، با هم حرکت کنید.»

سارا فرایر

جهان در سال ۲۰۳۰

وقتی از فرایر خواسته شد تصور خود را از جهان در سال ۲۰۳۰ بیان کند، او برای توضیح دیدگاهش به اختراع لامپ برق اشاره کرد. لامپ در ابتدا فناوری ترسناکی به شمار می‌رفت، اما وقتی مردم فهمیدند با استفاده از آن می‌توانند شب‌ها یک ساعت روشنایی بیشتر برای انجام کارهایشان داشته باشند، به ارزش این فناوری پی بردند و آن را پذیرفتند.

«تا سال ۲۰۳۰، از مرحله لامپ‌های روشنایی عبور کرده و به مرحله استفاده از وسایل برقی و امکاناتی مانند گرم کردن خانه، سرگرم کردن خود و موارد مشابه رسیده‌ایم. اما این وضعیت در عمل چه شکلی خواهد داشت؟ فکر می‌کنم همه ما کاملاً به حضور دائمی دستیاران و همکاران مجازی در کنار خود عادت خواهیم کرد.»

مدیر مالی OpenAI

کارکنان دفاتر OpenAI همین حالا نیز مرتب با عامل‌های هوش مصنوعی خود صحبت می‌کنند. در آینده نزدیک، دستیاران دیجیتال ما حضور بسیار آشکارتری در زندگی روزمره خواهند داشت.

فرایر گفت: «این تعامل از طریق صدا، تصویر و ویدئو خواهد بود. [...] نمی‌توانم اشتیاقم را نسبت به فرصت‌ها و مزایایی که این فناوری برای بشریت به همراه خواهد داشت، بیشتر از این بیان کنم. اما اگر اعتماد وجود نداشته باشد و نتوانیم اعتماد لازم برای ادامه فعالیت را حفظ کنیم، هیچ‌کدام از این پیشرفت‌ها اهمیتی نخواهد داشت.»

او همچنین تأکید کرد که اکنون باید تمام تلاش‌ها بر توسعه هوش مصنوعی به شیوه‌ای ایمن و هم‌راستا با اهداف موردنظر متمرکز شود.