دیدگاه انویدیا و آنتروپیک درباره تدابیر ایمنی هوش مصنوعی
بلومبرگ | چهارشنبه ۱۴ اکتبر ۲۰۲۶، ساعت ۵:۴۰ بعدازظهر به وقت شرق آمریکا
جنسن هوانگ، مدیرعامل انویدیا، اعلام کرد اگر یکی از مشتریان این شرکت در حال توسعه نرم‌افزار هوش مصنوعی ناامن باشد، عرضه تراشه به آن مشتری را متوقف خواهد کرد. بااین‌حال، او معتقد است میزان نگرانی کنونی درباره این فناوری توجیه‌پذیر نیست. در مقابل، برخی مدیران صنعت هوش مصنوعی، از جمله داریو آمودی، مدیرعامل آنتروپیک، پیشنهاد کرده‌اند برای رسیدگی به نگرانی‌های موجود، سرعت توسعه این فناوری در سراسر صنعت کاهش یابد. در همین حال، آنتروپیک روز چهارشنبه هم‌زمان با پیشبرد برنامه‌های خود برای عرضه احتمالی سهام در بورس با ارزش‌گذاری حدود دو تریلیون دلار، نشستی با سرمایه‌گذاران برگزار کرد؛ آن هم در شرایطی که نگرانی‌ها درباره ایمنی هوش مصنوعی و تهدیدهای ناشی از آن رو به افزایش است. در این برنامه، اد لادلو، مجری بلومبرگ تک، و ژاکلین کوربلی، هم‌بنیان‌گذار و مدیرعامل برایت‌لاین پارتنرز، به بررسی این تحولات پرداختند.
متن گفت‌وگوی ویدئویی
۰۰:۰۰ | مجری اول: از جنسن هوانگ شروع کنیم. کنجکاوم بدانم برداشت شما از صحبت‌های او چیست؟
۰۰:۰۲ | اد لادلو: بله، به نظرم نکته مهمی وجود دارد. قصد ندارم ارزش آن مصاحبه را زیر سؤال ببرم، اما واقعیت این است که هوانگ به همان پرسشی پاسخ داد که از او مطرح شده بود. سؤال این بود که اگر مشتری از فناوری انویدیا، یعنی همان توان پردازشی زیربنایی که هم برای آموزش مدل‌های هوش مصنوعی و هم برای اجرای آن‌ها استفاده می‌شود، در جهت اهداف زیان‌بار بهره ببرد، آیا انویدیا این فناوری را از دسترس او خارج می‌کند؟ هوانگ پاسخ داد که این یک وضعیت فرضی است، اما اگر واقعاً مشتری مرتکب کار زیان‌باری شود، پاسخ مثبت است.
نکته‌ای که او در ادامه توضیح داد این بود که سازوکار این صنعت اساساً به این شکل نیست. من سال‌های زیادی است که انویدیا را از نزدیک دنبال می‌کنم و یکی از نکات جالب این بوده که انویدیا هیچ‌وقت شرکتی نبوده که محصولاتش را مستقیماً به همه مشتریان نهایی بفروشد. مدل کسب‌وکارش چنین نبوده است. این شرکت اساساً فناوری خود را از طریق شرکت‌هایی مانند دل عرضه می‌کرد. برای مثال، اگر به سرور نیاز داشتید، آن را از دل می‌خریدید و طرف معامله شما دل بود. قرار نبود مستقیماً سراغ جنسن هوانگ بروید و بگویید فوراً صد هزار پردازنده گرافیکی می‌خواهم. صنعت از ابتدا به این شکل توسعه پیدا نکرده بود.
البته شرایط تا حدی تغییر کرده و به چنین مدلی نزدیک شده است. به همین دلیل هم این سؤال از هوانگ پرسیده شد که اگر یکی از مشتریان بزرگ پلتفرم‌های پردازشی انویدیا از این فناوری برای مقاصد زیان‌بار استفاده کند، آیا دسترسی او را قطع می‌کنید؟ پاسخ هوانگ این بود که قطعاً چنین کاری خواهیم کرد. بااین‌حال، ساختار فعالیت این شرکت‌های فناوری اساساً به آن سادگی نیست.
۰۱:۲۱ | مجری دوم: متوجه شدم.
۰۱:۲۲ | مجری اول: بسیار خوب.
۰۱:۲۳ | مجری دوم: اد، درباره چین چه می‌گویید؟ به نظرم سؤال اصلی همین است. آیا چین نمونه مناسبی از کشوری نیست که بسیاری آن را در حوزه این فناوری یک رقیب خصمانه می‌دانند؟ بااین‌حال، سرمایه‌گذاران می‌خواهند انویدیا محصولاتش را به چین بفروشد.
۰۱:۴۶ | اد لادلو: بله، البته وقتی درباره چین صحبت می‌کنیم، موضوع مشخصاً دسترسی این کشور به پردازنده‌های گرافیکی است، نه خود مدل‌های هوش مصنوعی. در دولت فعلی آمریکا و همچنین در میان فعالان صنعت فناوری این کشور، دیدگاه‌های متفاوتی وجود دارد.
در یک سوی این طیف، کسانی معتقدند اساساً نباید هیچ تراشه‌ای به چین فرستاد؛ فرقی هم نمی‌کند تراشه موردنظر در مقایسه با پیشرفته‌ترین محصولات موجود چقدر ضعیف‌تر باشد یا حتی از نوع پیشرفته‌ترین تراشه‌ها باشد. در سوی دیگر، دیدگاهی وجود دارد که می‌گوید اگر فناوری آمریکایی را به چین نفروشیم، چینی‌ها فناوری خودشان را توسعه خواهند داد و سپس صادرات آن را به بازارهای دیگر، یعنی بازارهای خارج از آمریکا، آغاز می‌کنند.
اما این بحث با محدودیت‌های صادراتی کنونی تفاوت دارد؛ محدودیت‌هایی که دولت فعلی آمریکا وضع کرده و در واقع بر سیاست‌های دولت بایدن افزوده است. هدف این محدودیت‌ها جلوگیری از دسترسی چین به تراشه‌های پیشرفته بود، زیرا این نگرانی وجود داشت که چین از آن‌ها برای توسعه هوش مصنوعی در حوزه نظامی استفاده کند. بنابراین، مسئله صرفاً رقابت اقتصادی با چین نبود. این دو استدلال تا حدی متفاوت و مستقل از یکدیگرند.
در یک دیدگاه، مسئله فرصت اقتصادی مطرح است: اگر بهترین فناوری خود را به چین نفروشیم، چه اتفاقی می‌افتد؟ در دیدگاه دیگر، سؤال این است که اگر پیشرفته‌ترین فناوری خود را در اختیار چین قرار دهیم، این کشور چگونه ممکن است از آن برخلاف امنیت و منافع ملی آمریکا استفاده کند؟ این دو نگاه تفاوت مهمی با یکدیگر دارند.
۰۳:۰۳ | مجری اول: اد، پیش از آنکه گفت‌وگو را با شما تمام کنیم، به آنتروپیک و نشست سرمایه‌گذاران این شرکت بپردازیم. واقع‌بینانه انتظار داریم امروز چه اطلاعاتی از این نشست به دست بیاوریم؟ می‌دانم که شما هم دوباره نسبت به وضعیت معاملات و سرمایه‌گذاری‌های مرتبط با هوش مصنوعی کمی نگران شده‌اید.
۰۳:۱۳ | اد لادلو: طبق گزارش‌ها، نشستی با حضور سرمایه‌گذاران در سان‌فرانسیسکو در حال برگزاری است. به نظرم مهم‌ترین چیزی که بسیاری می‌خواهند بدانند، وضعیت واقعی مالی شرکت است؛ برای مثال، درآمد واقعی سه‌ماهه سوم، یعنی دوره منتهی به سپتامبر، یا تازه‌ترین نرخ درآمد سالانه‌شده شرکت.
نرخ درآمد سالانه‌شده آنتروپیک در ماه ژوئیه ۶۵ میلیارد دلار بود. معنای این عدد آن است که اگر شرکت در دوازده ماه آینده با همان سرعت به ثبت درآمد ادامه دهد، درآمدش در پایان آن دوره به ۶۵ میلیارد دلار خواهد رسید.
موضوع مهم بعدی به محصولات آنتروپیک مربوط می‌شود. اگر فعالیت‌های اخیر این شرکت را دنبال کرده باشید، می‌دانید که قیمت استفاده از توکن‌ها را به‌شدت کاهش داده است. سؤال این است که تولید هر توکن واقعاً چقدر برای آنتروپیک هزینه دارد و این رقم در مقایسه با مبلغی که از مشتری دریافت می‌کند چقدر است؟ پاسخ این سؤال در نهایت مشخص می‌کند وضعیت سودآوری شرکت چگونه خواهد بود.
نکته آخر اینکه آنتروپیک منابع نقدی قابل‌توجهی در ترازنامه خود دارد. همه منتظر عرضه اولیه عظیم سهام این شرکت هستیم، اما نباید فراموش کنیم که آنتروپیک در اوایل امسال از طریق جذب سرمایه خصوصی، ده‌ها و ده‌ها میلیارد دلار یا حتی صدها میلیارد دلار سرمایه جذب کرده است.
۰۴:۰۸ | مجری دوم: تولید یک توکن چقدر هزینه دارد؟
۰۴:۱۰ | اد لادلو: مسئله دقیقاً همین است. من درباره این موضوع در شبکه اجتماعی ایکس مطالبی منتشر کرده‌ام و نمی‌خواهم وارد تمام جزئیات عددی شوم، اما آنتروپیک از تابستان تا حدود هفته گذشته، زمانی که مدل هاکو ۵.۵ و جدیدترین نسخه سونیک را عرضه کرد، قیمت استفاده از مدل‌های خود را تقریباً به نصف کاهش داده است.
به بیان دیگر، قیمت توکن‌ها را کاهش داده و نرخ‌هایی مانند یک دلار به‌ازای هر یک میلیون توکن ورودی و یک دلار به‌ازای هر یک میلیون توکن خروجی ارائه کرده است. اما هم‌زمان نمی‌دانیم آنتروپیک برای تولید این توکن‌ها واقعاً چه میزان هزینه پردازشی متحمل می‌شود. اعدادی که اشاره کردم، قیمت‌هایی هستند که شرکت از مشتریان دریافت می‌کند، نه هزینه واقعی تولید.
این دقیقاً همان چیزی است که تحلیلگران و سرمایه‌گذاران می‌خواهند در مدل‌های مالی خود محاسبه کنند: اقتصاد واقعی کل کسب‌وکاری که احتمالاً بزرگ‌ترین عرضه اولیه سهام تاریخ تا امروز بر پایه آن شکل خواهد گرفت. بررسی چنین موضوعی جذاب است، اما برای انجام آن به داده‌های واقعی نیاز داریم.
۰۵:۰۷ | مجری اول: داشتن داده‌ها واقعاً کمک می‌کند. ما هم می‌خواهیم اطلاعات بیشتری بدانیم.
۰۵:۱۰ | مجری اول: بسیار خوب، اد لادلو، مثل همیشه از صحبت‌های شما نکات زیادی یاد گرفتیم. او مجری برنامه بلومبرگ تک است که از دوشنبه تا جمعه، ساعت ۱۱ صبح به وقت وال‌استریت، از بلومبرگ پخش می‌شود. حالا بحث هوش مصنوعی را ادامه می‌دهیم.
۰۵:۱۸ | مجری دوم: بله، قول داده بودیم این موضوع را عمیق‌تر بررسی کنیم. می‌خواهم ژاکلین کوربلی، مدیرعامل برایت‌لاین، پلتفرم اپلیکیشن‌های تلویزیون تعاملی، را به گفت‌وگو دعوت کنم.
۰۵:۲۲ | مجری دوم: او در زمینه سیاست‌گذاری هوش مصنوعی به رهبران جهان، از جمله در سازمان ملل متحد و واتیکان، مشاوره داده است. همچنین قرار است ماه آینده برای گفت‌وگو درباره سیاست‌گذاری با چارلز، پادشاه بریتانیا، دیدار کند. او اکنون در استودیوی بلومبرگ اینتراکتیو بروکرز همراه ماست. خیلی خوش آمدید. وقتی با این رهبران دیدار می‌کنید، چه سؤال‌هایی از شما می‌پرسند؟
۰۵:۴۰ | ژاکلین کوربلی: آن‌ها می‌خواهند دیدگاه و تحلیل من را بشنوند. به نظرم یکی از مهم‌ترین ویژگی‌های مشاوره دادن به رهبران جهان این است که بتوانید درباره تغییرات پیش رو و اقداماتی که همین حالا از نظر سیاست‌گذاری لازم است، واقع‌بینانه و کاربردی فکر کنید و نکاتی در اختیار آن‌ها بگذارید که بتوانند درباره‌شان تأمل کنند.
واقعیت این است که این روزها بیشتر این رهبران برای تدوین سیاست‌هایی تلاش می‌کنند که میان ملاحظات مختلف تعادل برقرار کند. در مورد هوش مصنوعی، این تعادل باید میان مسائل امنیتی از یک سو و فرصت‌های پیشرفت و منافع اقتصادی از سوی دیگر برقرار شود.
۰۶:۱۷ | ژاکلین کوربلی: این کار برای آن‌ها آسان نیست. افراد زیادی مشغول تحلیل این مسائل هستند، اما چالش اصلی این است که چگونه می‌توان همه این تحلیل‌ها را کنار هم گذاشت و به نتیجه‌ای قابل‌استفاده رسید. نقش من در واقع این است که تجربه‌های عملی و میدانی و ملاحظات دنیای واقعی را وارد این بحث‌ها کنم. انجام این کار برای من افتخار بزرگی است.
۰۶:۳۶ | مجری اول: فعالیت شما با واتیکان توجه ما را به‌ویژه جلب کرده است. هنگام آماده‌سازی این گفت‌وگو، به گزارشی از نیویورک تایمز برخوردیم که اخیراً درباره دیدار پژوهشگران دینی با آنتروپیک منتشر شده بود.
طبق گزارش نیویورک تایمز، آنتروپیک ماه‌هاست نشست‌های خصوصی برگزار می‌کند و ده‌ها پژوهشگر دینی را از سراسر جهان به این نشست‌ها دعوت کرده است. این شرکت از آن‌ها خواسته توافق‌نامه‌های محرمانگی امضا کنند و تأکید کرده که بخش‌های مهمی از بسیاری از گفت‌وگوها باید محرمانه باقی بماند.
بااین‌حال، روشن است که در این جلسات موضوعاتی مورد بحث قرار می‌گیرد. می‌دانم احتمالاً نمی‌توانید جزئیات زیادی را فاش کنید، اما کنجکاوم بدانم نقش این بُعد دینی و اخلاقی در یکی از بزرگ‌ترین بحث‌ها و تحولات فناورانه دوران ما چیست.
۰۷:۱۸ | ژاکلین کوربلی: به نظرم در مرکز تمام این گفت‌وگوها چند موضوع قرار دارد که همگی به یک مسئله اساسی برمی‌گردند: خود انسانیت، اختیار و عاملیت انسان و اینکه این تحولات چه معنایی برای کرامت انسانی خواهند داشت. و...
۰۷:۴۲ | مجری اول: اما پول و منافع مالی گاهی این ملاحظات را تحت‌الشعاع قرار می‌دهند. چطور می‌توان این دو را با هم سازگار کرد؟ شما با رهبرانی سروکار دارید که باید به مسائل اقتصادی هم فکر کنند. ما هم همین‌طور. اگر یک شرکت سهامی عام باشید، هر سه ماه عملکرد مالی شما را بررسی می‌کنیم.
۰۷:۵۴ | ژاکلین کوربلی: دقیقاً همین‌طور است. از طرف دیگر، وجدان و اخلاق مطرح است؛ اینکه شاید چه کاری باید انجام دهید. البته سرمایه‌گذاران لزوماً به این مسائل اهمیت نمی‌دهند.
در واقع، سرمایه‌گذاران چندان به این موضوعات توجه نمی‌کنند. کاملاً درست است. از سوی دیگر، سازمان‌های بین‌المللی هم لزوماً به شرکت‌ها اعتماد ندارند و این بی‌اعتمادی هم بی‌دلیل نیست.
۰۸:۱۴ | ژاکلین کوربلی: بسیاری از تصمیم‌هایی که در شرکت‌هایی مانند آنتروپیک، اوپن‌ای‌آی و دیگران گرفته می‌شود، لزوماً ریشه در ملاحظات اخلاقی ندارد. این تصمیم‌ها در نهایت بیشتر بر اساس توجیه‌پذیری تجاری و حتی ترس اتخاذ می‌شوند. ترس یکی از انگیزه‌های مهم در این زمینه است و رهبران دینی نیز به‌خوبی متوجه این مسئله هستند.
۰۸:۳۱ | مجری دوم: وقتی می‌گویید بزرگ‌ترین خطر جهانی این است که اختیار و قدرت تصمیم‌گیری انسان را به هوش مصنوعی واگذار کنیم، دقیقاً منظورتان چیست؟
۰۸:۳۸ | ژاکلین کوربلی: منظورم این است، هرچند شخصاً فکر نمی‌کنم این خطر به اندازه‌ای که بسیاری تصور می‌کنند بزرگ باشد. اما اگر بخواهم صریح بگویم، ما امروز تا حد زیادی به فناوری وابسته شده‌ایم و در موقعیتی قرار داریم که به‌عنوان انسان هنوز آمادگی نداریم از عامل‌های هوش مصنوعی پیشی بگیریم و هدایت این فناوری را در دست داشته باشیم.
در چنین شرایطی، این پرسش مطرح می‌شود که آیا می‌توانیم ویژگی‌های انسانی خود را حفظ کنیم و مسیر این تحولات را بر اساس ارزش‌ها و اراده انسانی هدایت کنیم؟ سرعت تغییرات بسیار زیاد است.
از طرف دیگر، اکنون با دوره‌ای روبه‌رو هستیم که مدیریت تغییر در آن اهمیتی فوق‌العاده دارد. ما انسان‌ها، به‌عنوان یک گونه، تاکنون نشان نداده‌ایم که در سازگاری با تغییرات بسیار سریع مهارت چندانی داریم، درحالی‌که شرایط کنونی دقیقاً چنین توانایی‌ای را از ما می‌طلبد.
۰۹:۲۱ | مجری اول: بله، یک بحث به نوع بشر مربوط می‌شود و بحث دیگر به رهبران. من به مسئولیت رهبران فکر می‌کنم؛ چه رهبران دولت‌ها باشند و چه مدیران کسب‌وکارها.
احساس می‌کنم هیچ‌وقت به اندازه امروز شاهد این نبوده‌ام که انجام کار درست تا این حد از اولویت‌ها کنار گذاشته شود. کافی است به شکاف میان درآمد مدیران ارشد شرکت‌ها و بیشتر کارکنان نگاه کنیم، یا به همان اقتصاد Kشکل که بارها درباره‌اش صحبت کرده‌ایم. شاید بازارهای مالی در بالاترین سطوح خود باشند، اما همه مردم از این رونق بهره‌مند نمی‌شوند.
این وضعیت چه معنایی برای فعالیت‌های شما دارد، به‌ویژه در حوزه هوش مصنوعی؟
۱۰:۰۴ | ژاکلین کوربلی: به نظرم واقعیت این است که میلیاردرهای حوزه فناوری تصویری از مسئولیت‌پذیری اجتماعی ارائه می‌کنند و تا حدی نشان می‌دهند که نگران مسیر آینده این تحولات هستند. اما همه ما می‌دانیم که درباره انگیزه واقعی این نگرانی‌ها پرسش‌هایی وجود دارد.
اگر بخواهیم به آینده نگاه کنیم، سؤال اصلی این است که ما برای انجام چه اقداماتی آمادگی داریم؟ هوش مصنوعی با سرعت زیادی در حال پیشرفت است و لازم است قانون‌گذاری، نهادها و همکاری‌های بین‌المللی نیز همگام با آن حرکت کنند. به نظرم دشواری اصلی دقیقاً در همین بخش خواهد بود.
۱۰:۴۳ | مجری اول: ژاکلین، فقط حدود ۲۵ ثانیه فرصت داریم. شما با افراد مختلفی سروکار دارید؛ از پادشاه چارلز گرفته تا مقام‌های واتیکان و همچنین مدیران شرکت‌ها.
۱۰:۴۸ | مجری اول: کنجکاوم بدانم کدام گروه واقعاً تمایل بیشتری دارد که هرچه سریع‌تر تدابیر و چارچوب‌های حفاظتی لازم برقرار شود؟ رهبران دینی یا دنیای شرکت‌ها؟ لطفاً خیلی کوتاه پاسخ دهید.
۱۱:۰۰ | ژاکلین کوربلی: رهبران دینی. رهبران دینی، رهبران جهان و دنیای شرکت‌ها.