چه کسی تعیین می‌کند هوش مصنوعی خطرناک چیست؛ دولت یا انویدیا؟
جنسن هوانگ، بنیان‌گذار و مدیرعامل انویدیا، بزرگ‌ترین تولیدکننده تراشه‌های هوش مصنوعی در جهان، در مصاحبه‌ای با تلویزیون بلومبرگ در ۱۴ اکتبر گفت این شرکت ارسال محصولات خود را به هر مشتری‌ای که از هوش مصنوعی برای آسیب‌رساندن به مردم استفاده کند، متوقف خواهد کرد.
هوانگ در پاسخ به پرسشی فرضی این موضوع را مطرح کرد و افزود که پیش از چنین تصمیمی، ابتدا با مشتری گفت‌وگو خواهد شد. او در عین حال پذیرفت که حق یک تأمین‌کننده برای تحمیل ارزش‌های خود به دیگران محدودیت‌هایی دارد.
انویدیا در سه‌ماهه منتهی به ۲۶ ژوئیه، تنها از فروش تجهیزات مراکز داده ۸۹ میلیارد دلار درآمد کسب کرد و تراشه‌های این شرکت نیروی محرک بخش عمده سامانه‌های هوش مصنوعی جهان هستند.
مشتری‌ای که از دریافت محصولات انویدیا محروم شود، برای یافتن جایگزینی با ظرفیت موردنیاز خود با دشواری زیادی روبه‌رو خواهد شد؛ بنابراین، چنین تصمیمی می‌تواند عملاً توسعه فعالیت‌های آن را متوقف کند.
انویدیا اکنون فروش تجهیزات محاسباتی خود را با توسعه ابزارهای ایمنی و حمایت از پژوهشگرانی پیوند داده است که ایمنی هوش مصنوعی را بررسی می‌کنند.
تمایل هوانگ به ارزیابی آسیب‌های ناشی از استفاده از تراشه‌های این شرکت، دامنه نفوذ انویدیا را به انتخاب مشتریانی که واجد شرایط دریافت محصولات آن هستند نیز گسترش می‌دهد.
در نتیجه، این شرکت به‌طور مستقل تعیین خواهد کرد که فناوری تحت چه شرایطی می‌تواند گسترش یابد؛ این در حالی است که مدیرعامل آن می‌گوید صنعت هوش مصنوعی به قوانین جدید نیاز ندارد.
چین؛ آزمونی برای وعده هوانگ
چین جدی‌ترین آزمون برای سنجش پایبندی هوانگ به وعده‌اش است؛ زیرا در این کشور نمونه‌ای وجود دارد که در آن دولت به این نتیجه رسیده است که فروش تراشه‌های انویدیا خطرآفرین است.
واشنگتن از سال ۲۰۲۲ محدودیت‌هایی را بر صادرات پیشرفته‌ترین تراشه‌ها به چین اعمال کرده است. نگرانی اصلی آمریکا این است که چین از این تراشه‌ها برای تقویت توان نظامی و توسعه قابلیت‌های هوش مصنوعی خود استفاده کند.
هوانگ در مه ۲۰۲۵ این محدودیت‌ها را شکست‌خورده توصیف کرد و گفت چنین اقداماتی صرفاً به تقویت رقبای انویدیا در چین کمک می‌کنند.
داده‌های تازه شرکت پژوهشی آی‌دی‌سی (IDC) نیز از استدلال او پشتیبانی می‌کنند. بر اساس این داده‌ها، سهم انویدیا از بازار تراشه‌های هوش مصنوعی چین در نیمه نخست سال ۲۰۲۶ به ۳۴ درصد کاهش یافت، در حالی که سهم هواوی چین به ۲۸ درصد رسید.
در همین حال، واشنگتن ضمن کاهش بخشی از محدودیت‌ها، آن‌ها را حفظ کرد. دونالد ترامپ، رئیس‌جمهور آمریکا، در ۸ دسامبر ۲۰۲۵ اعلام کرد که انویدیا می‌تواند تراشه‌های H200، متعلق به نسل قبلی قدرتمندترین پردازنده‌های این شرکت، را به مشتریان منتخب چینی بفروشد.
در ۱۳ ژانویه ۲۰۲۶، وزارت بازرگانی آمریکا مقرر کرد که هر درخواست صادراتی به‌صورت جداگانه بررسی شود و مشمول الزامات امنیتی و آزمایش اجباری تراشه‌ها در داخل آمریکا باشد.
انویدیا در فوریه نخستین مجوز را دریافت کرد؛ مجوزی که به مقادیر محدود و مشتریان مشخص اختصاص داشت.
چین نشان می‌دهد انویدیا زمانی که ارزیابی تهدید از بیرون شرکت انجام می‌شود و هزینه مالی به آن تحمیل می‌کند، چگونه واکنش نشان می‌دهد.
این تراشه‌ها در تایوان ساخته می‌شوند و پیش از ارسال به چین باید از آمریکا عبور کنند؛ جایی که مشمول تعرفه ۲۵ درصدی هستند. به این ترتیب، دولت آمریکا یک‌چهارم ارزش هر فروش را دریافت می‌کند.
پکن نیز شرایط را برای انویدیا آسان نکرده است. دولت چین خرید تراشه‌های آمریکایی را برای شرکت‌های داخلی محدود کرده تا از هواوی و دیگر تولیدکنندگان چینی حمایت کند.
به همین دلیل، انویدیا تا پایان ژوئیه تنها بخش کوچکی از مقادیر تأییدشده را تحویل داده بود و درآمد حاصل از این فروش‌ها کمتر از یک درصد درآمد آن از تجهیزات مراکز داده بود.
حتی کاهش محدودیت‌ها نیز برای انویدیا هزینه دارد. این شرکت در همان گزارش مالی، به‌دلیل موجودی تراشه‌های H200 که امکان فروش آن‌ها را نداشت، ۴۰۰ میلیون دلار کاهش ارزش موجودی ثبت کرد.
در آوریل ۲۰۲۵، زمانی که دولت آمریکا فروش تراشه‌های H20، مدلی که به‌طور ویژه برای بازار چین طراحی شده بود، را ممنوع کرد، انویدیا با موجودی‌ای روبه‌رو شد که دیگر نمی‌توانست بفروشد و در نتیجه ۴.۵ میلیارد دلار زیان ثبت کرد.
محدودیت‌های صادراتی با توان نظامی و فناوری یک کشور دیگر ارتباط دارند، در حالی که وعده اکتبر هوانگ بر استفاده آسیب‌زا از محصولات متمرکز است؛ بنابراین، این دو وضعیت کاملاً یکسان نیستند.
بااین‌حال، تجربه چین نشان می‌دهد انویدیا زمانی که ارزیابی خطر از خارج شرکت انجام می‌شود و پیامدهای مالی به همراه دارد، چگونه واکنش نشان می‌دهد.
این شرکت حق دارد با سیاست‌های دولت مخالفت کند، اما استدلال آن مبنی بر بی‌اثر بودن محدودیت‌ها، هم‌زمان به حفظ دسترسی انویدیا به یکی از بزرگ‌ترین بازارهای جهان کمک می‌کند.
ازاین‌رو، تا زمانی که مشخص نشود انویدیا در صورتی که نهادی بیرون از شرکت استفاده از تراشه‌هایش را زیان‌بار تشخیص دهد، حاضر است چه میزان ضرر مالی را بپذیرد، اعلام هوانگ وزن چندانی نخواهد داشت.
راهکار مهندسی و مناقشه سیاسی
هوانگ در ۱۵ سپتامبر، در کنفرانس دریم‌فورس در سان‌فرانسیسکو که گردهمایی سالانه شرکت نرم‌افزاری سیلزفورس است، گفت صنعت هوش مصنوعی «به قوانین یا مقررات جدید نیاز ندارد» و ایمنی هوش مصنوعی «مسئله‌ای مهندسی» است.
پاپ لئو چهاردهم در ۲۸ سپتامبر، در نشست خبری داخل هواپیما و هنگام بازگشت از فرانسه، به این اظهارات واکنش نشان داد.
او گفت ادعای هوانگ را خوانده است که مدعی شده راهی برای اعمال محدودیت‌های فنی بر هوش مصنوعی یافته؛ اما به این تناقض اشاره کرد که همین فرد پیش‌تر گفته بود هوش مصنوعی به محدودیت یا نظارت دولتی نیاز ندارد. انویدیا نیز همان روز سامانه کنترلی خود را معرفی کرده بود.
اظهارات پاپ بر مبنای بخشنامه پاپی «Magnifica Humanitas» است؛ نامه‌ای درباره هوش مصنوعی که در ماه مه منتشر شد.
او در این نامه هشدار می‌دهد که قدرت تصمیم‌گیری در دست شمار اندکی از شرکت‌های فناوری متمرکز می‌شود و تأکید می‌کند جوامعی که از این تصمیم‌ها تأثیر می‌پذیرند، باید در آن‌ها نقش داشته باشند. او به‌طور مشخص خواستار ایجاد چارچوب‌های قانونی و نظارت مستقل شده است.
در نتیجه، اختلاف با هوانگ بر سر این پرسش اساسی است که چه کسی باید حدود استفاده از هوش مصنوعی را تعیین کند: شرکت‌هایی که این فناوری را می‌سازند یا جامعه‌ای که با پیامدهای آن زندگی می‌کند.
البته هوانگ با هرگونه نظارت دولتی مخالف نیست. او در گفت‌وگویی با ازرا کلاین، روزنامه‌نگار آمریکایی، در اواخر سپتامبر گفت شرکت‌های هوش مصنوعی نباید از قوانین رقابت یا مسئولیت در قبال خسارت‌های ناشی از محصولاتشان معاف باشند.
او همچنین از وضع مقررات ویژه در موارد ضروری، برای مثال در حوزه خودروهای خودران، حمایت کرد.
هرچه عامل‌های هوش مصنوعی ایمن‌تر شوند، شرکت‌های بیشتری از آن‌ها استفاده خواهند کرد و بیشتر این عامل‌ها روی تراشه‌های انویدیا اجرا خواهند شد.
اما هوانگ مرز مخالفت خود را در سطح مدل‌های هوش مصنوعی قرار می‌دهد و اصرار دارد که خود شرکت‌ها باید تصمیم بگیرند آیا یک سامانه جدید هوش مصنوعی به‌اندازه کافی ایمن هست که وارد بازار شود یا خیر.
سامانه انویدیا برای آنچه «عامل‌های هوش مصنوعی» نامیده می‌شود طراحی شده است؛ برنامه‌هایی که می‌توانند طیف گسترده‌ای از وظایف را به‌صورت خودکار انجام دهند، از ارسال ایمیل گرفته تا کار با اطلاعات محرمانه شرکت‌ها.
برنامه OpenShell مشخص می‌کند که عامل هوش مصنوعی اجازه دسترسی به چه داده‌ها و سامانه‌هایی را دارد. قواعد مربوط به این دسترسی را شرکتی تعیین می‌کند که از عامل استفاده می‌کند.
ابزار Sentry که یک سامانه نظارتی مبتنی بر سخت‌افزار است، عملکرد عامل را زیر نظر می‌گیرد و به گفته انویدیا، اگر عامل تلاش کند از محدودیت‌های مجاز فراتر برود، می‌تواند ظرف چند میلی‌ثانیه آن را متوقف کند.
هرچه عامل‌های هوش مصنوعی ایمن‌تر شوند، شرکت‌های بیشتری از آن‌ها استفاده خواهند کرد و بیشتر این عامل‌ها روی تراشه‌های انویدیا اجرا خواهند شد. بنابراین، ارائه ابزارهای حفاظتی راه تازه‌ای برای فروش تجهیزات بیشتر به این شرکت می‌دهد.
بخشی از این مجموعه به‌صورت متن‌باز عرضه شده است. OpenShell در دسترس عموم قرار دارد و می‌توان آن را با تجهیزات شرکت‌های دیگر نیز سازگار کرد.
اما Sentry فقط روی سخت‌افزار BlueField-4 انویدیا اجرا می‌شود. شرکتی که سامانه حفاظتی خود را بر پایه هر دو ابزار بنا کند، می‌تواند نرم‌افزار را به‌آسانی منتقل کند، اما امکان انتقال سامانه نظارتی به این سادگی وجود ندارد. در نتیجه، هرچه وابستگی آن شرکت به تجهیزات انویدیا بیشتر شود، تغییر تأمین‌کننده نیز پرهزینه‌تر خواهد شد.
حمایت بریتانیا از پژوهش به سامانه انویدیا بازمی‌گردد
انویدیا اعلام کرده است که طی پنج سال آینده، توان محاسباتی موردنیاز پژوهشگران امنیت هوش مصنوعی در بریتانیا را تأمین خواهد کرد؛ ارزشی که حدود ۲۵۰ میلیون دلار برآورد می‌شود، یعنی سالانه تقریباً ۵۰ میلیون دلار.
این حمایت مالی در چارچوب سامانه انویدیا باقی خواهد ماند، زیرا دانشگاه‌ها حق استفاده از رایانه‌های متعلق به شرکای بریتانیایی این شرکت را دریافت می‌کنند؛ رایانه‌هایی که به تراشه‌های انویدیا مجهز هستند.
آزمایشگاه BOLD در دانشگاه آکسفورد و آزمایشگاه SOFAIR، آزمایشگاه ملی پژوهش هوش مصنوعی بریتانیا، از نخستین مراکزی خواهند بود که از این امکانات استفاده می‌کنند.
در اطلاعیه انویدیا صراحتاً آمده است که پژوهشگران با ابزارهای OpenShell و Sentry نیز کار خواهند کرد.
در سال‌های آینده، متخصصان امنیت بریتانیا با هزینه انویدیا، همان ابزارهای حفاظتی را بررسی و بهبود خواهند داد که این شرکت به مشتریان خود می‌فروشد.
دانشگاه‌ها به تجهیزاتی برای آزمایش‌های پرهزینه دسترسی پیدا می‌کنند که تأمین مالی مستقل آن‌ها برایشان دشوار بود. در مقابل، انویدیا این فرصت را به دست می‌آورد که راهکارهای خود را به معیاری رایج برای ارزیابی ایمنی هوش مصنوعی تبدیل کند.
هنوز درباره جزئیات اصلی توافقی صورت نگرفته است. انویدیا مشخص نکرده کدام شرکا خدمات را ارائه خواهند کرد، رایانه‌ها چگونه سازمان‌دهی می‌شوند، چه شرایط تجاری‌ای اعمال خواهد شد یا سهم هر دانشگاه چقدر خواهد بود.
اجرای این قراردادها همچنین به این بستگی دارد که آیا پژوهشگران اجازه خواهند داشت یافته‌هایی را که به سود حامی مالی نیست، آزادانه منتشر کنند یا خیر.
بخشی از این برنامه ممکن است برخلاف منافع انویدیا عمل کند. آزمایشگاه SOFAIR روش‌های تازه توسعه هوش مصنوعی را بررسی می‌کند تا این روند به چند شرکت بزرگ وابسته نباشد.
بنابراین، حمایت مالی انویدیا ممکن است به توسعه فناوری‌هایی کمک کند که در آینده وابستگی به محصولات این شرکت را کاهش دهند؛ البته به شرط آنکه نتایج پژوهش‌ها روی تجهیزات سازمان‌های دیگر نیز قابل استفاده باشند.
بسته حمایتی بریتانیا در مقایسه با برنامه آمریکا کوچک‌تر به نظر می‌رسد. انویدیا در ۸ اکتبر اعلام کرد که طی پنج سال یک میلیارد دلار به پژوهش‌های علمی، سلامت، انرژی و محاسبات پیشرفته در آمریکا اختصاص می‌دهد؛ مبلغی چهار برابر حمایت این شرکت از بریتانیا.
بااین‌حال، بریتانیا به یک تأمین‌کننده محدود نیست. شرکت AMD، رقیب اصلی انویدیا، در ژوئن اعلام کرد که طی پنج سال حداکثر دو میلیارد پوند در زیرساخت محاسباتی و همکاری‌های علمی بریتانیا سرمایه‌گذاری خواهد کرد. این شرکت همچنین در آزمایشگاه BOLD دانشگاه آکسفورد مشارکت دارد.
البته این امکان انتخاب هزینه‌ای هم دارد؛ زیرا هر برنامه‌ای که برای مجموعه مشخصی از تجهیزات نوشته شده باشد، پیش از انتقال به تجهیزات شرکت دیگر باید سازگار شود. هرچه استفاده از همان تراشه‌ها طولانی‌تر شود، هزینه این جابه‌جایی نیز افزایش می‌یابد.
ارزیابی دولتی با رضایت صنعت
دولت بریتانیا مؤسسه‌ای برای ارزیابی هوش مصنوعی دارد، اما این نهاد بدون رضایت شرکت‌های توسعه‌دهنده، اختیار بررسی سامانه‌های آن‌ها را ندارد.
مؤسسه ایمنی هوش مصنوعی بریتانیا در نوامبر ۲۰۲۳ و هم‌زمان با نخستین اجلاس جهانی ایمنی هوش مصنوعی در بلچلی پارک تأسیس شد. نام اولیه آن «مؤسسه ایمنی هوش مصنوعی» بود.
در فوریه ۲۰۲۵، هم‌زمان با تغییر تمرکز دولت به تهدیدهای امنیت ملی و سوءاستفاده‌های مجرمانه، نام این نهاد تغییر کرد.
دسترسی به پیشرفته‌ترین سامانه‌ها همچنان به همکاری داوطلبانه شرکت‌ها بستگی دارد؛ موضوعی که دولت در پاسخ خود به پارلمان در ۱۲ اکتبر بار دیگر بر آن تأکید کرد.
کانیشکا نارایان، وزیر هوش مصنوعی، نیز در همان روز اعلام کرد که این مؤسسه در حال آزمایش جدیدترین مدل‌هاست.
این دسترسی تنها پس از گفت‌وگو با آزمایشگاه‌ها و دولت آمریکا فراهم شد تا کارشناسان بریتانیایی بتوانند سامانه‌ها را پیش از عرضه به بازار بررسی کنند.
نارایان همچنین گفت دولت در حال بررسی راه‌های تقویت حفاظت از طریق قوانین امنیت سایبری است.
بنابراین، دولت در حال پرورش متخصصانی است که توانایی ارزیابی هوش مصنوعی را دارند، اما موضوعاتی که این کارشناسان می‌توانند بررسی کنند، همچنان به انتخاب شرکت‌ها و اطلاعاتی که در اختیار آن‌ها می‌گذارند وابسته است.
این مسئله در پارلمان نیز مطرح شده است. در ۱۳ اکتبر، کمیته پارلمانی ابتدا به سخنان کارکنان پیشین شرکت‌های بزرگ هوش مصنوعی گوش داد و سپس اظهارات نمایندگان مدیران فعلی این شرکت‌ها و نهادهای دولتی را شنید.
به این ترتیب، نمایندگان پارلمان توانستند دیدگاه کسانی را که شرکت‌ها را ترک کرده‌اند درباره ایمنی با ادعاهای افرادی که اکنون آن‌ها را اداره می‌کنند، مقایسه کنند.
احتمالاً انویدیا در سال‌های آینده هم‌زمان بزرگ‌ترین فروشنده تجهیزات هوش مصنوعی، تولیدکننده ابزارهای کنترل این فناوری و یکی از اصلی‌ترین تأمین‌کنندگان مالی پژوهش‌های ایمنی هوش مصنوعی در بریتانیا خواهد بود.
در حال حاضر، این وضعیت برای دولت بریتانیا مطلوب است؛ زیرا به تجهیزاتی دسترسی پیدا می‌کند که تأمین هزینه آن‌ها به‌تنهایی برای دولت دشوار خواهد بود.
اما بهای این توافق، وابستگی روزافزون به تأمین‌کنندگانی است که محصولاتشان موضوع ارزیابی پژوهشگران بریتانیایی قرار دارد.
آزمون واقعی زمانی فرا می‌رسد که نخستین اختلاف جدی شکل بگیرد؛ یعنی وقتی پژوهشگران بریتانیایی به این نتیجه برسند که سامانه‌ای خطرناک است، اما انویدیا یا مشتریانش حفاظت‌های موجود را کافی بدانند.
در آن زمان مشخص خواهد شد که آیا پژوهشگران اجازه انتشار یافته‌های خود را خواهند داشت و آیا پس از انتشار آن‌ها همچنان به تجهیزات موردنیازشان دسترسی خواهند داشت یا خیر.
تجربه چین پیشاپیش نشان داده است که وقتی پای پول و سیاست به میان می‌آید، مرزهای پذیرفته‌شده خطر تغییر می‌کنند.
هوانگ می‌خواهد تصمیم‌گیری درباره ایمنی در اختیار سازندگان فناوری باشد؛ اما بریتانیا به‌زودی درخواهد یافت که ارزیابی دولتی تا چه اندازه می‌تواند مستقل باشد، وقتی به تجهیزات همان شرکتی وابسته است که باید محصولاتش را ارزیابی کند.