رئیس مایکروسافت: هوش مصنوعی از شیر و ماشین لباسشویی هم کمتر قانون‌گذاری شده است؛ دولت‌ها باید مقررات ایمنی سخت‌تری وضع کنند
برد اسمیت، رئیس شرکت مایکروسافت، از دولت‌ها خواسته است برای هوش مصنوعی الزامات ایمنی فوری و سخت‌گیرانه‌تری وضع کنند.
اسمیت در مصاحبه‌ای با بی‌بی‌سی در روز یکشنبه گفت: «در حال حاضر، ماشین لباسشویی شما مشمول قوانین ایمنی بیشتری نسبت به هوش مصنوعی است. هر بسته شیر که در فروشگاه مواد غذایی می‌بینید، تحت قوانین ایمنی و بازرسی قرار دارد.»
به گفته اسمیت، هوش مصنوعی باید هم به‌عنوان «یک ابزار» و هم «یک سلاح» دیده شود. او معتقد است دولت‌ها باید قوانین مشترکی ایجاد کنند، زیرا سامانه‌های قدرتمندتر هوش مصنوعی به اطلاعات حساس و زیرساخت‌های حیاتی دسترسی پیدا می‌کنند. او گفت: «بیایید از امروز شروع کنیم.»
او پیشنهاد کرد شرکت‌ها موظف شوند در صورت نفوذ عامل‌های هوش مصنوعی خارج از کنترل به سامانه‌ها، افراد آسیب‌دیده را مطلع کنند و گزارش‌های رسمی درباره این رخدادها ارائه دهند. اسمیت همچنین از ایجاد «کلیدهای توقف اضطراری» برای متوقف کردن یا کاهش سرعت سامانه‌های غیرقابل پیش‌بینی حمایت کرد.
رئیس مایکروسافت هشدار داد که زمان اقدام فرا رسیده است و به فعالیت عامل‌های هوش مصنوعی خارج از کنترل انسان و خطرات امنیت سایبری ناشی از مدل‌های قدرتمند اشاره کرد. او گفت: «لحظه اقدام فرا رسیده است.»
اسمیت همچنین خواستار آن شد که ارزیابان مستقل دولتی برخی محصولات هوش مصنوعی را پیش از عرضه بررسی کنند؛ به‌ویژه سامانه‌هایی که قابلیت‌های آن‌ها می‌تواند امنیت سایبری جهانی را تهدید کند.
اسمیت خواستار نظارت فراتر از تعهدات داوطلبانه هوش مصنوعی شد
در پایان سپتامبر، دونالد ترامپ، رئیس‌جمهوری آمریکا، میزبان مدیران OpenAI، Anthropic، شرکت انویدیا، شرکت اسپیس‌اکس، متا پلتفرمز و آلفابت در کاخ سفید بود؛ جایی که این شرکت‌ها تعهدی «از نظر اخلاقی الزام‌آور» برای همکاری با حسابرسان مستقل به‌منظور ارزیابی سامانه‌های هوش مصنوعی و اطمینان از جلوگیری از دسترسی یا نفوذ ناخواسته آن‌ها به سامانه‌های فنی امضا کردند.
اسمیت از این بیانیه استقبال کرد و گفت مایکروسافت «خوشحال است که آن را امضا کند»، اما معتقد است خودتنظیمی به‌تنهایی دیگر «کافی نیست»، زیرا شرکت‌های کم‌مسئولیت‌تر ممکن است از همین استانداردها پیروی نکنند.
رهبران مایکروسافت خواستار تدابیر حفاظتی بیشتر برای هوش مصنوعی هستند
اظهارات اسمیت در شرایطی مطرح شده است که دیگر مدیران مرتبط با مایکروسافت نیز خواستار کنترل‌های قوی‌تر شده‌اند. در آخر هفته، ساتیا نادلا، مدیرعامل مایکروسافت، گفت شرکت‌ها باید مدل‌های هوش مصنوعی را به‌عنوان خطرات احتمالی داخلی در نظر بگیرند و در صورت به خطر افتادن سامانه‌های پیشرفته، به تدابیر حفاظتی خارجی متکی باشند.
نادلا گفت سازمان‌ها حتی در شرایطی که مدل‌ها به داده‌های حساس و اقدامات مهم دسترسی دارند، نمی‌توانند به‌طور قابل اتکا رفتار مدل را به داده‌های آموزشی یا وزن‌های مدل مشخصی نسبت دهند.
بیل گیتس، هم‌بنیان‌گذار مایکروسافت، نیز روز یکشنبه بار دیگر بر همین پیام تأکید کرد و خواستار ایجاد سازوکارهای حفاظتی برای هوش مصنوعی مشابه نظام‌های ایمنی حاکم بر هواپیماها، خودروها و داروها شد. گیتس استدلال کرد که تدابیر حفاظتی کنونی به‌طور کافی به خطرات و سوءاستفاده‌های احتمالی هوش مصنوعی نمی‌پردازند.
عکس: Shutterstock