سم آلتمن هشدار می‌دهد: رقابت هوش مصنوعی ممکن است به سلطه یک شرکت بر فناوری و منابع حیاتی ختم شود
اکنون که چهره‌های سرشناس این صنعت به‌طور علنی درباره خطرات گوناگون هوش مصنوعی برای بشریت هشدار داده‌اند، مدیران شرکت‌ها و قانون‌گذاران می‌کوشند راه‌هایی برای نظارت بر این فناوری پیدا کنند؛ از جمله اینکه چه محدودیت‌هایی را می‌توان و شاید باید بر روند توسعه آن اعمال کرد.
بسیاری از چهره‌های بانفوذ در صنعت فناوری و حوزه‌های دیگر درباره مسیرهای احتمالی تحولات هوش مصنوعی در ماه‌ها و سال‌های آینده اظهارنظر کرده‌اند و به راهکارهایی پرداخته‌اند که شاید بتوانند از بدترین سناریوهای احتمالی جلوگیری کنند.
در میان این افراد، مدیران برخی از تأثیرگذارترین شرکت‌های فعال در حوزه مدل‌های زبانی بزرگ نیز حضور دارند؛ از جمله داریو آمودی، مدیرعامل شرکت آنتروپیک، سازنده مدل کلود، و سم آلتمن، مدیرعامل OpenAI، شرکت سازنده ChatGPT. آلتمن به‌تازگی از سناریویی به‌شدت هولناک سخن گفته است که اگر رهبران با احتیاط عمل نکنند، ممکن است احتمال وقوع آن بیش از آن چیزی باشد که تصور می‌شود.
سه سناریوی نهایی؛ یکی از آن‌ها «وحشتناک» است
آلتمن در یادداشتی که اخیراً برای کارکنانش نوشته است، سه نتیجه احتمالی را تشریح کرده که به باور او ممکن است از تلاش جامعه جهانی برای مهار هوش مصنوعی حاصل شوند.
دو سناریوی نخست قابل‌قبول‌ترند. در سناریوی اول، یک نهاد مستقل بین‌المللی بر این صنعت و فعالان آن نظارت می‌کند، سیاست‌های لازم را به اجرا می‌گذارد و همه طرف‌ها را در قبال عملکردشان پاسخ‌گو نگه می‌دارد. سناریوی دوم، ایجاد نوعی آزمایشگاه جهانی مشترک برای هوش مصنوعی است که تمام فعالیت‌های پژوهشی، توسعه فناوری و عرضه محصولات در این حوزه را در بر بگیرد.
اما سناریوی سوم نگران‌کننده‌تر است: یک شرکت هوش مصنوعی به‌اندازه‌ای قدرتمند دست پیدا کند که بتواند با استفاده از آن رقبا را از میدان خارج سازد و کنترل این فناوری را به‌طور کامل در انحصار خود بگیرد. در چنین وضعیتی، بخش بزرگی از اقتصاد و همچنین منابع موردنیاز برای ساخت و توسعه هوش مصنوعی نیز ممکن است در اختیار همان شرکت قرار گیرد.
آلتمن، بنا بر گزارش منتشرشده از اظهارات او، گفته است: «به نظرم این سناریو وحشتناک است.» او احتمال داده است شرکتی که به چنین قدرتی دست می‌یابد، در نخستین اقدام خود «پردازنده‌های گرافیکی همه رقبای دیگر را ذوب کند». با نزدیک‌تر شدن به ساخت الگوریتم‌هایی که می‌توانند به‌صورت بازگشتی خود را بهبود دهند، احتمال وقوع چنین وضعیتی نیز واقع‌بینانه‌تر می‌شود؛ الگوریتم‌هایی که درباره آن‌ها نگرانی‌هایی درباره پیشی‌گرفتن سرعت خودبهبوددهی از توان کنترل انسان مطرح شده است.
این سناریوی احتمالی با عنوان «طرح الیعزر» شناخته می‌شود؛ نامی برگرفته از الیعزر یودکوفسکی، پژوهشگر هوش مصنوعی و مدافع ایمنی آن. یودکوفسکی از عبارت «سوزاندن همه پردازنده‌های گرافیکی» به‌عنوان نمونه‌ای از شیوه‌هایی استفاده کرده است که هوش مصنوعی ممکن است از طریق آن‌ها به ویرانی بالقوه مرگبار منجر شود. او همچنین بر این نکته تأکید کرده است که بازیگران مسئول و توانمند این حوزه باید بتوانند مانع سوءاستفاده بازیگران مخرب از چنین قابلیتی شوند.
یودکوفسکی که از نخستین و شناخته‌شده‌ترین افرادی بود که درباره احتمال نابودی انسان‌ها به دست هوش مصنوعی هشدار داد، در سال ۲۰۲۳ خواستار توقف توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی شد؛ دست‌کم تا زمانی که ذی‌نفعان بتوانند «مجموعه‌ای از پروتکل‌های ایمنی مشترک را به‌طور جمعی تدوین و اجرا کنند که به‌دقت حسابرسی شوند و زیر نظر کارشناسان مستقل بیرونی قرار داشته باشند».
این درخواست با دو گزینه دیگر آلتمن که اوایل همین ماه در گزارش خود مطرح کرده بود، هم‌راستاست.
سناریوهای مطلوب‌تر و هشدارهایی نگران‌کننده‌تر
آلتمن پیش‌تر نیز بر ضرورت ایجاد یک نهاد بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته تأکید کرده بود؛ نهادی مشابه آژانس بین‌المللی انرژی اتمی که در نخستین سناریوی او مطرح شده است.
در مطلبی که OpenAI در سال ۲۰۲۳ درباره حکمرانی فناوری منتشر کرد، آمده است: «هر فعالیتی که از آستانه مشخصی از توانمندی یا منابع، مانند توان محاسباتی، فراتر برود، باید تحت نظارت یک نهاد بین‌المللی قرار گیرد. این نهاد باید بتواند سامانه‌ها را بازرسی کند، انجام حسابرسی را الزامی سازد، میزان پایبندی به استانداردهای ایمنی را بسنجد و محدودیت‌هایی بر سطح استقرار و میزان امنیت سامانه‌ها اعمال کند و اقدامات دیگری از این دست انجام دهد.» متن کامل پیشنهاد OpenAI درباره حکمرانی هوش مصنوعی در وب‌سایت این شرکت منتشر شده است.
سناریوی دوم آلتمن به سازمانی شبیه سازمان اروپایی پژوهش‌های هسته‌ای نیاز دارد؛ نهادی متشکل از توسعه‌دهندگان که مسئولیت مدل‌های هوش مصنوعی و نحوه استفاده از آن‌ها را بر عهده بگیرد.
برخی دیگر از چهره‌های فناوری که ارتباط مستقیم کمتری با توسعه روزمره این سامانه‌ها دارند، از جمله بیل گیتس، بنیان‌گذار مایکروسافت، نیز سناریوهای نگران‌کننده دیگری درباره پیامدهای احتمالی هوش مصنوعی مطرح کرده‌اند. این خطرات شامل فراهم‌شدن امکان آسیب‌رسانی بیشتر برای انسان‌ها و ماشین‌ها، مختل‌شدن روند طبیعی رشد انسان، جایگزین‌شدن روابط واقعی با ارتباطات مبتنی بر فناوری و بیکارشدن میلیون‌ها نفر است؛ موضوعی که کارشناسان درباره آن هشدار داده‌اند.
گیتس در ماه اوت نوشت: «هوش مصنوعی یا بزرگ‌ترین ابزار برابری‌آفرینی خواهد بود که تاکنون اختراع شده است، یا بدترین منشأ بی‌عدالتی.» دیگران نیز دیدگاهی مشابه و انتقادی درباره شتاب فزاینده این صنعت دارند. جفری هینتون، که از او با عنوان «پدرخوانده یادگیری ماشین» یاد می‌شود، بارها درباره خطرات این روند هشدار داده و به این موضوع پرداخته است که برنامه‌های هوش مصنوعی هم‌اکنون نیز می‌توانند انسان‌ها را فریب دهند و حتی ممکن است روزی «ما را از میان بردارند».
این مطلب صرفاً با هدف اطلاع‌رسانی منتشر شده است و نباید به‌عنوان توصیه تلقی شود. این محتوا بدون هیچ‌گونه ضمانتی ارائه شده است.