فناوری زیر ذره‌بین: چه خطراتی ممکن است هوش مصنوعی به همراه داشته باشد؟ بخش اول
نویسنده: جیمی تاکر
تاریخ انتشار: ۱۴ اکتبر ۲۰۲۶، ساعت ۱۷:۳۶ به وقت شرق آمریکا
آگوستا، جورجیا (WRDW/WAGT) ـ هوش مصنوعی زندگی روزمره را آسان‌تر کرده است، اما برخی از افرادی که بیش از دیگران با این فناوری آشنایی دارند، هشدار می‌دهند که ممکن است روزی توانایی‌های آن چنان افزایش یابد که دیگر انسان نتواند مهارش کند. نگرانی آن‌ها این است که چنین روزی شاید زودتر از آنچه تصور می‌کنیم فرا برسد.
بیشتر ما از هوش مصنوعی برای کارهای نسبتاً معمولی استفاده می‌کنیم؛ از چت‌جی‌پی‌تی می‌خواهیم در نوشتن ایمیل کمکمان کند، برای سفر برنامه بریزد، به پرسشی پاسخ دهد یا مشکلی را حل کند.
اما در پس امکانات کاربردی ابزارهایی مانند چت‌جی‌پی‌تی، کلود و جمینای، موضوع نگران‌کننده‌تری توجه پژوهشگران را به خود جلب کرده است: اگر هوش مصنوعی به چنان سطحی از توانایی برسد که انسان دیگر نتواند رفتار و عملکرد آن را کنترل کند، چه اتفاقی خواهد افتاد؟
این سناریو بیشتر به داستان‌های علمی‌تخیلی شباهت دارد، اما برخی از برجسته‌ترین پژوهشگران هوش مصنوعی جهان آن را احتمالی جدی می‌دانند.
اگر کنترل هوش مصنوعی از دست انسان خارج شود، چه اتفاقی می‌افتد؟
کریس کانال، مدیرعامل شرکت اکوئی‌استمپ (EquiStamp) که سیستم‌های پیشرفته هوش مصنوعی را ارزیابی می‌کند، می‌گوید یکی از مهم‌ترین نگرانی‌ها پدیده‌ای است که پژوهشگران آن را «از دست رفتن کنترل» می‌نامند.
کانال توضیح می‌دهد: «از دست رفتن کنترل معمولاً به وضعیتی اشاره دارد که در آن یک هوش مصنوعی به سطح بسیار بالایی از هوشمندی و توانمندی می‌رسد، از سروری که ابتدا در آن ساخته یا میزبانی شده خارج می‌شود و پس از آن، بشر دیگر هرگز نمی‌تواند کنترلش را دوباره به دست بگیرد.»
نگرانی اصلی لزوماً این نیست که هوش مصنوعی به موجودی شرور تبدیل شود یا آگاهانه تصمیم بگیرد به بشریت آسیب برساند. مسئله این است که یک سیستم پیشرفته ممکن است برای رسیدن به هدفی مشخص، روش‌هایی را در پیش بگیرد که سازندگانش هرگز قصد یا انتظار آن‌ها را نداشته‌اند.
برای مثال، تصور کنید مدیر یک بیمارستان از یک سیستم هوش مصنوعی بخواهد هزینه‌های عملیاتی بیمارستان را کاهش دهد.
هوش مصنوعی وضعیت مالی بیمارستان را بررسی می‌کند و به این نتیجه می‌رسد که قطع برق در طول شب می‌تواند هزینه‌ها را پایین بیاورد. حتی زمانی که مدیر بیمارستان به آن دستور می‌دهد این کار را متوقف کند، سیستم همچنان به دنبال تحقق هدف اولیه خود می‌رود.
این مثال صرفاً یک سناریوی فرضی است و به حادثه‌ای واقعی در بیمارستان اشاره ندارد. هدف از طرح آن، نشان دادن نوع پیامدهای ناخواسته‌ای است که پژوهشگران در حال بررسی آن‌ها هستند؛ به‌ویژه اکنون که سیستم‌های هوش مصنوعی به‌تدریج توانایی انجام اقدامات مستقل را پیدا می‌کنند.
سیستم‌های هوش مصنوعی امروزی به سازوکارهای حفاظتی مجهز هستند، اما پژوهشگران نگران‌اند که با افزایش قدرت این فناوری، تدابیر کنونی دیگر برای جلوگیری از رفتارهای ناخواسته کافی نباشند.
هوش مصنوعی ممکن است دسترسی به دانش خطرناک را آسان‌تر کند
یکی دیگر از نگرانی‌ها این است که هوش مصنوعی توانایی‌هایی را در اختیار افراد قرار دهد که دستیابی به آن‌ها در گذشته به سال‌ها آموزش تخصصی نیاز داشت.
چنین امکانی می‌تواند فواید بسیار زیادی داشته باشد. فردی که هیچ تجربه‌ای در برنامه‌نویسی ندارد، می‌تواند نرم‌افزار بسازد. صاحب یک کسب‌وکار کوچک می‌تواند اطلاعات پیچیده مالی را تحلیل کند و دانش‌آموزان و دانشجویان می‌توانند برای درک موضوعات دشوار از هوش مصنوعی کمک بگیرند.
اما همین توانایی‌ها ممکن است مورد سوءاستفاده نیز قرار بگیرند.
کانال این احتمال را مطرح می‌کند که هوش مصنوعی بتواند به تروریست‌ها در ساخت سلاح‌های بیولوژیکی، شیمیایی یا حتی هسته‌ای کمک کند. البته این موارد خطرات احتمالی هستند که پژوهشگران در حال بررسی آن‌ها هستند و به معنای وجود شواهدی نیست که نشان دهد چت‌بات‌های امروزی می‌توانند به‌طور مستقل چنین سلاح‌هایی بسازند.
از عمیر منظور، کارشناس امنیت سایبری که سیستم‌های هوش مصنوعی را برای شناسایی آسیب‌پذیری‌هایشان آزمایش می‌کند، پرسیده شد چه مشکلاتی ممکن است پیش بیاید. پاسخ او کوتاه بود:
«خیلی چیزها. خلاصه بگویم، خیلی چیزها.»
نیک ریس نیز درباره دسترسی فوق‌العاده آسان به فناوری هوش مصنوعی که روزبه‌روز قدرتمندتر می‌شود، هشدار می‌دهد.
ریس می‌گوید: «ما در حال ساخت فناوری‌ای هستیم که از نظر تأثیرگذاری و قدرت، در تاریخ معاصر کم‌نظیر است؛ فناوری‌ای که استفاده از آن نه به آموزش نیاز دارد و نه به دریافت مجوز.»
بسیاری از فناوری‌های قدرتمند برای استفاده به تجهیزات تخصصی، آموزش حرفه‌ای یا مجوز دولتی نیاز دارند، اما برای دسترسی به ابزارهای پیشرفته هوش مصنوعی، اغلب چیزی بیش از اتصال به اینترنت لازم نیست.
آیا هوش مصنوعی ممکن است تصمیم‌های مهم زندگی ما را بگیرد؟
نوالا اوکانر، متخصص سیاست‌گذاری فناوری و حقوق دیجیتال، معتقد است نگرانی عمیق‌تر به این موضوع مربوط می‌شود که انسان‌ها در آینده تا چه اندازه اختیار تصمیم‌گیری را به ماشین‌ها واگذار خواهند کرد.
او می‌گوید: «فکر می‌کنم ترس بنیادین و عمیقی که همه ما از آینده داریم، این است که ماشین‌ها به‌نوعی کنترل فرایند تصمیم‌گیری درباره بخش‌های بسیار مهم زندگی‌مان را به دست بگیرند.»
هوش مصنوعی هم‌اکنون در حال ورود به محیط‌های کاری، خدمات مالی، حوزه سلامت و صنایع دیگری است که تصمیم‌گیری در آن‌ها می‌تواند پیامدهای جدی داشته باشد.
پرسش اصلی این است که چگونه می‌توان از توانایی‌های هوش مصنوعی بهره برد و درعین‌حال اطمینان داشت که مسئولیت تصمیم‌های مهم همچنان بر عهده انسان باقی می‌ماند.
پژوهشگران خواستار تدابیر حفاظتی قوی‌تر برای هوش مصنوعی هستند
بسیاری از پژوهشگران هوش مصنوعی خواستار تقویت تدابیر ایمنی و محدودیت‌های کنترلی این فناوری شده‌اند. از جمله پیشنهادهای آن‌ها می‌توان به آزمایش‌های دقیق‌تر، تعیین محدودیت برای اقداماتی که سیستم‌های هوش مصنوعی مجازند به‌طور مستقل انجام دهند و نظارت مؤثر انسان بر عملکرد این سیستم‌ها اشاره کرد.
البته همه کارشناسان درباره احتمال وقوع سناریوهای فاجعه‌بار مرتبط با هوش مصنوعی یا اینکه چنین اتفاقاتی چه زمانی ممکن است رخ دهند، اتفاق‌نظر ندارند. بااین‌حال، جلوگیری از رفتارهای آسیب‌زا یا ناخواسته یکی از حوزه‌های مهم پژوهش در زمینه ایمنی هوش مصنوعی است.
از سوی دیگر، برخی از این نگرانی‌ها صرفاً فرضی نیستند.
پژوهشگران امنیت سایبری پیش‌تر روش‌هایی را نشان داده‌اند که با استفاده از آن‌ها می‌توان سیستم‌های هوش مصنوعی را فریب داد تا دستورالعمل‌هایی را اجرا کنند که قرار نبوده از آن‌ها پیروی کنند.
یکی از این روش‌ها «تزریق پرامپت» (Prompt Injection) نام دارد. در این شیوه، دستورهای مخرب درون یک ایمیل، سند یا صفحه وب پنهان می‌شوند؛ محتوایی که از یک دستیار هوش مصنوعی خواسته شده آن را بخواند.
ممکن است فردی که از هوش مصنوعی استفاده می‌کند هرگز متوجه وجود این دستورهای پنهان نشود، اما دستیار هوش مصنوعی بااین‌حال آن‌ها را پردازش کند.
در بخش دوم مجموعه گزارش‌های ویژه «هوش مصنوعی؛ چه خطراتی ممکن است پیش بیاید؟» نشان خواهیم داد که پژوهشگران چگونه موفق شدند یک سیستم هوش مصنوعی را فریب دهند. همچنین توضیح خواهیم داد که چرا با افزایش دسترسی دستیارهای هوش مصنوعی به اطلاعات شخصی و حساب‌های آنلاین ما، این مسئله می‌تواند به نگرانی بزرگ‌تری تبدیل شود.
این گزارش، بخش نخست از مجموعه ویژه پنج‌قسمتی «فناوری زیر ذره‌بین» (What the Tech?) است که خطرات، چالش‌ها و آینده هوش مصنوعی را بررسی می‌کند.