هوش مصنوعی باعث جنگ های ویران گر می شود یا صلح را افزایش می دهد؟ مطرح شدن بیشتر هوش مصنوعی به ویژه با انتشار نسخه عمومی چت جی پی تی (Chat-GPT) پرسش هایی در مورد آینده این فناوری نو ایجاد کرده است.

از آن جایی که این اختراع جدید بشر، توانسته فعالیت های زیادی از محاسبات کوانتومی گرفته تا تحلیل های تاریخی را ارائه دهد، بسیاری از کارشناسان نقش این فناوری در آینده سیاست بین الملل را مورد بررسی قرار داده اند.

پژوهشگران به دولت ها هشدار می دهند باید توجه بیشتری نسبت به آثار احتمالی هوش مصنوعی داشته باشند.

این گزارش تلاش می کند با بررسی دیدگاه کارشناسان، نقش های احتمالی هوش مصنوعی در آینده جهان را با پاسخ به پرسش ابتدای این گزارش، توضیح دهد.

هوش مصنوعی چه تاثیری در جنگ های آینده دارد؟

از جمله کسانی که بارها نسبت به ماهیت خطرناک توسعه هوش مصنوعی هشدار داده اند «هنری کسینجر» وزیر خارجه اسبق آمریکا و استاد رئالیست رشته روابط بین الملل است. به عقیده او، توسعه پر شتاب هوش مصنوعی در سایه احتمال جنگ مستقیم چین و آمریکا، ممکن است وضعیتی ایجاد کند که برای هیچکس قابل تصور نباشد.

به گزارش واشنگتن پست، کسینجر که بیشتر عمر خود را صرف مطالعه خطرات گسترش تسلیحات اتمی کرده بود، حالا نگران توسعه هوش مصنوعی است که به نظرش می تواند ویران کننده تر از بزرگترین بمب باشد. از نظر او، هوش مصنوعی امکانات بیشتری نسبت به تسلیحات اتمی برای ایجاد بحران دارد زیرا هوش مصنوعی اهداف مورد نظرش را انتخاب کرده و مطابق تصمیم های خود عمل می کند. ویرانی ناشی از استفاده از تسلیحات اتمی واضح است؛ اما هیچکس نمی داند هوش مصنوعی چگونه عمل خواهد کرد.

کسینجر: ما توسط ماشین هایی محاصره خواهیم شد که نمی دانیم چه تصمیم هایی می گیرند؛ برنامه ها و اقداماتی که مشابه تصمیم های انسانی نیستند و آثار متفاوتی دارندبه اعتقاد کسینجر، ما توسط ماشین هایی محاصره خواهیم شد که نمی دانیم چه تصمیم هایی می گیرند؛ برنامه ها و اقداماتی که مشابه تصمیم های انسانی نیستند و آثار متفاوتی دارند.

او در سخنرانی هایش از مقام های ایالات متحده و چین درخواست کرده، پیش از آن که دیر شود به فکر اعمال محدودیت بر توسعه هوش مصنوعی باشند. با این حال، بنظر می رسد رویه رفتاری دولت ها بر خلاف این توصیه در حال شکل گیری است.

منافع ناشی از توسعه هوش مصنوعی که می تواند به افزایش چشمگیر قدرت دولت ها منجر شود، آن هارا به یک مسابقه تسلیحاتی دیجیتال کشانده است.

در همین رابطه، وبسایت آمریکایی «فارن افرز» در گزارشی این مساله را مورد بررسی قرار داده که مسابقه تسلیحاتی بر سر هوش مصنوعی در حال افزایش است. براساس این گزارش «چین در سال ۲۰۱۷ از هدف خود برای رهبری جهانی در هوش مصنوعی تا سال ۲۰۳۰ گفت. کاخ سفید نیز در سال ۲۰۱۹ از ابتکار هوش مصنوعی آمریکایی و وزارت دفاع آمریکا نیز از استراتژی هوش مصنوعی رونمایی کرد.»

این مسائل نشاندهنده شکل گیری رویه هایی هستند که مشابه آن در زمان مسابقه فضایی ایالات متحده و شوروی دیده شده بود. با این حال برخلاف مسابقه فضایی، رقابت بر سر هوش مصنوعی خطرناک است. توسعه فضایی، جدا از این که چه کسی در آن پیروز شد به نفع همه بشریت تمام شده است. اما در مورد هوش مصنوعی، کشورها در حال رقابت بر سر چیزی هستند که هنوز روشن نیست چه آینده ای می تواند برای انسان رقم بزند.

«علی رحیمی» یکی از محققان هوش مصنوعی گوگل گفته، همان گونه که دانشمندان قرون وسطی تکنیک های شیشه سازی را آموختند اما فیزیک و شیمی پشت آن را درک نمی کردند، متخصصان هوش مصنوعی نیز به نتایج قدرتمندی می رسند اما نمی توانند علم اساسی پشت آن را توضیح دهند. در واقع، محققان ممکن است نتوانند توضیح دهند رفتارهای ماشین های مبتنی بر یادگیری عمیق (انواعی از هوش مصنوعی) چرا انجام می شود.

این مساله وقتی مهم خواهد بود که بدانیم پیش از این، بارها عملکرد سیستم های مبتنی بر هوش مصنوعی حادثه ساز بوده است. برای مثال در برخی موارد اتوموبیل های خودران، بدون هشدار، به موانع بتنی یا خودروهای پارک شده برخورد کرده اند. ماهیت هک پذیر این سیستم ها خطرات آن ها را به عنوان سیستم های خود ویرانگر افزایش می دهد. در واقع به گزارش فارن افرز «سیستم های هوش مصنوعی در لحظاتی ممکن است از یک فوق هوشمند به یک ابر احمق تبدیل شوند.»

بنابراین چنانچه گفته شد، دولت ها در حال توسعه سریع سیستم هایی هستند که پیامدهای آن را نمی شناسند. البته، این طبیعت یک مسابقه تسلیحاتی است که در آن دولت ها فقط به پیشی گرفتن از رقبا فکر می کنند؛ مشابه حالتی که در آن شوروی و ایالات متحده بدون توجه به بحران های احتمالی ناشی از گسترش تسلیحات اتمی آن را به یک مسابقه تسلیحاتی تبدیل کرده بودند. البته مسابقه بر سر پیروزی در توسعه هوش مصنوعی، در آمریکا و چین منحصر نخواهد بود. چنانچه ولادیمیر پوتین در سال ۲۰۱۷ گفته بود «ملتی که در توسعه هوش مصنوعی پیشرو باشد، حاکم جهان خواهد شد.»

هوش مصنوعی احتمالا دنیای جنگ ها را متحول خواهد کرد؛ در نتیجه این رویکرد ممکن است نه تنها قدرت دولت های پیشرو بیشتر شود، نقش و قدرت دولت های ضعیف تر با تغییرات جدیدی مواجه شود.
فارن پالیسی با گزارشی که به تازگی در مورد نظم دیجیتالی جهان منتشر کرد مدعی شده، ابر قدرت آینده جهان نه چین و نه هیچ کشور دیگری، بلکه شرکت های دیجیتالی هستند. این شرکت ها با در اختیار داشتن کنترل توسعه هوش مصنوعی احتمالا نقش بیشتری در مدیریت جهانی ایفا می کنند.

فارن افرز: «سیستم های هوش مصنوعی در لحظاتی ممکن است از یک فوق هوشمند به یک ابر احمق تبدیل شوند» نقش احتمالی هوش مصنوعی در جنگ چیست؟

در یک وجه، این مساله با احتمال کمک هوش مصنوعی به تصمیم های انسانی بررسی می شود. برای مثال مدیر مرکز امنیت فناوری های نوظهور در دانشگاه جرج تاون با گزارش مفصلی تشریح کرده، می توان به جایگزینی هوش مصنوعی با انسان برای دفاع سایبری امیدوار بود؛ در مقابل می توان انتظار داشت هوش مصنوعی نقش هکر را در حملات سایبری ایفا کند. همین رویه در مورد تصمیم گیری های حوزه های عملیات نظامی هم رخ خواهد داد.

اما در وجه دوم، هوش مصنوعی نه فقط در جایگاه یاری دهنده انسان که به عنوان عنصری مستقل و گاهی جایگزین انسان، فعالیت می کند. می توان انتظار داشت تا در آینده تسلیحاتِ تحت مدیریت هوش مصنوعی یعنی پهپادهای خودکار، جنگنده ها و تانک های اتومات، تغییرات جدی در جنگ ها ایجاد کنند. البته، اکنون نیز بسیاری از تسلیحات نظامی مانند پدافندهای دفاعی، خودکار عمل می کنند اما در حال حاضر خطای این سیستم ها در نهایت با مدیریت اپراتور انسانی قابل کنترل است.

در مقابل اما، سیستم های هوش مصنوعی به دلیل نبود تفکر انسانی و سرعت زیاد که اجازه مدیریت ثانویه انسان را هم در مواقع بحرانی نمی دهد، ممکن است مرتکب اشتباه های بزرگی شوند که آغازگر جنگ است و یا شدت و وسعت جنگ های ایجاد شده را تغییر می دهد.
این که هوش مصنوعی به خواب و آذوقه نیاز ندارد و جز تلفات انسانی هم محسوب نمی شود، سبب می شود پدیده روان شناسی جنگ، صورت دیگری گرفته و ماهیت جنگ ها دگرگون شود. این مسائل اهمیت خطرهای ناشی از هوش مصنوعی را افزایش می دهد؛ با این حال چنانچه توضیح داده خواهد شد، وجوه مثبتی هم برای هوش مصنوعی قابل تصور است.

هوش مصنوعی چه نقشی در صلح دارد؟

نشریه فارن پالیسی در گزارشی با عنوان «هوش مصنوعی چگونه می تواند دیپلماسی را متحول کند» به مواردی اشاره کرده که در آن هوش مصنوعی در خدمت دیپلماسی خواهد بود. به عقیده نویسنده این گزارش، اگرچه دیپلماسی همچنان یک هنر انسانی باقی می ماند اما تکیه آن به علم و تکنولوژی بیشتر خواهد شد.

در نخستین مورد، نقش هوش مصنوعی در ترجمه اطلاعات هنگام مذاکره پررنگ خواهد بود؛ هوش مصنوعیِ توسعه یافته می تواند نیاز به مترجم در مذاکرات را کاهش دهد. از طرفی، با وجود دسترسی پرسرعت هوش مصنوعی به اطلاعات طبقه بندی شده، این فناوری طراحی شده توسط دولت ها می تواند سریعتر از دیپلمات ها اطلاعات را استخراج کرده و ارائه دهد. در نتیجه دیپلمات ها برای دسترسی به اطلاعاتی که هنگام مذاکره نیاز دارند سرعت بیشتری خواهند داشت.

به گزارش این مجله آمریکایی، هوش مصنوعی در برآورد نظرهای عمومی نیز کاربرد خواهد داشت تا مذاکره کنندگان خیلی زود در مورد آثار احتمالی تصمیم ها در میان افکار عمومی با خبر شوند. همچنین تجزیه و تحلیل ویدئوهای ضبط شده اتاق های مذاکرات، برای تفسیر واکنش های احتمالی طرف مقابل، با کیفیت بیشتری دنبال می شود.

نقش دیگر هوش مصنوعی در طراحی سناریوهای احتمالی اجرایی در مذاکرات است. فارن پالیسی می نویسد: «در طول نخستین دور مذاکرات هسته ای ایران، تیمی در وزارت انرژی ایالات متحده یک نمونه از سایتی هسته ای در ایران ساختند تا تغییرات غنی سازی را آزمایش کنند. در آینده، هوش مصنوعی می تواند سناریوهای آزمایشی را سریع تر و با هزینه بسیار کمتر اجرا کند.»

هوش مصنوعی با ارائه راهکارهایی برای شفافیت روابط بین الملل، ارائه مکانیسم های گفت وگوی بهتر و ایجاد شرایطی برای تضمین تعهدهای طرفین، دولت ها را به طور خودکار به سمت صلح بیشتر می کشانددر عین حال، هوش مصنوعی با طراحی مکانیسم های دریافت غرامت و یا نظارت های دقیق بر اجرای تعهدها، می تواند تضمین های جدی تری برای اجرای توافق ها ایجاد کرده که فضای شک و تردید در روابط بین الملل را تحت شعاع قرار داده و همکاری بین المللی را افزایش می دهد؛ در نتیجه می توان انتظار داشت هوش مصنوعی نقش قابل توجهی در گسترش صلح جهانی با کمک به دیپلماسی داشته باشد.

هوش مصنوعی؛ خوب یا بد؟

این که در نهایت، هوش مصنوعی به صلح بیشتر کمک می کند و یا در خدمت جنگ خواهد بود پرسش اساسی پژوهشگرانی است که رابطه هوش مصنوعی و سیاست بین الملل را بررسی می کنند.

دسته ای از اندیشمندان، آن چه هوش مصنوعی در آینده جهان ایجاد می کند را وابسته به رویکرد و نگرش انسان ها می دانند. برای مثال افرادی که معتقدند انسان ذاتا به دنبال منازعه است طبیعتا وجود هوش مصنوعی را در خدمت منازعه های بیشتر فرض می کنند.
در مقابل گروهی دیگر که انسان را صلح طلب می شناسند، معتقد به خدمت هوش مصنوعی به صلح هستند؛ با این حال گروهی دیگر، هوش مصنوعی را فقط ابزاری در خدمت انسان می دانند که می تواند روش های تعاملات انسانی را متحول کند.
بر این اساس، هوش مصنوعی با ارائه راهکارهایی برای شفافیت روابط بین الملل، ارائه مکانیسم های گفت وگوی بهتر و ایجاد شرایطی برای تضمین تعهدهای طرفین، دولت ها را به طور خودکار به سمت صلح بیشتر می کشاند. از طرفی، اگرچه وجود هوش مصنوعی جنگ ها را ویران کننده تر می کند، ممکن است این فناوری با کاهش خطای محاسباتی رهبران از شروع جنگ جلوگیری کند. در نتیجه رقابت بر سر توسعه هوش مصنوعی لزوما ماهیتی خطرناک ندارد.

«کای فوی لی» متخصص تایوانی هوش مصنوعی در کتابش با عنوان «ابر قدرت های هوش مصنوعی» گفته، مردم باید رقابت بر سر هوش مصنوعی را مانند صادرات نخستین ماشین بخار ببینند، نه مسابقه تسلیحاتی جهانی. به هر حال، دقیق ترین تحلیل ها در مورد آینده آثار هوش مصنوعی، تحلیل هایی مبتنی بر ابهام است. هنوز برای هیچ کس روشن نیست که توسعه و پیشرفت هوش مصنوعی در نهایت به نفع جهان است یا به ضرر آن.

نویسنده:حسین مهدی تبار - تحلیلگر امور بین الملل

منابع:

https://foreignpolicy.com/۲۰۲۳/۰۳/۲۱/ai-artificial-intelligence-diplomacy-negotiations-chatgpt-quantum-computing

https://www.realinstitutoelcano.org/en/analyses/diplomacy-in-the-age-of-artificial-intelligence

https://www.washingtonpost.com/opinions/۲۰۲۲/۱۱/۲۴/artificial-intelligence-risk-kissinger-warning-weapons

https://www.foreignaffairs.com/reviews/review-essay/۲۰۱۸-۱۱-۱۶/beyond-ai-arms-race

https://www.foreignaffairs.com/articles/۲۰۱۹-۰۴-۱۶/killer-apps

https://bigthink.com/the-future/future-of-war-ai

https://www.militarystrategymagazine.com/article/does-artificial-intelligence-change-the-nature-of-war

https://foreignpolicy.com/۲۰۲۳/۰۴/۱۱/ai-arms-race-artificial-intelligence-chatgpt-military-technology