چالش آگاهی در عصر هوش مصنوعی

آگاهی راستین، مفهومی عمیق و چندوجهی است که از دیرباز مورد بحث فلاسفه، دانشمندان و اندیشمندان بوده است. آگاهی راستین به عنوان شناخت و درک عمیق و دقیق انسان از خود، جهان و موقعیت او در اجتماع تعریف می شود.

آگاهی راستین زمانی در افراد شکل می گیرد که چند ویژگی در ساحت شناخت و معرفت او برجسته باشد؛ نخست «خودآگاهی» است یعنی شناخت دقیق نقاط قوت، نقاط ضعف، ارزش ها، باورها و انگیزه های خود؛ دوم «آگاهی از محیط» است یعنی درک عمیق از دنیای پیرامون، اعم از مسائل اجتماعی، سیاسی، اقتصادی و فرهنگی؛ سوم مهارت «تفکر انتقادی» است یعنی توانایی تحلیل و بررسی اطلاعات به طور عمیق و بدون تعصب؛ چهارم «خلاقیت» است یعنی توانایی ارائه ایده ها و راه حل های جدید برای مسائل جدید در یک محیط متغیر و نهایتا «مسئولیت پذیری» است که به پذیرش مسئولیت اعمال و رفتار خود و تعهد به بهبود آنها مربوط می شود.

ارزش آفرینی مولفه های فوق در توسعه فردی، اجتماعی و اقتصادی فرد و جامعه اهمیت دارد زیرا آگاهی راستین به فرد کمک می کند با درک عمیق از خود و محیط پیرامون، تصمیمات آگاهانه تر و بهتری در زندگی بگیرد. همچنین فرد با شناخت خود و دیگران، می تواند روابط قوی تر و عمیق تری برقرار کند. با تفکر انتقادی و خلاقیت، می تواند راه حل های جدید و کارآمدی برای مسائل مختلف پیدا کرده و ضمن رشد و توسعه فردی به ایجاد تغییرات مثبت در جامعه کمک کند زیرا توسعه اجتماعی در ابتدا نیازمند درک عمیق از مسائل اجتماعی، سیاسی و اقتصادی است.

آگاهی راستین به طور ویژه نیز برای دموکراسی و عدالت اجتماعی ضروری است، چون به افراد اجازه می دهد در مورد مسائل اجتماعی و سیاسی به طور انتقادی فکر کنند، در تصمیم گیری های آگاهانه مشارکت کرده و برای تغییر اجتماعی تلاش کنند.

ایجاد و توسعه آگاهی راستین سفری مداوم و بدون پایان است که از راه مطالعه و تفکر، تأمل و مراقبه، اختصاص زمان برای تفکر عمیق و بدون تعصب از دنیای پیرامون، مراقبت از خود، ارتباط و معاشرت با افراد آگاه و نیز خارج شدن از «منطقه امن خود» و کسب تجربه های جدید می گذرد اما این سفر موانع و مشکلات متعددی بر سر راه خود دارد که امر آگاهی راستین را به آگاهی کاذب و نادرست جهت می دهد که در آن افراد درک نادرستی از خود و واقعیت های اجتماعی پیدا می کنند. به طور تاریخی این موانع عبارت اند از:

۱- قدرت: در نظام های اقتدارگرا، صاحبان اقتدار و زور اعم از حاکمان، دیکتاتورها، احزاب سیاسی و نهادهای فرهنگی همواره از ابزارهای مختلفی برای کنترل اطلاعات و شکل دهی به افکار عمومی استفاده می کردند. این ابزارها شامل سانسور، پروپاگاندا، آموزش ایدئولوژی و سرکوب مخالفان بوده است. قدرت در ترکیب با ثروت می تواند از طریق رسانه ها، موسسات آموزشی و سایر منابع، روایت های غالب را شکل داده و آگاهی عمومی را تحت تاثیر خود قرار دهند. گاهی این قدرت می تواند بازیگران بدخیم خارجی باشند دولت ها و شرکت هایی که به دلیل خصومت سیاسی و راهبردی از ابزار جنگ نرم برای آسیب به افکار عمومی جامعه هدف بهره می برند.

۲- جهل: در جوامعی که سطح سواد و آگاهی عمومی پایین بود، مردم بیشتر در معرض شایعات، خرافات و اطلاعات نادرست بوده اند و عموما تابع احساسات و هیجانات آنی و نسنجیده می شوند.

۳- تعصب: تعصبات قومی، مذهبی، جنسیتی و طبقاتی می توانستند در نحوه تفسیر و پردازش اطلاعات توسط افراد نقش داشته و یک مانع جدی در پذیرش حقایقی است که با آن در تقابل است.

۴- ویژگی های روان شناختی و ساختاری ذهن: «سوگیری تأیید» ازجمله ویژگی های ذهن بشر است که آن دسته از حقایق زندگی را می پذیرد که با باورها و نظام هنجاری و روان شناختی او مطابقت دارد. ذهن مایل است اطلاعات جدید دریافتی اطلاعات پیشین او را تایید کند.

۵- فناوری: پیشرفت های فناورانه به ویژه در حوزه اطلاعات و ارتباطات مانند چاپ و رادیو، امکان انتشار اطلاعات را به طور گسترده تر فراهم کرد، اما درعین حال به قدرتمندان و ثروتمندان و سایر ذینفعان بدخیم (قدرت های خارجی) ابزارهای جدیدی برای کنترل و دست کاری اطلاعات داد. در اینجا سوال این است که هوش مصنوعی به عنوان فناوری نوظهور اطلاعاتی، چگونه بر آگاهی راستین اثر می گذارد و آیا می توان تاثیرات آن را مدیریت کرد؟

تاثیرات منفی AI بر آگاهی راستین

بررسی اجمالی نشان می دهد هوش مصنوعی به طرق زیر می تواند بر آگاهی راستین اثر بگذارد:

- افزایش وابستگی شناختی به هوش مصنوعی: با توسعه هوش مصنوعی و فراگیر شدن استفاده از الگوریتم های هوشمند در آموزش و شبکه های اجتماعی و ارتباطی بسیاری از کارکردهای شناختی انسان، از تصمیم گیری تا خلاقیت، درحال وابسته شدن به هوش مصنوعی است. این تغییرات شامل نحوه درک و تجربه جهان نیز می شود زیرا هوش مصنوعی می تواند به انسان در دیدن و شنیدن چیزهایی که در دسترس نیستند و یا با حواس پنج گانه قابل تجربه شدن نیستند کمک کند.

AI با انجام امور پیچیده، زمان بر و خسته کننده می تواند به کمک هوش انسانی آمده تا خلاقیت و نوآوری را افزایش دهد؛ اما این امر ذهن افراد را در استفاده از کارکردهای پیشین هوش انسانی چون استفاده از حافظه، حل مسائل پیچیده، استدلال و تعمق و استفاده از دانش پیشین تنبل و کند کرده و به تدریج وابستگی غیرقابل جبران به هوش مصنوعی همه گیر خواهد شد.

- افزایش سرعت تولید و نشر آگاهی نادرست: هوش مصنوعی می تواند برای انتشار اطلاعات نادرست، جعلی و نفرت افکن به صورت تبلیغات و شایعات استفاده شود. این امر می تواند به ویژه در رسانه های اجتماعی، جایی که افراد به طور فزاینده ای برای دریافت اخبار و اطلاعات خود به آن اتکا می کنند، مشکل ساز شود برای نمونه در سال ۲۰۱۶ ربات های توییتر به طور گسترده برای انتشار اطلاعات نادرست و ایجاد شایعه در انتخابات ریاست جمهوری آمریکا استفاده شدند.

- دست کاری افکار عمومی با اهداف سیاسی: هوش مصنوعی می تواند برای شکل دهی به افکار عمومی از طریق ردیابی رفتار آنلاین افراد و پیش بینی افکار و احساسات آنها مورد استفاده قرار گیرد. این امر می تواند به دست کاری انتخابات، ترویج خشونت و نفرت پراکنی و تضعیف اعتماد به نهادهای دموکراتیک منجر شود. در سال ۲۰۱۸، کمپانی Cambridge Analytica از داده های فیسبوک برای هدف قرار دادن رأی دهندگان با تبلیغات سیاسی شخصی سازی شده استفاده کرد.

- تضعیف عقلانیت و تقویت تعصب افراطی: اساسا حفظ آگاهی راستین از انحراف و دست کاری در حوزه دموکراسی اهمیت ویژه دارد. هوش مصنوعی با افزایش سرعت انتشار اطلاعات نادرست و رساندن هدفمند آن به پروفایل های خرد به روند انتخابات سنجیده و خردمند صدمه می زند زیرا اصل این است که شهروندان با مواجهه با حداکثر ایده ها و عقاید سیاسی دست به انتخاب سنجیده و آزاد بزنند، درحالی که عاملیت انسانی در بستر شبکه های اجتماعی در معرض اطلاعات نفرت افکن، کاذب و نادرست قرار می گیرد و تحت تاثیر فضای نفرت یا طرفداری افراطی از انتخاب شایسته دور نگه داشته می شود.

الگوریتم های هوش مصنوعی از طریق اتاقک های پژواک، ربات های اجتماعی و دیپ فیک می تواند به جای تقویت تفکر و تعقل عمیق، هیجانات و احساسات منفی و افراطی را در میان شهروندان علیه یا له نظام سیاسی، نامزدهای انتخاباتی و فعالان اجتماعی تهییج کند که گاهی خشونت همراه آن به فضای آفلاین هم سرریز می شود. گاهی نیز افراد برای دور ماندن از فشارها و ترس های ناشی از طوفان هشتک ها و منش های ربات های فعال در شبکه های اجتماعی، انزوای سیاسی و اجتماعی را انتخاب می کند.

- ایجاد اجماع جعلی: هوش مصنوعی می تواند از طریق ربات های اجتماعی و تولید هویت های جعلی و مصنوعی، ایجاد کمپین های دروغین، جعل عمیق و سایر اشکال فریب استفاده شود. این امر می تواند به آسیب رساندن به شهرت افراد و ایجاد محبوبیت کاذب برای افراد غیر مستحق و موضوعات نادرست و جعلی در حوزه سلامت عمومی، باورهای ملی و... کمک کند.

- محدود کردن دسترسی به اطلاعات: هوش مصنوعی از طریق الگوریتم های طبقه بندی مخاطبان که به حباب های فیلتر معروف است افراد را در معرض اطلاعات محدود و موافق با دیدگاه های خودشان قرار می دهد و آنان را در غارهای اطلاعاتی محدود حبس می کند بدون آنکه در معرض اطلاعات متفاوت دیگر قرار گیرند.

- کاهش مهارت های تفکر انتقادی: اعتیاد به استفاده از تحلیل ها و توصیه های هوش مصنوعی علاوه بر اینکه قابلیت های استدلالی و تحلیلی ذهن را تضعیف می کند، می تواند مهارت های تفکر انتقادی را کاهش دهد و آگاهی افراد در معرض اطلاعات نادرست و تبلیغاتی بیشتر آسیب ببیند. فرد به مرور زمان با دریافت خدمات رایگان از شبکه های مجازی به اطلاعات این فضا اعتماد پیدا می کند و کمتر مایل است صحت درستی و نادرستی انبوه اطلاعات دریافتی در روز را بررسی کند.

- فقدان شفافیت در تحلیل اطلاعات: بسیاری از الگوریتم های هوش مصنوعی مانند جعبه سیاه عمل می کنند، به این معنی که درک نحوه عملکرد تحلیل و استنباطی آنها دشوار است. این امر می تواند همراه با نتایج و کارکردهای از هوش مصنوعی شود که بخشی از آگاهی جامعه را دست کاری و جهت دهی کند؛ مانند الگوریتم های فیلتر حباب که افراد را در غارهای اطلاعاتی مشابه و همگن حبس کرده بخشی از اطلاعات از منظر افراد دور می شود.

- سوگیری الگوریتمی: الگوریتم های هوش مصنوعی می توانند سوگیری های موجود در داده هایی که آموزش دیده اند را منعکس و تقویت کنند. داده هایی که برای آموزش الگوریتم ها استفاده می شوند، غالبا سوگیری های ذاتی توسعه دهندگان و طراحان را منعکس می کنند. سوگیری ای که ناشی از نوع جهان بینی، آگاهی طبقاتی، جنسیتی و سیاسی و قومی آنهاست.

این سوگیری ها می توانند از طریق انتخاب منابع داده، نحوه جمع آوری داده ها و نحوه برچسب گذاری داده ها وارد شوند. به عنوان مثال اگر الگوریتمی برای تشخیص چهره با استفاده از داده هایی آموزش داده شود که عمدتا از افراد سفیدپوست تشکیل شده باشد، احتمالا در تشخیص چهره افراد با رنگین پوستان کمتر دقیق خواهد بود.

- ایجاد کلیشه های کاذب هویتی و جنسیتی: هوش مصنوعی بر آگاهی زنان و جوانان که مصرف کنندگان اصلی شبکه های اجتماعی هستند تاثیر بیشتری دارد. برای نمونه AI از طریق بات های اجتماعی و فناوری دیپ فیک برای ایجاد و انتشار ویدئوهای جعلی و تصاویر فتوشاپی استفاده می شود تا علیه زنان فعال اجتماعی شایعه و تصویرسازی منفی کند. همچنین هوش مصنوعی می تواند کلیشه های جنسیتی را در تبلیغات و محتوای آنلاین تقویت کند. فشار برای تناسب اندام ایده آل های زیبایی غیر قابل دسترس را در زنان افزایش دهد.

مهم ترین تأثیر هوش مصنوعی بر جوانان شکل گیری هویت شناختی نوجوانان و جوانان مبتنی بر انبوه اطلاعات نادرست و مغرضانه ای است که آنان را از مزایای راستین در زندگی فردی و اجتماعی دور می کند، کاهش مهارت تفکر انتقادی در جوانان از نتایج قرار گرفتن طولانی مدت در معرض اطلاعات نادرستی است که از طریق انواع هوش مصنوعی در فضای مجازی تولید و انتشار می یابد.

مزایای AI در تقویت آگاهی راستین

تاثیرات مخرب هوش مصنوعی بر آگاهی راستین و تولید آگاهی کاذب همه قصه این فناوری نیست و مشارکت آن باهوش انسانی مزایای پرشماری برای آگاهی راستین در بر دارد. ازجمله:

- افزایش پتانسیل خلاقیت و نوآوری بشر: هوش مصنوعی می تواند به انسان ها در انجام کارهایی که قبلا غیرممکن بود کمک کند و به آنها امکان می دهد به ایده ها و نظریاتی جدید در حوزه علم و هنر دست پیدا کنند که در سابق نیازمند صرف زمان و هزینه بسیار بود.

- افزایش دسترسی به اطلاعات: هوش مصنوعی دسترسی به اطلاعات و داده های پنهان و غیرقابل مشاهده را افزایش می دهد و به افراد امکان می دهد در مورد موضوعات مختلف آگاهی متنوعی کسب کنند.

- تحلیل اطلاعات کلان: هوش مصنوعی می تواند به تحلیل و تفسیر حجم عظیمی از داده ها کمک کند و با دقت بالا و زمان کم، روندهای مورد نظر را پیش بینی کند (به ویژه در حوزه سلامت، محیط زیست و اقتصاد) امری که از توان ذهن انسان خارج است و در حل مسائل پیچیده و شرایط متغیر و بحرانی بسیار کاربردی است.

- افزایش سرعت کسب آگاهی: به نسبت گذشته و رویکردهای سنتی در دریافت اطلاعات همچون کتاب، رادیو و تلویزیون، از طریق هوش مصنوعی می توان در یک زمان کوتاه اطلاعات دسته بندی و دقیق تری را در اختیار گرفت بدون آنکه فرد زمان زیادی را بین اسناد و کسب شواهد و قراین پرشمار صرف کند.

- یادگیری شخصی: هوش مصنوعی می تواند تجربیات یادگیری را شخصی سازی کند و به افراد در یادگیری موثرتر با توجه به پروفایل روان شناختی فرد و شرایط یادگیری او کمک کند.

- افزایش آگاهی از سوگیری: هوش مصنوعی می تواند به ما در آگاهی از سوگیری های خود و دیگران کمک کند البته چنانچه نسبت به آن آموزش لازم را دیده باشد و الگوریتم های شناسایی اطلاعات جعلی توسعه بیشتری یابد.

راهکارها و درس های سیاستی

سوال نهایی آن است که با توجه به مزایا و تاثیرات منفی هوش مصنوعی بر آگاهی راستین مهم ترین راه حل ها کدام است؟ صاحب نظران به گزینه های فنی و آموزشی زیر بیشترین تاکید را دارند.

- آموزش و تقویت مهارت تفکر انتقادی: مراجع آموزشی و تربیتی می توانند به افراد کمک کنند تا از طریق تفکر انتقادی، ابعاد مختلف آگاهی راستین خود را حفظ کنند و در زندگی فردی و اجتماعی تصمیمات آگاهانه، ارادی و سنجیده بگیرند.

- آموزش سواد دیجیتال: آموزش افراد برای اینکه بتوانند اطلاعات نادرست و تبلیغات را از منابع معتبر و غیر معتبر شناسایی و رد کنند. این موضوع باید با آموزش قابلیت های مثبت و منفی هوش مصنوعی و کاربردهای هنجارمند آن نیز همراه شود.

- تقویت مسئولیت پذیری: افراد باید در قبال اطلاعاتی که به اشتراک می گذارند مسئولیت پذیر باشند و منابع اطلاعات خود را بررسی کنند.

- توسعه هوش مصنوعی قابل اعتماد و مسئولیت پذیر: دور شدن از معایب هوش مصنوعی در حوزه آگاهی، نیازمند توسعه نوعی از فناوری است که سوگیری شناختی در آن به حداقل رسیده باشد و نیز مستلزم ترویج استفاده مسئولانه از هوش مصنوعی است به نحوی که کاربران و توسعه دهندگان هوش مصنوعی تضمین بدهند که از آن برای دست کاری آگاهی استفاده نکنند.

- افزایش شفافیت و تنوع در تیم های توسعه هوش مصنوعی: تنوع در پیشینه ها، تجربیات و دیدگاه ها می تواند به شناسایی و کاهش سوگیری شناختی در الگوریتم ها کمک کند. همچنین شفاف سازی نحوه عملکرد الگوریتم ها و داده هایی که برای آموزش آنها استفاده می شوند، می تواند به شناسایی و رفع سوگیری ها کمک کند.

برای مدیریت تاثیرات مخرب هوش مصنوعی باید به این نکته مهم توجه داشت که این فناوری در مقایسه با عوامل اثرگذار تاریخی، همچون دولت های پوپولیست، ایدئولوژی و رسانه های سنتی؛ قدرت نفوذ و اثر بیشتری بر آگاهی راستین دارد. در این راستا پنهان و نامحسوس بودن تأثیر هوش مصنوعی ویژگی ای برجسته است.

الگوریتم های هوش مصنوعی می توانند بسیار پیچیده و غیرقابل فهم عمل کنند لذا ردیابی و شناسایی نحوه دست کاری اطلاعات و آگاهی توسط آنها دشوار است. سرعت و دقت عمل هوش مصنوعی نیز بسیار بیشتر هوش مصنوعی می تواند اطلاعات را با سرعت و به طور دقیق به افراد مختلف هدف گذاری شده ارائه دهد.

نتیجه گیری

امروزه هوش مصنوعی ابزاری قدرتمند است که می تواند برای دست کاری انواع آگاهی فردی و اجتماعی استفاده شود. درعین حال باید پذیرفت در عصر حاضر، آگاهی راستین ترکیبی از عاملیت انسانی و عاملیت ماشین شده است که باید از ترکیب اخلاقی و مسئولیت پذیر آن صیانت کرد البته این صیانت نه تنها مستلزم توسعه هوش مصنوعی مسئولیت پذیر و اخلاقی بوده که نیازمند عاملیت انسانی است که به صورت مادام العمر در معرض یادگیری باشد و همگام با تحولات فناورانه در حوزه ارتباطات و اطلاعات مهارت های استدلالی لازم را دریافت کند.

بر اساس نظریه سایبرنتیک با توسعه روزافزون فناوری های هوشمند، انسان ناچار است شکل تعامل خود با ماشین های هوشمند را بازبینی کرده به نحوی که با جسم، روح و آگاهی او یک جهان یکپارچه و هماهنگ را ایجاد کند.

منابع مورد استفاده:

Manzotti, R. (۲۰۰۷). From artificial intelligence to artificial consciousness. Artificial consciousness, ۱۷۴-۱۹۰.‏

Meissner, G. (۲۰۲۰). Artificial intelligence: consciousness and conscience. AI & SOCIETY, ۳۵, ۲۲۵-۲۳۵.‏

Ali Elfa, M. A., & Dawood, M. E. T. (۲۰۲۳). Using Artificial Intelligence for enhancing Human Creativity. Journal of Art, Design and Music, ۲(۲), ۳.‏

Mazzone, M., & Elgammal, A. (۲۰۱۹, February). Art, creativity, and the potential of artificial intelligence. In Arts (Vol. ۸, No. ۱, p. ۲۶). MDPI.‏

Marien, M. (۲۰۱۴). The second machine age: Work, progress, and prosperity in a time of brilliant technologies. Cadmus, ۲(۲), ۱۷۴.‏

Gruner, D. T., & Csikszentmihalyi, M. (۲۰۱۹). Engineering creativity in an age of artificial intelligence. The Palgrave Handbook of Social Creativity Research, ۴۴۷-۴۶۲.‏

Dong, Y., Hou, J., Zhang, N., & Zhang, M. (۲۰۲۰). Research on how human intelligence, consciousness, and cognitive computing affect the development of artificial intelligence. Complexity, ۲۰۲۰, ۱-۱۰.‏

European Parliamentary, (۲۰۱۹) Regulating disinformation with artificial intelligence, European Parliamentary Research Service Scientific (EPRS) Foresight Unit, PE ۶۲۴.۲۷۹

Allcott, H., & Gentzkow, M. (۲۰۱۷). Social media and fake news in the ۲۰۱۶ election. Journal of Economic Perspectives, ۳۱(۲), ۲۱۱-۲۳۶.

نویسنده:راضیه مهرابی کوشکی، عضو هیات علمی پژوهشکده مطالعات فناوری