هوش‌مصنوعی‌زدگی: از برون‌سپاری فکری تا بحران حکمرانی

نویسنده: دکتر فرزاد محمدی، کارشناس مطالعات راهبردی

دیپلماسی ایرانی: از حدود سال ۲۰۱۰ با گسترش گوشی‌های هوشمند، شبکه‌های اجتماعی و موتورهای جست‌وجو، هوش مصنوعی وارد زندگی روزمره شد و از یک ابزار تخصصی به زیرساختی تأثیرگذار در حوزه‌های مختلف تبدیل گردید. امروز این فناوری در اقتصاد سرعت تولید و تجارت را افزایش داده، در آموزش نقش معلم و شیوه یادگیری را دگرگون کرده، در فرهنگ و رسانه بر شکل‌گیری سلیقه و افکار عمومی اثر می‌گذارد و در امنیت نیز شیوه تحلیل تهدید و مدیریت بحران را تغییر داده است.

بر اساس گزارش منتشره توسط دانشگاه استنفورد با عنوان «شاخص هوش مصنوعی ۲۰۲۴» و چند گزارش بین‌المللی دیگر، سرمایه‌گذاری خصوصی آمریکا در حوزه هوش مصنوعی به حدود ۱۰۹ میلیارد دلار رسیده که تقریباً ۱۲ برابر چین است و بیش از ۷۸ درصد سازمان‌ها در جهان اعلام کرده‌اند که از نوعی هوش مصنوعی در کار خود استفاده می‌کنند. در آموزش، طبق برخی آمارها بیش از ۶۰ درصد معلمان آمریکایی و اروپایی و حدود ۸۰ تا ۹۰ درصد دانش‌آموزان و دانشجویان از ابزارهای هوش مصنوعی در روند تدریس و یادگیری استفاده می‌کنند. در حوزه فرهنگ و رسانه نیز، برآوردها نشان می‌دهد حدود ۸۰ تا ۹۰ درصد بازاریابان دیجیتال در کشورهای مختلف از الگوریتم‌های هوش مصنوعی برای تحلیل داده‌ها و هدف‌گیری محتوا بهره می‌برند. (Walton Family Foundation & RAND Corporation, 2024; Stanford Institute for Human-Centered AI, 2024; UNESCO, 2024).

نکته بسیار مهم این است که در کنار این تحولات، یک تغییر مهم‌تر رخ‌داده که باید بیش از همه‌چیز به آن پرداخت و آن هم واگذار کردن بخشی از اندیشه‌ها و تحلیل‌ها به ماشین‌ها و الگوریتم‌ها است. کاری که سرعت را بالا می‌برد، اما توان تفکر مستقل را کم‌رنگ می‌کند. اگر جوامع و کشورها بدون برنامه‌ریزی در این بخش جلو بروند، آینده جهان می‌تواند با چند مشکل جدی روبه‌رو شود. ازجمله این مشکلات می‌شود به وابستگی زیاد به تصمیم‌های خودمختار، نابرابری بیشتر بین جوامع دارای فناوری و جوامع محروم و در انتها کاهش قدرت انتخاب انسان در مسائل مهم و راهبردی اشاره کرد. این یعنی موضوع دیگر فقط استفاده از فناوری نیست؛ بحث اصلی این است که چگونه توان فکرکردن و تحلیل ما در کنار این ابزارها حفظ شود.

پیشرفت بشر، در همه زمینه‌ها ازجمله علم و فناوری تا سیاست، فرهنگ، امنیت و... محصول نیرویی است که فقط در انسان جمع شده است، قدرت تعقل، تخیل و قضاوت اخلاقی. اگر امروز به این نقطه از تمدن رسیده‌ایم، نه به خاطر ابزارها بلکه به دلیل ذهن انسانی است که توانسته مسئله‌سازی کند، راه‌حل بیافریند و از دل بحران‌ها نوآوری بیرون بکشد. بحران‌هایی که امروز در جهان می‌بینیم نیز انسانی هستند. انسانی بودن بحران یعنی محصول تصمیم‌ها، ارزش‌ها و منازعات بشر؛ بنابراین حل آن‌ها هم نیازمند فکر انسانی است، نه صرفاً تکیه بر محاسبات ماشینی.

انسان ظرفیت‌هایی دارد که هیچ الگوریتمی نمی‌تواند جایگزین آن شود؛ مانند عاطفه، شهود، فهم اخلاقی و توان داوری در موقعیت‌های پیچیده. سپردن تصمیم‌گیری به ماشین این توان‌ها را که اساس پیشرفت بشر بوده‌اند تضعیف می‌کند. فناوری می‌تواند ابزار کمکی باشد، اما وابستگی کامل به سامانه‌های هوشمند خطرناک است؛ زیرا تعقل، قضاوت ارزشی و حل مسئله انسانی را کمرنگ کرده و ما را از توانایی‌هایی که تمدن‌ها بر آن بنا شده‌اند دور می‌کند. به همین دلیل نباید تصمیم‌سازی را به‌طور مطلق به هوش مصنوعی واگذار کرد. در یک جمع‌بندی کلی در این بخش دلایل زیر را می‌شود به‌عنوان دلایل عدم وابستگی محض به هوش مصنوعی بیان کرد:

۱- ماشین نمی‌تواند جایگزین قضاوت اخلاقی شود.

۲- ماشین نمی‌تواند پیچیدگی‌های عاطفی، انسانی و اجتماعی را درک کند.

۳- ماشین نمی‌تواند مسئولیت‌پذیر باشد یا پاسخگوی خطاها.

۴- اگر انسان توان فکر کردن، پرسشگری و داوری‌اش را کنار بگذارد، همان چیزی را که تمدن بشر را ساخته تضعیف می‌کند.

۵- هر سیستم ماشینی، هرچقدر هم پیشرفته باشد، خطا، سوگیری و محدودیت دارد. تکیه کامل به آن، تعلیق اختیار انسان را در پی خواهد داشت.

آنچه را تاکنون بیان کردیم، امروز می‌شود آن را به‌عنوان هوش‌مصنوعی‌زدگی معرفی کرد. در اصل این موضوع صورت‌بندی جدیدی از همان برون‌سپاری فکری انسان است؛ یعنی سپردن بخش‌هایی از اندیشیدن، تحلیل و حتی قضاوت به سامانه‌هایی که جایگزین ظرفیت‌های درونی بشر می‌شوند. این روند تصادفی نیست و ریشه در چند عامل دارد؛ راحت‌طلبی و تمایل طبیعی انسان به کاهش بار شناختی، پیچیده‌تر شدن بحران‌ها و مسائلی که حل آن‌ها نیازمند پردازش‌های چندسطحی است، سرعت رشد فناوری‌ها که انتظار پاسخ‌های فوری را ایجاد کرده، ناهماهنگی میان توسعه دیجیتال و زیرساخت‌های حکمرانی که انسان را به ابزارهای هوشمند وابسته‌تر می‌کند و گسترش فضای سایبری و زیست مجازی که الگوهای تصمیم‌گیری را تغییر داده است.

برون‌سپاری فکری فرآیندی است که در ظاهر کارآمد می‌باشد اما در عمق، ظرفیت تفکر مستقل و قدرت قضاوت راهبردی را تضعیف می‌کند. هنگامی‌که تصمیم‌گیران سیاسی، نظامی یا اقتصادی برای ساده‌سازی پیچیدگی محیط، افزایش سرعت پردازش یا کاهش بار شناختی، به ابزارهای هوش مصنوعی تکیه می‌کنند، در عمل مرز میان کمک فکری و جایگزینی فکری کمرنگ می‌شود. پیامد این روند، کاهش مهارت‌های تحلیلی انسانی، آسیب‌پذیری در برابر سوگیری الگوریتمی و وابستگی ساختاری به نظام‌هایی است که نه مسئولیت‌پذیرند و نه قادر به فهم زمینه‌های انسانی تصمیم‌ها. برون‌سپاری فکری اگر بدون نظارت، سواد فناورانه و سازوکارهای کنترل انسانی انجام شود، می‌تواند به اختلال در حلقه تصمیم‌سازی راهبردی، کاهش توان سنجش مخاطرات و از دست رفتن ابتکار عمل در محیط‌های پیچیده و امنیتی منجر شود.

بر مبنای مباحث مطرح شده درباره هوش‌مصنوعی‌زدگی و روند فزاینده برون‌سپاری فکری، می‌توان نشان داد که این پدیده در سه سطح فردی، سازمانی و حکمرانی پیامدهای متمایز اما به‌هم‌پیوسته‌ای ایجاد می‌کند. در سطح فردی، اتکای روزافزون به سامانه‌های هوشمند موجب برون‌سپاری فکری و تضعیف تدریجی مهارت‌های تحلیلی، قضاوت شخصی و توان پردازش انتقادی می‌شود؛ فرآیندی که از کاهش بار شناختی آغاز می‌گردد اما به وابستگی ساختاری منتهی می‌شود.

در سطح سازمانی، وابستگی به الگوریتم‌ها به شکل برون‌سپاری تصمیم بروز می‌کند و می‌تواند ساختار تصمیم‌سازی را به سمت سرعت، استانداردسازی و اتکای بیش‌ازحد به داده‌ها سوق دهد؛ امری که کارآمدی کوتاه‌مدت ایجاد می‌کند اما در بلندمدت انعطاف‌پذیری، سنجش خطا و مسئولیت‌پذیری را کاهش می‌دهد.

در سطح حکمرانی هم گسترش استفاده از هوش مصنوعی بدون چارچوب‌های کنترلی و نظارت انسانی، خطر شکل‌گیری بحران مشروعیت و مسئولیت را به همراه دارد؛ زیرا تصمیم‌هایی که تحت نفوذ یا کنترل سامانه‌های غیرپاسخگو گرفته می‌شوند، مرز میان اختیار انسانی و ماشینی را مخدوش می‌کنند و اعتماد عمومی به نظام حکمرانی را تضعیف می‌سازند. به‌این‌ترتیب، هوش‌مصنوعی‌زدگی نه‌فقط تغییری فناورانه، بلکه تحولی چندسطحی است که از رفتار فردی آغاز می‌شود، در کارکرد سازمانی تثبیت می‌گردد و نهایتاً معماری مشروعیت در سطح حکمرانی را تحت تأثیر قرار می‌دهد.

هوش‌مصنوعی‌زدگی در حکمرانی زمانی پدید می‌آید که دولت‌ها آن‌قدر به سامانه‌های داده‌محور تکیه کنند که قضاوت انسانی و فهم زمینه‌های اجتماعی کم‌رنگ شود. این وضعیت در چهار حوزه اصلی قابل مشاهده است:

۱- در حوزه اقتصادی، الگوریتم‌ها می‌توانند بهره‌وری و شفافیت را افزایش دهند، اما اتکای صرف به آن‌ها ممکن است گروه‌های متوسط به پایین جامعه در داده‌ها مانند محرومان یا کسب‌وکارهای کوچک را از سیاست‌گذاری عادلانه خارج کند.

۲- در حوزه سیاسی، ابزارهای تحلیل افکار عمومی شفافیت و مشارکت را تقویت می‌کنند، اما اگر سیاست‌گذار به داده‌ها وابسته شود، فرآیند سیاسی به پوپولیسم هدفمند، دستکاری اطلاعات و ایجاد حباب‌های شناختی سوق پیدا می‌کند.

۳- در بخش فرهنگی–اجتماعی، سامانه‌های هوشمند می‌توانند روندهای فرهنگی و رسانه‌ای را پایش کنند، اما تعیین خودکار محتوای مناسب خطر تبدیل حکمرانی فرهنگی به مدیریت ماشینی سلیقه‌ها را به‌دنبال دارد و فضای فرهنگی را از کنترل انسانی دور می‌کند.

۴- در حوزه نظامی–امنیتی، فناوری‌های هوشمند سرعت تصمیم‌گیری و دقت عملیاتی را افزایش می‌دهند، اما وابستگی کامل به آن‌ها می‌تواند نقش فرمانده، مشروعیت تصمیم‌ها و مدیریت خطا را تضعیف کند، همان‌گونه که خطاهای سامانه‌های خودکار در جنگ‌ها نشان داده‌اند.

اگر هوش‌مصنوعی‌زدگی از مرحله کمک فکری به برون‌سپاری کامل فکری برسد، معماری حکمرانی در سه سطح دچار اختلال می‌شود. در سطح فردی تحلیل و داوری مسئولان کاهش می‌یابد، در سطح سازمانی ساختار تصمیم‌سازی ماشینی و کم‌انعطاف می‌شود و در سطح حکمرانی مشروعیت و مسئولیت‌پذیری آسیب می‌بیند. خطر اصلی وابستگی شناختی به ابزار است؛ وضعیتی که تصمیم‌ها را از ارزیابی انسانی به مدار خودکارسازی منتقل کرده و نسبت به زمینه‌های اجتماعی و اخلاقی بی‌توجه می‌کند.

در عصر حاضر که معروف به عصردیجیتال است، تصمیم‌سازی ترکیبی از داده، الگوریتم و قضاوت انسانی می‌باشد. این تحول ظرفیت دولت‌ها را افزایش می‌دهد، اما بدون کنترل می‌تواند به ماشینی‌شدن حکمرانی و فاصله گرفتن دولت از جامعه بینجامد؛ جایی که سرعت و پیش‌بینی جایگزین معنا، اخلاق و تجربه می‌شوند.

آینده‌ای پایدار در این سرعت باورنکردنی در تغییرات، زمانی شکل می‌گیرد که دولت‌ها از هوش مصنوعی برای تقویت خرد انسانی استفاده کنند، نه جایگزینی آن و مرز روشنی میان کمک به تصمیم و تصمیم‌سازی هوشمند ترسیم شود. در ادامه چند پیشنهاد برای جلوگیری از آسیب‌های هوش‌مصنوعی زدگی و بحران برون‌سپاری فکری بیان خواهیم کرد:

۱. ایجاد مدیریت‌های مستقل ارزیابی پیامدهای هوش مصنوعی در نهادها و سازمان‌های سیاست‌گذار.

۲. طراحی چارچوب و دستورالعمل پایش انسانی بر سامانه‌های هوشمند در تمامی بخش‌ها.

۳. آموزش راهبردی مدیران و بدنه کارشناسی.

۴. تشکیل و توسعه آزمایشگاه‌های بومی حکمرانی مبتنی بر هوش مصنوعی.

۵. تقویت سامانه‌های مشارکت عمومی و بازخوردگیری از جامعه در خصوص مسائل حکمرانی برگرفته از هوش مصنوعی.

۶. توسعه مدل‌های بومی به‌جای استفاده کامل از پلتفرم‌های بین‌المللی (این مهم به معنای حذف و یا نادیده گرفتن آن‌ها نیست، بلکه انجام برنامه‌ریزی مناسب جهت گسترش و توسعه زیرساختی برای رقابت‌های آتی است).