از ظهور تا استقرار جهانی

نویسنده: نادیا ملانسب، پژوهشگر حقوق بین‌الملل

دیپلماسی ایرانی: پروژه Maven را می‌توان یکی از مهم‌ترین تلاش‌های وزارت دفاع ایالات متحده برای پیوند دادن انقلاب هوش مصنوعی با ساختار عملیاتی و اطلاعاتی ارتش آمریکا دانست. شکل‌گیری این پروژه نه صرفاً نتیجه یک نیاز فناورانه، بلکه حاصل یک دیدگاه راهبردی بود که می‌کوشید سرمایه‌گذاری‌های نوظهور حوزه هوش مصنوعی را به نیازهای امنیت ملی متصل کند. در این نگاه، هزینه‌های دفاعی دولت باید به ابزاری برای ایجاد بازار و کسب درآمد برای شرکت‌های نوپای هوش مصنوعی تبدیل می‌شد تا این شرکت‌ها به جای جست‌وجوی مشتری در کشورهای دیگر، به ویژه چین، در مدار راهبردی آمریکا باقی بمانند. بر همین اساس، حمایت مستمر از Maven به بستری برای تجاری‌سازی پژوهش‌های هوش مصنوعی و جذب شرکت‌های بزرگ فناوری تبدیل شد و بازیگرانی مانند خدمات وب آمازون و مایکروسافت به ارائه زیرساخت‌های جنگ الگوریتمی برای این پروژه روی آوردند.

خاستگاه پروژه: ناکامی در میدان نبرد

نقش درو کوکور در این روند بسیار برجسته بود. او که بعدها از سوی الکس کارپ، مدیرعامل پالانتیر، «پدر بنیانگذار هدف‌گیری هوش مصنوعی» نام گرفت، از سال‌ها حضور در جنگ افغانستان و عراق به این نتیجه رسیده بود که ساختار سنتی اطلاعات نظامی توانایی بهره‌برداری مؤثر از حجم عظیم داده‌های موجود را ندارد. در میدان نبرد، اطلاعات فراوانی درباره محل اختفای طالبان، غارها، انبارهای تسلیحاتی و ویژگی‌های جغرافیایی وجود داشت، اما این اطلاعات در نرم‌افزارهای جداگانه و پراکنده نگهداری می‌شدند. تحلیلگران ناچار بودند میان اکسل، ورد، پاورپوینت و گوگل ارث جابه‌جا شوند و هیچ سامانه‌ای وجود نداشت که داده‌ها را به دانش و اقدام تبدیل کند. کوکور خواهان تغییری بنیادین بود؛ او می‌خواست مکان نیروهای دوست و دشمن روی نقشه‌ای معنادار قابل مشاهده باشد و شبکه‌ای مشترک میان انسان، ماشین، صنعت و دانشگاه شکل بگیرد.

تجربه جنگ‌های طولانی موجب شده بود که کوکور از ناتوانی سازمان‌های اطلاعاتی در اتصال نقاط مختلف اطلاعاتی خسته شود. از نگاه او، هر بار که نیروهای جدید وارد منطقه می‌شدند، ناچار بودند شناخت دشمن را از نو آغاز کنند و بخش بزرگی از حافظه عملیاتی از بین می‌رفت. همین مسئله او را به سمت راه‌حل‌های مبتنی بر تحلیل داده سوق داد. در مقام رئیس تحلیل و آینده‌نگری در اداره اطلاعات ستاد فرماندهی تفنگداران دریایی، کوکور به پالانتیر توجه ویژه‌ای نشان داد. پالانتیر که پیش‌تر همکاری گسترده‌ای با جامعه اطلاعاتی آمریکا داشت، یک پلتفرم مدیریت داده ارائه می‌کرد که می‌توانست روابط میان داده‌ها را آشکار سازد. این شرکت نه تنها داده‌ها، بلکه پیوندهای میان آنها را نیز برچسب‌گذاری می‌کرد و مسیر حسابرسی کاملی از نحوه شکل‌گیری هر نتیجه‌گیری تحلیلی ارائه می‌داد.

نقش شرکت‌های فناوری در پروژه Maven

ریشه‌های پالانتیر نیز به پیوند میان فناوری و امنیت ملی بازمی‌گشت. این شرکت در سال ۲۰۰۳ با ابتکار پیتر تیل تأسیس شد. ایده اصلی آن بود که روش‌های مقابله با کلاهبرداری آنلاین بتوانند برای مدیریت داده‌های حساس دولتی نیز به کار روند. پس از سرمایه‌گذاری دو میلیون دلاری این-کیو-تل، بازوی سرمایه‌گذاری فناوری سیا، پالانتیر توانست جایگاه خود را در جامعه اطلاعاتی تثبیت کند. اهمیت این شرکت تنها در ذخیره داده‌ها نبود، بلکه در توانایی آن برای آشکار کردن ارتباطات پنهان میان افراد، مکان‌ها و رویدادها قرار داشت. همین ویژگی سبب شد که کوکور و همکارانش آن را ابزاری مناسب برای حل مشکلات مزمن تحلیل اطلاعات بدانند.

در همین دوره، پژوهشگران دانشگاهی نیز در توسعه رویکردهای جدید تحلیل شبکه نقش داشتند. کاتلین کارلی، دانشمند علوم اجتماعی محاسباتی دانشگاه کارنگی ملون، نرم‌افزارهایی توسعه داده بود که می‌توانستند افراد کلیدی در شبکه‌ها را شناسایی کرده و پیامد حذف یا دستگیری آنها را پیش‌بینی کنند. این ابزارها امکان مدل‌سازی بازسازی شبکه‌ها پس از حذف یک عضو را فراهم می‌کردند و نشان می‌دادند که تحلیل داده و الگوریتم‌ها چگونه می‌توانند به تصمیم‌گیری‌های امنیتی و عملیاتی شکل دهند.

زمینه شکل‌گیری ماون با گسترش جنگ پهپادی نیز ارتباط مستقیم داشت. تا سال ۲۰۱۶ آمریکا سه میلیارد دلار برای پرواز پهپادها هزینه می‌کرد و عملیات‌های گسترده‌ای در افغانستان، عراق، شمال آفریقا و شرق آفریقا انجام می‌داد. پهپادها حجم عظیمی از تصاویر و ویدئوها تولید می‌کردند، اما تحلیل این داده‌ها به نیروی انسانی فراوان نیاز داشت. در عین حال، حملات پهپادی گاه به کشته شدن غیرنظامیان در عروسی‌ها، بیمارستان‌ها، بازارها و مناطق مسکونی منجر می‌شد. حامیان هوش مصنوعی استدلال می‌کردند که الگوریتم‌ها می‌توانند دقت هدف‌گیری را افزایش دهند، تلفات غیرنظامیان را کاهش دهند و حتی از آتش خودی جلوگیری کنند.

در چنین فضایی، کوکور به سیلیکون ولی روی آورد. او معتقد بود که بهترین استعدادهای هوش مصنوعی در شرکت‌های نوپای فناوری حضور دارند، نه در پیمانکاران سنتی دفاعی. نتیجه این رویکرد، شکل‌گیری پروژه Maven بود که به بزرگ‌ترین سرمایه‌گذاری هوش مصنوعی وزارت دفاع تبدیل شد. این پروژه با بودجه اولیه ۴۰.۸ میلیون دلار آغاز شد و هدف آن استفاده از هوش مصنوعی، کلان‌داده و یادگیری عمیق برای تحلیل تصاویر پهپادها و ارائه اطلاعات عملیاتی سریع بود. برنامه اولیه بر مبارزه با داعش متمرکز بود، اما از همان ابتدا چشم‌انداز گسترش به سایر مأموریت‌های اطلاعاتی نیز در آن دیده می‌شد.

پیاده‌سازی Maven مستلزم توسعه الگوریتم‌های متفاوت برای انواع مختلف پهپادها بود. پهپادهای تاکتیکی کوچک، پهپادهای تهاجمی با مداومت پروازی بالا و سامانه‌های بزرگ‌تری مانند MQ-9 Reaper هر یک حسگرها، قالب‌های داده و شرایط عملیاتی متفاوتی داشتند. برخی از این سامانه‌ها به حسگرهای تصویربرداری منطقه وسیع مجهز بودند که می‌توانستند کل یک شهر را زیر نظر بگیرند. برخی دیگر از رادار روزنه مصنوعی یا حسگرهای مادون قرمز استفاده می‌کردند. هر نوع داده نیازمند الگوریتم اختصاصی بود و بخش عمده کار به جمع‌آوری و برچسب‌گذاری داده‌های آموزشی اختصاص داشت.

برای تحقق این هدف، Maven مجموعه‌ای از شرکت‌های نوآور را گرد هم آورد. مت زیلر و شرکت کلاریفای از جمله مهم‌ترین آنها بودند. زیلر که در مسابقات بینایی رایانه‌ای موفقیت چشمگیری کسب کرده بود، همراه با شرکت‌هایی مانند  IDenTV، Pilot AI  و Xnor وارد این پروژه شد. رویکرد کوکور مبتنی بر ایجاد رقابت میان استارت‌آپ‌ها بود تا نوآوری با سرعت بیشتری پیش برود. طی چند ماه، این شرکت‌ها داده‌های جمع‌آوری‌شده از سامانه‌های آمریکایی را پردازش کردند و الگوریتم‌هایی برای تشخیص اشیا و حرکات توسعه دادند. در نهایت نیز نخستین الگوریتم بینایی رایانه‌ای Maven تنها هشت ماه پس از آغاز پروژه در یک منطقه جنگی خارج از کشور مستقر شد.

گوگل نیز در مراحل اولیه نقش مهمی در Maven داشت. بخش گوگل کلود که به دنبال مشتریان جدید و گسترش نفوذ خود بود، الگوریتم‌های بینایی رایانه‌ای را برای این پروژه توسعه داد. هدف فراتر از تشخیص ساده اشیا بود و شامل تشخیص صحنه، هشدار رویدادها و ایجاد یک رابط کاربری پیشرفته می‌شد. هزاران تصویر میدان نبرد برای آموزش مدل‌ها در اختیار گوگل قرار گرفت و در نهایت مدل‌های تولیدشده در جنگ افغانستان به کار گرفته شدند. با این حال، افشای همکاری گوگل با Maven در مارس ۲۰۱۸ اعتراض گسترده کارکنان این شرکت را برانگیخت. بسیاری از کارکنان نگران بودند که فناوری توسعه‌یافته در خدمت عملیات نظامی قرار گیرد. فشارهای داخلی به حدی افزایش یافت که گوگل اعلام کرد قرارداد خود را تمدید نخواهد کرد و اصولی را منتشر کرد که استفاده از هوش مصنوعی در سلاح‌ها را رد می‌کرد.

این مخالفت‌ها در شرایطی رخ داد که بخشی از جامعه هوش مصنوعی نسبت به نظامی‌سازی این فناوری هشدار می‌داد. دمیس هاسابیس، بنیان‌گذار DeepMind، از جمله امضاکنندگان نامه‌ای بود که همراه با هزاران پژوهشگر، ایلان ماسک، دالایی لاما و پاپپ فرانسیس منتشر شد. استدلال اصلی این نامه آن بود که هوش مصنوعی نه یک ابزار بازدارندگی محدود، بلکه امکان ایجاد ماشین‌های کشتار فراگیر را فراهم می‌کند. نگرانی آنها بر توسعه سامانه‌هایی متمرکز بود که بتوانند بدون مداخله مستقیم انسان اهداف را شناسایی و نابود کنند.

با خروج گوگل، شرکت‌های دیگری جای آن را گرفتند. مایکروسافت الگوریتم‌های خود را ارائه کرد و خدمات سرویس آمازون نیز نقش گسترده‌تری در زیرساخت ابری پروژه به دست آورد. در سال‌های بعد، Maven به سرعت گسترش یافت و دامنه فعالیت آن نیز از تحلیل تصاویر پهپادی فراتر رفت و به بررسی داده‌های دوربین‌های امنیتی، تصاویر بالن‌های مراقبتی، متن‌ها، تصاویر دیجیتال و داده‌های به‌دست‌آمده از عملیات‌ها توسعه یافت. الگوریتم‌ها قادر بودند پشت‌بام‌ها، دیوارها، مسیرهای ورود و خروج و سایر ویژگی‌های محیطی را تشخیص دهند.

در کنار ابعاد عملیاتی، Maven نمونه‌ای از تغییر الگوی همکاری میان دولت، صنعت و پژوهشگران هوش مصنوعی بود. حامیان پروژه معتقد بودند که دولت باید نقش فعالی در ایجاد بازار برای فناوری‌های نوظهور ایفا کند و از طریق قراردادهای دفاعی، مسیر تجاری شدن آنها را هموار سازد. به همین دلیل، Maven تنها یک برنامه نظامی نبود، بلکه سازوکاری برای جذب سرمایه‌گذاری، توسعه شرکت‌های نوپا و پیوند دادن پژوهش‌های دانشگاهی با نیازهای امنیتی به شمار می‌رفت. تأثیر Maven به تدریج از یک پروژه محدود فراتر رفت و به یک اکوسیستم گسترده دفاعی تبدیل شد. شرکت‌هایی مانند پالانتیر، اسکیل ای‌آی، انویدیا، آنتروپیک و اوپن‌ای‌آی به اشکال مختلف وارد فضای دفاعی شدند. حتی گوگل که زمانی با مشارکت در تجارت جنگ مخالفت کرده بود، بعدها اصول خود را تغییر داد. تنها اپل از پذیرش این مسیر خودداری کرد. 

تأثیرات عملیاتی پروژه Maven

امروزه سیستم هوشمند Maven به پلتفرمی تبدیل شده است که بیش از ۱۵۰ منبع داده و فعالیت بیش از پنجاه شرکت را در بر می‌گیرد. این سامانه در تمامی شاخه‌های ارتش آمریکا مستقر شده و ناتو نیز استفاده از نسخه‌ای از آن را آغاز کرده است. به گفته مقامات اطلاعاتی، توانایی هدف‌گیری از کمتر از صد هدف در روز به هزار هدف در روز افزایش یافته و با ادغام مدل‌های زبانی بزرگ به پنج هزار هدف در روز رسیده است. الگوریتم‌های توسعه‌یافته در چارچوب Maven اکنون در زیردریایی‌ها، عملیات فضایی، سامانه‌های سونار و قایق‌های بدون سرنشین نیز حضور دارند. همچنین گزارش شده است که برخی سامانه‌های بسیار محرمانه قادرند برای دفاع از تایوان اهداف را به طور مستقل ردیابی، انتخاب و منهدم کنند. 

در جنگ‌های قبلی آمریکا مانند جنگ عراق در سال ۲۰۳۳، پنتاگون برای حدود ۲۰ هزار حمله به ۲ هزار نفر نیاز داشت تا شبانه‌روز کار کنند. تا سال۲۰۲، فقط ۲۰ سرباز با استفاده از سیستم Maven می‌توانستند همین حجم از وظایف را انجام دهند. پنتاگون در سال ۲۰۲۴، هدف بلندپروازانه‌تری را تعیین کرد و به ۱۰۰۰ تصمیم هدف‌گیری در یک ساعت یا هر ۷۲ ثانیه یک تصمیم، دست یافت. با این وجود انتقادات به چنین پلتفرم‌های هوش مصنوعی که در فرایند تصمیم‌گیری دخیل هستند رو به افزایش است. در نخستین روز از جنگ آمریکا و رژیم صهیونیستی علیه ایران، مدرسه طیبه شجره میناب مورد حمله قرار گرفت 168 دختر و پسر دبستانی شهید شدند. علاوه بر این، در این جنگ تلفات سنگینی به افراد و مراکز غیرنظامی وارد شد و طبق اعلام سازمان هلال احمر، حداقل ۷۶۳ مدرسه و ۳۱۶ مرکز درمانی مورد حمله قرار گرفتند. این اتفاق باعث شد تا بحث نقش کلود و مدل‌های زبانی در این سیستم‌های هوش مصنوعی و همچنین میزان دقت چنین سیستم‌هایی مورد سوال قرار بگیرد. مخالفان استفاده از چنین پلتفرم‌های هوش مصنوعی معتقدند که سپردن تمامی مراحل تصمیم‌گیری به یک ابزار هوش مصنوعی باعث کشتار غیرنظامیان می‌شود و به همین علت باید محدودیت‌هایی برای آن اعمال شود.