تقرير: في صمت كامل.. إسرائيل تُدخل أنظمة الذكاء الاصطناعي في العمليات العسكرية المميتة

ميدل ايست نيوز: بدأ الجيش الإسرائيلي في استخدام الذكاء الاصطناعي لاختيار أهداف للضربات الجوية وتنظيم الخدمات اللوجستية في زمن الحرب مع تصاعد التوترات في الأراضي المحتلة ومع العدو اللدود إيران.

وحسب تقرير لوكالة “بلومبيرغ” على الرغم من أن الجيش لن يعلق على عمليات محددة، إلا أن المسؤولين يقولون إنه يستخدم الآن نظام توصية بالذكاء الاصطناعي يمكنه معالجة كميات هائلة من البيانات لتحديد أهداف للضربات الجوية. يمكن بعد ذلك تجميع الغارات السارية بسرعة مع نموذج ذكاء اصطناعي آخر يسمى Fire Factory، والذي يستخدم بيانات حول الأهداف المعتمدة من الجيش لحساب أحمال الذخيرة، وتحديد أولويات وتعيين آلاف الأهداف للطائرات والطائرات بدون طيار، واقتراح جدول زمني.

في حين أن كلا النظامين يخضعان للإشراف من قبل مشغلين بشريين يقومون بفحص الأهداف الفردية وخطط الغارات الجوية والموافقة عليها، وفقًا لمسؤول في جيش الدفاع الإسرائيلي، لا تزال التكنولوجيا غير خاضعة لأي تنظيم دولي أو على مستوى الدولة. يجادل المؤيدون بأن الخوارزميات المتقدمة قد تتجاوز القدرات البشرية ويمكن أن تساعد الجيش على تقليل الخسائر، بينما يحذر النقاد من العواقب المميتة المحتملة للاعتماد على أنظمة مستقلة بشكل متزايد.

تقول تل ممران، محاضرة القانون الدولي في الجامعة العبرية في القدس والمستشارة القانونية السابقة للجيش: “إذا كان هناك خطأ في حساب الذكاء الاصطناعي، وإذا كان الذكاء الاصطناعي غير قابل للتفسير، فمن نلوم على الخطأ؟ يمكنك القضاء على أسرة بأكملها بناءً على خطأ.”

لا تزال تفاصيل استخدام الجيش للذكاء الاصطناعي سرية إلى حد كبير، لكن التصريحات الصادرة عن المسؤولين العسكريين تشير إلى أن الجيش الإسرائيلي اكتسب خبرة في ميدان المعركة مع الأنظمة المثيرة للجدل من خلال التصعيد الدوري في قطاع غزة، حيث تقوم إسرائيل بشكل متكرر بشن غارات جوية ردًا على الهجمات الصاروخية. في عام 2021، وصف الجيش الإسرائيلي الصراع الذي استمر 11 يومًا في غزة بأنه أول “حرب ذكاء اصطناعي” في العالم، مشيرًا إلى استخدامه للذكاء الاصطناعي لتحديد منصات إطلاق الصواريخ ونشر أسراب الطائرات بدون طيار. كما تشن إسرائيل غارات في سوريا ولبنان، تستهدف ما تقول إنه شحنات أسلحة لميليشيات مدعومة من إيران مثل حزب الله.

في الأشهر الأخيرة، وجهت إسرائيل تحذيرات شبه يومية لإيران بشأن تخصيب اليورانيوم، وتعهدت بأنها لن تسمح لها بالحصول على أسلحة نووية تحت أي ظرف من الظروف. إذا دخل الاثنان في مواجهة عسكرية، يتوقع الجيش الإسرائيلي أن ينتقم وكلاء إيران في غزة وسوريا ولبنان، مما يمهد الطريق لأول صراع جاد متعدد الجبهات لإسرائيل منذ الهجوم المفاجئ الذي شنته مصر وسوريا قبل 50 عامًا. حرب يوم الغفران.

صُممت الأدوات القائمة على الذكاء الاصطناعي مثل Fire Factory خصيصًا لمثل هذا السيناريو، وفقًا لمسؤولي الجيش الإسرائيلي. قال الكولونيل أوري، الذي يرأس وحدة التحول الرقمي بالجيش والذي تحدث في مقر الجيش الإسرائيلي في تل أبيب شريطة أن يكون اسمه الأول فقط: “ما كان يستغرق ساعات الآن يستغرق دقائق، مع بضع دقائق أخرى للمراجعة البشرية”. تستخدم لأسباب أمنية. “مع نفس العدد من الأشخاص، نقوم بعمل أكثر من ذلك بكثير.”

وشدد هؤلاء المسؤولون على أن النظام مصمم لحرب شاملة.

توسيع الاستخبارات؟

لطالما استخدم جيش الدفاع الإسرائيلي الذكاء الاصطناعي، لكنه قام في السنوات الأخيرة بتوسيع هذه الأنظمة عبر وحدات مختلفة حيث يسعى إلى وضع نفسه كرائد عالمي في الأسلحة المستقلة. تم بناء بعض هذه الأنظمة من قبل مقاولين دفاعيين إسرائيليين ؛ البعض الآخر، مثل كاميرات مراقبة الحدود StarTrack، التي تم تدريبها على آلاف الساعات من اللقطات لتحديد الأشخاص والأشياء، تم تطويرها من قبل الجيش. بشكل جماعي، فهي تتألف من بنية رقمية واسعة مخصصة لتفسير كميات هائلة من لقطات الطائرات بدون طيار وكاميرات المراقبة، وصور الأقمار الصناعية، والإشارات الإلكترونية، والاتصالات عبر الإنترنت وغيرها من البيانات للاستخدام العسكري.

إن التعامل مع سيل المعلومات هذا هو الغرض من مركز علوم البيانات والذكاء الاصطناعي، الذي تديره وحدة الجيش 8200. تقع هذه الوحدة داخل قسم الاستخبارات، حيث قام العديد من أصحاب الملايين التكنولوجيين في البلاد، بما في ذلك نير زوك من شركة Palo Alto Networks Inc. وجيل شويد مؤسس Check Point Software Technologies Ltd، بالخدمة العسكرية الإلزامية قبل تشكيل شركات ناشئة ناجحة. وبحسب متحدث، كان المركز مسؤولاً عن تطوير النظام الذي “غيّر مفهوم الأهداف بالكامل في جيش الدفاع الإسرائيلي”.

أثارت الطبيعة السرية لكيفية تطوير هذه الأدوات مخاوف جدية، بما في ذلك أن الفجوة بين الأنظمة شبه المستقلة وآلات القتل المؤتمتة بالكامل يمكن تضييقها بين عشية وضحاها. في مثل هذا السيناريو، سيتم تمكين الآلات لتحديد الأهداف وضربها، مع إبعاد البشر تمامًا عن مواقع صنع القرار.

قالت كاثرين كونولي، باحثة القرار الآلي في Stop Killer Robots، وهو ائتلاف من المنظمات غير الحكومية التي تضم هيومن رايتس ووتش ومنظمة العفو الدولية: “إنه مجرد تغيير برمجي يمكن أن يجعلهم لا ينتقلون إلى أن يكونوا شبه شبه مستقلين تمامًا”. وتقول إسرائيل إنه ليس لديها خطط لإزالة الإشراف البشري في السنوات المقبلة.

مصدر قلق آخر هو أن الاعتماد السريع للذكاء الاصطناعي يفوق البحث في أعماله الداخلية. تم تطوير العديد من الخوارزميات من قبل الشركات الخاصة والجيوش التي لا تكشف عن معلومات الملاءمة، وقد أكد النقاد على الافتقار الداخلي للشفافية في كيفية وصول الخوارزميات إلى استنتاجاتهم. أقر الجيش الإسرائيلي بالمشكلة، لكنه قال إن الجنود يراجعون المخرجات بعناية وأن أنظمة الذكاء الاصطناعي العسكرية الخاصة به تترك وراءها فتات الخبز التقنية، مما يمنح المشغلين البشريين القدرة على إعادة إنشاء خطواتهم.

قال أوري: “في بعض الأحيان عندما تقدم مكونات ذكاء اصطناعي أكثر تعقيدًا، وشبكات عصبية وما شابه، فإن فهم ما” يمر برأسها “، من الناحية المجازية، أمر معقد للغاية. وبعد ذلك في بعض الأحيان أكون على استعداد للقول إنني راضٍ عن إمكانية التتبع، وليس القابلية للتفسير. هذا يعني أنني أريد أن أفهم ما هو مهم بالنسبة لي لفهم العملية ومراقبتها، حتى لو لم أفهم ما تفعله كل “خلية عصبية”.

رفض الجيش الإسرائيلي الحديث عن تقنية التعرف على الوجه، والتي تعرضت لانتقادات شديدة من قبل جماعات حقوق الإنسان، على الرغم من أنه قال إنه امتنع عن دمج الذكاء الاصطناعي في برامج التوظيف خوفًا من أنه قد يميز ضد النساء والطلاب المحتملين من خلفيات اجتماعية واقتصادية أقل.

تتمثل الميزة الرئيسية لدمج الذكاء الاصطناعي في أنظمة ساحة المعركة، وفقًا لبعض الخبراء، في إمكانية تقليل الخسائر في صفوف المدنيين. “أعتقد أن هناك فائدة من الكفاءة والفعالية لاستخدام هذه التقنيات بشكل صحيح. قالت سيمونا آر سواري، الزميلة البحثية في المعهد الدولي للدراسات الاستراتيجية ومقره لندن، “ضمن المعايير التكنولوجية التي تعمل بشكل جيد، يمكن أن تكون هناك دقة عالية للغاية”. “يمكن أن يساعدك في الكثير من الأشياء التي تحتاج إلى القيام بها أثناء التنقل، في ضباب المعركة. وهذا من الصعب جدًا القيام به في أفضل الأيام “.

وأضافت: “هناك أيضًا العديد من الأشياء التي يمكن أن تسوء أيضًا”.

مخاوف أخلاقية من استخدام الذكاء الاصطناعي

بينما أوضح القادة الإسرائيليون عزمهم على جعل البلاد “قوة عظمى في الذكاء الاصطناعي”، إلا أنهم كانوا غامضين بشأن التفاصيل. رفضت وزارة الدفاع التعليق على حجم استثماراتها في الذكاء الاصطناعي، ولن يناقش الجيش عقود دفاع محددة، على الرغم من أنها أكدت أن Fire Factory تم تطويره من قبل مقاول الدفاع الإسرائيلي رافائيل. ومما يزيد من غموض الصورة أنه، على عكس ما حدث أثناء سباق التسلح النووي، عندما كان تسريب تفاصيل قدرات الأسلحة جانبًا رئيسيًا للردع، يتم تطوير الأنظمة المستقلة والمدعومة بالذكاء الاصطناعي من قبل الحكومات والجيوش وشركات الدفاع الخاصة سراً.

قال ليران أنتيبي، الباحث البارز في معهد دراسات الأمن القومي ومقره إسرائيل: “يمكننا أن نفترض أن الأمريكيين وحتى الصينيين وربما العديد من الدول الأخرى لديهم أنظمة متقدمة في هذه المجالات أيضًا”. ولكن على عكس إسرائيل، “لم يبدوا، بقدر ما أعرف، أبدًا استخدامًا عمليًا ونجاحًا.”

في الوقت الحالي، لا توجد أية قيود. على الرغم من عقد من المحادثات التي رعتها الأمم المتحدة، لا يوجد إطار دولي يحدد من يتحمل مسؤولية الخسائر المدنية أو الحوادث أو التصعيد غير المقصود عندما يخطئ الكمبيوتر في الحكم.

قال كونولي من تحالف Stop Killer Robots: “هناك أيضًا مسألة الاختبار والبيانات التي يتم تدريب هذه الأنظمة عليها”. “ما مدى الدقة والدقة التي يمكنك معرفة أن النظام سيكون عليها ما لم يتم تدريبه واختباره بالفعل على الأشخاص؟”

هذه المخاوف هي سبب اعتقاد ممران، محاضر القانون في الجامعة العبرية، أن على جيش الدفاع الإسرائيلي استخدام الذكاء الاصطناعي حصريًا لأغراض دفاعية. خلال فترة خدمته في الجيش، قام ممران بفحص الأهداف يدويًا للتأكد من امتثال الهجمات للقانون الدولي. علمه ذلك أنه، بغض النظر عن التكنولوجيا، “هناك نقطة تحتاج فيها إلى اتخاذ قرار قائم على القيمة”.

قال “ولهذا السبب، لا يمكننا الاعتماد على الذكاء الاصطناعي.”