حين تختار الآلة هدفها: من يملك قرار القتل في حروب الذكاء الاصطناعي؟
من «مليار قتيل» إلى سباق الأسلحة الذاتية.. الخطر الحقيقي ليس أن تتمرد الآلة، بل أن يمنحها البشر وقتًا أقل لاتخاذ قرارات أكثر خطورة
بقلم: أم السعد نصر – شمس اليوم
قد يبدو الحديث عن قدرة الذكاء الاصطناعي على قتل مليار إنسان أقرب إلى مشهد من فيلم خيال علمي منه إلى نقاش جدي حول مستقبل الحروب.
لكن المشكلة ليست في الرقم.
المشكلة تبدأ في اللحظة التي تنتقل فيها الآلة من مساعدة الإنسان على اتخاذ القرار العسكري إلى المشاركة في تحديد من يجب أن يُستهدف، ومتى، وكيف.
وهنا يصبح السؤال أكثر واقعية وخطورة: إذا اختارت منظومة آلية هدفًا ونفذت هجومًا دون تدخل بشري مباشر، فمن يتحمل المسؤولية؟
القائد؟ المبرمج؟ الشركة التي طورت النظام؟ الدولة التي نشرته؟ أم أن المسؤولية ستضيع بين عشرات الحلقات التقنية والعسكرية والقانونية؟
هذا هو السؤال الذي يجب أن يسبق كل نقاش حول «ذكاء» الآلة في الحرب.
الخطر ليس آلة تتمرد.. بل آلة تنفذ
في النقاش الذي أثارته تصريحات بيل غيتس حول احتمال تسبب الذكاء الاصطناعي في سقوط أعداد هائلة من البشر، أشار البروفيسور بيتر لي، أستاذ الأخلاقيات التطبيقية في جامعة بورتسموث والباحث في أخلاقيات الدفاع، إلى أن السيناريو المتعلق بمقتل مليار شخص لا يملك، في المرحلة الحالية، آلية واضحة تفسره.
وهذه الملاحظة مهمة.
فالذكاء الاصطناعي لم يتحول إلى كيان مستقل يقرر بمفرده إشعال حرب عالمية.
لكن التركيز على هذا السيناريو قد يحجب تحولًا يحدث بالفعل: إدخال الذكاء الاصطناعي بصورة متزايدة في منظومات الاستطلاع، وتحليل المعلومات، وتحديد الأهداف، وتنسيق الطائرات المسيّرة، ودعم القرار العسكري.
وفي سبتمبر 2026، أعلنت شركة داسو الفرنسية أنها اختبرت خوارزميتي ذكاء اصطناعي على مقاتلة «رافال»، في خطوة تعكس الاتجاه المتسارع نحو إدماج الذكاء الاصطناعي في الطائرات العسكرية وأنظمة القتال.
المسألة إذن ليست انتظار «روبوت قاتل» يستيقظ ذات صباح ويقرر إبادة البشر.
المسألة أكثر تعقيدًا: ماذا يحدث عندما تصبح الآلة أسرع من الإنسان في رؤية الخطر، وتحليل البيانات، واقتراح الهدف، وتنفيذ الاستجابة؟
عندما تصبح السرعة مشكلة
في الحرب التقليدية، يمر القرار العسكري عبر سلسلة بشرية: معلومات، تقدير، أمر، تنفيذ، ثم مراجعة.
أما الأنظمة المدعومة بالذكاء الاصطناعي فتستطيع تقليص هذه السلسلة إلى ثوانٍ.
وهنا تظهر مفارقة خطيرة.
كلما أصبحت الآلة أسرع، أصبح تدخل الإنسان أصعب.
قد يبقى الإنسان، نظريًا، «داخل الحلقة»، لكنه قد يجد نفسه أمام توصية جاهزة ونافذة زمنية ضيقة للغاية لاتخاذ القرار.
وهذا يطرح سؤالًا مختلفًا عن مجرد وجود زر بشري في النظام:
هل ما زال الإنسان مسيطرًا فعلًا، أم أصبح دوره مجرد المصادقة السريعة على قرار صاغته الآلة؟
وهذا النقاش لم يعد افتراضيًا بالكامل. ففي سبتمبر 2026، ناقش خبراء أميركيون وصينيون إجراءات شبيهة بضوابط الحد من مخاطر الأسلحة النووية، بما في ذلك ضرورة وجود رقابة بشرية على العمليات العسكرية الحساسة ومنع الأنظمة من إطلاق هجمات بصورة مستقلة.
جنيف.. الدبلوماسية تحاول اللحاق بالخوارزمية
بينما تتسارع التكنولوجيا، تتحرك الدبلوماسية بسرعة أبطأ.
ففي جنيف، واصل فريق حكومي تابع للأمم المتحدة في أغسطس وسبتمبر 2026 بحث قواعد التعامل مع الأسلحة ذاتية التشغيل الفتاكة، بما في ذلك إمكانية صياغة أداة دولية جديدة لتنظيمها أو حظر بعض أنواعها.
وفي أغسطس، جدد الأمين العام للأمم المتحدة أنطونيو غوتيريش ورئيسة اللجنة الدولية للصليب الأحمر ميرجانا سبولياريتش الدعوة إلى وضع قواعد دولية عاجلة.
وكان التحذير لافتًا: العالم يقترب من «خط أحمر أخلاقي» يتمثل في أن تستهدف الآلات البشر بصورة ذاتية.
والأهم أن الأمم المتحدة والصليب الأحمر لا يتحدثان عن خطر بعيد في المستقبل فقط؛ بل يشيران إلى أن سباق تطوير القدرات الذاتية في الأسلحة جارٍ بالفعل، وأن الفجوة بين التطور التكنولوجي والقواعد التنظيمية تتسع.
لماذا يصعب الاتفاق؟
هنا تدخل المصالح الاستراتيجية للدول الكبرى.
فالذكاء الاصطناعي العسكري لا يتعلق فقط بحماية الجنود أو تحسين دقة الأسلحة، وإنما يمكن أن يمنح الدولة التي تتفوق فيه قدرة أكبر على جمع المعلومات، وتحليلها، واتخاذ القرار بسرعة، وإدارة أسراب من الأنظمة غير المأهولة.
ولهذا لا تبدو المفاوضات الدولية مجرد نقاش أخلاقي.
إنها أيضًا نقاش حول التفوق العسكري في القرن الحادي والعشرين.
وفي سبتمبر، قالت رويترز إن معارضة الولايات المتحدة وروسيا لبعض المقترحات خلال محادثات جنيف أثارت شكوكًا بشأن إمكانية التوصل إلى قواعد ملزمة، بينما تدفع دول أخرى باتجاه ضمانات أكثر صرامة.
وهنا تظهر إحدى أكبر مشكلات تنظيم التكنولوجيا العسكرية:
الدولة مطالبة بأن تضع قواعد لشيء تخشى في الوقت نفسه أن يتفوق فيه عليها منافسوها إذا قيدت نفسها أكثر منهم.
الذكاء الاصطناعي يدخل الحرب.. والقانون يتأخر
المشكلة لا تتوقف عند الأسلحة التي تستطيع اختيار الهدف وإطلاق النار بصورة مستقلة.
هناك طيف واسع من الاستخدامات العسكرية للذكاء الاصطناعي: تحليل صور الأقمار الصناعية، معالجة كميات ضخمة من المعلومات، تحديد الأنماط، دعم تقدير المخاطر، اقتراح الأهداف، وتنسيق الطائرات المسيّرة.
وبين هذه المراحل توجد منطقة رمادية يصعب فيها تحديد اللحظة التي يتحول فيها الذكاء الاصطناعي من «أداة مساعدة» إلى «طرف مؤثر في القرار».
وهذه المنطقة الرمادية هي التي تجعل مسألة المسؤولية أكثر إلحاحًا.
فإذا أخطأت خوارزمية في التعرف على هدف، فمن المسؤول؟
وإذا كانت البيانات التي تدربت عليها غير كافية؟
وإذا اتخذ النظام قرارًا صحيحًا تقنيًا لكنه خاطئ في السياق الإنساني؟
وإذا كان الإنسان يستطيع إيقاف العملية من الناحية النظرية، لكنه لا يملك الوقت الكافي لفهم ما يحدث؟
هنا لا تكفي عبارة «هناك إنسان في الحلقة».
المطلوب هو معرفة ماذا يستطيع هذا الإنسان أن يفعل فعلًا، ومتى يستطيع أن يفعله، وما المعلومات التي يملكها قبل اتخاذ القرار.
من «الإنسان في الحلقة» إلى «الإنسان صاحب القرار»
هذا التحول في المصطلحات ليس تفصيلًا تقنيًا.
فالمقصود بالسيطرة البشرية الحقيقية ليس بالضرورة أن يضغط إنسان على زر إطلاق كل سلاح، وإنما أن يظل قادرًا على فهم النظام وحدوده، وتقييم السياق، وتحديد متى وأين وكيف يمكن استخدامه، وإيقافه عند الضرورة.
وتشير مناقشات الأمم المتحدة في 2026 إلى أن مفهوم السيطرة البشرية يمكن أن يمتد إلى مراحل مختلفة من دورة حياة النظام، من التصميم والاختبار إلى تحديد المهمة والحدود الجغرافية والزمنية وشروط التشغيل.
لكن هذا يفتح سؤالًا آخر:
هل يمكن اعتبار نظام خاضعًا للإنسان إذا كانت سرعة قراراته تتجاوز قدرة الإنسان على مراجعتها؟
هذه ربما تكون إحدى أهم قضايا حروب المستقبل.
ليست حرب الآلات.. بل حرب القرارات
من السهل أن نتخيل المستقبل على شكل روبوتات تتقاتل في المدن.
لكن السيناريو الأكثر واقعية قد يكون أقل سينمائية وأكثر تعقيدًا.
مراكز قيادة تعتمد على الذكاء الاصطناعي.
أسراب مسيّرات تعمل بتنسيق شبه ذاتي.
أنظمة تراقب آلاف الأهداف في وقت واحد.
خوارزميات تقترح أولويات الهجوم.
وبشر يتخذون القرار النهائي، لكن تحت ضغط السرعة والمعلومات الهائلة.
في هذه البيئة، قد لا تحتاج الآلة إلى «الرغبة» في قتل أحد.
يكفي أن تنفذ بدقة ما صممت لتنفيذه.
ولهذا فإن الخطر الحقيقي ليس أن يصبح الذكاء الاصطناعي «شريرًا».
الخطر أن يصبح فعالًا جدًا داخل منظومة عسكرية لا تزال قواعد المسؤولية فيها أبطأ من التكنولوجيا.
السؤال الذي يجب أن يسبق الحرب المقبلة
ربما يكون سؤال «هل يستطيع الذكاء الاصطناعي قتل مليار إنسان؟» مبالغًا في اختزاله.
السؤال الأكثر إلحاحًا هو:
هل يستطيع الإنسان أن يقول «لا» في الوقت المناسب؟
إذا كانت الإجابة نعم، فيجب أن يكون ذلك قابلًا للإثبات تقنيًا وقانونيًا، لا مجرد وعد سياسي.
وإذا كانت الإجابة لا، فإن وجود الإنسان داخل غرفة العمليات لن يكون كافيًا لحماية المسؤولية البشرية.
العالم لا يحتاج فقط إلى ذكاء اصطناعي أكثر قدرة.
إنه يحتاج أيضًا إلى قواعد أكثر ذكاءً.
فالتكنولوجيا تستطيع أن تحدد هدفًا خلال جزء من الثانية، لكن القانون يحتاج إلى أن يحدد مسبقًا من يملك حق إعطاء الأمر، ومن يملك حق إيقافه، ومن يتحمل المسؤولية عندما تقع الكارثة.
وفي النهاية، قد لا يكون السؤال الحقيقي:
كم إنسانًا تستطيع الآلة أن تقتل؟
بل:
كم من القرار الإنساني نحن مستعدون لتسليمه إلى الآلة قبل أن يصبح استرجاعه مستحيلًا؟
شمس اليوم – قراءة في مستقبل التكنولوجيا والأمن والاقتصاد
