سباق الذكاء الاصطناعي العسكري يسبق قواعد التحكم الدولية
تبدو فكرة أن تتسبب أنظمة الذكاء الاصطناعي في مقتل مليار إنسان أقرب إلى سيناريوهات الخيال العلمي، لكن النقاش المتصاعد حول الأسلحة ذاتية التشغيل يطرح سؤالاً أكثر واقعية من الرقم نفسه: ماذا يحدث عندما تنتقل الآلة من تحليل المعلومات إلى اختيار الأهداف والاشتباك معها، وما مقدار السيطرة التي يبقيها البشر على قرار استخدام القوة؟
اقرأ أيضاً: من إيران وأوكرانيا إلى الذكاء الاصطناعي حصاد أممي مزدحم
ويرى البروفيسور بيتر لي، أستاذ الأخلاقيات التطبيقية في مركز دراسات الدفاع بجامعة بورتسموث وعضو اللجنة الاستشارية لأخلاقيات الذكاء الاصطناعي والاستقلالية التابعة لوزارة الدفاع البريطانية، أن المخاوف من الاستخدام العسكري للذكاء الاصطناعي تستحق النقاش، لكنه يشير في الوقت نفسه إلى أن السيناريوهات الأكثر كارثية لا تعكس القدرات الحالية لهذه الأنظمة.
وجاء ذلك في معرض تعليقه على تحذيرات منسوبة إلى بيل غيتس بشأن إمكانية تسبب الذكاء الاصطناعي مستقبلاً في سقوط أعداد هائلة من البشر. ويشير لي إلى أن الحديث عن مثل هذا السيناريو لا يكتمل من دون تحديد الآلية التي يمكن أن تقود إليه، خصوصاً أن التكنولوجيا لا تزال في مرحلة تطور متسارع ولم تصل إلى مستوى يسمح لها، وفق تقديره، بتنفيذ عمليات قتل بهذا الحجم بصورة مستقلة.
اقرأ أيضاً: اختراق صامت داخل البنتاغون يكشف بيانات عسكرية حساسة
الخطر يبدأ عند دمج الآلة بالقوة العسكرية
لا يضع لي الخطر الأساسي في احتمال أن تتخذ منظومة ذكاء اصطناعي قراراً منفرداً بإطلاق حرب نووية، بل في الطريقة التي يمكن أن يجري بها دمج هذه التقنيات داخل منظومات القيادة والسيطرة العسكرية.
ويشير إلى أن أحد أكثر السيناريوهات خطورة يتمثل في إدخال أنظمة الذكاء الاصطناعي إلى منظومات القيادة والسيطرة النووية لدى الولايات المتحدة أو روسيا. ومع ذلك، يستبعد أن تكون الأنظمة الحالية قادرة على تنفيذ عملية تؤدي وحدها إلى مقتل مليار شخص، لافتاً إلى أن الدول النووية تعتمد طبقات متعددة من الإجراءات الأمنية لحماية أنظمتها الاستراتيجية، ولا يمكن اختراقها ببساطة عبر الإنترنت.
لكن هذه الحدود التقنية لا تلغي المشكلة الأوسع. فالتطور العسكري للذكاء الاصطناعي يفتح المجال أمام تقليص الفاصل الزمني بين جمع المعلومات وتحليلها، وتحديد الهدف، ثم اتخاذ قرار الاشتباك.
وهنا يتحول السؤال من قدرة الخوارزمية على خوض حرب نووية بمفردها إلى سؤال آخر أكثر ارتباطاً بالواقع: إلى أي مدى يمكن للبشر أن يفوضوا الآلة في مراحل اتخاذ القرار العسكري، ومتى يصبح وجود الإنسان داخل سلسلة القرار مجرد إجراء شكلي لا يملك معه الوقت أو القدرة على تغيير النتيجة؟
جنيف تبحث عن قواعد قبل اتساع الاستخدام
هذا الجدل يتزامن مع مسار دولي لم يتوصل حتى الآن إلى اتفاق ملزم ينظم الأسلحة الفتاكة ذاتية التشغيل.
وشارك ممثلو 128 دولة في مفاوضات جنيف ضمن إطار اتفاقية الأمم المتحدة بشأن أسلحة تقليدية معينة، بهدف بحث قواعد محتملة لهذه الأنظمة. وكانت الدول تناقش نصاً غير ملزم يمكن أن يشكل أساساً لمفاوضات مستقبلية بشأن حظر أنواع محددة من الأسلحة ذاتية التشغيل وتنظيم أنواع أخرى.
وتتركز الخلافات بصورة خاصة حول مقدار الاستقلال الذي يمكن منحه للآلة في تحديد الأهداف والاشتباك معها، وحول ضرورة إبقاء القرار البشري حاضراً في استخدام القوة المميتة.
وفي المفاوضات الأخيرة، أثارت الولايات المتحدة وروسيا تحفظات بشأن بعض الصياغات المقترحة، فيما دفعت دول أخرى ومنظمات حقوقية باتجاه قواعد أكثر إلزاماً وضمانات أوضح للسيطرة البشرية.
وبذلك، لا يدور الخلاف فقط حول ما تستطيع التكنولوجيا فعله اليوم، بل أيضاً حول ما ينبغي السماح لها بفعله مستقبلاً.
لماذا تتحفظ القوى الكبرى على القيود؟
بحسب لي، فإن تحفظ الولايات المتحدة وروسيا والصين على إنشاء معاهدة دولية ملزمة ليس جديداً، إذ ظهر موقف مشابه خلال جولات سابقة من المفاوضات.
ويرتبط ذلك، وفق هذا التفسير، بالمنافسة على تطوير القدرات المتقدمة في الذكاء الاصطناعي، إذ تخشى القوى الكبرى أن يؤدي فرض قيود واسعة في مرحلة مبكرة إلى الحد من إمكاناتها العسكرية مقارنة بخصومها.
وهنا يختلف وضع الذكاء الاصطناعي عن الأسلحة النووية من ناحية التطور التنظيمي. فالأسلحة النووية وصلت خلال عقود إلى مرحلة سمحت بإقامة منظومة واسعة من الاتفاقات والضوابط المتعلقة بالانتشار والاختبارات والاستخدام، بينما لا تزال التطبيقات العسكرية للذكاء الاصطناعي تتطور بسرعة، فيما تحاول الحكومات تحديد حدودها بالتوازي مع السباق التقني.
قناة اتصال أميركية صينية لا توقف السباق
وفي تطور منفصل، اتفقت الولايات المتحدة والصين أخيراً على إنشاء آلية اتصال للتعامل مع الحوادث المرتبطة بالذكاء الاصطناعي، إلى جانب إطلاق حوار لمناقشة المخاطر والمنافع المرتبطة بهذه التقنيات. ومن المقرر عقد الاجتماع المقبل للحوار المتخصص بحلول نوفمبر/تشرين الثاني.
وتبدو الآلية أقرب إلى أداة لإدارة الأزمات ومنع سوء التقدير منها إلى اتفاق للحد من تطوير الأسلحة ذاتية التشغيل. ولم تعلن واشنطن وبكين، في إطار هذا الاتفاق، عن قيود مشتركة على استخدام الذكاء الاصطناعي عسكرياً.
ويعكس ذلك أحد أبرز التناقضات في المشهد الحالي: يمكن للدول المتنافسة أن تبحث في كيفية منع حادث تقني أو عسكري من التحول إلى أزمة واسعة، من دون أن تتفق بالضرورة على وقف تطوير القدرات التي قد تجعل مثل هذه الأزمات أكثر تعقيداً.
وقد دعا خبراء أميركيون وصينيون في وقت سابق إلى إجراءات شبيهة بالضمانات المرتبطة بالأسلحة النووية، بما في ذلك خطوط حمراء حول استخدام الذكاء الاصطناعي في الأنظمة النووية، وضمان السيطرة البشرية على الهجمات السيبرانية ذات العواقب الكبيرة، وإنشاء قنوات اتصال للحوادث المرتبطة بالأنظمة المستقلة.
من «مليار قتيل» إلى سؤال المسؤولية
لا يقدم النقاش الحالي دليلاً على أن الأسلحة ذاتية التشغيل قادرة اليوم على قتل مليار إنسان، بل إن التقديرات المطروحة حول هذا السيناريو تتجاوز القدرات المعروفة للأنظمة الحالية.
لكن اختزال القضية في هذا الرقم قد يحجب جوهر المشكلة. فالخطر الذي يناقشه الخبراء لا يتعلق فقط بقدرة الآلة على إحداث دمار هائل، وإنما بالمسافة المتناقصة بين الخوارزمية والقرار العسكري.
ومع توسع استخدام الذكاء الاصطناعي في مجالات الاستطلاع وتحليل البيانات وتحديد الأهداف، يصبح السؤال القانوني والأخلاقي أكثر إلحاحاً: من يتحمل المسؤولية عندما تتخذ منظومة آلية قراراً خاطئاً يؤدي إلى قتل أشخاص؟
وتزداد حساسية السؤال عندما تكون الأنظمة قادرة على العمل بسرعة تفوق قدرة البشر على التدخل، أو عندما يصبح تدخل الإنسان في العملية العسكرية مجرد موافقة شكلية على قرار صاغته الآلة مسبقاً.
لهذا لا تتوقف المعركة حول الأسلحة ذاتية التشغيل عند حدود تطوير التكنولوجيا، بل تمتد إلى تحديد الخط الفاصل بين استخدام الآلة كأداة بيد الإنسان، وبين منحها مساحة فعلية داخل قرار استخدام القوة.
وفي النهاية، قد لا يكون السؤال الأكثر أهمية هو عدد الأشخاص الذين يمكن أن تقتلهم الآلة، وإنما من سيبقى مسؤولاً عن القرار عندما تصبح الآلة جزءاً من سلسلة اتخاذه.
أبرز العناوين ذات الصلة:
الذكاء الاصطناعي الخيال العلمي الأسلحة ذاتية التشغيل وزارة الدفاع البريطانية التكنولوجيا حرب نووية السيطرة النووية الولايات المتحدة روسيا
