الذكاء الاصطناعي يقترب من القرار النووي.. الأمم المتحدة تتحرك
حذرت الأمم المتحدة من تزايد المخاطر المرتبطة بالتوسع في استخدام الذكاء الاصطناعي في المجال العسكري، في ظل تقلص هامش التدخل البشري في القرارات الأمنية والعسكرية، ووصول التطبيقات المتقدمة لهذه التكنولوجيا إلى مجالات حساسة، من بينها أنظمة الإنذار المبكر المرتبطة بالتهديدات النووية.
وتأتي التحذيرات في وقت تتسارع فيه المنافسة الدولية لتطوير القدرات القائمة على الذكاء الاصطناعي، وسط تساؤلات بشأن قدرة الحكومات والمؤسسات العسكرية على ضمان بقاء هذه الأنظمة تحت السيطرة البشرية، وتجنب اتخاذ قرارات خاطئة قد تترتب عليها تداعيات واسعة النطاق.
وفي هذا السياق، أطلقت الأمم المتحدة مبادرة جديدة لمناقشة الاستخدامات العسكرية للذكاء الاصطناعي، بهدف تعزيز التعاون الدولي والتعامل مع المخاطر التي تفرضها التكنولوجيا سريعة التطور، بما يشمل وضع ضوابط أكثر وضوحاً لتطوير الأنظمة الذكية واستخدامها في العمليات العسكرية.
اقرأ أيضاً: من إسرائيل إلى العالم العربي كيف يجمع ويز بيانات المستخدمين؟
تضاؤل هامش القرار البشري
حذر روبن جيس، رئيس معهد الأمم المتحدة لبحوث نزع السلاح، ومقره جنيف، من أن هامش الحكم البشري يتقلص بصورة متزايدة في المجال العسكري، بما في ذلك في القضايا المرتبطة بالأسلحة النووية.
وأشار جيس إلى صعوبة تحديد مدى اقتراب العالم من مرحلة قد تعمل فيها الأنظمة الذكية خارج نطاق السيطرة البشرية، معتبراً أن هذا الغموض يمثل أحد التحديات الرئيسية التي تسعى المبادرات الأممية الجديدة إلى معالجتها.
وتتصل هذه المخاوف بتوسع الاعتماد على الذكاء الاصطناعي في مجالات عسكرية متعددة، تشمل أنظمة الإنذار المبكر وجمع المعلومات والاستطلاع، وهي وظائف تعتمد عليها المؤسسات العسكرية في تقييم التهديدات وتحديد طبيعة الاستجابة المناسبة لها.
ومع إدخال هذه التكنولوجيا في مراحل متزايدة من العمليات العسكرية، تبرز أسئلة بشأن حدود دور الإنسان في مراجعة المعلومات التي تنتجها الأنظمة الذكية، ومدى قدرته على التدخل قبل اتخاذ قرارات قد تكون لها عواقب خطيرة.
ولا يقتصر التحدي على معرفة ما إذا كانت الأنظمة قادرة على تنفيذ المهام بصورة مستقلة، بل يشمل أيضاً تحديد النقطة التي يصبح عندها تأثيرها في القرارات العسكرية أكبر من قدرة الإنسان على مراقبتها وتقييم نتائجها.
ويزيد من تعقيد المسألة أن استخدام الذكاء الاصطناعي في البيئات العسكرية يجري ضمن ظروف قد تتطلب الاستجابة السريعة للمعلومات المتغيرة، الأمر الذي يجعل ضمان الإشراف البشري الفعلي، وليس الشكلي فقط، من أبرز القضايا المطروحة أمام الحكومات والمؤسسات الدولية.
مخاوف تتجاوز المنافسة بين القوى الكبرى
أوضح جيس أن التعامل مع مخاطر الذكاء الاصطناعي لم يحظَ لفترة طويلة بالاهتمام الكافي، في ظل تردد واسع بشأن فرض قيود على تطوير هذه التكنولوجيا واستخدامها. لكن اتساع قدراتها وتزايد تأثيرها المحتمل دفعا إلى إدراك أكبر للحاجة إلى التحرك.
وأكد أن العالم يقف أمام مرحلة مفصلية تتطلب التعامل بصورة مباشرة مع الاستخدامات العسكرية للذكاء الاصطناعي، بدلاً من تأجيل النقاش بشأن المخاطر التي قد تنشأ عن توظيفه في العمليات الأمنية والعسكرية.
وفي المقابل، تواجه الجهود الرامية إلى وضع قواعد مشتركة عقبة تتمثل في التنافس الدولي على الريادة التكنولوجية. فالدول الكبرى تسعى إلى تطوير قدراتها في هذا المجال، في وقت تتزايد فيه أهمية الذكاء الاصطناعي في منظومات الدفاع والاستخبارات والتخطيط العسكري.
ومع ذلك، يرى جيس أن المخاوف المتعلقة بتأثير هذه التكنولوجيا تتجاوز الانقسامات الجيوسياسية، وأنها تدفع القوى الكبرى إلى بحث سبل للتعاون، خصوصاً عندما يتعلق الأمر بالمخاطر التي قد تهدد الأمن القومي أو تؤدي إلى تصعيد غير مقصود.
وفي هذا الإطار، أشار إلى مقترح قُدم الشهر الماضي إلى الولايات المتحدة والصين لإنشاء نظام إنذار أمني بشأن الذكاء الاصطناعي، يتيح التعامل مع القضايا المرتبطة بالتكنولوجيا التي يمكن أن تشكل تهديداً للأمن القومي.
ويعكس هذا المقترح اتجاهاً نحو البحث عن آليات للتواصل وتبادل التحذيرات بشأن المخاطر المحتملة، رغم التنافس القائم بين الدول في تطوير الأنظمة الذكية. غير أن إنشاء مثل هذه الآليات وفاعليتها يظلان مرتبطين بمدى استعداد الأطراف المعنية للتعاون وتبادل المعلومات ذات الصلة.
مركز أممي جديد للذكاء الاصطناعي والسلام والأمن
ضمن تحركاتها في هذا المجال، أنشأ معهد الأمم المتحدة لبحوث نزع السلاح مركزاً للتميز في الذكاء الاصطناعي والسلام والأمن، ليكون منصة دائمة تركز على دراسة آثار التكنولوجيا المتقدمة في الأمن الدولي.
ويهدف المركز إلى جمع الجهات المعنية ومناقشة التحديات المرتبطة باستخدام الذكاء الاصطناعي في المجالات العسكرية، وتعزيز الحوار بين الحكومات والقطاعات التقنية والمؤسسات البحثية والمجتمع المدني.
وتلقى المركز تمويلاً من الدول النووية الخمس الكبرى، وهي الولايات المتحدة وروسيا والصين وبريطانيا وفرنسا، في مؤشر على اتساع الاهتمام الدولي بالقضايا التي يتناولها، ولا سيما في ظل ارتباط بعض تطبيقات الذكاء الاصطناعي بمنظومات الردع والأمن النووي.
ومن المقرر أن يطلق المعهد منتدى جديداً ضمن أنشطة المركز، يضم جهات من قطاعات مختلفة ومن مناطق متعددة حول العالم، بهدف مناقشة الاستخدامات العسكرية للذكاء الاصطناعي وتبادل وجهات النظر بشأن المخاطر والضوابط المطلوبة.
ولم تُكشف جميع التفاصيل المتعلقة بأهداف المنتدى وآليات عمله، لكن المبادرة تأتي ضمن مجموعة من الأنشطة التي يسعى المركز إلى إطلاقها لتوسيع النقاش الدولي بشأن هذه التكنولوجيا.
مسؤولية الشركات في تطوير الأنظمة العسكرية
لا تقتصر الجهود الأممية على الحكومات والمؤسسات العسكرية، إذ تسعى المبادرات الجديدة أيضاً إلى إشراك الشركات التي تطور تقنيات الذكاء الاصطناعي وتوفر البرامج والأنظمة المستخدمة في التطبيقات الدفاعية.
وأكد جيس أن القرارات التي تتخذها الشركات خلال مراحل التصميم والتطوير تؤثر بصورة مباشرة في موثوقية القدرات العسكرية المدعومة بالذكاء الاصطناعي، ومدى إمكانية التنبؤ بسلوكها، وقدرتها على العمل بما يتوافق مع القانون الدولي.
وتكتسب هذه المسألة أهمية خاصة لأن المخاطر لا ترتبط فقط بكيفية استخدام الأنظمة بعد نشرها، بل تبدأ أيضاً من طريقة تصميمها، والبيانات التي تُدرَّب عليها، والاختبارات التي تخضع لها، والقيود الموضوعة على تشغيلها.
ومن هذا المنطلق، يعمل معهد الأمم المتحدة لبحوث نزع السلاح على تطوير إطار للسلوك الصناعي المسؤول، يتضمن مبادئ توجيهية طوعية وعملية تساعد الشركات على مراعاة القانون الدولي وضمان احترام حقوق الإنسان عند تطوير التقنيات ذات الاستخدامات العسكرية.
ويستهدف الإطار تشجيع الشركات على إدراج اعتبارات السلامة والمسؤولية ضمن مراحل تطوير المنتجات، بدلاً من التعامل معها بوصفها متطلبات لاحقة لا تظهر إلا بعد دخول الأنظمة إلى الخدمة.
ومن المقرر أن يجري المعهد مشاورات مع شركات تكنولوجيا الدفاع ومطوري البرمجيات والمقاولين من الباطن والمستثمرين، إلى جانب ممثلين عن الحكومات والمجتمع المدني والأوساط الأكاديمية والخبراء.
وتعكس هذه المشاورات إدراكاً بأن تنظيم الذكاء الاصطناعي العسكري لا يمكن أن يعتمد على القرارات الحكومية وحدها، نظراً إلى الدور الذي تؤديه الشركات الخاصة في تطوير التقنيات وتوفير مكوناتها وصيانتها وتحديثها.
ومع ذلك، فإن الطبيعة الطوعية للإطار المقترح تطرح تساؤلات بشأن مدى التزام الشركات بالمبادئ التي يتضمنها، وآليات التحقق من تطبيقها، وإمكانية تحويلها مستقبلاً إلى قواعد أكثر إلزاماً.
مخاطر استخدام الذكاء الاصطناعي من جانب الجماعات المسلحة
تشمل المبادرات الأممية أيضاً ملف إساءة استخدام الذكاء الاصطناعي من جانب الجماعات المسلحة، في ظل تزايد إمكانات توظيف التكنولوجيا في التخطيط للعمليات وتنفيذها وإدارة الجوانب اللوجستية.
وحذر جيس من أن هذه الجهات تستخدم بالفعل الذكاء الاصطناعي لدعم بعض أنشطتها، ما يوسع نطاق المخاطر التي ينبغي التعامل معها، ولا سيما إذا استُخدمت الأدوات المتاحة لتطوير أساليب العمل أو تسهيل التنسيق بين العناصر والموارد.
ويضيف هذا الجانب تحدياً آخر إلى جهود تنظيم الاستخدامات العسكرية للتكنولوجيا، إذ لا تقتصر المخاطر على الدول التي تمتلك منظومات دفاعية متقدمة، بل تمتد إلى جهات قد تستفيد من أدوات الذكاء الاصطناعي المتاحة تجارياً أو من التطبيقات مفتوحة المصدر.
ويجعل ذلك الاستجابة الدولية أكثر تعقيداً، لأنها تحتاج إلى الموازنة بين تطوير التكنولوجيا والاستفادة من تطبيقاتها المشروعة، وبين الحد من إساءة استخدامها في أنشطة قد تهدد الأمن والاستقرار.
هل تنجح الجهود الدولية في إبقاء الإنسان مسيطراً؟
تواجه الجهود الرامية إلى ضبط الذكاء الاصطناعي العسكري مجموعة من التحديات، في مقدمتها سرعة التطور التقني، وتباين المصالح بين الدول، وصعوبة التوصل إلى قواعد مشتركة في ظل المنافسة على التفوق التكنولوجي.
كما يتطلب الحد من المخاطر تحديد المسؤوليات بوضوح بين الجهات التي تطور الأنظمة وتلك التي تستخدمها، ووضع معايير تساعد على اختبار موثوقيتها والتأكد من إمكانية مراقبتها والتدخل في عملها عند الضرورة.
وفي المجال النووي، تزداد حساسية هذه المسائل بسبب العواقب المحتملة لأي خطأ في تقييم التهديدات أو تفسير المعلومات أو اتخاذ القرارات. لذلك تبرز أهمية ضمان ألا يؤدي الاعتماد على الأنظمة الذكية إلى إضعاف قدرة الإنسان على مراجعة القرارات العسكرية ذات التداعيات الخطيرة.
وتسعى الأمم المتحدة، من خلال المبادرات الجديدة ومركز التميز والمنتدى المرتقب، إلى نقل النقاش من التحذير العام من المخاطر إلى بحث آليات عملية للتعامل معها، بمشاركة الحكومات والشركات والخبراء والمجتمع المدني.
وشدد جيس على ضرورة إنهاء حالة الصمت المحيطة بالاستخدامات العسكرية للذكاء الاصطناعي، داعياً إلى حشد الجهود ومواجهة التحديات بصورة مباشرة.
ومع استمرار سباق تطوير هذه التكنولوجيا، يبقى التحدي الأساسي أمام المجتمع الدولي هو إيجاد توازن بين الاستفادة من قدراتها والحيلولة دون تحولها إلى عامل يزيد احتمالات الخطأ والتصعيد، مع ضمان بقاء القرارات العسكرية الأكثر خطورة تحت إشراف بشري حقيقي.
أبرز العناوين ذات الصلة:
الذكاء الاصطناعي الجماعات المسلحة الأمم المتحدة القرارات الأمنية التكنولوجيا التهديدات النووية المؤسسات العسكرية السيطرة البشرية بحوث نزع السلاح الأسلحة النووية
