تقرير أممي يرصد مخاطر متزايدة لوكلاء الذكاء الاصطناعي
حذّرت لجنة علمية دولية مستقلة تابعة للأمم المتحدة من اتساع الفجوة بين تطور قدرات الذكاء الاصطناعي وإجراءات السلامة الموضوعة للحد من مخاطره، معتبرة أن أساليب السيطرة التقليدية قد لا تكون كافية مع تنامي قدرات الأنظمة المستقلة.
واستندت اللجنة، في تقرير نُشر اليوم الاثنين، إلى حادثة وقعت لدى شركة «أوبن إيه آي» خلال يوليو الماضي، بعدما تمكن نظامان للذكاء الاصطناعي من مغادرة البيئة المعزولة المخصصة للاختبار، والوصول إلى الإنترنت واختراق عدد من المواقع، من بينها منصة «هاغينغ فايس».
خلصت اللجنة، بعد مراجعة الواقعة، إلى أن بعض المبادئ الأساسية للسلامة لم تُراعَ بالشكل الكافي، وأن إجراءات الحماية لا تتطور بالسرعة نفسها التي تتقدم بها قدرات هذه التكنولوجيا.
قدرات متزايدة تثير مخاوف السلامة
كشفت الواقعة، وفق التقرير، أن وكلاء الذكاء الاصطناعي قد يتمكنون ضمن بيئات معينة من تحديد أهداف بصورة مستقلة، وتجاوز تعليمات السلامة، فضلًا عن إخفاء بعض أنشطتهم.
وتعمل وكلاء الذكاء الاصطناعي كبرامج قادرة على تنفيذ مهام بصورة مستقلة استنادًا إلى توجيهات المستخدم، وهو ما يمنحها نطاقًا أوسع من القدرة على اتخاذ الإجراءات مقارنة بالأنظمة التقليدية.
وأبدت اللجنة قلقها من احتمال تطور هذه الأنظمة إلى مستوى يسمح لها بفهم القيود الأمنية التي يضعها المطورون، ثم البحث عن طرق لتجاوزها، معتبرة أن هذا التطور يطرح تحديات جديدة أمام أساليب التحكم المعتمدة حاليًا.
حوادث أخرى خلال الاختبارات
لا تقتصر المخاوف على الواقعة المرتبطة بـ«أوبن إيه آي»، إذ أبلغت الشركة ومنافستها «أنثروبيك» عن حوادث أخرى خرجت خلالها أنظمة ذكاء اصطناعي عن المسار المحدد أثناء اختبارات أُجريت منذ مطلع العام، من دون تسجيل عواقب خطيرة حتى الآن.
وأكدت اللجنة أنها لا تتوقع في الوقت الراهن فقدانًا خطيرًا للسيطرة على الذكاء الاصطناعي، لكنها في الوقت نفسه لا تعتبر استمرار قدرة البشر على التحكم بهذه الأنظمة أمرًا مضمونًا مع تطورها مستقبلًا.
طبقات متعددة للحماية
للحد من المخاطر المحتملة، أوصى الخبراء باعتماد منظومة متعددة المستويات للسلامة، على غرار الإجراءات المتبعة في قطاعات شديدة الحساسية، مثل الطيران والطاقة النووية.
تشمل التوصيات تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات والأنظمة التي لا يحتاجون إليها، وتسجيل أنشطتهم ومراقبة سلوكهم، إلى جانب توفير آليات تسمح بوقف تنفيذ المهام عند رصد تصرفات تنطوي على خطر.
وشدد التقرير كذلك على ضرورة الحفاظ على إمكانية التدخل البشري، بحيث تظل القرارات والإجراءات الحساسة خاضعة للمراقبة والتدخل عند الحاجة.
الإبلاغ عن الحوادث وتعزيز التعاون
دعت اللجنة إلى اعتماد نظام إلزامي للإبلاغ عن الحوادث الخطيرة المرتبطة بالذكاء الاصطناعي، إلى جانب تسجيل الحوادث الأقل خطورة والوقائع التي كادت تؤدي إلى نتائج خطيرة.
ويرى الخبراء أن تبادل المعلومات بين الشركات والدول بشأن هذه الوقائع يمكن أن يساعد في تحسين إجراءات السلامة، عبر الاستفادة من الأخطاء والثغرات المكتشفة قبل تحولها إلى مخاطر أكبر.
ويأتي هذا التحذير في وقت تتوسع فيه تطبيقات وكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ المهام بصورة أكثر استقلالية، ما يضع تطوير أنظمة الحماية والرقابة أمام تحدٍ متزايد لمواكبة سرعة التطور التقني.
أبرز العناوين ذات الصلة:
الذكاء الاصطناعي الأمم المتحدة وكلاء الذكاء الاصطناعي سلامة الذكاء الاصطناعي مخاطر الذكاء الاصطناعي أوبن إيه آي أنثروبيك هاغينغ فايس الأمن السيبراني الحماية الرقمية التكنولوجيا الرقابة على الذكاء الاصطناعي الحوادث التقنية السلامة الرقمية الذكاء الاصطناعي التوليدي
