حوّل البابا ليو الرابع عشر نقاشاً ملحّاً بشأن الذكاء الاصطناعي إلى تحدٍّ مباشر للحكومات التي تستعد لاستخدامه عسكرياً. ففي كلمة ألقاها الجمعة، حثّ الدول الأعضاء في الأمم المتحدة على اتخاذ خطوات ملموسة نحو حظر الأسلحة ذاتية التشغيل الفتاكة، خلال اجتماع يُعقد في جنيف الشهر المقبل. ويمكن للأنظمة المعنية تحديد الأهداف ومهاجمتها مع تدخل بشري محدود أو منعدم في الوقت الفعلي، ما ينقل إلى البرمجيات قرارات كانت من اختصاص القادة العسكريين والجنود. ولم يكن مطلب ليو الأساسي أن تتخلى المجتمعات عن الذكاء الاصطناعي، بل أن «تنزع سلاح» استخداماته حين تهدد كرامة الإنسان وحياته. ويتمحور النقاش حول ما إذا كان من الممكن تبرير الاستغناء عن الحكم البشري في استخدام القوة الفتاكة بداعي السرعة.
يأتي هذا النداء في ظل تعثر مناقشات دولية مستمرة منذ سنوات بشأن «أنظمة الأسلحة ذاتية التشغيل الفتاكة»، التي يُشار إليها اختصاراً بـ«لاوز» (LAWS). ولا يتعلق الأمر بمنتج واحد أو بجيش من الروبوتات المستقبلية؛ إذ تتراوح هذه الأنظمة بين أدوات تساعد على اختيار الأهداف ومنصات قادرة على إطلاق النار من دون موافقة شخص على كل ضربة. وتقول الجيوش إن الأتمتة تستطيع معالجة بيانات أجهزة الاستشعار بسرعة تفوق قدرة البشر، وقد تحد من المخاطر التي يتعرض لها جنودها. في المقابل، يحذر منتقدون من أن الآلات قد تسيء فهم السياق، وترتكب أخطاء على نطاق واسع، وتترك الضحايا وعائلاتهم في حيرة بشأن المسؤول عن ذلك. ويتمثل السؤال الأساسي في السياسات في تحديد موضع الرقابة البشرية الفعلية، وما إذا كان مجرد إشراف شخص على شاشة كافياً.
يكتسب هذا السؤال إلحاحاً متزايداً مع اعتماد القوات المسلحة على الذكاء الاصطناعي في المراقبة والخدمات اللوجستية وتحليل المعلومات الاستخباراتية والتخطيط في ميدان المعركة. ولا تجعل هذه التطبيقات السلاح ذاتي التشغيل تلقائياً، لكنها قد تقلّص الوقت الفاصل بين رصد تهديد محتمل والتحرك لمواجهته. وقد يؤثر نظام يوصي باستهداف شخص أو موقع في القرار، حتى عندما يوافق إنسان رسمياً على الهجوم. ولهذا لا يركز الداعون إلى فرض قيود على لحظة إطلاق النار وحدها، بل أيضاً على كيفية جمع البيانات، وطريقة عرض التوصيات، وما إذا كان بإمكان المشغّلين رفضها. فالسيطرة، عملياً، تعني أكثر من مجرد وجود إنسان في مرحلة ما من سلسلة اتخاذ القرار.
يمنح تدخل ليو النقاش مفردات أخلاقية قد يصعب على المفاوضات التقنية والدبلوماسية توفيرها. فتحذيره من ضرورة أن يوجّه البشر استخدامات الذكاء الاصطناعي أو يغيّروها أو يرفضوها، يصوّر السيطرة على أنها مسؤولية مستمرة، لا مفتاح أمان يُفعّل مرة واحدة. ولهذا التمييز أهمية تتجاوز الأسلحة؛ فالأنظمة الآلية تؤثر على نحو متزايد في التوظيف والتمويل والرعاية الصحية والمعلومات العامة، حيث يمكن للقرارات المتحيزة أو الغامضة أن تمس حياة الناس أيضاً. وقد أثار الفاتيكان سابقاً مخاوف بشأن الأسلحة ذاتية التشغيل في الأمم المتحدة، ما يضع نداء البابا ضمن مسعى أوسع لترسيخ المسؤولية البشرية بوصفها حداً لاستخدام الذكاء الاصطناعي. ولا تستطيع المرجعية الدينية صياغة معاهدة، لكنها قادرة على تسليط الضوء أمام الرأي العام على ما هو على المحك.
تكمن العقبة العملية في اختلاف الحكومات بشأن التعريفات وآليات الإنفاذ والمزايا الاستراتيجية. وقد يصعب التحقق من تطبيق حظر واسع، لأن أجهزة الاستشعار والبرمجيات ومعدات الحوسبة نفسها تُستخدم لأغراض مدنية وعسكرية. وقد تخشى الدول أيضاً أن يؤدي تقييد القدرات ذاتية التشغيل إلى وضعها في موقف أضعف إذا واصل منافسوها تطويرها. لذلك، سيتطلب أي اتفاق قابل للتطبيق قواعد واضحة تحدد الوظائف المحظورة، ووسائل موثوقة لتقييم الامتثال، وضمانات تُبقي البشر مشاركين فعلياً في تشغيل الأنظمة. وستختبر مناقشات جنيف قدرة الدول على الانتقال من القلق المشترك إلى صياغة قواعد ترشد عمليات الشراء والتصميم والسلوك في ميدان المعركة.
أما شركات التكنولوجيا، فقد تمتد التداعيات إلى ما هو أبعد من مصنّعي الأسلحة. فقد تواجه الشركات التي توفر الحوسبة السحابية والرقائق والخرائط وبرمجيات الرؤية الحاسوبية وأدوات تحليل البيانات ضغوطاً لتوضيح كيفية استخدام منتجاتها، وإدراج قيود في العقود والأنظمة. ولا يعني ذلك وجوب التعامل مع كل أداة ذكاء اصطناعي متعددة الأغراض على أنها سلاح؛ بل يعني أن المطورين والعملاء بحاجة إلى تحديد المسؤوليات بوضوح أكبر عندما تُكيَّف التكنولوجيا لاستخدام القوة. وستتابع الشركات التي تتعامل بالفعل مع تنظيم الذكاء الاصطناعي أي معايير قد تؤثر في اختبارات السلامة والتوثيق والرقابة البشرية في تطبيقات أخرى عالية المخاطر. وقد تؤثر احتمالات فرض قيود دولية أيضاً في الاستثمارات وخطط تطوير المنتجات وإمكانية الحصول على العقود الحكومية.
وبالنسبة إلى الجمهور، لا تقتصر المسألة على قدرة الآلات على اتخاذ قرارات دقيقة، بل تشمل أيضاً ما إذا كانت الدقة وحدها كافية لتبرير تفويض قرارات تتعلق بالحياة والموت. فقد تعمل الأنظمة ذاتية التشغيل بسرعة وانتظام، لكنها لا تستطيع تحمل المسؤولية الأخلاقية أو تفسير قرار بالطريقة التي يستطيعها شخص خاضع للمساءلة. ولن يحل الحظر جميع المخاطر التي يطرحها الذكاء الاصطناعي العسكري، بما فيها أدوات دعم القرار التي توجه المشغّلين البشر بطرق غير مباشرة. ومع ذلك، يفرض هذا النداء على الحكومات تحديد خط فاصل قبل أن يجعل نشر التكنولوجيا تنظيمها أكثر صعوبة. وسيكون اجتماع جنيف المقبل اختباراً لمعرفة ما إذا كان من الممكن تحويل السيطرة البشرية من مبدأ إلى واقع، وما إذا كانت الدول ستقبل فرض قيود ما دامت الخيارات لا تزال بيدها.
