تقدّم سيرفس ناو وإنفيديا نوعًا جديدًا من نقاط التفتيش الأمنية لوكلاء الذكاء الاصطناعي في أماكن العمل، مراهنَتَين على أن الأتمتة لن تحظى بثقة الشركات إلا إذا أمكن فحص إجراءاتها لحظة تنفيذها. وصُمّم الوكيل، الذي يحمل اسم «آرك»، لإنجاز مهام المؤسسات مع إجراء فحوصات متعددة آنية، يُراد منها رصد الخطوات غير الآمنة أو غير المصرّح بها قبل تنفيذها. ويتناول الإعلان توترًا محوريًا في مجال الذكاء الاصطناعي للأعمال: فالشركات تريد برمجيات تتجاوز الإجابة عن الأسئلة، لكنها لا تستطيع المخاطرة بترك نظام طليق اللسان يتصرف من تلقاء نفسه في السجلات الحساسة أو الأموال أو العمليات الحيوية.
تكمن أهمية «آرك» في نموذج التحكم المقترح أكثر من كونها واجهة حوارية أخرى. فمن المفترض أن يعمل عبر أنظمة أماكن العمل، حيث قد تتطلب المهمة قراءة المعلومات، وتحديد الإجراء المناسب، ثم تعديل سجل أو إطلاق سير عمل. وهذه الخطوة الأخيرة هي ما يحوّل المساعد إلى وكيل، وهي أيضًا المرحلة التي قد تترتب فيها على الأخطاء عواقب تتجاوز تقديم إجابة سيئة. وتقول سيرفس ناو إن الضمانات تعمل في الوقت الفعلي، إذ تفحص الإجراءات أثناء عمل الوكيل بدلًا من الاكتفاء بالاعتماد على وثيقة سياسات أو مراجعة بشرية بعد إتمام المهمة.
وتصف الشركتان نهجًا متعدد الطبقات، يمكن فيه لآليات الإنفاذ من إنفيديا الموافقة على إجراءات الوكيل أو حظرها. وعمليًا، يُفترض أن تقارن الفحوصات الخطوة المقترحة بالقواعد والصلاحيات قبل تنفيذها، على غرار بوابة أمنية تقيّم الطلب بدلًا من الوثوق بمصدره. وتكتسب هذه المسألة أهمية لأن الذكاء الاصطناعي التوليدي قد ينتج مخرجات تبدو معقولة لكنها خاطئة، ولأن الوكيل قد يحوّل هذا الخطأ إلى تغيير تشغيلي. ويسعى الإنفاذ الآني إلى فرض ضوابط عند لحظة التنفيذ، حيث يمكن للتدخل أن يمنع خطأً مكلفًا.
تتمتع سيرفس ناو بموطئ قدم في برمجيات سير العمل المؤسسي، التي تربط العمليات في مجالات مثل دعم تقنية المعلومات وخدمات الموظفين؛ أما إنفيديا فتوفّر البنية التحتية للذكاء الاصطناعي وأدواته، التي يتزايد تركيزها على تشغيل الوكلاء وإدارتهم. وتعكس شراكتهما تحولًا أوسع من روبوتات المحادثة التي تلخّص المعلومات إلى أنظمة تنفّذ أعمالًا متعددة الخطوات. وفي خضم هذا التحول، لا يقتصر السؤال التنافسي على تحديد النموذج الذي يكتب أفضل إجابة، بل يشمل قدرة الوكيل على العمل بموثوقية ضمن الصلاحيات والسجلات والإجراءات القائمة في الشركة، من دون إنشاء مسار جديد للالتفاف عليها.
أما بالنسبة إلى العملاء، فالفائدة الموعودة عملية: إذ يمكن للموظفين تفويض الأعمال الروتينية مع الإبقاء على ضوابط تحدد ما يُسمح للبرمجيات بفعله. فمن حيث المبدأ، قد يجمع وكيل الدعم المعلومات اللازمة ويُعدّ سير عمل، فيما تساعد الفحوصات على تقييد الإجراءات التي تتجاوز صلاحياته. وقد يقلل ذلك الأعمال المتكررة ويختصر أوقات الاستجابة، ولا سيما في المؤسسات الكبيرة التي تتجاوز مهامها حدود الأقسام. لكن الإعلان عن «آرك» لا يثبت أن كل سير عمل آمن، ولا أن بإمكان البشر الابتعاد عن الإشراف؛ إذ ستظل الشركات بحاجة إلى تحديد الصلاحيات واختبار السيناريوهات وتقرير القرارات التي تتطلب موافقة.
ومن الضروري التمييز بين طبقة أمان وضمان مطلق. فالفحوصات قد تحد من المخاطر، لكنها لا تجعل نظام الذكاء الاصطناعي معصومًا من الخطأ: فقد تكون القواعد غير مكتملة، أو يُساء فهم السياق، أو يكون الإجراء المسموح به غير حكيم. وستحتاج المؤسسات إلى سجلات تدقيق ومراقبة وتحديد واضح للمسؤولية عن الإخفاقات، فضلًا عن وسائل لإيقاف الإجراءات أو التراجع عنها. كما يتعين عليها تقييم كيفية التعامل مع البيانات، وما إذا كانت الضوابط تعمل باتساق عبر التطبيقات المتصلة. ومن المرجح أن تتعامل فرق الأمن مع صلاحيات الوكلاء بوصفها فئة جديدة من هويات البرمجيات، بحيث لا تُمنح إلا الحد الأدنى اللازم من الصلاحيات.
ويعكس الإطلاق أيضًا مسعى أوسع في القطاع لجعل الذكاء الاصطناعي القائم على الوكلاء قابلًا للتطبيق، لا مجرد تقنية مبهرة في العروض التوضيحية. فقد عملت إنفيديا على تطوير بنية تحتية للوكلاء وحلول للسلامة، فيما تدمج شركات برمجيات المؤسسات الذكاء الاصطناعي في أنظمة تدير بالفعل العمليات اليومية للأعمال. ويتيح ذلك فرصة لجعل الحماية جزءًا من سير العمل بدلًا من إضافتها لاحقًا. لكنه يطرح أيضًا سؤالًا في السوق: هل سيفضّل المشترون المنصات المتكاملة ذات الضوابط المدمجة، أم الأدوات المفتوحة التي يمكنهم فحصها وتكييفها؟ وقد تكون الثقة وقابلية التشغيل البيني والأداء القابل للقياس بأهمية قدرات النماذج.
وسيظهر الاختبار الحقيقي لـ«آرك» في الأعمال اليومية، حيث تكثر الحالات الاستثنائية والبيانات غير المرتبة مقارنة بالعروض التوضيحية المصقولة. وستحتاج الشركات إلى أدلة على أن الفحوصات سريعة بما يكفي كي لا تقوّض الأتمتة، ودقيقة بما يكفي لمنع الإجراءات الخطرة، وشفافة بما يكفي ليفهمها المدققون والموظفون. وإذا تحققت هذه الشروط، فقد تتولى الوكلاء مزيدًا من المهام المحددة النطاق، وتتيح للعاملين وقتًا أكبر للأعمال التي تتطلب تقديرًا بشريًا. أما إذا لم تتحقق، فقد لا تفعل طبقة الأمان سوى إضفاء مظهر أكثر أمانًا على أتمتة محفوفة بالمخاطر. والخلاصة الأوسع هي أن مستقبل الذكاء الاصطناعي في المؤسسات يعتمد على ضبط ما تفعله الوكلاء، لا على تحسين ما تقوله فحسب.
