Nuevo software de IBM unifica gobernanza y seguridad de IA agéntica

Mientras las empresas exploran el potencial de estos sistemas autónomos para impulsar la productividad y la eficiencia, también se enfrentan a nuevos desafíos en materia de seguridad y gobernanza. IBM responde a estas necesidades con un software que integra los equipos de seguridad y gobernanza de la Inteligencia Artificial (IA) agéntica, ofreciendo una visión unificada del perfil de riesgo de las organizaciones.

La nueva solución combina las capacidades de IBM watsonx.governance y Guardium AI Security, proporcionando a los clientes una plataforma única para gestionar los riesgos asociados a los agentes de IA. Esta integración permite a las empresas mejorar su capacidad para proteger sus sistemas de IA, garantizar el cumplimiento normativo y promover la confianza en la adopción responsable de la tecnología.

Destaca la integración y automatización de la seguridad de la IA agéntica. IBM mejora la interoperabilidad entre Guardium AI Security y watsonx.governance, brindando a las empresas la primera solución unificada para gestionar riesgos de seguridad y gobierno asociados al uso de IA. La integración respalda los procesos de los usuarios para validar estándares de cumplimiento frente a 12 marcos diferentes, incluida la ley de IA de la Unión Europea y la ISO 42001.

Además, introduce nuevas capacidades en Guardium AI Security gracias a una colaboración con AllTrue.ai, como el detectar nuevos casos de uso de IA en entornos de nube, repositorios de código y sistemas integrados. Esta visibilidad y protección amplias son esenciales en un ecosistema de IA cada vez más descentralizado. Una vez identificados, IBM Guardium AI Security activa automáticamente los flujos de trabajo de gobierno apropiados desde watsonx.governance.

Las actualizaciones de IBM Guardium AI Security incluyen la automatización de red teaming, que ayuda a las empresas a detectar y corregir vulnerabilidades y errores de configuración en distintos usos de IA. Además, para mitigar riesgos como la inyección de código, la exposición de datos confidenciales y las fugas de datos, la herramienta permite definir políticas de seguridad personalizadas que analizan instrucciones de entrada y respuestas generadas por los agentes.

IBM watsonx.governance supervisa y gestiona agentes de IA a lo largo de todo su ciclo de vida. Se pueden integrar nodos de evaluación directamente en los agentes, permitiendo a los usuarios supervisar cuidadosamente métricas como la relevancia de las respuestas, la pertinencia del contexto y la fidelidad. Esta supervisión exhaustiva ayuda a identificar la raíz de un rendimiento deficiente y a garantizar que los agentes funcionen según lo previsto.

IBM watsonx.governance Compliance Accelerators ofrece una selección de regulaciones, normas y marcos preconfigurados de todo el mundo, lo que permite a los usuarios identificar las obligaciones relevantes y asignarlas a sus propios casos de uso de IA. Esta característica facilita el cumplimiento normativo y reduce la complejidad asociada a la gestión de diferentes requisitos regulatorios.