Estadística

Test A/B y conversiones modeladas: la métrica estimada

Las conversiones modeladas diluyen el test A/B: por qué un modelo ciego a tu variante encoge el lift, cuánto cuesta en poder y qué medir en su lugar.

Ilustración plana de un cilindro de vidrio lleno de esferas, la mayoría sólidas y opacas y el resto translúcidas y fantasmales, sobre fondo verde menta

Una conversión modelada es una conversión que la plataforma no vio y estimó en su lugar. No es un error de redondeo: es una porción creciente de los números de tus informes, y tiene un efecto específico y predecible sobre los experimentos. El modelo que rellena el hueco se construyó para responder “una interacción con un anuncio llevó a una conversión”, no “qué variante de tu página vio esta persona”. Tu brazo de experimento es una variable que solo tú conoces. Así que la parte modelada de tus conversiones cae en los dos brazos en proporción aproximadamente igual, no lleva información sobre la diferencia entre ellos y arrastra tu lift medido hacia cero en una cantidad que puedes calcular exactamente. Esta guía cubre de dónde viene la modelización, por qué la dilución es aritmética y no un defecto del modelo, un ejemplo trabajado en el que un lift verdadero del 11,98 por ciento se lee como 6,42 por ciento, cuánto cuesta eso en tamaño de muestra y el hábito de conciliación que convierte una divergencia de informe en un intervalo de confianza fabricado. Esta guía forma parte de nuestra guía completa de test A/B.

De dónde vienen las conversiones modeladas

Google Ads es explícito en la definición: las conversiones modeladas usan datos que no identifican a usuarios individuales para estimar conversiones que Google no puede observar directamente. La documentación describe varias situaciones que lo activan; estas cuatro son las que más aparecen en un experimento.

disparador lo que falta lo que usa el modelo en su lugar
entre dispositivos la interacción con el anuncio y la conversión ocurrieron en aparatos diferentes comportamiento del gran número de usuarios con sesión iniciada en las propiedades de Google, extrapolado a recorridos similares
iOS y App Tracking Transparency el vínculo entre anuncio y desenlace en el tráfico afectado patrones agregados, ya que el vínculo por usuario no existe
consentimiento la conversión de quien rechazó el almacenamiento de analytics o de anuncios la relación observada entre usuarios que consienten y que no consienten
entre navegadores la medición en navegadores que bloquean cookies de terceros la misma extrapolación agregada

Para el consent mode específicamente, el criterio de elegibilidad es público: implementación correcta del consent mode o del IAB Transparency and Consent Framework, y un umbral diario de 700 clics en anuncios a lo largo de 7 días, por agrupación de país y dominio. Por debajo de eso, Google no reporta ninguna conversión modelada para esa agrupación.

Dos hechos documentados más enmarcan todo lo que viene a continuación.

Primero, las conversiones modeladas aparecen en la columna de Conversiones y se reflejan en todos los informes derivados que usan ese dato, con la misma granularidad que las observadas. No existe una columna separada para excluir. Si extraes conversiones de la plataforma, estás extrayendo una mezcla.

Segundo, y este es el que más importa para los experimentos: quien consiente tiene típicamente de 2 a 5 veces más probabilidad de convertir que quien no consiente, según la propia documentación de consent mode de Google. Las personas que caen en el cubo modelado no son una muestra aleatoria de tu tráfico. La ilustración del propio Google es reveladora también en la otra dirección: un anunciante con una tasa de consentimiento del 50 por ciento vio solo un 18 por ciento de aumento de conversión procedente de la modelización, precisamente porque la mitad no consentida convierte mucho menos.

Cómo se compone un total de conversiones reportado a partir de partes observadas y modeladasUna única barra ancha que representa el total de conversiones reportado, dividida en dos segmentos. El segmento mayor, a la izquierda, está rotulado como observado, lo que significa conversiones que la plataforma midió directamente y que llevan la identidad necesaria para atribuirlas a un brazo del experimento. El segmento menor, a la derecha, está rotulado como modelado, lo que significa conversiones estimadas a partir de patrones agregados sin identificar a usuarios individuales. Debajo de la barra, dos notas registran que el segmento observado puede desglosarse por variante y el modelado no, porque el modelo no tiene conocimiento del brazo del experimento.la columna de Conversiones es una mezcla, y solo una mitad puede desglosarse por varianteobservadomodeladomedido directamente, con identidad adjuntaestimado a partir de agregadosse puede desglosar por brazo del experimentocada evento lleva la variante que asignasteno se puede desglosarel modelo nunca vio tu brazopor eso los números por variante no van a sumar el total reportadoesa diferencia es esperada, e intentar cerrarla dentro del test es donde ocurre el daño
Las conversiones observadas y modeladas llegan en la misma columna. Solo la mitad observada lleva la identidad por usuario que permite atribuir un desenlace a la variante que aleatorizaste.

Tu variante es una variable de la que el modelo nunca oyó hablar

Este es el argumento entero, y es más simple de lo que parece.

Cuando ejecutas un test A/B en tu propio sitio, eres tú quien decide qué variante ve cada visitante. Esa aleatorización vive en tu código, en tu cookie, en tu capa de datos. No es una señal que Google tenga, no es una feature del modelo de Google, y no existe ningún mecanismo por el cual una extrapolación agregada sobre el comportamiento de personas con sesión iniciada pudiera recuperarla.

Así que, cuando el modelo imputa un bloque de conversiones, ese bloque se asigna según las señales que el modelo sí tiene: dispositivo, navegador, geografía, horario, campaña. Ninguna de ellas se correlaciona con tu aleatorización de variantes, precisamente porque aleatorizaste. La aleatorización, que normalmente te protege, aquí garantiza que el bloque modelado se reparta por igual entre tus brazos.

Un reparto igual entre brazos es exactamente un efecto nulo. Mezcla un efecto nulo con un efecto real y obtienes un efecto menor.

Fíjate en el límite importante: si tu experimento se implementa dentro de la plataforma de anuncios, como dos campañas o dos grupos de anuncios, entonces la modelización ocurre por campaña y el bloque modelado lleva algo de información de brazo. Es otra situación, con problemas propios, cubierta en test A/B en la plataforma de anuncios. Esta guía trata el caso mucho más común: aleatorizas en tu sitio y lees conversiones de una plataforma o herramienta de analytics que modeliza.

Por qué un bloque modelado ciego a la variante encoge el lift medidoDos columnas que representan el brazo A y el brazo B. En la fila de arriba, las conversiones observadas difieren entre los brazos, con el brazo B más alto que el A, y la diferencia está rotulada como el efecto real. En la fila de abajo, se suma un bloque modelado idéntico encima de cada brazo, dibujado con la misma altura en los dos. Las barras combinadas quedan más altas, pero la distancia entre ellas sigue igual en términos absolutos mientras las bases crecieron, así que la diferencia relativa queda menor. Una nota registra que la diferencia absoluta sobrevive y el lift relativo se diluye.el bloque modelado suma la misma cantidad en los dos brazosla distancia se mantiene; las bases crecen; la razón encogesolo observadoABel efecto realcomo se reporta, con modelizaciónABmisma distanciasobre una base más altabloque discontinuo = modelado, idéntico en los dos brazosla diferencia absoluta sobrevive, el lift relativo se diluye
Un bloque modelado que no lleva información de brazo se comporta como una constante sumada a los dos lados. La diferencia absoluta entre brazos se preserva; el lift relativo, que divide por la base, no.

La dilución es exacta, y puedes calcularla

Supón que el brazo de control tiene cA conversiones observadas y el brazo variante tiene cB, con tráfico igual. El bloque modelado de tamaño M se reparte por igual, sumando h = M / 2 a cada brazo. El lift relativo reportado queda:

lift relativo reportado = (cB + h menos cA menos h) dividido por (cA + h), que es (cB menos cA) dividido por (cA + h).

El lift relativo verdadero es (cB menos cA) dividido por cA. Por lo tanto, el factor de atenuación es exactamente cA dividido por (cA + h): la fracción observada de las conversiones reportadas del brazo de control. Sin aproximación, sin suposición sobre la precisión del modelo. Un modelo perfectamente preciso que no conoce tu variante produce exactamente esta dilución.

Mira esta aritmética con números reales. Un sitio ejecuta un test con 27.440 visitantes por brazo. Las conversiones observadas son 384 en el brazo de control y 430 en el brazo variante.

La comparación honesta, solo con dato observado: 1,3994 por ciento contra 1,5671 por ciento. Lift relativo de más 11,98 por ciento, diferencia absoluta de más 0,1676 punto porcentual, intervalo del 95 por ciento de menos 0,0346 a más 0,3699 punto porcentual, valor p 0,1043. Prometedor, todavía no resuelto.

Ahora suma un bloque modelado que se reparte por igual y lee el mismo experimento por la columna reportada:

porción modelada de las conversiones reportadas control reportado variante reportado lift relativo reportado factor de atenuación valor p sobre lo reportado
0 por ciento, solo observado 384 430 más 11,98 por ciento 1,0000 0,1043
15 por ciento 456 502 más 10,09 por ciento 0,8421 0,1338
30 por ciento 558,5 604,5 más 8,24 por ciento 0,6876 0,1728
45 por ciento 717 763 más 6,42 por ciento 0,5356 0,2254

Lee la última columna con atención. El valor p sube a medida que crece la modelización, de 0,1043 a 0,2254. Eso no es el test volviéndose conservador de forma útil. Es la misma diferencia real reportada como evidencia más débil, porque la mitad del denominador es ruido que no tiene cómo diferir entre brazos.

Pega la primera fila en la calculadora para reproducir el resultado solo con dato observado:

Calculadora de significancia estadística
Control (A)
Variación (B)
Control (A) · Tasa-
Variación (B) · Tasa-
Mejora relativa-
valor-p-
IC 95% de la diferencia-

Test z bilateral de dos proporciones. "Sin significancia" casi siempre significa que falta muestra, no que las versiones sean iguales.

Una aclaración, porque cambia cómo lees tus propios números: esta es una afirmación sobre el lift relativo. La diferencia absoluta de conversiones entre brazos se preserva con el reparto igual, porque se suma la misma cantidad a los dos lados. Si reportas diferencias absolutas con sus intervalos en vez de lift porcentual, quedas mucho menos expuesto a este efecto. Es un argumento más para el hábito que recomendamos todo el tiempo: reporta el efecto absoluto con el intervalo, y trata el número relativo como adorno.

Cuánto cuesta la atenuación en tamaño de muestra

El tamaño de muestra escala aproximadamente con el inverso del cuadrado del efecto que quieres detectar. Encoger el efecto medido, por lo tanto, no cuesta un poco de poder, cuesta mucho.

Toma una tasa de conversión base del 1,4 por ciento y un lift relativo verdadero del 12 por ciento, con un 95 por ciento de confianza y un 80 por ciento de poder:

lo que estás detectando de verdad efecto después de la atenuación visitantes por brazo múltiplo del requisito honesto
efecto verdadero, dato observado 12,0 por ciento 81.312 1,00
15 por ciento modelado 10,2 por ciento 111.602 1,37
30 por ciento modelado 8,4 por ciento 163.168 2,01
45 por ciento modelado 6,6 por ciento 262.056 3,22

Con un 30 por ciento de conversiones modeladas necesitas el doble de tráfico para llegar a la misma conclusión. Con un 45 por ciento, más del triple. Nada cambió en tu sitio, en tu hipótesis ni en tus visitantes; simplemente elegiste leer el resultado en una columna que contiene un modelo.

Calculadora de tamaño de muestra
-Visitantes por variación
-Total (2 variaciones)
-Duración estimada

Cálculo por aproximación normal de dos proporciones, 2 variaciones (50/50). Cambia los campos y mira el impacto en vivo.

La trampa de la conciliación

Esta es la secuencia que destruye un análisis, y ocurre en equipos bien organizados porque parece rigor.

Un analista se da cuenta de que los recuentos de conversión por variante no suman el total de la plataforma. Tiene razón en que los números divergen, y tiene razón sobre el motivo: Google declara que los datos modelados no están disponibles en Audiencias, en las exploraciones de usuario, de cohorte y de valor de vida, en segmentos con secuencia, en informes de retención, en métricas predictivas ni en la exportación de datos, como la exportación a BigQuery. Tu brazo de experimento es una dimensión en el ámbito del usuario. Así que el número principal es modelado y el desglose por variante no lo es.

Entonces el analista lo “arregla” escalando los dos brazos hacia arriba hasta que la suma cuadra con el total reportado. Y ese es el daño.

Escalar los dos brazos por un factor común k deja intacto el lift relativo, porque la razón no cambia. Pero multiplica los recuentos de conversión que entran en el cálculo de la varianza. El error estándar de una proporción encoge con la raíz cuadrada de los recuentos, así que inflar los recuentos por k encoge el error estándar aproximadamente por la raíz de k, y el valor p cae con él. Te quedas con la misma estimación puntual y un intervalo de confianza que no te ganaste.

Lo que hace con el intervalo de confianza escalar los recuentos por variante para que cuadren con un total modeladoDos barras de intervalo horizontales en torno a la misma estimación puntual. La barra de arriba, rotulada como honesta, se calcula a partir de los recuentos observados y es lo bastante ancha para cruzar el cero. La barra de abajo, rotulada como después de escalar para cuadrar con el total modelado, está centrada en la estimación puntual idéntica, pero es visiblemente más estrecha y ya no cruza el cero. Una nota registra que la estimación puntual no se movió, solo cambió la anchura, y que el estrechamiento es un artefacto de inflar los recuentos, y no de haber recogido más evidencia.escalar los recuentos no añade evidencia, solo estrecha el intervalocerohonestorecuentos observadoscruza el cero: no resueltodespués de escalarrecuentos inflados hasta cuadrar el totalahora supera el cero, sin dato nuevoestimación puntual idéntica en las dos líneasconcilia totales en el informe, nunca dentro del test estadístico
La estimación puntual no cambia con el escalado, y por eso la práctica parece inofensiva. El intervalo cambia, y es el intervalo el que decide si publicas el cambio.

La regla es corta: concilia totales en la capa de informes, nunca dentro del test estadístico. El test se ejecuta sobre eventos que observaste y atribuiste a un brazo. El número de finanzas puede ser el modelado. Responden a preguntas diferentes y tienen derecho a divergir.

Qué medir en su lugar

decisión fuente equivocada fuente correcta por qué
qué variante ganó columna de Conversiones de la plataforma tus propios eventos observados, con el brazo adjunto el modelo no ve el brazo
cuántos ingresos generó la campaña solo observado total mezclado de la plataforma la parte modelada es un intento real de cubrir el desenlace que faltó
nivel de tasa de conversión para planificación solo observado mezclado, declarado como mezclado solo observado subestima el nivel, porque quien consiente convierte más
qué lift podrías detectar el efecto verdadero que esperas el efecto atenuado que medirías si no, dimensionas el test para una sensibilidad que no tienes
si un efecto es real lift relativo diferencia absoluta con el intervalo la diferencia absoluta sobrevive a un reparto modelado igual

La objeción a usar solo dato observado para la decisión es buena y merece respuesta: el dato observado está sesgado, porque quien consiente convierte de 2 a 5 veces más que quien no consiente. Es cierto, e importa para el nivel. Importa mucho menos para la comparación, porque ese sesgo se aplica a los dos brazos y en buena parte se cancela en la diferencia. El lugar donde no se cancela es cuando las propias tasas de consentimiento difieren entre brazos, lo que ocurre si tu variante toca el banner de consentimiento o el momento en que aparece. Ese es un modo de fallo real y específico, tiene nombre, y lo cubrimos en pérdida de seguimiento por consentimiento y bloqueador: sigue la tasa de consentimiento como métrica de guardrail, exactamente como sigues el desequilibrio de muestra.

El movimiento complementario es reducir cuánto necesita ser modelado, para empezar: medición en el servidor del evento de conversión, un identificador de datos propios que sobreviva a las restricciones de terceros del navegador, y un evento de conversión que sea tuyo, en vez de uno que infieres de un píxel de plataforma.

Errores comunes

Hazlo automático en Donnu

La solución no es estadística ingeniosa. Es ser dueño del evento. Una decisión de experimento debe ejecutarse sobre desenlaces que observaste, atribuidos al brazo que aleatorizaste, en tu propio repositorio, con el efecto absoluto y su intervalo reportados al lado.

En Donnu la aleatorización y el evento de conversión viven en el mismo lugar, así que toda conversión contada lleva la variante que la produjo y no hace falta imputar nada para saber a qué brazo pertenece. La tasa de consentimiento queda al lado de la razón de muestra como métrica de guardrail, así que una variante que toca el banner aparece como alerta en vez de convertirse en lift. Y el resultado se reporta como diferencia absoluta con el intervalo, que es la forma que sobrevive a un reparto modelado igual. Donnu es una opción entre varias; lo que importa es la separación: guarda el total modelado para la conversación de presupuesto y mantén el experimento sobre eventos observados y atribuibles al brazo.

Preguntas frecuentes

Las preguntas al principio de esta página cubren qué son las conversiones modeladas, si rompen tu test, cuánto encogen el lift medido, por qué escalar los recuentos es el arreglo equivocado, por qué tu desglose por variante no es modelado y sobre qué número ejecutar la decisión.

Referencias

Lee también: Pérdida de seguimiento por consentimiento y bloqueador · Datos propios y test A/B · Desequilibrio de muestra · GA4 y test A/B · Test A/B en la plataforma de anuncios · Análisis por disparo y dilución · Leia em português

Preguntas frecuentes

¿Qué son las conversiones modeladas?
Son conversiones que la plataforma no observó y estimó en su lugar. Google Ads declara que las conversiones modeladas usan datos que no identifican a usuarios individuales para estimar conversiones que Google no puede observar directamente, y que aparecen en la columna de Conversiones junto a las observadas. La modelización se activa por recorridos entre dispositivos, navegadores que bloquean la medición de terceros, tráfico afectado por App Tracking Transparency y usuarios que rechazaron el consentimiento.
¿La conversión modelada rompe mi test A/B?
No rompe la aleatorización, diluye la medición. Si una parte de las conversiones reportadas viene de un modelo que no tiene idea de qué variante vio cada persona, esa parte no lleva ninguna información sobre la diferencia entre tus brazos. Cae en los dos brazos en proporción aproximadamente igual y encoge el lift relativo medido hacia cero. La aleatorización sigue siendo válida; lo que queda atenuado es la estimación.
¿Cuánto encoge la modelización mi lift medido?
El factor de atenuación es exactamente la fracción observada de las conversiones reportadas del brazo de control. En el ejemplo trabajado de esta guía, un lift relativo verdadero del 11,98 por ciento se lee como 10,09 por ciento cuando el 15 por ciento de las conversiones son modeladas, 8,24 por ciento con un 30 por ciento modeladas y 6,42 por ciento con un 45 por ciento modeladas. La aritmética es exacta y no depende de que el modelo esté equivocado: un modelo perfectamente preciso que no ve tu variante diluye la comparación de la misma forma.
¿Puedo simplemente escalar los números por variante para que cuadren con el total reportado?
No, y ese es el arreglo más común que lo empeora todo. Escalar los dos brazos por el mismo factor deja intacto el lift relativo, pero multiplica los recuentos de conversión, lo que encoge el error estándar y hace que un resultado no significativo parezca significativo. Terminas con la misma estimación puntual y un intervalo de confianza fabricado. Si necesitas conciliar los totales, concílialos en el informe, nunca dentro del test estadístico.
¿Mi desglose por variante es modelado?
En general no, y de ahí viene casi toda la confusión. Google declara que los datos de modelización del comportamiento no están disponibles en Audiencias, en las exploraciones de usuario, de cohorte y de valor de vida, en segmentos con secuencia, en informes de retención, en métricas predictivas ni en la exportación de datos, como la exportación a BigQuery. Tu brazo de experimento es una dimensión en el ámbito del usuario, así que el número principal de tus informes puede incluir datos modelados mientras que el desglose por variante no los incluye. Los dos no van a cuadrar, y eso es lo esperado.
¿Sobre qué número debo ejecutar el test?
Sobre el número observado, salido de tu propia medición, con la variante adjunta a cada evento. Es menor y está sesgado como nivel, porque quien consiente convierte distinto de quien no consiente, pero el sesgo afecta a los dos brazos y en buena parte se cancela en la comparación. Usa el total de la plataforma para presupuesto e informes; usa eventos observados y atribuibles a la variante para la decisión del experimento, y declara cuál es cuál.