Cultura de Experimentación

Cómo Construir una Cultura de Experimentación (2026)

Guía práctica de cultura de experimentación: patrocinio ejecutivo, roles, velocidad de tests y la escalera de madurez organizacional.

Ilustración plana en tonos teal sobre fondo verde menta: un gran anillo formado por decenas de flechas idénticas apuntando en la misma dirección alrededor del círculo, representando un ciclo de experimentación que se repite sin parar

Cultura de experimentación es el sistema organizacional que hace que una empresa testee decisiones relevantes por defecto, no por iniciativa aislada de alguien entusiasmado. Tiene cadencia regular, roles definidos, un repositorio de aprendizajes y patrocinio ejecutivo que protege el proceso en lugar de vetar resultados incómodos. Es muy distinto de “hacer un test A/B de vez en cuando”, que es lo que la mayoría de las empresas realmente hace.

La distinción importa porque la herramienta de test A/B nunca fue el cuello de botella. Cualquier equipo puede instalar una calculadora de muestra y una calculadora de significancia en una tarde. El cuello de botella es organizacional: quién decide qué testear primero, qué pasa cuando el ejecutivo no está de acuerdo con el resultado, qué hacer con un test que perdió, y cómo saber si el programa está acelerando o solo girando en falso. Esta guía trata de esa capa, no de la estadística detrás de un test aislado (para eso, mira la guía completa de test A/B y la guía de significancia estadística).

Vale decir desde ya lo que esta guía no es. No es un manifiesto genérico de “sé más data driven”, frase que cualquier empresa firma sin costo alguno. Es un conjunto de decisiones concretas y verificables: existe o no un backlog priorizado por escrito, existe o no una persona con mandato formal para bloquear un test mal hecho, existe o no un registro de tests perdidos que cualquier persona nueva del equipo pueda consultar antes de proponer la misma idea otra vez. Cada una de esas preguntas tiene respuesta objetiva, sí o no, y es esa objetividad la que separa la cultura de la intención.

Qué separa una cultura de experimentación madura de “testear de vez en cuando”

La diferencia no está en la cantidad de tests hechos en un año aislado. Está en tres ejes que se sostienen con o sin una persona específica de guardia.

Cadencia. En una cultura madura existe una expectativa mínima explícita: por ejemplo, todo flujo relevante del producto tiene al menos un test activo o en cola en cada ciclo. En una operación reactiva, el ritmo depende de que alguien se acuerde. Cuando esa persona se va de vacaciones, cambia de equipo o de prioridad, la experimentación simplemente se detiene. Esa es la señal más confiable de que existe entusiasmo individual, no cultura. Una forma simple de testear esto en tu propia empresa: pregunta qué pasaría con la experimentación si la persona que más habla de tests se fuera mañana. Si la respuesta es “probablemente se detendría”, el programa depende de una persona, no de un sistema.

Gobernanza. La cultura madura tiene respuesta lista para preguntas aburridas: quién prioriza lo que entra en la cola, quién tiene autoridad para bloquear un test mal hecho antes de publicarlo, y bajo qué condiciones un resultado puede impugnarse después de estar listo. En una operación reactiva, esas preguntas solo aparecen cuando ya ocurrió un conflicto, generalmente entre un resultado de test y la opinión de alguien senior, y en ese momento la regla se inventa a las apuradas, bajo presión, lo que casi siempre favorece a quien tiene más poder en la sala en lugar de a quien tiene más evidencia.

Quién decide. Este es el punto más sensible y el que menos aparece en los manuales de estadística. En un programa maduro, la mayor parte de las decisiones de rollout son rutinarias y le corresponden a quien ya tiene mandato para eso (normalmente el dueño del backlog de experimentación); solo las decisiones de alto riesgo o alto costo de reversión suben a un patrocinador ejecutivo, e incluso ahí la discusión es sobre contexto de negocio, no sobre reinterpretar la estadística a dedo. En una operación reactiva, cada test se convierte en una negociación política sobre quién “gana” la conversación, y el resultado estadístico se vuelve solo un argumento más entre otros, en lugar del criterio que decide.

El flujo de abajo muestra cómo encajan esos roles, de la hipótesis hasta el rollout:

Flujo de gobernanza de un programa de experimentaciónDe la hipótesis a la decisión de rollout: cualquier equipo propone, el dueño del backlog prioriza, ingeniería y diseño ejecutan, un guardián estadístico audita el resultado, y el rollout lo decide la rutina del backlog o, en casos estratégicos, el patrocinador ejecutivo.Hipótesiscualquier equipoPriorizacióndueño del backlog(PM/Growth)Ejecucióningeniería + diseñoLectura estadísticaguardián técnicoDecisión de rolloutrutina: dueño del backlogestratégica: ejecutivo
El guardián estadístico tiene poder de veto técnico (bloquear un test con SRM o muestra insuficiente), pero no decide el rollout de negocio; eso evita que la estadística sea rehén de la opinión y que la opinión sea rehén de la estadística.

Patrocinio ejecutivo: qué motiva de verdad al liderazgo

El error más común al pedir apoyo del liderazgo es vender la experimentación por volumen: “queremos hacer más tests”. Eso suena a gasto de proceso, no a ganancia. El argumento que suele funcionar es otro: la experimentación reduce el riesgo de una decisión cara y equivocada, no aumenta la cantidad de trabajo.

Todo ejecutivo ya vivió la versión dolorosa de esto: un rediseño de meses, aprobado con convicción, que salió peor que la versión anterior, o un cambio de precio que parecía obvio y hundió la conversión. La cultura de experimentación es la respuesta institucional a ese dolor, no una iniciativa del equipo de producto. El pitch que funciona suele tener tres piezas:

Vale reforzar lo que el patrocinio ejecutivo no debería ser: aprobación individual de cada test, o poder de revertir un resultado solo porque contradice una intuición. Cuando eso pasa, el programa entero pierde credibilidad rápidamente, porque el equipo aprende que el resultado solo importa cuando coincide con quien manda. Volvemos a ese punto en la sección sobre bloqueos organizacionales.

En la práctica, la conversación que suele funcionar en una reunión de presupuesto es corta: en lugar de pedir “presupuesto para una herramienta de test A/B”, pide un mandato. Algo como “queremos que ningún cambio de alto riesgo en el flujo de pago llegue al 100% de los usuarios sin pasar antes por una porción de tráfico menor”, seguido del costo aproximado de correr esa porción durante dos o tres semanas. Eso es una frase sobre riesgo, presupuesto y plazo, tres cosas que cualquier ejecutivo maneja a diario, y no una frase sobre estadística, que suele perder a la audiencia a mitad de camino.

Roles y responsabilidades en un programa de experimentación

Los programas maduros distribuyen claramente cuatro funciones que, en una operación reactiva, suelen acumularse (mal) en una única persona: quién prioriza lo que entra en la cola, quién ejecuta técnicamente, quién audita la estadística con poder de veto técnico, y quién decide el rollout de negocio. Mezclar esas funciones es una fuente común de sesgo: la misma persona que tuvo la idea no debería ser la única en validar si el resultado es estadísticamente sólido.

Rol Prioriza el backlog Ejecuta la implementación Audita la estadística Decide el rollout
Patrocinador ejecutivo No No No Ratifica decisiones estratégicas de alto riesgo
Dueño del backlog (PM o Growth lead) No No Decide el rollout de rutina
Guardián estadístico (analista de datos) No No Sí, con veto técnico No decide, pero puede bloquear la publicación
Ingeniería No No No
Diseño/UX Consultivo (propone hipótesis y variación) Consultivo No No

El rol que más falta en las operaciones reactivas es el del guardián estadístico con veto técnico real: alguien con autoridad formal para bloquear la publicación de un resultado cuando la muestra es insuficiente, cuando hubo peeking descontrolado, o cuando el test de SRM apunta a una división de tráfico rota. Sin ese veto, la presión por lanzar rápido siempre le gana a la estadística, porque nadie tiene mandato explícito para decir que no.

Separar esos cuatro roles también resuelve un sesgo silencioso: la persona que tuvo la idea del test es, estadísticamente, la menos indicada para validar sola si su propio resultado es sólido. No por mala fe, sino porque todos leen su propio resultado deseando que confirme su propia hipótesis. Los equipos pequeños suelen objetar que no tienen gente suficiente para separar cuatro roles en cuatro personas distintas, y eso es justo, pero el punto no es tener cuatro personas: es tener cuatro sombreros explícitos, aunque a veces la misma persona use dos de ellos en momentos distintos del proceso, siempre que la auditoría estadística ocurra en un momento separado de la defensa de la propia idea.

Cómo medir la velocidad de experimentación de un equipo

La velocidad de experimentación es cuántos tests, con rigor estadístico de verdad, logra hacer un equipo por mes. Es la métrica de capacidad de un programa, equivalente a lo que Optimizely llama “experiment velocity”: según la empresa, la velocidad funciona como un proxy de la madurez del programa, y cinco factores suelen elevarla: cultura que acepta aprender de tests perdidos, colaboración entre equipos (sin silos duplicando el mismo test), automatización de procesos repetitivos, alineación del backlog con las prioridades estratégicas, e infraestructura de datos sin cuello de botella de análisis (Optimizely, “Accelerating Growth Through Experiment Velocity”). Los mismos cinco puntos, invertidos, son los principales obstáculos: restricción de recursos, aversión al riesgo, equipos desconectados, complejidad de proceso y cuello de botella de datos.

La velocidad tiene dos componentes bien distintos, y mezclarlos es el error más común al diagnosticar por qué un equipo testea poco:

  1. El piso estadístico. Cuánto tráfico tiene el flujo, y cuántos visitantes por variación exige el efecto que quieres detectar. Eso es matemática pura: dado un tráfico fijo, existe un número máximo de tests por mes que el tráfico sostiene, sin importar lo bien organizado que esté el equipo.
  2. La fricción organizacional. Cola de aprobación, tiempo de configuración manual, retrabajo por falta de estándar. Eso no tiene nada de estadístico: es 100% gobernanza, y es donde vive la mayor parte de la ganancia real de velocidad, porque el piso estadístico ya es un techo difícil de mover sin más tráfico.

Esa distinción importa especialmente para productos SaaS de autoservicio, en los que buena parte del crecimiento viene de mover el propio producto (onboarding, activación, upgrade de plan) en lugar de campañas de medios. El playbook de growth experimentation para SaaS trata exactamente ese escenario: los equipos de producto suelen tener menos tráfico por flujo que un sitio de ecommerce grande, lo que vuelve la fricción organizacional proporcionalmente más cara, porque el piso estadístico ya consume buena parte del calendario disponible.

Ejemplo trabajado: el mismo tráfico, el doble de tests por año

Para no inventar números de oído, vamos a calcular con la misma matemática que usa la calculadora de esta guía. Escenario: la página de registro de un SaaS recibe 40.000 visitantes por mes, convierte hoy 6% en trial, y el equipo quiere lograr detectar una mejora relativa del 15% (la misma matemática de dos proporciones cubierta en la guía de significancia estadística), con el estándar de mercado del 95% de confianza y 80% de poder.

Calcula tú mismo el tamaño de muestra que exige ese escenario (tasa base 6%, MDE relativo del 15%):

Calculadora de tamaño de muestra
-Visitantes por variación
-Total (2 variaciones)
-Duración estimada

Cálculo por aproximación normal de dos proporciones, 2 variaciones (50/50). Cambia los campos y mira el impacto en vivo.

El resultado son 11.693 visitantes por variación, o 23.386 en total en el test. Con 40.000 visitantes por mes (cerca de 1.333 por día), el tráfico por sí solo ya limita cada ronda a 18 días, más que el piso de dos semanas recomendado para cubrir ciclos completos de comportamiento. Ese es el piso estadístico: con ese tráfico y ese efecto objetivo, el máximo teórico es de cerca de 20 tests por año (30 días por mes divididos por 18 días por test, multiplicado por 12), incluso en una operación perfectamente eficiente.

ciclo total del test = días definidos por el tráfico (piso estadístico) + fricción organizacional (cola, configuración, retrabajo)

Ahora entra la parte organizacional. En una operación reactiva, sin cadencia formal, ese mismo test suele perder tiempo adicional fuera de la estadística: espera por la aprobación de alguien senior, retrabajo porque la variación no siguió un estándar técnico ya validado, y el tiempo muerto entre “el último test terminó” y “alguien se acordó de lanzar el siguiente”. Una fricción ilustrativa de 21 días adicionales (solo a efectos de comparación, no es un número universal) ya alcanza para derribar la capacidad real:

Métrica Antes (operación reactiva) Después (cadencia formal)
Muestra por variación (misma estadística) 11.693 11.693
Días dictados por el tráfico 18 18
Fricción organizacional adicional 21 días 2 días
Ciclo total por test 39 días 20 días
Tests por mes 0,77 1,50
Tests por año ≈ 9 ≈ 18
% del techo estadístico (20/año) aprovechado ≈ 46% ≈ 90%

Fíjate en lo que no cambió: el tráfico es el mismo, el efecto que el equipo quiere detectar es el mismo, y la matemática de muestra es idéntica en los dos escenarios. La diferencia entera entre 9 y 18 tests por año viene de recortar fricción organizacional, no de conseguir más visitantes ni de relajar el rigor estadístico. Por eso la cultura de experimentación es, en la práctica, más sobre remover fricción de proceso que sobre estadística avanzada.

El repositorio de aprendizajes: por qué los tests perdidos importan tanto como los ganados

Uno de los hallazgos más citados de la literatura de experimentación a escala es incómodo: la mayoría de las ideas testeadas no mejora la métrica que debería mejorar. Ronny Kohavi, Diane Tang y Ya Xu, en “Trustworthy Online Controlled Experiments” (Cambridge University Press, 2020), reportan que, incluso entre ideas bien diseñadas y ejecutadas en Microsoft, cerca de apenas un tercio mejoró de hecho la métrica objetivo, otro tercio quedó estadísticamente plano, y el resto empeoró. No es una señal de equipo incompetente: es el patrón esperado cuando la intuición humana intenta prever el comportamiento real de los usuarios.

Booking.com lleva esa lógica al límite: según reportajes sobre su operación, la empresa hace algo cercano a 25.000 tests por año, y la mayoría no produce una ganancia estadísticamente significativa (Stefan Thomke, “Building a Culture of Experimentation”, Harvard Business Review, mar-abr 2020). El punto central del artículo de Thomke es que, en Booking.com, eso no se trata como fracaso: se trata como señal, y cada test, ganando, perdiendo o siendo no concluyente, reduce una suposición que antes se hacía a oscuras.

Sin un repositorio central, ese conocimiento simplemente se evapora. La hipótesis “simplificar el checkout aumenta la conversión” puede testearse, refutarse y testearse de nuevo dos años después por otra persona que nunca supo del resultado anterior, gastando tráfico y tiempo para llegar a la misma conclusión. Un repositorio mínimo necesita registrar, como mínimo, estos campos:

Campo Qué registrar
Fecha Cuándo terminó de correr el test
Hipótesis La frase testeable original, sin reescribir después del resultado
Métrica primaria El número que decidió el test
Resultado Ganó, perdió o no concluyente
Tamaño del efecto Lift observado e intervalo de confianza
Enlace del reporte Dónde están los datos crudos y la lectura completa
Aprendizaje Qué enseña esto sobre el usuario, incluso cuando el test perdió

El campo más frecuentemente ignorado es el último. “Perdió” sin explicación no enseña nada; “perdió porque el usuario no leía ese bloque de texto, no porque el texto estuviera equivocado” es un aprendizaje reaprovechable en otras hipótesis.

Los bloqueos organizacionales más comunes

Cuatro patrones aparecen repetidamente en programas que nunca salen de la etapa reactiva, y ninguno de ellos es sobre estadística. El punto en común entre los cuatro es que todos protegen a alguien de una incomodidad de corto plazo (estar en desacuerdo con un resultado, admitir que una idea no funcionó, arriesgarse a proponer algo mayor) a costa del aprendizaje de largo plazo del equipo entero.

HiPPO. La sigla, que significa “highest paid person’s opinion” (la opinión de la persona mejor pagada de la sala), fue popularizada por Avinash Kaushik y Ronny Kohavi alrededor de 2006, cuando ambos trabajaban respectivamente en Intuit y Microsoft (Kohavi, “The Origin of HiPPO: Highest Paid Person’s Opinion”, LinkedIn Pulse). El problema no es que el ejecutivo opine, es que el ejecutivo revierta un resultado publicado solo porque no está de acuerdo con él. Eso le enseña al equipo, en una única decisión, que hacer el test fue teatro.

Miedo a “perder” el test. Cuando el resultado de un test se lee como reflejo de competencia personal, el equipo racionalmente deja de proponer cambios arriesgados. Es lo opuesto a lo que Thomke describe en Booking.com, donde fallar es el comportamiento estadísticamente esperado, no una excepción vergonzosa.

Tests solo cosméticos. Un backlog lleno de “cambiar el color del botón” y “cambiar una palabra del título” es aversión al riesgo disfrazada de rigor. Los cambios pequeños tienden a tener efectos pequeños, y los efectos pequeños exigen muestras enormes para detectarse, como muestra la guía de significancia estadística; el equipo termina girando en falso, generando muchos tests no concluyentes.

Peeking institucionalizado. “Ya dio casi significativo, lancemos” es el peeking descrito en la guía de test A/B, solo que practicado como norma de la casa, no como error aislado.

Decisión por HiPPO comparada con decisión por evidenciaEn los dos casos el test corre y muestra un resultado. En una cultura sin gobernanza, el resultado se ignora y la decisión final es la opinión de la persona más senior. En una cultura madura, el resultado entra en el repositorio de aprendizajes y la decisión nace de la evidencia, con el ejecutivo contextualizando en lugar de vetar.Decisión por HiPPODecisión por evidenciaEl test corre ymuestra un resultadoEl test corre ymuestra un resultadoignoradoEl resultado esignorado o minimizadoGanó, perdió o no concluyente:todo entra en el repositorioLa decisión final es laopinión del más seniorLa decisión nace de la evidencia,el ejecutivo contextualiza
La misma realidad objetiva (el resultado del test) alimenta dos procesos organizacionales distintos. Lo que cambia entre los dos lados no es la estadística, es la gobernanza alrededor de ella.
Bloqueo Cómo aparece en el día a día Corrección
HiPPO El ejecutivo revierte un resultado solo porque no le gustó Definir antes de cada test quién decide, y bajo qué condiciones un veto de negocio es aceptable
Miedo a perder el test El equipo solo propone cambios de riesgo bajísimo Tratar el test perdido como aprendizaje documentado, nunca como demérito de carrera
Tests solo cosméticos Backlog lleno de “cambiar color del botón” Priorizar por potencial de impacto, no por facilidad de implementación
Peeking institucionalizado “Ya dio casi significativo, lancemos” Muestra y duración definidas antes; decisión solo después de alcanzarlas
Sin repositorio de aprendizajes La misma hipótesis se testea de nuevo dos años después Repositorio obligatorio para todo test, ganando o perdiendo

La escalera de madurez: del reactivo al totalmente integrado

Varios modelos de madurez de experimentación, con nombres de etapa ligeramente distintos, convergen en la misma lógica: cuanto más madura la organización, menos depende la decisión de una persona y más depende de un sistema. Conversion.com describe cinco etapas en ese sentido, del reactivo al optimizado, cada una definida por cadencia, gobernanza y por quién tiene la autoridad de decisión (Conversion.com, “The Conversion Maturity Model: Benchmark Your Experimentation Program”). La escalera de abajo adapta esa lógica:

Escalera de madurez de un programa de experimentación, del reactivo al optimizadoCinco escalones ascendentes: Nivel 1 Reactivo, Nivel 2 Emergente, Nivel 3 Estructurado, Nivel 4 Integrado, Nivel 5 Optimizado. Cada escalón es más alto que el anterior, representando más cadencia, más gobernanza y menos dependencia de la opinión del ejecutivo más senior.cadencia y gobernanza crecientesReactivoNivel 1EmergenteNivel 2EstructuradoNivel 3IntegradoNivel 4OptimizadoNivel 5
Cada escalón depende menos de una persona específica y más de un sistema: backlog, roles, repositorio y un criterio de decisión que sobrevive a los cambios de equipo.
Nivel Cadencia Gobernanza Quién decide
1. Reactivo Tests esporádicos, sin calendario Ninguna regla escrita; depende de que una persona se acuerde La persona más senior presente, caso por caso
2. Emergente Algunos tests por trimestre Uno o dos entusiastas defienden el proceso, sin mandato formal Todavía concentrada, pero ya hay alguna disputa por evidencia
3. Estructurado Cadencia mensual esperada Backlog priorizado (por ejemplo, ICE o PIE), roles definidos, el repositorio existe El dueño del backlog decide la rutina; el ejecutivo es consultado en los casos mayores
4. Integrado Cadencia semanal, múltiples equipos en paralelo Guardián estadístico con veto técnico reconocido; métricas de velocidad monitoreadas Rollout de rutina descentralizado; el HiPPO deja de revertir resultados publicados
5. Optimizado Experimentación continua, parte del flujo de trabajo estándar Toda decisión de producto relevante nace como hipótesis testeable El sistema decide la mayor parte; los humanos definen qué vale la pena testear, no el veredicto

Pocas empresas llegan al nivel 5 en todos los frentes al mismo tiempo. Es común estar en nivel 3 en cadencia y todavía en nivel 1 en gobernanza (el backlog existe, pero el ejecutivo todavía revierte resultados cuando quiere). El valor de la escalera no es etiquetar a la empresa entera, es señalar qué eje específico está frenando el avance.

Para usar la escalera como diagnóstico, responde tres preguntas por separado para cadencia, gobernanza y decisión, en lugar de intentar encajar a la empresa entera en un único nivel. ¿Cuántos tests relevantes corrieron en el último trimestre, y eso dependió de que alguien específico se acordara? ¿Existe algo escrito que defina quién puede bloquear un test mal hecho, o eso nunca hizo falta porque nadie nunca lo intentó? Y la última vez que un resultado contrarió la expectativa de alguien senior, ¿ganó el resultado o la expectativa? Las respuestas rara vez apuntan al mismo nivel en los tres ejes, y es exactamente esa divergencia la que muestra por dónde empezar.

Hazlo automático en Donnu

Todo lo que esta guía cubrió de estadística automatizable (dimensionar la muestra correcta, verificar SRM, evitar el peeking, calcular significancia sin engañarse) Donnu ya lo hace por defecto, con reportes bayesianos honestos y un snippet client-side que nunca traba la página del cliente. Lo que Donnu no sustituye, porque es decisión de tu empresa, es la capa organizacional de esta guía: quién prioriza el backlog, quién tiene mandato de veto técnico, y qué hace tu ejecutivo cuando el resultado desagrada. Automatizar la estadística libera exactamente el tiempo que esos roles necesitan para existir de verdad, en lugar de ser devorados por planillas manuales y peleas sobre el valor p.

Si tu empresa todavía está en la etapa reactiva, el primer paso práctico no es comprar una herramienta nueva: es escribir, en una frase, quién decide el rollout de un test rutinario y qué pasa cuando el resultado contraría la intuición de quien manda. Después de eso, la herramienta entra para sacar el trabajo manual del camino. Empieza una prueba gratis de 14 días cuando la capa organizacional ya tenga esa respuesta lista.

Referencias


Lee también: ¿Qué es un test A/B? La guía completa · Significancia estadística en tests A/B · Cómo escribir una hipótesis de test A/B · Experimentación de crecimiento para SaaS

Preguntas frecuentes

¿Qué es una cultura de experimentación, en la práctica?
Es cuando testear dejó de ser una iniciativa puntual de una persona entusiasmada y se convirtió en la forma estándar de decidir cambios relevantes: existe una cadencia regular de tests, roles definidos (quién prioriza, quién ejecuta, quién audita la estadística), un repositorio de aprendizajes que guarda tests ganados y perdidos, y patrocinio ejecutivo que protege el proceso en lugar de vetar resultados que no confirman su propia opinión.
¿Cuál es la diferencia entre hacer tests A/B de vez en cuando y tener una cultura de experimentación?
Hacer tests esporádicos depende de que una persona se acuerde de testear. La cultura de experimentación depende del sistema: existe un backlog priorizado, una cadencia mínima esperada, un rol de auditoría estadística y un criterio explícito de quién decide el rollout. Sin ese sistema, la experimentación se detiene en cuanto la persona entusiasmada cambia de equipo o de prioridad.
¿Cómo conseguir patrocinio ejecutivo genuino para la experimentación?
Habla el lenguaje del riesgo, no el del volumen. Los ejecutivos rara vez se motivan con "vamos a hacer más tests"; se motivan con "vamos a dejar de apostar el roadmap entero a una opinión no verificada". Muestra la experimentación como un seguro contra decisiones caras y equivocadas, con un costo bajo y medible, y el patrocinio tiende a llegar como protección del proceso, no como aprobación individual de cada test.
¿Por qué documentar los tests que perdieron es tan importante como los que ganaron?
Porque, según Ronny Kohavi y coautores en "Trustworthy Online Controlled Experiments", solo cerca de un tercio de las ideas bien diseñadas testeadas en Microsoft mejoró de hecho la métrica objetivo; el resto quedó plano o empeoró. Sin repositorio, ese conocimiento se pierde y la misma hipótesis ya refutada vuelve a testearse años después, gastando tráfico y tiempo de nuevo.
¿Qué es el HiPPO y cómo lo maneja una cultura de experimentación madura?
HiPPO es la sigla, popularizada por Avinash Kaushik y Ronny Kohavi en 2006, de "highest paid person's opinion" (la opinión de la persona mejor pagada de la sala). Una cultura madura no elimina la opinión ejecutiva, pero cambia su papel: el ejecutivo contextualiza y ratifica decisiones estratégicas, pero no revierte un resultado estadístico solo porque no está de acuerdo con él.
¿Cómo medir la velocidad de experimentación de un equipo?
La velocidad de experimentación es cuántos tests logra hacer un equipo, con rigor, por mes. Depende de tres cosas: el tráfico disponible para el experimento, el tamaño de muestra que exige el efecto buscado, y la fricción organizacional (cola de aprobación, retrabajo, tiempo de configuración) que se suma al tiempo estadístico. Recortar la fricción organizacional suele valer más que aumentar el tráfico.