Problemas en el análisis de regresión: guía y soluciones

Los problemas en el análisis de regresión pueden convertir un gráfico convincente en una decisión equivocada. Un modelo puede explicar casi toda la variación de un conjunto de datos y, aun así, no aislar la relación que interesa. Por tanto, un buen análisis exige más que un R² elevado, un valor p pequeño o una línea de tendencia atractiva.

Imagina que modelas el empleo utilizando la producción nacional, la población y el tiempo. Cada variable sigue una fuerte tendencia económica. Sin embargo, el modelo debe separar sus contribuciones individuales con la escasa variación que queda tras incluir los demás predictores. Esa tarea puede resultar mucho más difícil que simplemente ajustar el empleo.

Esta guía explica cuatro problemas centrales: multicolinealidad, heterocedasticidad, autocorrelación y error de medición. A lo largo del texto encontrarás herramientas de diagnóstico, fórmulas legibles, soluciones prácticas y errores habituales. Un análisis numérico original del conjunto público de datos Longley conecta los conceptos con resultados concretos.

Panorama de los problemas en el análisis de regresión

Empieza por identificar el origen del fallo. La multicolinealidad se refiere a la información de los predictores, mientras que la heterocedasticidad afecta a las varianzas desiguales de los errores. A su vez, la autocorrelación describe la dependencia entre errores de distintas observaciones. Por su parte, el error de medición corresponde a la diferencia entre una variable registrada y la magnitud que se pretendía medir.

Estas categorías pueden superponerse. Por ejemplo, una encuesta puede medir mal los ingresos y, al mismo tiempo, recopilar respuestas repetidas de los mismos hogares. En consecuencia, el análisis puede necesitar tanto una estrategia de medición como un estimador de incertidumbre que respete la dependencia dentro de cada hogar.

Una prueba de diagnóstico responde a una pregunta concreta bajo determinadas hipótesis. No certifica el modelo completo. La documentación estadística de statsmodels agrupa estas herramientas según la característica que examinan, lo que ofrece un punto de partida útil.

¿Cuáles son realmente las hipótesis de mínimos cuadrados ordinarios?

El modelo, el error y el residuo

Una regresión lineal múltiple describe una variable respuesta mediante varios predictores y un término de error. Aquí, la palabra “lineal” se refiere a los coeficientes. Por tanto, un modelo puede incluir la edad al cuadrado o un logaritmo y seguir siendo lineal en sus parámetros.

El error, u, representa la diferencia no observada en el modelo poblacional. En cambio, un residuo procede del modelo ajustado a la muestra: e_i = y_i − ŷ_i. Los analistas pueden inspeccionar directamente los residuos, pero no observar los errores verdaderos.

El método de mínimos cuadrados ordinarios, o MCO, elige los coeficientes que minimizan la suma de los residuos al cuadrado. Sin embargo, esa minimización, por sí sola, no garantiza una explicación científica útil. Los datos y el diseño de la investigación deben respaldar la interpretación.

Separa las hipótesis de estimación de las de inferencia

Una condición fundamental, la media condicional cero, exige E(u | X) = 0. En términos sencillos, los predictores no deben seguir sistemáticamente aquello que permanece en el error. Los factores de confusión omitidos, la causalidad inversa y el error de medición de los predictores pueden incumplir este requisito.

Por el contrario, la varianza constante y la ausencia de correlación entre errores se refieren a la estructura de covarianza. Bajo una exogeneidad adecuada, las varianzas desiguales, por sí solas, no vuelven sesgados los coeficientes de MCO. Aun así, la fórmula habitual del error estándar puede perder fiabilidad.

Los predictores con distribución normal no son un requisito de MCO. Del mismo modo, la propia variable respuesta no tiene que seguir una distribución normal. Para comprobar el modelo, la guía de diagnóstico de regresión del NIST destaca los gráficos de residuos, los patrones y las observaciones influyentes.

Define el objetivo antes de elegir la solución

La predicción pregunta si un modelo funciona bien en casos nuevos. En cambio, la estimación causal pregunta qué ocurriría si una intervención modificara una variable. Por su parte, la descripción examina cómo se mueven conjuntamente las variables observadas dentro de una población definida.

Como estos objetivos difieren, el mismo modelo puede cumplir una finalidad y fallar en otra. Un conjunto de predictores muy correlacionados puede predecir bien en condiciones conocidas. Sin embargo, sus coeficientes pueden ofrecer poca orientación fiable sobre intervenciones de política separadas.

Multicolinealidad: cuando los predictores compiten por la misma información

Multicolinealidad perfecta frente a elevada

La multicolinealidad perfecta significa que un predictor equivale a una combinación lineal exacta de otros. Por ejemplo, el gasto total es igual a la suma del gasto alimentario y del resto del gasto cuando esas categorías agotan el total. Incluir las tres variables sin una restricción adicional de identificación impide una descomposición única de los coeficientes.

La multicolinealidad elevada es menos absoluta. Los predictores siguen siendo matemáticamente distintos, pero se superponen considerablemente. En consecuencia, pequeños cambios en las observaciones o en la especificación del modelo pueden generar grandes cambios en los coeficientes individuales.

Esta distinción importa porque una correlación elevada no crea automáticamente coeficientes sesgados de MCO. En cambio, suele reducir la precisión. La lección de Penn State sobre problemas de regresión explica por qué la interpretación de un coeficiente depende de los otros predictores del modelo.

¿Por qué un R² alto puede coexistir con estadísticos t débiles?

Supón que la publicidad en televisión y en plataformas digitales aumenta simultáneamente casi todos los meses. El gasto total en publicidad puede explicar bien las ventas. Sin embargo, los datos pueden contener pocos meses en los que un canal cambie mientras el otro permanece estable.

Como resultado, el modelo puede identificar la contribución conjunta con más claridad que las contribuciones separadas. Por tanto, un buen ajuste global puede coexistir con errores estándar grandes para las pendientes individuales. Este patrón sugiere un problema de identificación en el diseño observado, en lugar de una ausencia de relaciones.

Aun así, ese patrón por sí solo no diagnostica multicolinealidad. Las muestras pequeñas y los predictores realmente débiles también pueden producir coeficientes no significativos. Por tanto, examina la estructura de los predictores antes de elegir una solución.

Calcula e interpreta el factor de inflación de la varianza

El factor de inflación de la varianza, o VIF, mide hasta qué punto los demás predictores explican un predictor determinado. Primero, regresa el predictor x_j sobre los demás predictores y un intercepto. Después, utiliza el R² de esa regresión auxiliar:

En el contexto clásico homocedástico, la varianza del coeficiente contiene este multiplicador. Por ello, un VIF de 10 multiplica la varianza pertinente por 10, manteniendo constantes las demás condiciones. El error estándar aumenta por un factor de √10, aproximadamente 3,16, y no de 10.

Estos valores proceden de cálculos algebraicos, no de estimaciones empíricas. “Variación exclusiva” significa la proporción residual de la variación del predictor después de su regresión auxiliar.

Penn State presenta valores de VIF superiores a 4 como motivos para investigar y superiores a 10 como señales de superposición grave. Sin embargo, son reglas prácticas, no criterios universales de eliminación. Consulta su explicación del VIF para entender el cálculo.

¿Por qué las correlaciones por pares pueden no detectar el problema?

Una matriz de correlación examina dos variables a la vez. La multicolinealidad puede involucrar una combinación de varios predictores. Por tanto, las correlaciones moderadas por pares no descartan una relación casi lineal entre tres o más columnas.

Considera variables independientes A y B con varianzas iguales y define C = A + B. La correlación entre A y C es aproximadamente 0,707. Aun así, el diseño con las tres variables presenta dependencia perfecta porque C − A − B = 0.

Este ejemplo ofrece una lección útil de diagnóstico. Un umbral que solo señalara correlaciones superiores a 0,80 pasaría por alto una dependencia exacta. En su lugar, combina el análisis de correlaciones con comprobaciones del rango de la matriz y diagnósticos multivariables.

Aborda la multicolinealidad sin cambiar accidentalmente la pregunta

Empieza por el objetivo de la investigación. Si dos columnas miden prácticamente el mismo concepto operativo, un índice claramente justificado puede simplificar el modelo. Sin embargo, eliminar un factor de confusión solo para mejorar el VIF puede perjudicar un análisis causal.

Los datos adicionales ayudan más cuando aportan variación independiente. Por ejemplo, observar tiendas que cambiaron un canal publicitario a la vez permite una mayor separación que repetir el patrón de gasto existente. Recopilar más filas casi idénticas puede aportar una mejora limitada.

Para la predicción, la regresión ridge puede estabilizar los coeficientes mediante una penalización. No obstante, sus coeficientes reflejan esa contracción, por lo que las interpretaciones y los valores p habituales de MCO no se aplican automáticamente. Evalúa el beneficio predictivo con datos que no participaron en el ajuste.

Centrar las variables puede mejorar la interpretación cuando un modelo incluye potencias o términos de interacción. Sin embargo, centrar dos predictores habituales no elimina su correlación. Convertir dólares en miles también cambia las unidades sin crear nueva información para la identificación.

Heterocedasticidad: cuando cambia la varianza del error

Reconoce la dispersión desigual

La heterocedasticidad significa que la varianza del error difiere entre observaciones. Por ejemplo, los hogares de ingresos altos pueden mostrar una gama de gastos más amplia que los hogares de ingresos bajos. En ese caso, un gráfico de residuos frente a valores ajustados puede parecer un abanico que se abre.

Sin embargo, una dispersión desigual no exige un abanico visible. La varianza puede diferir entre regiones, aumentar bruscamente tras un cambio de política o seguir un patrón curvo. Por tanto, examina los residuos frente a predictores y grupos pertinentes, además de los valores ajustados.

Con una media condicional correcta y una exogeneidad adecuada, MCO todavía puede estimar las pendientes de interés. Aun así, los intervalos de confianza convencionales pueden representar mal la incertidumbre. El error puede darse en ambas direcciones: la heterocedasticidad no siempre hace que los errores estándar sean demasiado pequeños.

Utiliza las pruebas como evidencia complementaria

La prueba de Breusch–Pagan comprueba si determinadas variables explican patrones en la varianza de los residuos. White permite una especificación más flexible de la varianza mediante términos adicionales. Por su parte, Goldfeld–Quandt compara la variación entre subconjuntos después de una ordenación adecuada.

Cada prueba depende de su diseño. En una muestra pequeña, una regresión auxiliar compleja puede consumir grados de libertad valiosos. Por tanto, un resultado no significativo no debe convertirse en prueba de que todas las observaciones tienen la misma varianza del error.

La documentación de statsmodels sobre Breusch–Pagan distingue la prueba original de la versión de Koenker. También señala limitaciones en muestras finitas y el papel del intercepto en el diseño auxiliar. Registra la implementación utilizada al presentar los resultados.

Elige conscientemente entre errores estándar robustos y mínimos cuadrados ponderados

Los estimadores de covarianza consistentes ante heterocedasticidad cambian la incertidumbre estimada alrededor de los coeficientes de MCO. No modifican los propios coeficientes ajustados. Por ejemplo, HC3 ajusta las contribuciones de los residuos mediante el apalancamiento, lo que puede importar cuando las observaciones ejercen influencias desiguales.

Los mínimos cuadrados ponderados, o MCP, cambian el criterio de ajuste. Este método asigna mayor peso relativo a las observaciones con menor varianza del error. Idealmente, el peso sigue el inverso de la varianza condicional:

Supón que un grupo tiene una desviación estándar del error de 2 y otro de 6. Sus pesos de varianza inversa son 1/4 y 1/36. Por tanto, cada observación del primer grupo recibe nueve veces el peso de una observación del segundo grupo.

Estos pesos reflejan precisión, no frecuencia ni representatividad poblacional. Un peso muestral de una encuesta tiene otra finalidad. En consecuencia, los analistas no deben sustituir un tipo de peso por otro sin examinar el diseño.

La guía del NIST sobre mínimos cuadrados ponderados explica tanto el fundamento de eficiencia como el riesgo de pesos mal estimados. Si el modelo de varianza carece de respaldo, MCP puede dar demasiada influencia a las observaciones equivocadas.

Comprende el intercepto transformado

Supón que la teoría respalda Var(u_i | x_i) = σ²x_i² y que todos los valores de x_i son distintos de cero. Dividir toda la ecuación entre x_i produce:

La pendiente original pasa a ocupar el término constante. Mientras tanto, el intercepto original se convierte en el coeficiente de 1/x. Este cambio se deriva directamente del álgebra, de modo que las etiquetas de los coeficientes deben acompañar la transformación.

Sin embargo, dividir entre x no ofrece una solución universal. La hipótesis sobre la varianza debe justificar la operación. Los valores próximos a cero también pueden crear observaciones transformadas extremas, lo que exige una comprobación de sensibilidad independiente.

Distingue los intervalos de predicción de los intervalos para coeficientes

Una matriz robusta de covarianza de los coeficientes no proporciona automáticamente un intervalo de predicción correcto para cada nueva observación. La incertidumbre predictiva también incluye la varianza del error de esa nueva observación. Por tanto, un sistema útil de predicción puede necesitar un modelo explícito de cómo cambia esa varianza.

Como ejemplo, un modelo de gasto podría estimar su relación media con precisión y mostrar una incertidumbre mucho mayor para los hogares de ingresos altos. Una única banda de anchura constante ocultaría esa diferencia. Indica con claridad el objetivo de cada intervalo: una respuesta media, un coeficiente o una observación futura.

Autocorrelación: cuando los errores recuerdan el pasado

Busca dependencia en un orden relevante

La autocorrelación aparece cuando los errores de distintos momentos siguen relacionados. Por ejemplo, un modelo de ventas puede subestimar varios meses consecutivos durante una expansión de la demanda que el modelo no representa. Entonces aparecen secuencias de residuos positivos, en lugar de observaciones aisladas.

La autocorrelación negativa produce un patrón diferente. Los errores tienden a alternar de signo entre períodos cercanos. Sin embargo, ninguno de los patrones demuestra necesariamente un mecanismo económico concreto; las dinámicas omitidas, la agregación y los procedimientos de medición pueden contribuir.

El orden de las filas importa aquí. Ordenar hogares por número de identificación no crea una secuencia temporal relevante. En cambio, las observaciones mensuales repetidas de una misma empresa presentan una estructura temporal natural.

Interpreta el estadístico de Durbin–Watson con cuidado

El estadístico de Durbin–Watson compara los cambios entre residuos vecinos con la suma global de sus cuadrados. Su intervalo habitual va de 0 a 4. Los valores próximos a 2 sugieren poca correlación residual de primer orden, aunque esa observación por sí sola no constituye una prueba formal de aceptación.

Aquí, r₁ representa la correlación residual de primer orden en la relación aproximada. Un d bajo sugiere dependencia positiva, mientras que un d alto sugiere dependencia negativa. Consulta la documentación oficial de Durbin–Watson para ver la fórmula.

Los límites críticos tradicionales dependen del tamaño de la muestra y de la estructura del modelo. Algunos valores quedan en una región no concluyente. Además, el procedimiento habitual de límites no se aplica directamente cuando la regresión incluye una variable dependiente rezagada.

Por tanto, evita una regla universal como “cualquier valor entre 1,5 y 2,5 está bien”. La función de autocorrelación de los residuos, o ACF, puede revelar rezagos más largos que un único estadístico resumido no detecta. Breusch–Godfrey ofrece otra alternativa cuando sus hipótesis se ajustan al modelo.

¿Por qué más observaciones pueden aportar menos información de la esperada?

Considera un proceso de error AR(1) estacionario con parámetro de correlación ρ. Para estimar una media, una aproximación de muestras grandes proporciona el siguiente tamaño muestral efectivo:

Esta ilustración se deriva de la varianza de largo plazo de un proceso AR(1). No es una fórmula universal para los coeficientes de regresión. Aun así, muestra por qué las observaciones repetidas pueden contener menos información independiente de lo que su número bruto sugiere.

Ilustración calculada, no datos observados. El multiplicador es √[(1 + ρ)/(1 − ρ)] respecto de observaciones independientes con la misma varianza marginal; los valores en muestras finitas difieren.

Elige entre modelar la dependencia y ajustar la inferencia

Un modelo que omite la estacionalidad puede necesitar términos estacionales. Del mismo modo, una respuesta tardía puede requerir una estructura de rezagos defendible. Por tanto, examina la media condicional antes de tratar cada patrón residual como un problema de covarianza.

Los estimadores de covarianza consistentes ante heterocedasticidad y autocorrelación, incluido Newey–West, pueden ajustar la incertidumbre bajo condiciones adecuadas de dependencia débil. Sin embargo, no eliminan la endogeneidad ni vuelven válidas las regresiones no estacionarias. El ancho de banda, el núcleo, el tamaño de la muestra y el orden temporal importan.

Como alternativa, los mínimos cuadrados generalizados pueden modelar explícitamente la estructura del error. Para un proceso de error AR(1), una transformación resta ρ veces la observación anterior de cada variable actual. El intercepto transformado pasa a ser β₀(1 − ρ).

Como ρ suele ser desconocido, su estimación añade otra capa de incertidumbre. Algunos procedimientos eliminan la primera observación, mientras que Prais–Winsten la conserva con una transformación adecuada bajo sus hipótesis. Por tanto, documenta el método en lugar de indicar únicamente “corregido por autocorrelación”.

La documentación sobre covarianza robusta de statsmodels distingue las opciones HC, HAC y por conglomerados. Cada alternativa aborda una estructura de covarianza diferente, por lo que la palabra “robusto” necesita una descripción concreta.

No confundas autocorrelación con regresión espuria

Dos series sin relación entre sí pueden compartir tendencias fuertes. Su regresión puede entonces producir un R² elevado y estadísticos t convencionales impresionantes. Sin embargo, esos estadísticos no establecen una relación económica significativa.

Hyndman y Athanasopoulos ilustran este problema con pasajeros aéreos en Australia y producción de arroz en Guinea. Su ejemplo presenta un R² de 0,958 pese a la conexión sustantiva poco plausible. Consulta Forecasting: Principles and Practice.

En consecuencia, examina la estacionariedad, los mecanismos económicos y la posible cointegración antes de interpretar una regresión en niveles. Diferenciar puede ayudar en algunos casos, pero desplaza la pregunta de los niveles a los cambios. Un modelo adecuado de corrección de errores puede conservar una relación de largo plazo justificada.

Error de medición: cuando los datos miden la magnitud equivocada

Separa el ruido de la respuesta del ruido de un predictor

El error de medición surge cuando el valor registrado difiere de la magnitud pretendida. Algunos ejemplos son los ingresos declarados por los propios encuestados, los sensores imperfectos, las transacciones redondeadas y los registros administrativos desactualizados. Sin embargo, las consecuencias estadísticas dependen de dónde entra el error y de cómo se relaciona con otras variables.

El ruido aditivo clásico en la variable respuesta de un modelo lineal aumenta la incertidumbre sin necesariamente sesgar las pendientes. En cambio, el ruido clásico en un predictor crea correlación entre ese predictor observado y el error compuesto de la regresión. Por tanto, la pendiente puede seguir siendo incorrecta aunque crezca la muestra.

La investigación de Jerry Hausman sobre variables medidas con error analiza esta asimetría y los límites de las correcciones habituales. Estos resultados exigen hipótesis; los errores sistemáticos de declaración pueden comportarse de otra manera.

Calcula el sesgo de atenuación

Considera el modelo verdadero y = α + βx* + u. Supón que el predictor observado es x = x* + v, con ruido clásico de medición. Bajo las condiciones habituales de independencia y de momentos, la pendiente de la regresión simple converge a:

La razón de fiabilidad λ se encuentra entre 0 y 1. En consecuencia, la pendiente se aproxima a cero en este caso clásico simple. Una pendiente verdadera negativa se vuelve menos negativa, en lugar de disminuir necesariamente en términos numéricos.

Por ejemplo, unas varianzas iguales de señal y ruido reducen una pendiente verdadera de 2 a un límite en probabilidad de 1. Recopilar diez veces más observaciones estrecha la incertidumbre alrededor de ese objetivo incorrecto. Por tanto, una mayor precisión no garantiza una mayor exactitud.

¿Por qué la multicolinealidad puede amplificar los problemas de medición?

Ahora añade un control medido correctamente, z, que siga de cerca al predictor verdadero. Tras retirar la parte que z explica, queda menos señal verdadera. Sin embargo, el ruido independiente de medición permanece en el predictor residualizado.

Supón que Var(x*) = 1 y Var(v) = 0,25. Sin el control, la fiabilidad es 1/1,25 = 0,80. Si z explica el 90% de la varianza del predictor verdadero, la varianza residual de la señal cae a 0,10.

En este escenario clásico construido, una pendiente parcial verdadera de 2 converge aproximadamente a 0,571, en lugar de 1,600. Así, dos problemas conocidos interactúan: la fuerte superposición entre predictores hace que la calidad de la medición sea más importante para la variación restante que identifica el coeficiente.

Este cálculo no justifica eliminar controles necesarios. En cambio, identifica dónde resultarían más útiles los datos de validación. El analista necesita medir con fiabilidad la variación que realmente separa al predictor de los controles.

Utiliza instrumentos solo cuando se cumplan las condiciones de identificación

Una variable instrumental debe predecir el regresor endógeno y mantenerse sin relación con el error estructural pertinente. En una aplicación con error de medición, su relación con el ruido de medición también importa. Por tanto, una variable correlacionada conveniente no cumple automáticamente los requisitos.

Considera utilizar las ventas registradas el año anterior como instrumento para las ventas mal medidas del año actual. La persistencia puede aportar relevancia. Sin embargo, los choques persistentes de demanda o los errores de registro correlacionados pueden incumplir las condiciones exigidas de exclusión y ortogonalidad.

Con un predictor endógeno y un instrumento, tras retirar el efecto de un intercepto y de cualquier control válido, la pendiente de variables instrumentales adopta la forma de una razón:

Regresar simplemente la variable respuesta sobre el instrumento produce un denominador diferente. En consecuencia, sustituir x por z en una única regresión de MCO generalmente no equivale a la estimación por variables instrumentales. Un estimador adecuado de dos etapas o equivalente debe conservar el coeficiente estructural pretendido.

¿Por qué invertir la regresión no es una corrección general?

Otro atajo tentador consiste en regresar el predictor observado sobre la variable respuesta y después invertir la pendiente. El álgebra muestra por qué este enfoque puede fallar. Supón variables centradas, un β positivo y distinto de cero, y ruido clásico independiente de medición:

A menos que la perturbación estructural tenga varianza cero, la pendiente poblacional invertida difiere de β. Por ejemplo, β = 2, Var(x*) = 1 y Var(u) = 1 implican una pendiente invertida de 2,5. Ese valor supera la pendiente verdadera en un 25%.

Por su parte, establecer Var(v) = 0,25 proporciona un límite en probabilidad de 1,6 para la regresión directa. La pendiente verdadera de 2 queda entre 1,6 y 2,5 en este ejemplo construido. Ninguna estimación se vuelve correcta solo porque crezca la muestra.

Esta distinción resulta especialmente útil al leer ejemplos resueltos antiguos. Una corrección necesita un modelo estadístico explícito, no solo una respuesta numéricamente plausible. La discusión de Hausman sobre regresiones directas e inversas ofrece contexto adicional para esta cuestión.

Análisis original de datos: un ajuste del 99,55% que todavía exige cautela

Conoce el conjunto de datos Longley

El conjunto de datos Longley contiene 16 observaciones anuales de 1947 a 1962. Su variable respuesta mide el empleo total, y sus seis predictores incluyen PNB, deflactor del PNB, desempleo, fuerzas armadas, población y año. El NIST utiliza este conjunto difícil para evaluar la exactitud numérica de programas de mínimos cuadrados.

Para este artículo, recalculamos la regresión completa a partir del archivo público de datos del NIST. También calculamos valores de VIF, un modelo más sencillo solo con PNB y errores estándar HC3. Estos resultados adicionales son cálculos propios, no nuevos hallazgos sobre la economía actual.

Los resultados certificados del NIST presentan R² = 0,995479 y una desviación estándar residual de 304,854 en las unidades de empleo del conjunto de datos. Nuestro cálculo reproduce ambos. Sin embargo, una referencia numérica verifica el cálculo, no la interpretación causal.

La superposición entre predictores es extrema

El VIF del PNB alcanza aproximadamente 1.788,5. Por tanto, su regresión auxiliar deja apenas alrededor del 0,0559% de la variación muestral del PNB sin explicar por los demás predictores. El multiplicador correspondiente del error estándar es aproximadamente 42,3 en la comparación clásica.

Población y año también muestran una superposición considerable con los demás predictores. En cambio, fuerzas armadas tiene un VIF mucho menor, de aproximadamente 3,6. Estas diferencias muestran por qué una etiqueta general puede ocultar calidades de información muy distintas entre coeficientes.

Añadir controles cambia el signo del coeficiente del PNB

Una regresión simple del empleo sobre el PNB produce una pendiente positiva de aproximadamente 0,03475. Con los seis predictores, la pendiente del PNB pasa a aproximadamente −0,03582. Mientras tanto, el R² aumenta de alrededor de 0,9674 a 0,9955.

La inversión del signo no demuestra que la producción nacional reduzca el empleo. Ambos modelos resumen asociaciones bajo conjuntos de condicionamiento diferentes. Además, el coeficiente del PNB en el modelo completo tiene un valor p bilateral convencional de aproximadamente 0,313, con nueve grados de libertad residuales.

Esta es una distinción útil entre cálculo e interpretación. Un programa puede estimar todos los números con exactitud mientras los datos disponibles ofrecen poco respaldo para un efecto económico separado. Por tanto, no utilices únicamente el signo como conclusión de política.

La incertidumbre robusta cambia, pero las pendientes siguen iguales

A continuación, mantuvimos los coeficientes de MCO y sustituimos la estimación convencional de covarianza por HC3. Para el PNB, el error estándar aumentó aproximadamente de 0,03349 a 0,05562. El coeficiente permaneció en −0,03582 porque el ajuste de covarianza no vuelve a estimar la regresión.

Para año, HC3 prácticamente duplica el error estándar, de 455,48 a 922,81. Sin embargo, ese cambio no es una prueba formal que demuestre heterocedasticidad. HC3 responde a la combinación observada entre el tamaño de los residuos y el apalancamiento.

Con solo 16 observaciones, ninguna etiqueta de covarianza puede crear una muestra grande. Además, HC3 no considera la dependencia serial. Una interpretación de series temporales exigiría comprobaciones adicionales y un enfoque de covarianza adecuado a la estructura de dependencia.

¿Qué aporta este análisis más allá de un artículo de definiciones?

La contribución distintiva es la conexión entre ajuste, separación de coeficientes y calidad de la medición. Primero, el cálculo con datos públicos muestra cómo un ajuste casi perfecto puede coexistir con valores extremos de VIF. Después, la comparación de signos muestra que añadir controles cambia tanto la pregunta como la estimación.

El ejemplo de error de medición explica por qué los datos ruidosos resultan especialmente problemáticos cuando los controles eliminan la mayor parte de la señal de un predictor. Por último, la derivación de la regresión inversa examina una corrección tentadora en lugar de aceptarla sin cuestionarla. En conjunto, estos ejemplos ofrecen una forma práctica de evaluar si la solución corresponde al fallo.

Cinco atajos de regresión que pueden engañar

Atajo 1: eliminar toda variable con VIF elevado

Un VIF menor no produce necesariamente un mejor diseño de investigación. Supón que una variable controla una causa común al predictor y a la variable respuesta. Eliminarla puede introducir sesgo por variable omitida, aunque los coeficientes restantes parezcan más estables.

En su lugar, explica por qué cada variable pertenece al modelo. Para una tarea predictiva, compara alternativas defendibles utilizando el rendimiento en la validación. Una tarea causal necesita un argumento específico sobre la confusión y el efecto que pretendes estimar.

Atajo 2: utilizar errores estándar robustos para corregirlo todo

Las estimaciones robustas de covarianza abordan formas concretas de incertidumbre. No corrigen un factor de confusión ausente, una forma funcional inadecuada ni el error clásico de medición de un predictor. Por tanto, “robusto” debe describir un cálculo particular, no la calidad global del modelo.

Un informe útil identifica el estimador, como HC3 o HAC con una elección explícita de rezagos. También explica por qué ese estimador corresponde a la estructura de los datos. Este detalle permite revisar el cálculo de la incertidumbre.

Atajo 3: tratar una variable rezagada como automáticamente exógena

El valor de ayer ocurre antes, pero eso no significa que no tenga relación con el error de hoy. Los choques persistentes pueden conectar ambos períodos. Del mismo modo, las prácticas de registro pueden generar errores de medición que siguen correlacionados a lo largo del tiempo.

En consecuencia, un rezago necesita un argumento sustantivo de identificación antes de servir como instrumento. Comprueba la relevancia por separado de la validez. Una relación fuerte en la primera etapa no demuestra la restricción de exclusión.

Atajo 4: comparar el R² antes y después de cada transformación

El R² mide el ajuste respecto de la variación de una variable respuesta concreta. Si sustituyes el gasto por su logaritmo, el denominador cambia. Por tanto, comparar ambos valores de R² no establece directamente qué modelo predice mejor el gasto en dólares.

Las regresiones ponderadas y en cuasidiferencias también cambian la escala o la geometría del cálculo. En su lugar, compara predicciones sobre un objetivo común y una misma muestra de evaluación. Considera los efectos de la transformación inversa al interpretar predicciones en las unidades originales.

Atajo 5: aceptar el modelo porque todos los valores p de diagnóstico superan 0,05

Un diagnóstico no significativo puede reflejar poca potencia estadística en lugar de un modelo adecuado. Por el contrario, los conjuntos de datos muy grandes pueden detectar desviaciones con escasa importancia práctica. En consecuencia, combina pruebas con gráficos, tamaños de efecto, diseño de investigación y análisis de sensibilidad.

Cambiar repetidamente una especificación hasta superar todas las pruebas crea otro problema: los mismos datos orientan tanto la selección como la evaluación del modelo. Un plan de análisis claro y una estrategia honesta de validación reducen ese riesgo. Conserva un registro de las alternativas importantes en lugar de presentar únicamente la especificación final exitosa.

Un procedimiento práctico para diagnosticar problemas en el análisis de regresión

Paso 1: define la decisión y el objetivo

Escribe una frase que describa la finalidad del modelo. Por ejemplo: “Predecir las ventas del próximo trimestre con información disponible en la fecha de la predicción”. Como alternativa, define una pregunta causal sobre una intervención y una población concretas.

Después, indica la unidad de observación. Un condado-año, un hogar-mes y una transacción individual implican estructuras de dependencia diferentes. Sin esa definición, incluso una fórmula correcta puede respaldar un cálculo incorrecto de la incertidumbre.

Paso 2: examina las variables antes del ajuste

Comprueba unidades, valores ausentes, duplicados, fechas y definiciones de categorías. Para los datos económicos, distingue los valores nominales de los ajustados por inflación. Además, verifica si el conjunto mezcla existencias, flujos, niveles, tasas de crecimiento o límites geográficos diferentes.

A continuación, registra cómo entra cada variable en el conjunto de datos. Las revisiones administrativas y las respuestas declaradas por los propios participantes plantean cuestiones de medición distintas. En esta etapa, un diccionario de datos suele aportar más que otra prueba automatizada de significación.

Paso 3: examina el diseño y ajusta un modelo de referencia justificado

Representa la variable respuesta frente a los predictores importantes y examina la dimensión temporal. Comprueba las dependencias exactas antes de interpretar cualquier coeficiente. Después, ajusta un modelo de referencia que refleje la pregunta de investigación, en lugar de buscar automáticamente el mayor R².

Registra el tamaño de la muestra y el número de parámetros estimados. Por ejemplo, 16 observaciones con siete parámetros dejan solo nueve grados de libertad residuales. Esa cuenta debe influir en la confianza que depositas en diagnósticos elaborados.

Paso 4: examina conjuntamente los residuos y el apalancamiento

Examina los residuos frente a los valores ajustados, el tiempo, los predictores principales y los grupos pertinentes. Una curva puede sugerir una relación media omitida, mientras que los cambios de dispersión pueden indicar un problema de varianza. Sin embargo, unas pocas observaciones influyentes pueden imitar cualquiera de esos patrones.

Por tanto, examina también el apalancamiento y la influencia. Un error en los datos puede justificar una corrección, pero una observación válida e inusual puede aportar información real. Compara resultados mediante análisis transparentes de sensibilidad, en lugar de eliminar automáticamente los casos difíciles.

Paso 5: relaciona el diagnóstico con el fallo sospechado

Paso 6: valida la solución, no solo el modelo original

Después de modificar un modelo, repite las comprobaciones pertinentes. Una transformación puede reducir la dispersión desigual y, al mismo tiempo, introducir dificultades de interpretación. Del mismo modo, una nueva estructura de rezagos puede mejorar el comportamiento residual mientras consume grados de libertad.

Para la predicción, conserva el orden temporal durante la evaluación. Entrenar con información futura y probar en el pasado genera fuga de información. Una evaluación realista utiliza solo la información que habría existido en el momento de elaborar la predicción.

Paso 7: informa de lo que sigue siendo incierto

Explica qué conclusiones respalda el análisis y cuáles no. Si la calidad de la medición sigue siendo desconocida, indica qué conclusiones dependen de esa incertidumbre. Asimismo, distingue la estabilidad de los coeficientes dentro de la muestra de la fiabilidad bajo nuevas condiciones económicas.

El resultado final debería ayudar a alguien a tomar una decisión mejor. Por tanto, traduce los hallazgos técnicos en consecuencias prácticas: intervalos amplios, signos frágiles, extrapolación limitada o dependencia de una hipótesis de identificación.

Cómo presentar resultados de regresión con claridad

Utiliza un registro compacto del modelo

Un buen informe combina la estimación con las condiciones que le dan significado. Incluye las unidades de la respuesta, las definiciones de los predictores, el período muestral y el nivel de observación. Después, identifica el estimador de incertidumbre y explica los principales resultados de sensibilidad.

Traduce un hallazgo estadístico en una conclusión útil

Considera el ejemplo Longley. “El R² es 0,9955” describe el ajuste, pero ofrece poca orientación sobre los efectos individuales. En cambio, una interpretación más completa explica que el PNB presenta una superposición extrema con los demás predictores y un signo condicional inestable.

Del mismo modo, “utilizamos errores estándar robustos” deja al lector sin detalles importantes. Una afirmación más clara identifica HC3 y señala que no considera la dependencia serial. Estas aclaraciones revelan los límites prácticos sin abrumar al lector.

Conserva un rastro de evidencia para cada número importante

Separa los resultados publicados por las fuentes de tus propios cálculos. Por ejemplo, el R² certificado por el NIST tiene un origen diferente de los cálculos de VIF de este artículo. Ambos pueden ser fiables, pero requieren vías distintas de verificación.

Para un cálculo original, conserva los datos de entrada, la fórmula y el método computacional. Si una figura ilustra un proceso hipotético, identifícala como ilustración. El lector nunca debería tener que adivinar si un gráfico muestra observaciones reales o un ejemplo construido.

Preguntas frecuentes sobre problemas en el análisis de regresión

¿Cuáles son los cuatro problemas principales que se abordan aquí?

Son multicolinealidad, heterocedasticidad, autocorrelación y error de medición. Sin embargo, la lista no abarca todos los riesgos de regresión. Las variables omitidas, el sesgo de selección, las formas funcionales mal especificadas y la fuga de información también merecen atención.

¿Un R² elevado demuestra que el modelo es correcto?

No. El R² mide el ajuste dentro de la muestra respecto de la variación de la respuesta según la definición elegida. Por tanto, no demuestra validez causal, medición exacta, coeficientes estables ni buen rendimiento con datos futuros.

¿La multicolinealidad vuelve sesgado el MCO?

La multicolinealidad elevada, pero imperfecta, no crea sesgo por sí sola cuando se cumplen las hipótesis pertinentes de MCO. En cambio, suele aumentar la incertidumbre de las pendientes individuales. La multicolinealidad perfecta impide estimar de forma única el vector completo de coeficientes.

¿Debo eliminar todo predictor con VIF superior a 10?

No. Considera ese valor una señal para investigar el diseño y tu objetivo. Por ejemplo, eliminar un factor de confusión necesario puede reducir el VIF y, al mismo tiempo, hacer menos creíble la relación estimada.

¿Los errores estándar robustos a la heterocedasticidad corrigen la autocorrelación?

Los estimadores HC habituales abordan la varianza desigual, no la dependencia serial general. Por tanto, un modelo de series temporales puede necesitar HAC o un modelo explícito de dependencia. La elección correcta depende de los datos y de las hipótesis.

¿La autocorrelación siempre sesga los coeficientes de MCO?

No por sí sola, bajo condiciones adecuadas de exogeneidad. Sin embargo, los modelos dinámicos pueden incumplir esas condiciones, especialmente cuando las respuestas rezagadas se correlacionan con errores serialmente dependientes. Examina la especificación real antes de afirmar que MCO sigue siendo insesgado.

¿Más datos pueden resolver el error de medición?

Más observaciones pueden mejorar la precisión sin eliminar el sesgo clásico de errores en las variables. En consecuencia, una muestra muy grande puede estimar la pendiente equivocada con mucha precisión. Una mejor medición o una estrategia válida de identificación aborda el problema fundamental.

¿Un predictor rezagado es siempre un instrumento válido?

No. La relevancia por sí sola no establece validez. Los choques estructurales persistentes o el ruido de medición correlacionado pueden conectar un predictor rezagado con el error actual de la regresión.

¿Puedo comparar modelos después de aplicar logaritmos a la respuesta?

Sí, pero compara los modelos según un objetivo de decisión común. Los valores brutos de R² en niveles y logaritmos describen escalas diferentes de la respuesta. Por tanto, evalúa predicciones en las unidades originales u otro criterio consistente que corresponda a tu objetivo.

¿Qué debo hacer primero cuando una regresión parece sospechosa?

Verifica las variables, las unidades, la muestra y el orden de las observaciones. Después, examina los datos originales y los residuos antes de aplicar correcciones automáticas. La mejor solución depende del origen del problema, no de la primera prueba que rechace una hipótesis.

Conclusión: diagnostica el fallo antes de elegir la solución

Los problemas en el análisis de regresión resultan más fáciles de abordar cuando separas tres preguntas. ¿El diseño identifica el coeficiente? ¿Hasta qué punto el cálculo de la incertidumbre corresponde a la estructura de los errores? Por último, ¿la variable registrada representa la magnitud que necesita el análisis?

La multicolinealidad debilita la separación entre predictores, mientras que la heterocedasticidad y la autocorrelación cuestionan los cálculos convencionales de incertidumbre. El error de medición puede cambiar el propio objetivo del coeficiente. Por tanto, una única corrección automática no resuelve los cuatro problemas.

El análisis Longley concreta la lección: un ajuste del 99,55% puede coexistir con una superposición extrema de predictores y un coeficiente sensible al cambio de signo. Mientras tanto, los ejemplos de medición muestran por qué más observaciones y una regresión inversa no garantizan una corrección válida. Empieza por la pregunta de investigación, examina la variación que identifica el efecto y elige una solución cuyas hipótesis puedas defender.

Datos, métodos y reproducibilidad

Cómo funcionan los cálculos originales

El análisis empírico utiliza las 16 observaciones del archivo Longley del NIST, sin eliminar filas. Su modelo completo incluye un intercepto y los seis predictores. La comparación solo con PNB utiliza las mismas observaciones y un intercepto.

Para lograr estabilidad numérica, el cálculo centra y estandariza los predictores antes de resolver los mínimos cuadrados mediante una rutina numérica adecuada. Después, convierte los coeficientes y los errores estándar a las unidades de la fuente. Los coeficientes y el R² resultantes coinciden con los valores certificados del NIST dentro de la tolerancia numérica.

En este cálculo, los valores de VIF proceden de seis regresiones auxiliares separadas, cada una con intercepto. Los errores estándar convencionales utilizan la suma de los residuos al cuadrado dividida entre nueve. HC3 utiliza residuos al cuadrado divididos entre (1 − h_ii)² en el cálculo de covarianza, donde h_ii representa el apalancamiento.

Las tablas de atenuación y de tamaño muestral efectivo utilizan las fórmulas indicadas, no parámetros estimados del mundo real. Del mismo modo, los ejemplos de fiabilidad residualizada y regresión inversa son cálculos construidos. Ilustran hipótesis y mecanismos sin afirmar un nuevo efecto económico empírico.

Datos públicos y cálculo ejecutable

Para una verificación independiente, la sección desplegable siguiente contiene el cálculo completo utilizado en el análisis Longley y en los gráficos. Requiere Python con NumPy, SciPy y Matplotlib. Ejecútalo desde una carpeta que contenga una subcarpeta work con permiso de escritura.

import numpy as np
from scipy import stats
import json, pathlib, io, matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
D=np.loadtxt(io.StringIO('''60323 83.0 234289 2356 1590 107608 1947
61122 88.5 259426 2325 1456 108632 1948
60171 88.2 258054 3682 1616 109773 1949
61187 89.5 284599 3351 1650 110929 1950
63221 96.2 328975 2099 3099 112075 1951
63639 98.1 346999 1932 3594 113270 1952
64989 99.0 365385 1870 3547 115094 1953
63761 100.0 363112 3578 3350 116219 1954
66019 101.2 397469 2904 3048 117388 1955
67857 104.6 419180 2822 2857 118734 1956
68169 108.4 442769 2936 2798 120445 1957
66513 110.8 444546 4681 2637 121950 1958
68655 112.6 482704 3813 2552 123366 1959
69564 114.2 502601 3931 2514 125368 1960
69331 115.7 518173 4806 2572 127852 1961
70551 116.9 554894 4007 2827 130081 1962'''))
names=['GNP deflator','GNP','Unemployment','Armed forces','Population','Year']
y=D[:,0]; raw=D[:,1:]; Z=(raw-raw.mean(0))/raw.std(0)
X=np.column_stack([np.ones(len(y)),Z]); b=np.linalg.lstsq(X,y,rcond=None)[0]; e=y-X@b
pinv=np.linalg.pinv(X); bread=pinv@pinv.T; h=np.sum(X*pinv.T,axis=1)
se=np.sqrt(np.diag(bread)*(e@e)/9)
hc3=np.sqrt(np.diag((pinv*(e/(1-h))**2)@pinv.T))
vif=[]
for j in range(1,7):
 A=np.delete(X,j,axis=1); er=X[:,j]-A@np.linalg.lstsq(A,X[:,j],rcond=None)[0]
 vif.append(float((X[:,j]@X[:,j])/(er@er)))
simple=np.linalg.lstsq(np.column_stack([np.ones(16),raw[:,1]]),y,rcond=None)[0]
coef=b[1:]/raw.std(0); intercept=b[0]-coef@raw.mean(0)
r2=1-(e@e)/sum((y-y.mean())**2)
out={'r2':r2,'adj_r2':1-(1-r2)*15/9,'rmse_resid':np.sqrt(e@e/9),'dw':sum(np.diff(e)**2)/sum(e**2),'vif':vif,'coef':coef.tolist(),'intercept':intercept,'se':(se[1:]/raw.std(0)).tolist(),'hc3_se':(hc3[1:]/raw.std(0)).tolist(),'p':(2*stats.t.sf(abs(b[1:]/se[1:]),9)).tolist(),'simple_gnp':simple.tolist(),'simple_r2':float(np.corrcoef(raw[:,1],y)[0,1]**2)}
pathlib.Path('work/results.json').write_text(json.dumps(out,indent=2)); print(json.dumps(out,indent=2))
plt.rcParams.update({'font.family':'DejaVu Sans','font.size':12,'axes.spines.top':False,'axes.spines.right':False,'figure.facecolor':'#ffffff','axes.labelcolor':'#183544','text.color':'#183544'})
fig,ax=plt.subplots(figsize=(9,4.5)); ax.barh(names[::-1],np.array(vif)[::-1],color='#087f8c'); ax.set_xscale('log'); ax.axvline(10,color='#c25626',linestyle='--',label='VIF = 10 reference'); ax.set_xlabel('Variance inflation factor (logarithmic scale)'); ax.set_xlim(1,4000)
for i,v in enumerate(vif[::-1]): ax.text(v*1.12,i,f'{v:,.1f}',va='center')
ax.legend(loc='lower right');fig.tight_layout();fig.savefig('work/vif.svg');plt.close(fig)
fig,ax=plt.subplots(figsize=(9,4.2)); ratios=np.array([0,.25,.5,1,2,4]); actual=2/(1+ratios); ax.plot(ratios,actual,'o-',color='#087f8c',lw=3); ax.axhline(2,color='#c25626',ls='--',label='True slope = 2');ax.set(xlabel='Measurement-error variance / true-X variance',ylabel='Large-sample OLS slope',ylim=(0,2.3));ax.legend();ax.grid(alpha=.15);fig.tight_layout();fig.savefig('work/attenuation.svg');plt.close(fig)
assert abs(r2-.995479004577296)<1e-12
assert np.allclose(coef,[15.0618722713733,-.035819179292591,-2.02022980381683,-1.03322686717359,-.0511041056535807,1829.15146461355],rtol=1e-8)

Las fotografías del capítulo proporcionado establecen el tema y la estructura de los cuatro problemas. Este artículo desarrolla una explicación original y utiliza fuentes públicas enlazadas por separado para su verificación. Como las fotografías no muestran todos los datos bibliográficos, el artículo no inventa un título, autor o edición del libro.

Fuentes y lecturas complementarias

Los enlaces siguientes ofrecen datos primarios, documentación estadística oficial, material docente universitario e investigación. Las citas también aparecen junto a las explicaciones pertinentes a lo largo del artículo. Fecha de consulta: 28 de octubre de 2026.

1. NIST. Conjunto de datos Longley y descripción de la referencia numérica. https://www.itl.nist.gov/div898/strd/lls/data/Longley.shtml
2. NIST. Datos originales Longley y estadísticas certificadas. https://www.itl.nist.gov/div898/strd/lls/data/LINKS/DATA/Longley.dat
3. NIST. Valores certificados de Longley. https://www.itl.nist.gov/div898/strd/lls/data/LINKS/v-Longley.shtml
4. statsmodels. Definiciones y origen de las variables Longley. https://www.statsmodels.org/stable/datasets/generated/longley.html
5. Penn State. Multicolinealidad y otros problemas de regresión. https://online.stat.psu.edu/stat501/Lesson12
6. Penn State. Detección de multicolinealidad mediante factores de inflación de la varianza. https://online.stat.psu.edu/stat462/node/180/
7. NIST. Diagnósticos de regresión. https://itl.nist.gov/div898/software/dataplot/refman1/auxillar/regrdiag.htm
8. NIST. Regresión por mínimos cuadrados ponderados. https://www.itl.nist.gov/div898/handbook/pmd/section1/pmd143.htm
9. statsmodels. Implementación de las pruebas de Breusch–Pagan y Koenker. https://www.statsmodels.org/stable/generated/statsmodels.stats.diagnostic.het_breuschpagan.html
10. statsmodels. Estadístico de Durbin–Watson. https://www.statsmodels.org/stable/generated/statsmodels.stats.stattools.durbin_watson.html
11. statsmodels. Resultados con covarianza robusta. https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.OLSResults.get_robustcov_results.html
12. statsmodels. Pruebas estadísticas y estimadores de covarianza. https://www.statsmodels.org/stable/stats.html
13. Hyndman, R. J., y Athanasopoulos, G. Forecasting: Principles and Practice, tercera edición, capítulo sobre regresión de series temporales. https://otexts.com/fpp3/regression.html
14. Hausman, J. Mismeasured Variables in Econometric Analysis: Problems from the Right and Problems from the Left. Versión preliminar de enero de 2001, alojada en el MIT. Artículo de investigación del MIT (PDF)