Optimización de Modelos Estadísticos: Selección, Complejidad y Procedimientos

A continuación, se presentan respuestas y aclaraciones sobre diversos conceptos relacionados con la selección y optimización de modelos estadísticos, abordando la complejidad, los procedimientos forward y backward, y otros criterios relevantes.

Criterios de Selección de Modelos

• A igualdad de complejidad, elegiremos el modelo con menor SCR en forward y el modelo con mayor SCR en backward: Falso, se busca el mínimo SCR tanto en Forward (FwD) como en Backward (BwD).
• El índice R cuadrado contiene toda la información necesaria para tomar la decisión sobre si preferimos un modelo más complejo u otro más sencillo: Falso, no conocemos su distribución, necesitamos calcular F.
• Dados dos modelos, si no conocemos sus SCR no es posible decidir cuál es el preferido: Falso, hay otro tipo de información para decidir, por ejemplo: EEE, R².
• Siempre podemos comparar un modelo más simple con otro más complejo: Falso, el modelo simple debe ser un subconjunto del modelo complejo.

Procedimientos Forward y Backward

• El tiempo necesario para aplicar el procedimiento forward crece de forma logarítmica en función del número de variables candidatas: Falso, el crecimiento es cuadrático, no logarítmico.

Índice F y Contraste de Hipótesis

• El índice F contiene toda la información necesaria para tomar la decisión sobre si preferimos un modelo más complejo u otro más sencillo: Verdadero, con el índice F se puede realizar el contraste de hipótesis (junto con el p-valor).
• Dados dos modelos, solo necesitamos conocer sus SCR para decidir cuál es el preferido: Falso, también se puede utilizar otro tipo de información, como EEE, R².

Procedimiento Backward y P-valor

• ¿Es cierta la afirmación: "En la aplicación del procedimiento backward eliminaremos siempre aquella variable del modelo que tenga asociado el p-valor máximo."? Explica por qué: Verdadero, la variable con el mayor p-valor es la menos significativa.
• ¿Es cierta la afirmación: "Si tenemos que elegir entre varios modelos de igual complejidad, siempre elegiremos aquel cuyo Índice F al compararlo con el modelo vacío sea máximo"?: Verdadero, ya que se elige el modelo con menor coste.

Valor K en el Índice F

• ¿A qué se refiere el valor k que aparece en el Índice F para comparar dos modelos Ω y ω? K es el número de variables explicativas que hay en el modelo más grande, Ω.

Restricciones y Multiplicadores de Lagrange

• ¿Podemos afirmar que siempre se cumple que CB_c = γ?: No, eso solo sucede si B es solución de CB = γ, y añadir restricciones solo perjudica CB_c = γ.
• ¿Cuál es la dimensión del multiplicador lagrangiano que hemos empleado en clase para encontrar la estimación de ẞ con restricciones? λ es un vector de dimensión (m, 1) y en la función de minimizar debe ir traspuesto, por lo que será (1, m).

Complejidad y Precisión del Modelo

• ¿Es cierta la afirmación: "En el procedimiento forward el precio a pagar por una menor complejidad del modelo es la reducción de su precisión"? Explica por qué: Cierto, una menor complejidad implica un mayor coste o SCR y, por tanto, una menor precisión.

Ángulo entre Vectores y el Índice F

• ¿Es cierta la afirmación: "Cuanto menor sea el ángulo formado por los vectores e_Ω y e_ω tanto mayor será el Índice F que compara los modelos Ω y ω? Falso, si el ángulo entre e_Ω y e_ω es pequeño, el ΔSCR será pequeño y el F_Ωω también será pequeño.

Número de Modelos Posibles

• Si el conjunto de variables candidatas consta de cuatro variables, ¿Cuántos modelos diferentes pueden construirse a partir de dicho conjunto? Se pueden construir 2⁴ = 16 modelos diferentes.
• Si el conjunto de variables candidatas consta de cuatro variables, ¿cuántos modelos diferentes será necesario estimar en el peor de los casos para aplicar el procedimiento backward? ¿Y en el mejor de los casos?: Peor de los casos: (p² + p + 2) ÷ 2 = (4² + 4 + 2) ÷ 2 = 11 modelos. En el mejor de los casos, 1 modelo. El peor de los casos es hacer todos los pasos posibles, y el mejor, solo 1.