Control estocástico

En un contexto de tiempo discreto, el decisor observa la variable de estado, posiblemente con el ruido de observación, en cada período de tiempo. El objetivo puede ser optimizar la suma de los valores esperados de la función objetivo no-lineal (posiblemente de segundo grado) sobre todos los plazos desde el presente hasta el periodo final, o para optimizar el valor de la función objetivo a partir del último período solamente. En cada período de tiempo se hacen nuevas observaciones, y las variables de control se deben ajustar de manera óptima. Encontrar la solución óptima para el momento actual puede implicar la iteración una ecuación de Riccati en forma de matriz hacia atrás en el tiempo desde el último período para el período actual.

En el caso de tiempo discreto con la incertidumbre acerca de los valores de los parámetros en la matriz de transición (dando el efecto de los valores actuales de las variables de estado en su propia evolución) y/o la matriz de respuesta de control de la ecuación de estado, pero aún con un estado lineal ecuación y función objetivo cuadrática, una ecuación de Riccati todavía se puede obtener para la iteración hacia atrás para la solución de cada período a pesar de equivalencia de certidumbre no se aplica.^[2]ch.13[3] El caso de tiempo discreto de una función de pérdida cuadrática, pero no sólo trastornos aditivos también se pueden manejar, aunque con más complicaciones.^[4]

Una especificación típica del problema de control cuadrático lineal estocástico en tiempo discreto es minimizar:^{[2]: ch. 13,  [5]}

${\displaystyle {\text{E}}_{1}\sum _{t=1}^{S}[y_{t}^{T}Qy_{t}+u_{t}^{T}Ru_{t}]}$

donde E₁ es el operador de valor esperado condicional en y₀, el superíndice T indica una matriz transpuesta, y S es el horizonte de tiempo, sujeto a la ecuación de estado:

${\displaystyle y_{t}=A_{t}y_{t-1}+B_{t}u_{t},}$

donde y es un vector n×1 de variables de estado observables, u es un vector k×1 de variables de control, A_t es la realización de la matriz estocástica de transición de estado de n×n en el tiempo t, B_t es la realización de la matriz estocástica n×k de los multiplicadores de control en el tiempo t, y Q (n×n) y R (k×k) son matrices de costo conocidas simétricas y definidas positivas. Suponemos que cada elemento de A y B se distribuye de forma conjunta independiente e idéntica a través del tiempo, por lo que las operaciones de valor esperado no tienen que ser condicionales al tiempo.

La inducción hacia atrás en el tiempo puede usarse para obtener la solución de control óptima en cada momento,^{[2]: ch. 13}

${\displaystyle u_{t}^{*}=-[{\text{E}}(B^{T}X_{t}B+R)]^{-1}{\text{E}}(B^{T}X_{t}A)y_{t-1},}$