Regressione con rumore Anisotropo

Nel caso in cui il rumore di osservazione non sia isotropico non è più possibile usare la distanza euclidea per misurare l'errore ma è necessario passare alla distanza di Mahalanobis. Sotto questa differente metrica la funzione costo (4.49) si scrive

$$S(\boldsymbol\beta) = \left( \mathbf{r}(\boldsymbol\beta)... ...\boldsymbol\Omega \left( \mathbf{r}(\boldsymbol\beta) \right)$$ (4.68)

dove $\boldsymbol\Omega = \boldsymbol\Sigma^{-1}$ è la matrice dell'informazione (information matrix), detta anche matrice di concentrazione o matrice di precisione. La distanza di Mahalanobis corrisponde allo stimatore di massima verosimiglianza nel caso di rumore gaussiano anisotropo a media nulla. Nel caso particolare in cui la matrice di covarianza sia diagonale questo approccio si riconduce al caso dei minimi quadrati pesati.

L'espansione in serie di Taylor dell'equazione (4.68) si scrive

$$\begin{array}{rl} S(\boldsymbol\beta + \boldsymbol\delta) ... ...\boldsymbol\delta^{\top}\mathbf{H}\boldsymbol\delta \end{array}$$ (4.69)

con $\mathbf{r}$ e $\mathbf{J}$ calcolati nel punto $\boldsymbol\beta$. La matrice

$$\mathbf{H} = \mathbf{J}^{\top}\boldsymbol\Omega\mathbf{J}$$ (4.70)

è la matrice dell'informazione dell'intero sistema, ottenuta proiettando l'errore di misura nello spazio dei parametri attraverso lo Jacobiano $\mathbf{J}$. Per compattezza si è inoltre definito

$$\mathbf{b} = \mathbf{J}^{\top}\boldsymbol\Omega\mathbf{r}.$$ (4.71)

Le derivate della funzione $S$ diventano pertanto

$$\frac{\partial S(\boldsymbol\beta+\boldsymbol\delta)} {\pa... ...elta} \approx 2\mathbf{b} + 2\mathbf{H}\boldsymbol\delta .$$ (4.72)

Ponendo il gradiente nullo si ottiene il sistema lineare

$$\mathbf{H}\boldsymbol\delta = -\mathbf{b}$$ (4.73)

che rappresenta la versione di Gauss-Newton nel caso di rumore anisotropo e costituisce la naturale generalizzazione dell'equazione (4.52) ottenuta nel caso isotropo.