pzd100 Caso generale di distribuzione multivariata

È semplice dimostrare che $Q^2$ può essere riscritto come il prodotto di un vettore riga per un vettore colonna

$$Q^2 = \frac{1}{1-\rho^2} \left( \begin{array}{cc} \left( \frac{x... ...rray} \right) \left( \begin{array}{c} x-\mu_x \\ y-\mu_y \end{array}\right)\,.$$

Il vettore riga può essere ulteriormente scomposto come il prodotto di un vettore riga per una matrice $2\times 2$, ottenendo così la seguente decomposizione:

$$\left( \begin{array}{cc} x-\mu_x & y-\mu_y \end{array} \right) \f... ...ray} \right) \left( \begin{array}{c} x-\mu_x \\ y-\mu_y \end{array}\right) \,.$$ (9.61)

Chiamando $\underline{\Delta}$ il vettore colonna della differenza fra le variabili casuali e il loro valore atteso, $\underline{\Delta^T}$ il vettore riga, in quanto trasposto di $\underline{\Delta}$, e ${\bf A}$ la matrice, $Q^2$ acquista la seguente forma:

$$Q^2 = \underline{\Delta}^T {\bf A} \underline{\Delta} \,,$$

con

$${\bf A} = \frac{1}{1-\rho^2} \left( \begin{array}{cc} \frac{1}{\s... ...\ -\frac{\rho}{\sigma_x\sigma_y} & \frac{1}{\sigma_y^2} \end{array} \right)\,.$$ (9.62)

È possibile riscrivere la matrice $A$ in una forma più semplice se si passa alla sua inversa^9.7, ottenendo

$${\bf\Sigma} = {\bf A}^{-1} = \left( \begin{array}{cc} \sigma_x^2 ... ...ho\sigma_x\sigma_y \\ \rho\sigma_x\sigma_y & \sigma_y^2 \end{array} \right)\,.$$ (9.63)

La matrice ${\bf\Sigma}$ ha quindi un significato più immediato di ${\bf A}$, in quanto i suoi elementi sono le varianze e le covarianze delle variabili casuali (si ricordi che $\rho\sigma_x\sigma_y=$Cov$(X\, Y)$). Utilizzando la forma compatta di scrivere le varianze e covarianze per un numero arbitrario di variabili casuali (vedi par sec:covarianza) si riconosce che

$$\Sigma_{i,j} = \sigma_{i,j}\,.$$ (9.64)

Inoltre, si può dimostrare che l'espressione di $Q^2$ scritta nella forma

$$Q^2 = \underline{\Delta}^T{\bf\Sigma}^{-1}\underline{\Delta}$$ (9.65)

può essere estesa ad un numero qualsiasi di variabili. Questo ci permette di ottenere la formula generale della multinomiale, se si riesce a scrivere in un modo compatto il denominatore del termine di fronte all'esponenziale. Per derivarne intuitivamente la forma si pensi possono fare le seguenti considerazioni.

• Il fattore $2\pi$, differisce dall'originario $\sqrt{2\pi}$ della gaussiana in quanto abbiamo due variabili; ne segue che la sua naturale estensione ad $n$ variabili è:
  $$(2\pi)^{n/2}\,.$$

• Il denominatore contiene il prodotto delle deviazioni standard per questioni di dimensioni. Infatti l'elemento di probabilità infinitesimo $f(x,y)\,$d$x$d$y$ deve essere adimensionale per il suo significato di probabilità e quindi la densità deve avere le dimensioni inverse di d$x$d$y$. Il termine $\sqrt{1-\rho^2}$ è dovuto invece all'effetto di schiacciamento della forma a campana della distribuzione binormale, dovuto alla correllazione fra le variabili. Se il numero di variabili aumenta esso è destinato a complicarsi. Per formulare $\sigma_x\sigma_y\sqrt{1-\rho^2}$ in forma compatta estendibile ad un numero qualsiasi di variabili riscriviamola come
  $$\sqrt{\sigma_x^2\sigma_y^2(1-\rho^2)} = \sqrt{\sigma_x^2\sigma_y^2 - (\rho\sigma_x\sigma_y)^2}\,.$$
  Si riconosce quindi come questo termine sia pari alla radice quadrata del determinante di ${\bf\Sigma}$, che indicheremo con $\vert{\bf\Sigma}\vert$.

Poiché si può dimostrare che questa formula è valida anche nel caso generale, abbiamo finalmente ottenuto l'espressione della densità di probabilità di una distribuzione multinomiale di $n$ variabili comunque correlate fra di loro:

$$f(\underline{x}\,\vert\,{\cal N}(\underline{\mu}, {\bf\Sigma})) =... ... -\frac{1}{2}\underline{\Delta}^T{\bf\Sigma}^{-1}\underline{\Delta} \right]}\,,$$ (9.66)

ovvero

$$f(\underline{x}\,\vert\,{\cal N}(\underline{\mu}, {\bf\Sigma})) =... ...\underline{\mu})^T {\bf\Sigma}^{-1} (\underline{x}-\underline{\mu}) \right]}\,,$$ (9.67)

dove, ripetiamo ancora una volta, $\underline{x}$ rappresenta il vettore aleatorio $\{x_1, x_2, \ldots, x_n\}$. La notazione ${\cal N}(\underline{\mu}, {\bf\Sigma})$ è simile a quella della semplice gaussiana, con le dovute differenze:

• al posto di una sola media $\mu$ ne abbiamo $n$, compattate in un vettore $\underline{\mu} = \{\mu_1, \mu_2, \ldots, \mu_n\}$;
• la deviazione standard è sostituita da una matrice di varianze e covarianze $\Sigma$, chiamata matrice di covarianza. Poiché vale che Cov$(X_i,X_j)=$Cov$(X_j,X_i)$, la matrice è simmetrica e i parametri indipendenti sono $n(n+1)/2$, ovvero le $n$ varianze e gli $n(n-1)/2$ coefficienti di correlazione.

La densità di probabilità a molte dimensioni non è rappresentabile graficamente. Si ricordi comunque che

• la distribuzione marginale di ciascuna delle variabili $X_i$ è una normale ${\cal N}(\mu_i,\sigma_i)$;
• la distribuzione congiunta di due variabili qualsiasi $X_i$ e $X_j$ è una normale bivariata ${\cal N}_2(\mu_i, \sigma_i, \mu_j, \sigma_j, \rho_{ij})$ descritta dall'equazione (  9.59).

Si può verificare facilmente che, se i coefficienti di correlazione fra le variabili sono tutti nulli e quindi nella matrice di covarianza sono diversi da zero soltanto i termini diagonali, la (  9.69) si riduce al prodotto di $n$ normali univariate:

$$f(\underline{x}\,\vert\,{\cal N}(\underline{\mu}, \underline{\sig... ..._i} \exp{\left[ -\frac{1}{2} \sum_i\frac{(x_i-\mu_i)^2}{\sigma_i^2} \right]}\,.$$ (9.68)