$\sigma _{Y_i}$ ignote e supposte costanti

Tutte le formule precedenti valgono ancora. La sola differenza consiste nel fatto che $\sigma$ va valutato dagli scarti fra le ordinate dei punti sperimentali e quelle della retta che meglio approssima i punti, ovvero quella in corrispondenza di E$(m)$ e E$(c)$. Si è già fatto cenno a questo metodo nel paragrafo 10.5.2. In analogia con la deviazione standard, si calcola la radice quadrata della media dei quadrati degli scarti fra $y_i$ e le funzioni calcolate in $x_i$. Inoltre, come spiegato nel paragrafo 10.5.1, il problema diventa complicato quando il numero di punti sperimentali è piccolo. Con i dovuti caveat espressi in tale paragrafo, il modo usuale e che ``va nella direzione giusta'' di trattare il problema è di dividere per $n-2$, anziché per $n$, la somma dei quadrati dei residui. Quindi la formula pratica è

$$\sigma = \sqrt{\frac{\sum_i(y_i-\widehat{m}\,x_i-\widehat{c})^2}{n-2}}\,.$$ (12.11)