Klasyczna metoda najmniejszych kwadratów

Klasyczna metoda najmniejszych kwadratów (KMNK) jest metodą estymowania nieznanych parametrów w modelu regresji liniowej. Celem tej metody jest określenie modelu liniowego minimalizującego sumę kwadratów błędów pomiędzy obserwacjami w zestawie danych, a tymi przewidywanymi przez model. Poznaj metodę KMNK za pomocą słynnego zbioru danych Kwartet Anscombe’a.

Wybierz jeden z zestawów do zbadania.

I II III IV
Przeciągaj i upuszczaj punkty danych, aby zobaczyć, jaki ma to wpływ na linię KMNK.
Kliknij kolumnę tabeli regresji, aby dowiedzieć się więcej o danym parametrze.

$n$ to liczebność próby. Jest to po prostu liczba punktów danych w zestawie.

$\bar{x}$ to wartość średnia zmiennej x. Zdefiniowana, jak poniżej:

$$\bar{x} = \sum_{i=1}^{n}\dfrac{x_{i}}{n}$$

$\bar{y}$ to wartość średnia zmiennej y. Zdefiniowana, jak poniżej:

$$\bar{y} = \sum_{i=1}^{n}\dfrac{y_{i}}{n}$$

$\hat{B_{0}}$ wyraz wolny - rzędna punktu przecięcia prostej regresji z osią OY. Aktualne oszacowanie ma wariancję __. Określony wzorem:

$$\hat{B_{0}} = \bar{y} - \hat{B_{1}}\bar{x}$$

$\hat{B_{1}}$ współczynnik regresji - współczynnik kierunkowy prostej regresji. Aktualne oszacowanie ma wariancję __. Określony wzorem:

$$\hat{B_{1}} = \dfrac{S_{xy}}{S_{xx}}$$

$SSE$ (sum of squared errors) suma kwadratów błędów (rezyduów). Określona wzorem:

$$SSE = \sum_{i=1}^{n}\Big{(}y_{i} - \big{(}\hat{B_{0}} + \hat{B_{1}}x_{i}\big{)}\Big{)}^{2}$$

	$\displaystyle{n}$	$\displaystyle{\bar{\cssId{xMEAN}{x}}}$	$\displaystyle{\bar{\cssId{yMEAN}{y}}}$	$\displaystyle{\hat{\cssId{BETA0}{B_{0}}}}$	$\displaystyle{\hat{\cssId{BETA1}{B_{1}}}}$	$\displaystyle{SSE}$
Model

Korelacja

Korelacja jest miarą siły liniowej zależności między dwiema zmiennymi. Współczynnik korelacji z próby, zdefiniowany jak poniżej, mieści się w przedziale domkniętym [-1, 1]:

$$r = \dfrac{s_{xy}}{\sqrt{s_{xx}}\sqrt{s_{yy}}}$$

Poznaj tę koncepcję poprzez Edgara Andersona słynny Zbiór danych na temat irysów (ang.).

Wybierz gatunek, który chcesz badać.

setosa versicolor virginica
Kliknij element macierzy korelacji, aby zobrazować związek między wybranymi cechami.

	Długość listka kielicha	Szerokość listka kielicha	Długość płatka	Szerokość płatka
Długość listka kielicha
Szerokość listka kielicha
Długość płatka
Szerokość płatka

Analiza wariancji

Analiza wariancji (ANOVA) jest metodą statystyczną do testowania istotności różnic pomiędzy średnimi grup. Stanowi uogólnienie testu t dla dwóch lub więcej grup, przez porównanie wariancji międzygrupowej z wewnątrzgrupową. Zacznij od wybrania zbioru danych lub przesłania własnego pliku .csv .

Wybierz jeden z następujących zbiorów danych do zbadania.
- Kwartet Anscombe’a
- Kwartet, X
- Kwartet, Y
- Zbiór danych na temat irysów
- Gatunek, Długość listka kielicha
- Gatunek, Szerokość listka kielicha
- Gatunek, Długość płatka
- Gatunek, Szerokość płatka
- Eksperyment karmienia szczurów
- Dieta, Waga
- Ilość, Waga
Przeciągaj i upuszczaj punkty danych, aby zobaczyć, jaki ma to wpływ na wynik testu ANOVA.
Kliknij kolumnę tabeli ANOVA, aby dowiedzieć się więcej o danym parametrze.

$SSE$ (sum of squared errors) suma kwadratów błędów (rezyduów). Określona wzorem:

$$SSE = \sum_{i=1}^{n} \big{(}y_{i} - \bar{y}\big{)}^{2}$$

$df$ stopnie swobody (degrees of freedom). Tu liczba stopni swobody jest związana z liczbą punktów danych następująco:

$$df = n - 1$$

$MSE$ średni kwadrat błędu (Mean squares), który jest ilorazem sumy kwadratów błędów i liczby stopni swobody:

$$MSE = \dfrac{SSE}{df}$$

$F$ statystyka zdefiniowana następująco:

$$F = \dfrac{SST/(k-1)}{SSE/(n-k)} \sim f_{k-1,n-k}$$

$p$ prawdopodobieństwo testowe określane na podstawie statystyki F.

	$\displaystyle{SSE}$	$\displaystyle{df}$	$\displaystyle{MS}$	$\displaystyle{F}$	$\displaystyle{p}$
Czynnik
Błąd
Całkowita

	\(\displaystyle{n}\)	\(\displaystyle{\bar{\cssId{xMEAN}{x}}}\)	\(\displaystyle{\bar{\cssId{yMEAN}{y}}}\)	\(\displaystyle{\hat{\cssId{BETA0}{B_{0}}}}\)	\(\displaystyle{\hat{\cssId{BETA1}{B_{1}}}}\)	\(\displaystyle{SSE}\)
Model

	\(\displaystyle{SSE}\)	\(\displaystyle{df}\)	\(\displaystyle{MS}\)	\(\displaystyle{F}\)	\(\displaystyle{p}\)
Czynnik
Błąd
Całkowita

Regresja liniowa