#### Modelimiz $Y_i = \beta_0 + \beta_1 X_i + \epsilon_i$ #### Hedef (Minimizasyon) $S = \sum_{i=1}^{n} (Y_i - \beta_0 - \beta_1 X_i)^2$ - $\beta_0$ için türev: $\frac{\partial S}{\partial \beta_0} = -2 \sum_{i=1}^{n} (Y_i - \beta_0 - \beta_1 X_i)$ - $\beta_1$ için türev: $\frac{\partial S}{\partial \beta_1} = -2 \sum_{i=1}^{n} X_i (Y_i - \beta_0 - \beta_1 X_i)$ **Türevleri Sıfıra Eşitle:** - $\beta_0$ için: $\sum_{i=1}^{n} (Y_i - \beta_0 - \beta_1 X_i) = 0$ - $\beta_1$ için: $\sum_{i=1}^{n} X_i (Y_i - \beta_0 - \beta_1 X_i) = 0$ ##### Denklemleri Çözdüğümüzde - Birinci denklemden: $ n\bar{Y} = n\beta_0 + \beta_1 \sum_{i=1}^{n} X_i$ $\beta_0 = \bar{Y} - \beta_1 \bar{X}$ - İkinci denklemden: $\sum_{i=1}^{n} X_i Y_i = \beta_0 \sum_{i=1}^{n} X_i + \beta_1 \sum_{i=1}^{n} X_i^2$ **Ortak çözmek için yerine koyduğumuzda:** Öncelikle $\beta_0$ yerine $\bar{Y} - \beta_1 \bar{X}$ koyuyoruz. $\sum_{i=1}^{n} X_i Y_i = (\bar{Y} - \beta_1 \bar{X}) \sum_{i=1}^{n} X_i + \beta_1 \sum_{i=1}^{n} X_i^2$ $\sum_{i=1}^{n} X_i Y_i = \bar{Y} \sum_{i=1}^{n} X_i - \beta_1 \bar{X} \sum_{i=1}^{n} X_i + \beta_1 \sum_{i=1}^{n} X_i^2$ $\beta_1$ terimlerini paranteze alıyoruz. $\beta_1 \left( \sum_{i=1}^{n} X_i^2 - \bar{X} \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} X_i Y_i - \bar{Y} \sum_{i=1}^{n} X_i$ Son formülde ikinci kısma bakacak olursak; $ \sum_{i=1}^{n} X_i^2 - \bar{X} \sum_{i=1}^{n} X_i$ $\bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$ $\sum_{i=1}^{n} X_i^2 - \bar{X} \sum_{i=1}^{n} X_i = \sum_{i=1}^{n} (X_i^2) - \left(\frac{1}{n} \sum_{i=1}^{n} X_i\right) \sum_{i=1}^{n} X_i$ $ = \sum_{i=1}^{n} (X_i^2) - \frac{1}{n} \left(\sum_{i=1}^{n} X_i\right)^2$ Bu adımları izleyerek doğrusal regresyon katsayılarını en küçük kareler yöntemiyle bulmuş oluruz. $\sum_{i=1}^{n} X_i Y_i = n(\bar{Y} - \beta_1 \bar{X})\bar{X} + \beta_1 \sum_{i=1}^{n} X_i^2$ $\beta_1 = \frac{\sum_{i=1}^{n} (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^{n} (X_i - \bar{X})^2}$ #### Sonuç • $\beta_1$ ve $\beta_0$ bu denklemlerle hesaplanabilir: $\beta_1 = \frac{\sum_{i=1}^{n} (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^{n} (X_i - \bar{X})^2}$ $\beta_0 = \bar{Y} - \beta_1 \bar{X}$ Aynı zamanda; $\beta_1 = \frac{\text{Kovaryans}(X, Y)}{\text{Varyans}(X)}$ $\beta_1$ aynı zamanda farklı şekillerde ifade edilebilir: $\beta_1 = \frac{\sum_{i=1}^{n} (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^{n} (X_i - \bar{X})^2}$ $\sum (X_i - \bar{X})(Y_i - \bar{Y}) = \sum (X_iY_i) - n\bar{X}\bar{Y}$ $\bar{X} = \frac{\sum X}{n}$ ve $\bar{Y} = \frac{\sum Y}{n}$ ise; $n\bar{X}\bar{Y} = \frac{(\sum X)(\sum Y)}{n}$ Yani pay; $n(\sum XY) - (\sum X)(\sum Y)$ Paydaya geldiğimizde, $\sum (X_i - \bar{X})^2 = \sum X_i^2 - n\bar{X}^2$ $\bar{X}^2 = \left(\frac{\sum X}{n}\right)^2$ ise; $n\bar{X}^2 = \frac{(\sum X)^2}{n}$ Payda şu şekli alacaktır: $n(\sum X^2) - (\sum X)^2$ Demek ki $\beta_1$’i şu şekilde ifade edebiliriz: $\beta_1 = \frac{n(\sum XY) - (\sum X)(\sum Y)}{n(\sum X^2) - (\sum X)^2}$