Çoklu Doğrusal Regresyon

Bir tane bağımlı değişken ile bununla ilişkisi olan bir dizi bağımsız değişken arasındaki ilişkiyi ortaya koymak için yapılan analizdir.

Çoklu doğrusal regresyon iki ve daha fazla bağımsız değişken ve bir bağımlı değişken arasındaki doğrusal bağıntıyı inceler. Çoklu regresyonda bağımlı ve bağımsız değişkenler arasında bir bağıntı vardır. Bağımsız değişkenleri X, Bağımlı değişkenleri Y ile gösterelim.

formul_y.png

  • Y bağımlı değişken gözlem vektörü
  • X bağımsız değişkenler gözlem matrisi
  • B katsayılar vektörü
  • E  rasgele hata vektörü

Verilere çoklu regresyon uygulanabilmesi için, bağımsız değişkenler arasında çoklu bağımlılık (multicollinearity) olmaması gerekir.

Çok Değişkenli Doğrusal Regresyon

Çok değişkenli doğrusal regresyon analizi çoklu doğrusal regresyon analizinin genellenmiş biçimidir. Bağımlı değişken sayısı iki ve daha fazla olduğu durumlarda.
Parametre tahminleri ve modelin geçerliliğini belirlemek için gerekli kareler toplamlarının hesaplanması çoklu regresyon yöntemi ile benzerlik göstermektedir.
Bu modelde q bağımlı ve p bağımsız değişken bulunmaktadır.
Y,bağımlı değişkenler matrisini göstermekte ve q değişkenli normal dağılım göstermektedir.
X,bağımsız değişkenler matrisini göstermekte ve p değişkenli normal dağılım göstermektedir.
E,rasgele hata matrisini göstermekte ve p çok değişkenli normal dağılım göstermektedir.

Şimdi, denklemler için herhangi bir sayıda giriş değişkenine sahip olabildiğimizin gösterimini sunuyoruz.

  • x_j_i.png = i. eğitim verisinin özelliklerinin değeri
  • x_i_.png =  i. eğitim verisinin özellik girdisi
  • m.png = eğitin verilerinin sayısı
  • n.png = özelliklerin sayısı

 

Bu çoklu özellikleri barındıran hipotez fonksiyonunun çok değişkenli biçimi aşağıdaki gibidir:

formul_h_teta.png
Matris çarpımının tanımını kullanarak, çok değişkenli hipotez işlevi kısaca şu şekilde temsil edilebilir:

formul_h_teta2.png

 

Bu, bir eğitim örneği için hipotez fonksiyonunun bir vektörizasyonudur.

Birden Çok Değişken için Gradient Descent

Gradyan iniş denkleminin kendisi genellikle aynı şekildedir; Sadece ‘n’ özelliklerimiz için bunu tekrarlamalıyız:

formul_teta.png

 

formul_teta2.png