En küçük kareler yöntemi , birbirine bağlı olarak değişen iki fiziksel büyüklük arasındaki ilişkiyi mümkün olduğunca gerçeğe uygun bir denklem olarak yazmak için kullanılan, standart bir regresyon yöntemidir. Bir başka deyişle bu yöntem, ölçüm sonucu elde edilmiş veri noktalarına “mümkün olduğu kadar yakın” geçecek bir işlev eğrisi bulmaya yarar. Gauss-Markov Teoremi’nin en küçük kareler yöntemi, regresyon için optimal yöntemdir.

İstatistikte sıradan en küçük kareler ( OLS ) veya doğrusal en küçük kareler , gözlemlenen yanıtlar arasındaki değişkenlerin karelerinin toplamını en aza indirgemek amacı ile doğrusal regresyon modelinde bilinmeyen parametrelerin tahmin edilmesi için kullanılan bir yöntemdir (değişken değerlerinin tahmini). Bir dizi açıklayıcı değişkenin doğrusal bir fonksiyonu tarafından öngörülen verilerle karşılaştırılmıştır . Görsel olarak bu, kümedeki her veri noktası arasındaki kare dikey mesafelerin ve regresyon çizgisindeki karşılık gelen noktanın toplamı olarak görülür – farklılıklar ne kadar küçükse, modelin veriye daha iyi uyması gerekir. Elde edilen kestirim , özellikle sağdaki tek bir regresör durumunda, basit bir formülle ifade edilebilir.

OLS tahmincisi, regresörler aykırı verileri olduğunda tutarlıdır ve hatalar eşvaryanslı ve seri olarak birbiriyle ilişkili olmadığında doğrusal yansız tahminciler sınıfında en iyisidir. Bu koşullar altında OLS yöntemi, hataların sonlu varyanslara sahip olması durumunda minimum-varyans ortalama-yansız tahmin sağlar. Hataların normal olarak dağıtıldığı ek varsayımı altında OLS, maksimum olasılık tahmincisidir .

OLS, ekonomi, siyaset bilimi , psikoloji ve elektrik mühendisliği (kontrol teorisi ve sinyal işleme) kadar çeşitli alanlarda kullanılmaktadır.

OLS Tahmincisi:

formul_ols.png

ols.png

 

Referans:

https://tr.wikipedia.org/wiki/En_küçük_kareler_yöntemi