Öğrenme Oranı
Öğrenme oranı, zamanın azalan bir fonksiyonudur. Öğrenme Oranı zamanın lineer bir fonksiyonudur ve zaman t ile ters orantılı bir fonksiyondur.
Doğrusal alfa fonksiyonu (a) başlangıç değerinden öğrenme esnasında doğrusal olarak sıfıra düşerken, ters alfa fonksiyonu (b) başlangıç değerinden hızla azalır
Alfa değerleri,
Doğrusal olay için ve
Uygun bir başlangıç öğrenme oranı ve öğrenme hızı fonksiyonu için uygun bir form seçmek, sonucu önemli derecede etkileyebilir.
- α çok küçük ise: yavaş yakınsama
- α çok büyükse:  her yinelemede azalma olmaz ve dolayısıyla yakınsamayabilir
