Gradyan İniş ve Geri yayılma Teoremi farkındayım. Anlamadığım şey şudur: ne Zaman bir önyargı önemli ve nasıl kullanıyorsun? kullanıyor

Örneğin, eşleme AND fonksiyonu için 2 Giriş ve 1 çıkış, değil vermek doğru ağırlık, ancak, zaman kullanıyorum 3 giriş (1 hangi bir sapma), verdiği doğru ağırlık.

Herkesin dediği gibi, önyargıları hemen hemen her zaman yararlı olduğunu düşünüyorum. Aslındasapma değeri sola veya sağa aktivasyon fonksiyonu kayma sağlarbaşarılı öğrenme için kritik olabilir.,

Basit bir örnek bakmak yardımcı olabilir. Bu 1-Giriş, 1-çıkış hiçbir önyargı var ağ düşünün:

Ağın çıkış ağırlığı (w . tarafından giriş (x) ile çarpılarak hesaplanır ^alt>0) ve aktivasyon fonksiyonu (sigmoid bir fonksiyon vs.) bir çeşit sonuç geçerek

İşte bu ağ hesaplayan fonksiyonu, w çeşitli değerleri için0:

Ağırlık w değişiyor0aslında "diklik" sigmoid. değişiklikleri Bu yararlı, ama eğer ağ x 0 olduğunda, çıkış istersen 2 Ne? Sadece sigmoid dik değiştirmek gerçekten işe yaramazsağdaki bütün eğrinin kayması için mümkün olmak istiyorum.

Tam önyargı yapmanızı sağlar. Eğer ağ için bir önyargı eklersek, şu şekilde:

...ağın çıktı sig olur(w0*x w1*1.0). Ağın çıkış w gibi farklı değerler için görünür1:

W için -5 ağırlığa sahip1bize vardiya x 2 0 çıkışları olan bir ağ için sağa doğru eğri.