Changes between Version 12 and Version 13 of AGMFM - 4.2. LSTM рекурентни невронски мрежи
- Timestamp:
- 11/16/18 07:25:48 (6 years ago)
Legend:
- Unmodified
- Added
- Removed
- Modified
-
AGMFM - 4.2. LSTM рекурентни невронски мрежи
v12 v13 33 33 Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката: 34 34 35 f _t= σ (W_f [h_(t-1),x_t ]+ b_f ), која значи да погледнеме во претходниот влез (h¬¬t-1 и xt) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1.35 f,,t,,= σ (W_f [h_(t-1),x_t ]+ b_f ), која значи да погледнеме во претходниот влез (h¬¬t-1 и xt) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1. 36 36 37 37