Changes between Version 7 and Version 8 of AGMFM - 4.2. LSTM рекурентни невронски мрежи

Timestamp:

10/23/18 18:52:24 (6 years ago)

Author:

Monika Rizova

Comment:

—

AGMFM - 4.2. LSTM рекурентни невронски мрежи

@@ -17 +17 @@
 [[Image(forget.png,20%)]]
 
+Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката:
+
+f_t= σ (W_f [h_(t-1),x_t ]+ b_f ), која значи да погледнеме во претходниот влез (h¬¬t-1 и xt) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1.