Changes between Version 13 and Version 14 of AGMFM - 4.2. LSTM рекурентни невронски мрежи

Timestamp:

11/16/18 07:26:47 (6 years ago)

Author:

Monika Rizova

Comment:

—

AGMFM - 4.2. LSTM рекурентни невронски мрежи

@@ -33 +33 @@
 Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката:
 
-f,,t,,= σ (W_f [h_(t-1),x_t ]+ b_f ), која значи да погледнеме во претходниот влез (h¬¬t-1 и xt) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1.
+f,,t,,= σ (W,,f,, [h,,(t-1),, ,x,,t,, ]+ b,,f,, ), која значи да погледнеме во претходниот влез (h,,t-1,, и x,,t,,) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1.