Changes between Version 3 and Version 4 of AGMFM - 4.2. LSTM рекурентни невронски мрежи

Timestamp:

10/23/18 18:49:00 (6 years ago)

Author:

Monika Rizova

Comment:

—

AGMFM - 4.2. LSTM рекурентни невронски мрежи

@@ -15 +15 @@
 1. Слој - Порта за заборавање
 
-[[Image(forget.png)]]
+[[Image(forget.png,40%)]]
  
 2. Слој – Порта за влез
 
-[[Image(input.png)]]
+[[Image(input.png,40%)]]
 
 i_t=σ (W_i [h_(t-1),x_t ]+ b_i )  - равенка за сигмоид слој
@@ -28 +28 @@
 Во овој слој се врши комбинирање на претходно опишаните два слоја, односно се помножува старата состојба Ct-1 со ft и се додава it * Ct  - за да се додади новата кандидат вредност. 
 
-[[Image(combine.png)]]
+[[Image(combine.png,40%)]]
                                                           
 Математички изразено равенката на овој слој е: C_t= f_t× C_(t-1)+ i_t×C_t
@@ -37 +37 @@
 Тука се дефинира каков ќе биде излезот, а тоа го правиме со множење на двете функции сигмоид и тангенс, така што сигмуид функцијата ни кажува кој дел ќе оди на излез, а тангенс функцијата служи за да ја ограничи вредноста да биде помеѓу -1 и 1.  
 
-[[Image(output.png)]]
+[[Image(output.png,40%)]]
 
 Равенката на сигмоид функцијата е: σ_t=σ (W_о [h_(t-1),x_t ]+ b_о )