Changes between Version 21 and Version 22 of AGMFM - 4.2. LSTM рекурентни невронски мрежи

Timestamp:

11/16/18 07:47:02 (6 years ago)

Author:

Monika Rizova

Comment:

—

AGMFM - 4.2. LSTM рекурентни невронски мрежи

@@ -22 +22 @@
 [[Image(forget.png,20%)]]
 
-Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката (1):
+Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката **(1)**:
 
-f,,t,,= σ (W,,f,, [h,,(t-1),, ,x,,t,, ]+ b,,f,, )  (1), која значи да погледнеме во претходниот влез (h,,t-1,, и x,,t,,) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата C,,t-1,, .
+f,,t,,= σ (W,,f,, [h,,(t-1),, ,x,,t,, ]+ b,,f,, )  **(1)**, која значи да погледнеме во претходниот влез (h,,t-1,, и x,,t,,) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата C,,t-1,, .
 
  
@@ -31 +31 @@
 [[Image(input.png,20%)]]
 
-Слојот порта за влез ни кажува кои информации ќе ги додадеме. Овој слој е дефиниран со две равенки, првата равенка го опишува сигмоид слојот од портата за влез, односно одлучува која вредност ќе се надогради, додека втората равенка e тангенс слојот од портата за влез, која креира нова можна вредност C,,t,,. 
+Слојот порта за влез ни кажува кои информации ќе ги додадеме. Овој слој е дефиниран со две равенки, првата равенка **(2)** го опишува сигмоид слојот од портата за влез, односно одлучува која вредност ќе се надогради, додека втората равенка **(3)** e тангенс слојот од портата за влез, која креира нова можна вредност C,,t,,. 
 
-i,,t,,=σ (W,,i,, [h,,(t-1),, ,x,,t,, ]+ b,,i,, )  - равенка за сигмоид слој
+i,,t,,=σ (W,,i,, [h,,(t-1),, ,x,,t,, ]+ b,,i,, )  - равенка за сигмоид слој **(2)**
 
-C,,t,,=tanh(W,,c,, [h,,(t-1),, ,x,,t,, ]+ b,,c,, ) - равенка за тангенс слој
+C,,t,,=tanh(W,,c,, [h,,(t-1),, ,x,,t,, ]+ b,,c,, ) - равенка за тангенс слој **(3)**