Changes between Version 20 and Version 21 of AGMFM - 4.2. LSTM рекурентни невронски мрежи


Ignore:
Timestamp:
11/16/18 07:45:31 (6 years ago)
Author:
Monika Rizova
Comment:

Legend:

Unmodified
Added
Removed
Modified
  • AGMFM - 4.2. LSTM рекурентни невронски мрежи

    v20 v21  
    2222[[Image(forget.png,20%)]]
    2323
    24 Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката:
     24Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката (1):
    2525
    26 f,,t,,= σ (W,,f,, [h,,(t-1),, ,x,,t,, ]+ b,,f,, ), која значи да погледнеме во претходниот влез (h,,t-1,, и x,,t,,) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата C,,t-1,, .
     26f,,t,,= σ (W,,f,, [h,,(t-1),, ,x,,t,, ]+ b,,f,, )  (1), која значи да погледнеме во претходниот влез (h,,t-1,, и x,,t,,) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата C,,t-1,, .
    2727
    2828