Changes between Version 12 and Version 13 of AGMFM - 4.2. LSTM рекурентни невронски мрежи


Ignore:
Timestamp:
11/16/18 07:25:48 (6 years ago)
Author:
Monika Rizova
Comment:

Legend:

Unmodified
Added
Removed
Modified
  • AGMFM - 4.2. LSTM рекурентни невронски мрежи

    v12 v13  
    3333Овој слој ни овозможува да одлучиме кои информации ќе ги ќе ги отфрлиме, односно ќе ги заборавиме за во следниот чекор. Математички тоа е дефинирано со равенката:
    3434
    35 f_t= σ (W_f [h_(t-1),x_t ]+ b_f ), која значи да погледнеме во претходниот влез (h¬¬t-1 и xt) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1.
     35f,,t,,= σ (W_f [h_(t-1),x_t ]+ b_f ), која значи да погледнеме во претходниот влез (h¬¬t-1 и xt) и со помош на сигмоидна функција како резултат ќе добиеме бр. од 0 до 1 кој ни кажува колку да зачуваме во состојбата Ct-1.
    3636
    3737