Потеря градиента (Vanishing Gradient) – почему глубокое обучение страдает от «кратковременной амнезии»

Проблема потери градиента в глубоких нейронных сетях объяснена: как сигмоида и цепное правило приводят к исчезновению с…