Лекция 10. RNN, LSTM, GRU (1 часть). Language modelling, QA
В начале лекции рассказывается про BasicRNN — самую простую версию рекуррентной нейронной сети, умеющую работать с последовательностями.
Далее речь идёт об LSTM и GRU — более «прокаченных» версиях RNN, которые не имеют многих недостатков, присущих BasicRNN.
Немалое количество времени посвящено демонстрации работы этих нейросетей на примере задач Language modelling и Question answering.