Часть 4: Обучение и валидация модели — 250 эпох, 94.55% точности и борьба с переобучением

Wait 5 sec.

Эпоха 1: Точность на обучении 21.10%, на валидации 94.55% Высокая валидация на первой эпохе — случайное совпадение. Модель ещё не обучилась, но случайная инициализация весов дала хороший результат на маленькой валидационной выборке.Эпоха 2-3: Точность на валидации упала до 0% Модель начала переобучаться на обучающей выборке. Это нормальное явление на ранних этапах обучения.Эпоха 20: Стабилизация на уровне 78.90% (train) и 27.27% (val) Начало сходимости модели. После этой эпохи точность на валидации начинает расти. .... и это всё было на ресурсах Goole-Colab, даже не всегда получалось попасть на GPU. От сюда и выбор размерности батча, для обучения Читать далее