Искусственный интеллект и машинное обучение
Научная статья
Влияние начального темпа обучения на свойства нейронных сетей в задаче распознавания речи
Ильдус Рустемович Садртдинов
| Национальный исследовательский университет «Высшая школа экономики», Москва, Россия | |
|
|
Аннотация.
Начальный темп обучения стохастического градиентного спуска играет определяющую роль в качестве получаемого решения и структуре выучиваемых нейронной сетью признаков.
В недавних работах для задачи классификации изображений установлена таксономия трех режимов начального темпа обучения и выделен узкий диапазон высоких значений, обеспечивающий наилучшее качество после дальнейшего дообучения с низким темпом обучения или усреднения весов.
В статье эта методология распространяется на задачу распознавания речи, где таксономия режимов воспроизводится в основных чертах, а выделенный диапазон высоких значений сохраняет превосходство по итоговому качеству дообучения и усреднения весов и линейную связность полученных решений в пространстве весов.
Картина выучиваемых признаков воспроизводится в более мягкой форме: с ростом темпа обучения опора моделей смещается к нижним кепстральным коэффициентам и низкочастотной части мел-спектрограммы, однако внутри области высоких значений это смещение не выделяет диапазон наилучшего качества.
Дополнительно предложено усечение мел-частотного кепстра как переносимый инструмент анализа выученных признаков, применимый к любой модели, работающей со спектрограммой.
Таким образом, выделенный режим не является артефактом задачи классификации изображений, а успешно переносится на задачу распознавания речи.
Ключевые слова: темп обучения, стохастический градиентный спуск, распознавание речи, линейная связность, выучивание признаков
Для цитирования: Садртдинов И. Р. Влияние начального темпа обучения на свойства нейронных сетей в задаче распознавания речи // Программные системы: теория и приложения. 2026. Т. 17. № 3. С. 315–358. https://psta.psiras.ru/2026/3_315-358.
Полный текст статьи (PDF): https://psta.psiras.ru/read/psta2026_3_315-358.pdf.
Статья поступила в редакцию 22.07.2026; одобрена после рецензирования 26.08.2026; принята к публикации 12.09.2026; опубликована онлайн 20.09.2026.


