41 lines
3.5 KiB
Markdown
41 lines
3.5 KiB
Markdown
|
---
|
|||
|
|
title: Overfitting Has Many Faces
|
|||
|
|
localeTitle: Переопределение имеет много лиц
|
|||
|
|
---
|
|||
|
|
## Переопределение имеет много лиц
|
|||
|
|
|
|||
|
|
Если алгоритм обучения хорошо подходит для данного тренировочного набора, это не просто указывает на хорошую гипотезу. Переполнение происходит, когда функция гипотезы J (Θ) слишком точно соответствует вашему набору тренировок с высокой дисперсией и низкой ошибкой в наборе тренировок при наличии высокой тестовой ошибки для любых других данных.
|
|||
|
|
|
|||
|
|
Другими словами, overfitting occrus, если ошибка гипотезы, измеренная в наборе данных, которая использовалась для обучения параметров, оказалась ниже ошибки в любом другом наборе данных.
|
|||
|
|
|
|||
|
|
### Выбор оптимальной полиномиальной степени
|
|||
|
|
|
|||
|
|
Выбор правильной степени полинома для функции гипотезы важен для предотвращения переобучения. Это может быть достигнуто путем тестирования каждой степени полинома и наблюдения эффекта на результат ошибки в различных частях набора данных. Следовательно, мы можем разбить наш набор данных на 3 части, которые можно использовать для оптимизации гипотезы «тета и полиномиальная степень».
|
|||
|
|
|
|||
|
|
Хорошим коэффициентом разложения набора данных является:
|
|||
|
|
|
|||
|
|
* Учебный комплект: 60%
|
|||
|
|
* Перекрестная проверка: 20%
|
|||
|
|
* Испытательный набор: 20%
|
|||
|
|
|
|||
|
|
Таким образом, три значения ошибки могут быть вычислены по следующему методу: 1
|
|||
|
|
|
|||
|
|
1. Используйте набор тренировок для каждой степени полинома, чтобы оптимизировать параметры в `Θ`
|
|||
|
|
2. Используйте набор перекрестной проверки, чтобы найти степень полинома с наименьшей ошибкой
|
|||
|
|
3. Используйте тестовый набор для оценки ошибки обобщения
|
|||
|
|
|
|||
|
|
### Способы исправления переполнения
|
|||
|
|
|
|||
|
|
Вот некоторые из способов решения проблемы переобучения:
|
|||
|
|
|
|||
|
|
1. Получение дополнительных примеров обучения
|
|||
|
|
2. Попытка меньшего набора функций
|
|||
|
|
3. Увеличение параметра `λ lambda`
|
|||
|
|
|
|||
|
|
#### Дополнительная информация:
|
|||
|
|
|
|||
|
|
[Курсы машинного обучения Курсеры](https://www.coursera.org/learn/machine-learning)
|
|||
|
|
|
|||
|
|
### источники
|
|||
|
|
|
|||
|
|
1. [Эндрю. "Машинное обучение". _Доступна Coursera_ 29 января 2018 года](https://www.coursera.org/learn/machine-learning)
|