Остаточная сумма - это статистическая величина, используемая для оценки разницы между наблюдаемыми значениями и значениями, предсказанными математической моделью. Это ключевое понятие в регрессионном анализе и других областях статистики.
Содержание
Определение остаточной суммы
Остаточная сумма (или сумма квадратов остатков, RSS - Residual Sum of Squares) вычисляется по формуле:
- RSS = Σ(yᵢ - ŷᵢ)²
- где yᵢ - наблюдаемое значение
- ŷᵢ - предсказанное значение модели
- Σ - сумма по всем наблюдениям
Применение остаточной суммы
| Область применения | Использование остаточной суммы |
| Регрессионный анализ | Оценка качества модели |
| Эконометрика | Проверка гипотез |
| Машинное обучение | Функция потерь |
| Оптимизация | Критерий сходимости |
Виды остаточных сумм
- Обычная остаточная сумма (RSS)
- Взвешенная остаточная сумма
- Нормированная остаточная сумма
- Остаточная сумма для обобщенных моделей
Свойства остаточной суммы
- Всегда неотрицательна (RSS ≥ 0)
- Равна нулю при идеальном соответствии модели данным
- Уменьшается при добавлении параметров в модель
- Используется для вычисления коэффициента детерминации R²
Пример расчета
| Наблюдение (yᵢ) | Прогноз (ŷᵢ) | Остаток (yᵢ - ŷᵢ) | Квадрат остатка |
| 5 | 4.2 | 0.8 | 0.64 |
| 7 | 6.8 | 0.2 | 0.04 |
| 3 | 3.5 | -0.5 | 0.25 |
| Остаточная сумма (RSS) | 0.93 | ||
Связь с другими статистическими показателями
Остаточная сумма связана с:
- Среднеквадратичной ошибкой (MSE = RSS/n)
- Коэффициентом детерминации (R² = 1 - RSS/TSS)
- F-статистикой в дисперсионном анализе
