Sciact
  • EN
  • RU

Итерационное выпуклое оценивание линейных регрессионных моделей в условиях стохастической неоднородности данных Full article

Journal Вестник Самарского государственного технического университета. Серия: Физико-математические науки
ISSN: 1991-8615
Output data Year: 2025, Volume: 29, Number: 2, Pages: 294-318 Pages count : 25 DOI: 10.14498/vsgtu2138
Tags линейная регрессия, робастное оценивание, стохастическая неоднородность данных, взвешенный метод наименьших модулей, метод наименьших квадратов, невыпуклые функции потерь, итерационные алгоритмы, устойчивость регрессионных моделей
Authors Golovanov Oleg Aleksandrovich 1 , Tyrsin Aleksandr Nikolaevich 1,2
Affiliations
1 Институт экономики УрО РАН
2 Уральский федеральный университет имени первого Президента России Б.Н. Ельцина

Funding (1)

1 Министерство науки и высшего образования РФ 0327-2024-0015

Abstract: Одной из ключевых проблем линейного регрессионного анализа является обеспечение робастного оценивания параметров модели в условиях стохастической неоднородности данных. В подобных случаях оценки классического метода наименьших квадратов теряют устойчивость. Данная проблема особенно актуальна при распределениях ошибок с более вытянутыми хвостами по сравнению с нормальным распределением. В качестве одного из подходов к повышению робастности регрессионных моделей рассматривается замена квадратичной функции потерь на выпукло-вогнутую, однако непосредственное применение таких функций приводит к многоэкстремальности целевой функции, что существенно усложняет решение задачи. Целью настоящего исследования является анализ свойств метода вариационно-взвешенных квадратических и абсолютных приближений для невыпуклых функций потерь. В работе предложен подход, основанный на замене исходной невыпуклой задачи регрессионного оценивания на итеративное применение взвешенных методов наименьших квадратов и наименьших модулей. Фактически реализуется метод вариационно-взвешенных квадратических и абсолютных приближений для невыпуклых функций потерь. На каждой итерации взвешенного метода наименьших модулей использовались алгоритмы спуска по узловым прямым. Исследование итерационных алгоритмов проведено методом статистических испытаний Монте–Карло для различных функций потерь. Установлено, что взвешенный метод наименьших модулей превосходит метод наименьших квадратов по быстродействию при сопоставимой точности оценивания. В условиях одновременного нарушения нескольких предпосылок регрессионного анализа для достижения приемлемой точности предпочтительным является использование либо взвешенного метода наименьших модулей, либо обобщенного метода наименьших модулей, реализованного в виде алгоритма обобщенного спуска. Получены оценки вычислительной сложности алгоритмов и времени их выполнения в зависимости от объема выборки и количества параметров регрессионной модели.
Cite: Голованов О.А. , Тырсин А.Н.
Итерационное выпуклое оценивание линейных регрессионных моделей в условиях стохастической неоднородности данных
Вестник Самарского государственного технического университета. Серия: Физико-математические науки. 2025. Т.29. №2. С.294-318. DOI: 10.14498/vsgtu2138 OpenAlex
Dates:
Submitted: Nov 22, 2024
Published print: May 13, 2025
Published online: May 13, 2025
Identifiers:
OpenAlex: W4412014134
Citing: Пока нет цитирований
Altmetrics: