Спуск по узловым прямым и симплекс-алгоритм – два варианта регрессионного анализа на основе метода наименьших модулей
Full article
Journal |
Заводская лаборатория. Диагностика материалов
ISSN: 1028-6861
, E-ISSN: 2588-0187
|
Output data |
Year: 2024,
Volume: 90,
Number: 5,
Pages: 79-87
Pages count
: 9
DOI:
10.26896/1028-6861-2024-90-5-79-87
|
Tags |
метод наименьших модулей, линейная регрессия, симплекс-алгоритм, узловая прямая, вычислительная эффективность |
Authors |
Golovanov Oleg Aleksandrovich
1,2
,
Tyrsin Aleksandr Nikolaevich
1,3
|
Affiliations |
1 |
Уральский федеральный университет имени первого Президента России Б.Н. Ельцина
|
2 |
Институт экономики УрО РАН
|
3 |
Научно-инженерный центр «Надежность и ресурс больших систем и машин» УрО РАН
|
|
Funding (1)
1
|
Министерство науки и высшего образования РФ
|
0327-2024-0015
|
Проведен сравнительный анализ вычислительной сложности точных алгоритмов оценивания линейных регрессионных уравнений методом наименьших модулей. Цель работы — сравнение вычислительной эффективности точных алгоритмов спуска по узловым прямым и алгоритмов, основанных на решении задачи линейного программирования. Для этого рассмотрены алгоритм градиентного спуска по узловым прямым и алгоритмы решения эквивалентной прямой и двойственной задач линейного программирования с использованием симплекс-метода. Выполнена оценка вычислительной сложности алгоритмов реализации метода наименьших модулей с помощью решения прямой и двойственной задач линейного программирования. Также с помощью метода статистических испытаний Монте-Карло проведено сравнение среднего времени определения коэффициентов регрессии с помощью решения прямой и двойственной задач линейного программирования со средним временем градиентного спуска по узловым прямым. Установлено, что оба варианта значительно уступают градиентному спуску по узловым прямым как в плане вычислительной сложности алгоритмов, так и по времени вычисления. При этом выигрыш алгоритма спуска по узловым прямым растет с увеличением объема выборки, достигая сотни и более раз.