Спуска метод

- метод решения задачи минимизации [img: http://localhost:8080/file/051947-121.jpg] где f - нек-рая функция переменной х= (х 1,..., х n). Итерационная последовательность { х k} С. м. вычисляется по формуле [img: http://localhost:8080/file/051947-122.jpg] где gk - вектор, указывающий нек-рое направление убывания функции f в точке х k, а [img: http://localhost:8080/file/051947-123.jpg] - итерационный параметр, величина к-рого указывает длину шага в направлении gk. Если функция f дифференцируема и xk не является ее точкой экстремума, то вектор gk должеа удовлетворять неравенству [img: http://localhost:8080/file/051947-124.jpg] где f' (xk) - градиент функции f в точке xk. Если f - достаточно гладкая функция (напр., дважды непрерывно дифференцируемая) и последовательность векторов { х k}удовлетворяет неравенству (*), то существует такая последовательность [img: http://localhost:8080/file/051947-125.jpg] что [img: http://localhost:8080/file/051947-126.jpg] При определенных ограничениях (см. [3]) на функцию f и способ выбора параметров [img: http://localhost:8080/file/051947-127.jpg] и векторов gk последовательность {а:*} сходится к решению х* исходной задачи. К С. м. относятся градиентные методы, в к-рых векторы {g*}каким-либо образом выражаются через векторы {f'(xk)}. Одним из наиболее распространенных является случай, когда [img: http://localhost:8080/file/051947-128.jpg] где В(х) - симметрическая матрица, удовлетворяющая для любых векторов хи у неравенству [img: http://localhost:8080/file/051947-129.jpg] с нек-рыми константами [img: http://localhost:8080/file/051947-130.jpg] При дополнительных предположениях (см. [3])относительно f и специальном выборе [img: http://localhost:8080/file/051947-131.jpg] градиентный метод обеспечивает сходимость последовательности { х k} к решению { х*}исходной задачи со скоростью геометрич. прогрессии со знаменателем g<l. Частным случаем градиентных методов является наискорейшего спуска метод, в к-ром матрица В(х)выбирается единичной.