Вероятностно-градиентный метод решения некоторых задач выпуклой оптимизации

Abstract

Рассматриваются два стохастических варианта градиентного метода с программным способом регулировки шага. Указаны определенные достаточные условия, при которых описанные алгоритмы сходятся к множеству оптимальных решений с вероятностью единица.

Розглядаються два стохастичних варіанта градієнтного методу з програмним засобом регулювання кроком. Зазначені певні умови, за яких описані алгоритми сходяться до множини оптимальних рішень з імовірністю одиниця.

The consider two variants of stochastic gradient method with the programmatically regulation of step. The shown are certain sufficient conditions under which the described algorithms converge to the set of optimal solutions with probability one.