Асимптотика задачи управления для диффузионного процесса в марковской среде

Abstract

Для системи стохастичних диференціальних рівнянь з марковськими переключеннями та дифузійним збуренням з керуванням, яке визначається умовою екстремума функції якості, побудовано процедуру стохастичної оптимізації та граничний генератор початкової задачі. Складність дослідженої еволюційної моделі полягає насамперед у тому, що система перебуває в умовах зовнішнього випадкового впливу, який моделюється за допомогою перемикаючого процесу. Головним припущенням є умова рівномірної ергодичності марковського процесу переключень, тобто існування стаціонарного розподілу для перемикаючого процесу на великих інтервалах часу. Це дозволяє будувати явні алгоритми аналізу асимптотичної поведінки керованого процесу. Важлива властивість генератора марковського процесу переключення полягає у тому, що простір, на якому він визначений, розпадається на пряму суму його нуль-підпростору та підпростору значень з подальшим введенням в розгляд проектора, що діє на підпростір нулів. Ще однією складністю досліджуваної моделі є наявність схеми апроксимації, що визначається нормуванням. Вивчено питання, як поведінка граничного процесу залежить від дограничного нормування малим параметром стохастичної системи в ергодичному марковському середовищі. Виписано стохастичне диференціальне рівняння для визначення граничних процесів переносу та керування. Вперше запропоновано модель задачі керування для дифузійного процесу переносу з використанням процедури стохастичної оптимізації для керування. Отримано сингулярний розклад за малим параметром генератора трикомпонентного марковського процесу та розв’язано проблему сингулярного збурення з представленням граничного генератора цього процесу.

A stochastic optimization procedure and a limit generator of the original problem are constructed for a system of stochastic differential equations with Markov switching and diffusion perturbation with control, which is determined by the condition for the extremum of the quality function. The complexity of the studied evolutionary model lies primarily in the fact that the system is in conditions of external random influence, is modeled using a switching process. The main assumption is the condition for uniform ergodicity of the Markov switching process, that is, the existence of a stationary distribution for the switching process over large time intervals. This allows one to construct explicit algorithms for the analysis of the asymptotic behavior of a controlled process. An important property of the generator of the Markov switching process is that the space in which it is defined splits into the direct sum of its zero-subspace and a subspace of values, followed by the introduction of a projector that acts on the subspace of zeros. Another complexity of the model under study is the presence of an approximation scheme determined by normalization. The question of how the behavior of the limit process depends on the limit normalization by a small parameter of the stochastic system in an ergodic Markovian environment is studied. A stochastic differential equation is written for determining the limiting processes of transfer and control. For the first time, a model of the control problem for the diffusion transfer process using the stochastic optimization procedure for control is proposed. A singular expansion in the small parameter of the generator of the three-component Markov process is obtained, and the problem of a singular perturbation with the representation of the limiting generator of this process is solved.