МАРКОВА ЦЕПЬ
— случайный
дискретный процесс, удовлетворяющий условию, что его значение в момент времени tn+kне зависит от состояний в момент tn и всех предшествующих, т.
е. поведение
процесса «в настоящем» не зависит от его поведения в прошлом, удаленном на k и
более единиц времени. Обычно в биологических моделях (напр., в моделях
поведения) рассматривается конечное множество допустимых состояний объекта А1, … Am и из наблюдений определяют оценки
вероятности Рi,(tn+k) перехода объекта за k шагов из состояния Ai в состояние Ai. Часто принимают, что величины Pij(tn+k) не зависят от номера шага, Pij(tn+k) = Pij(tn+k– tn), т.
е. остаются постоянными во времени. Тогда
соответствующую М. ц. называют однородной. Если вероятность перехода из
состояния Ai в состояние Ai за один шаг зависит только от состояния Ai, т.
е. от результата предшествующего шага, k = 1, то М.
ц. называется простой, если же еще
и от того, как попал объект в состояние Ai, т.
е. от знания его траектории k > 1
предшествующих шагов, то М. ц. называется сложной. Если известно, с какой
вероятностью объект находится в каждом из состояний в начальный момент времени
и известны величины вероятностей перехода, то можно для любого момента времени
определить вероятность нахождения объекта в любом из возможных состояний и
через некоторое время tk
эти вероятности перестают
изменяться. Если возможных состояний бесконечное множество (напр., возможных
значений амплитуд случайного процесса) и время перехода из одного состояния в
другое является непрерывной величиной, то переходные вероятности превращаются в
переходные функции Рij(χ, τ)
и соответствующая М. ц. называется процессом Маркова и эволюция его после
любого заданного значения в момент если в момент t его значение фиксировано, уже не зависит от эволюции,
предшествовавшей моменту t.