Решение стохастических дифференциальных уравнений проиллюстрируем следующими примерами.
Пример 7.1. Процесс x(t) арифметического броуновского движения определяется начальным условием x(0)=x 0 и стохастическим дифференциальным уравнением
Решение. Применяя определение (7.3), получим
Пример 7.2. Процесс геометрического броуновского движения аналогично определяется начальным условием x(0 )=x 0 и стохастическим дифференциальным уравнением
Решение. Рассмотрим процесс
применяя к которому формулу дифференцирования Ито, получим
то есть h(t ) является процессом арифметического броуновского движения, поэтому в силу примера 7.1 его можно записать в виде
,
тогда в силу замены (7.9) процесс x(t ) представим в виде
.
Так как, 
, то окончательно запишем
.
следовательно
,
поэтому в силу замены (7.10) можно записать
Пример 7.4. Для процесса броуновского моста
.
Решение. В этом уравнении выполним замену
Применяя формулу дифференцирования Ито, получим
следовательно
,
поэтому в силу замены (7.11) можно записать
,
следовательно
поэтому в силу (7.12) можно записать
.
Найдём математическое ожидание и дисперсию этого процесса
,
в частности, получим
Так как приращения винеровского процесса на непересекающихся интервалах независимы, их математические ожидание равны нулю, а дисперсии равны длинам этих интервалов, то
,
и, в частности,
В силу равенств (7.14) и (7.13) можно говорить, что броуновский мост соединяет в среднем квадратическом точки и , что оправдывает название этого диффузионного случайного процесса.
Литература
1. Баруча-Рид А.Т. Элементы теории марковских процессов и их приложения. – М.: Изд-во «Наука», 1969. – 512 с.
2. Волков И.К., Зуев С.М., Цветкова Г.М. Случайные процессы: Учеб. для вузов. М.: Изд-во МГТУ им. Н.Э. Баумана, 1999.– 448 с.
3. Гнеденко Б.В., Коваленко И.Н. Введение в теорию массового обслуживания. Изд. 3-е, испр. и доп. – М. : КомКнига, 2005. – 400 с.
4. Гнеденко Б.В. Курс теории вероятностей. М.: Наука, 1969. – 448 с.
5. Маталыцкий М.А. Элементы теории случайных процессов: Учеб. пособие. – Гродно: ГрГУ, 2004. – 326 с.
6. Миллер Б.М., Панков А.Р. Теория случайных процессов в примерах и задачах. – М.:ФИЗМАТЛИТ,2002. – 320 с.
7. Назаров А.А., Терпугов А. Ф. Теория вероятностей и случайных процессов: учеб. пособие. – Томск: Изд-во НТЛ, 2006. – 204 с.
8. Назаров А.А., Терпугов А.Ф. Теория массового обслуживания: Учебное пособие. – Томск: Изд-во НТЛ, 2004.
9. Саати Т.Л. Элементы теории массового обслуживания и ее приложения. – М.: Сов. Радио, 1971.
Введение. 1
Глава 1. Элементы теории случайных процессов. 2
Определение и описание случайного процесса. 2
Задачи для самостоятельного решения. 5
Статистические средние характеристики случайных процессов. 8
Стационарные случайные процессы.. 10
Свойства функции корреляции. 11
Эргодические случайные процессы.. 14
Задачи для самостоятельного решения. 16
Глава 2. Цепи Маркова с дискретным временем.. 21
Основные определения. 21
Цепи Маркова с дискретным временем.. 22
Классификация состояний цепи Маркова с дискретным временем.. 26
Структура периодического замкнутого класса. 29
Классификация состояний цепи Маркова по асимптотическим свойствам переходных вероятностей 30
Эргодические теоремы для цепей Маркова. 31
Вероятностно-временные характеристики цепи Маркова. 33
Задачи для самостоятельного решения. 38
Глава 3. Цепи Маркова с непрерывным временем.. 46
Дифференциальные уравнения Колмогорова. 48
Финальные вероятности. 51
Время перехода из одного состояния в другое. 52
Статистический смысл финальных (стационарных) вероятностей. 53
Время пребывания цепи Маркова в j -ом состоянии. 53
Процессы гибели и размножения. 55
Процесс чистого размножения. 57
Простейший поток. 57
Основные вероятностные характеристики простейшего потока. 60
Задачи для самостоятельного решения. 64
Глава 4. Элементы теории массового обслуживания. 70
Система массового обслуживания, основные определения и классификация. 70
Система M/M/1/¥ (с очередью) 74
Система M/M/N.. 75
Задачи для самостоятельного решения. 77
Глава 5. Непрерывные марковские процессы.. 83
Определение диффузионного случайного процесса. 84
Обратное уравнение Колмогорова. 85
Прямое уравнение Колмогорова. Уравнение Фоккера-Планка. 86
Некоторые частные случаи уравнения Фоккера-Планка. 86
Допредельная модель диффузионного процесса. 89
Глава 6. Стохастические интегралы.. 91
Стохастический интеграл в форме Ито. 91
Особенность стохастического интеграла в форме Ито. 91
Стохастический интеграл в форме Стратановича. 92
Связь интегралов Ито и Стратановича. 93
Глава 7. Стохастические дифференциальные уравнения. 94
Определение стохастических дифференциальных уравнений. Свойства их решений. 94
Формула дифференцирования Ито. 96
Решение стохастических дифференциальных уравнений. 97
В этом параграфе исследуются многие фундаментальные вопросы, касающиеся случайных процессов, в частности преобразования процессов в нелинейных системах Вновь обсуждено понтие белого шума и выявлена связь этого шума с вьнеровским процессом Обсуждаются трудности, возникающее при отыскании уравнения для дисперсии в случае непрерывной системы, возбуждаемой белым шумом Здесь эти трудности преодолеваются путем введения стохастического исчисления и стохастических дифференциальных уравнений.
Белый шум. Многие реальные случайные процессы являются приближенно нормальными и приближенно стационарными. Часто они имеют энергетический спектр, мало отличающийся от равномерного в полосе частот, намного большей, чем полоса пропускания исследуемой системы. Вместо таких процессов с математической точки зрения удобно использовать белый шум, даже несмотря на то, что такой процесс лишен физического смысла, поскольку для его генерирования требуется бесконечно большая мощность. Понятие белого шума можно отнести к той же совокупности категорий, которой принадлежит и понятие импульсного отклика линейной системы. Важную роль играют импульсные функции - дельта-функции Дирака, которые часто определяются как пределы некоторых последовательностей функций. Аналогичным образом можно рассматривать и белый шум.
Будем говорить, что непрерывный нормальный процесс является белым шумом с нулевым средним значением, если
Это определение не является строгим, так как дельта-функция Дирака может быть строго определена только в терминах интегральных выражений, таких, как
(4.63)
Дельта-функцию Дирака можно рассматривать как предел обычных функций времени, которые являются, например, симметричными при сколь угодно малом положительном значении :
(4.64)
При малых значениях можно также ввести процесc с дискретным временем, обладающий основными свойствами белого шума:
При или при в пределе получаем импульсную функцию и непрерывный белый шум соответственно.
В предыдущей главе для системы, описываемой уравнением
и возбуждаемой некоррелированным с белым нормальным шумом с нулевым средним значением, путем дифференцирования выражения
(4.67)
было получено следующее уравнение для ковариационной матрицы:
Воспользовавшись теперь обозначением ковариационной матрицы, запишем
Так как 
для , то слагаемые,
характеризующие взаимную корреляцию, могут быть записаны в следующей форме:
Так как -функция здесь располагается на конце интервала интегрирования, то значение этого интеграла зависит от используемого типа дельта-функции. В данной главе используется симметричная дельта-функция, интеграл от которой по области, лежащей справа от точки , равен 1/2 и равен интегралу по области слева от этой точки. В этом случае равенство (4.69) принимает вид
. (4.70)
Аналогичные рассуждения приводят также к равенству
. (4.71)
Таким образом, получаем уже известный результат:
с начальным условием .
Если дельта-функцию определить как несимметричную функцию, для которой
(4.73)
(4.75)
Следовательно, снова получаем уравнение
Правильный ответ для ковариационной матрицы получается даже при различных представлениях матриц: и .
Можно было бы привести разумные соображения в пользу использования симметричной дельта-функции. Например, дельта-функция часто используется в качестве ковариационной функции, которая обязательно должна быть симметричной. Такой подход при аккуратном обращении может быть использован без особых затруднений при исследовании линейных систем Однако в случае нелинейных систем необходимо развить новый способ решения этой проблемы.
Полезно также повторить приведенный выше вывод, начав с дискретного времени, и перейти затем к пределу, увеличивая число отсчетов на интервале наблюдения с тем, чтобы проверить возникает ли при этом уже отмеченная трудность неоднозначности. Рассмотрим дискретный аналог уравнения системы (4.66) в форме (см. § 3.5):
Так как 
, то уравнение для ковариационной
матрицы, соответствующей ур-нию (4.77), на основании результатов § 3.5 примет
вид
Теперь при увеличении числа отсчетов получаем уравнение
которое является уравнением для ковариационной матрицы
при непрерывном времени. При выводе этого уравнения трудность, имевшая место
при выводе аналогичного соотношения сразу для непрерывного времени, не возникла
благодаря тому, что Если положить и
то уравнение (4.66) можно записать следующим образом:
Хотя ф-лу (4.82) можно получить формальным умножением ур-ния (4.66) на , в дальнейшем будет показано, что это слабое различие оказывается чрезвычайно важным. Стохастический процесс , определяемый соотношением
, (4.84)
называется винерйвским процессом, свойства которого достаточно подробно обсуждаются в дальнейшем.
Винеровский процесс. В дальнейшем изложении винеровский процесс играет очень важную роль. Этот процесс был введен Н. Винером в качестве простой модели броуновского движения. Пусть обозначает положение некоторой частицы в момент времени , которая при находилась в начале координат. Броуновская частица передвигается под воздействием соударений с аналогичными частицами. Смещение некоторой частицы в течение интервала времени , намного превышающего среднее время между двумя следующими друг за другом столкновениями, можно рассматривать как сумму большого числа малых смещений. Следовательно, здесь имеется возможность применить центральную предельную теорему, что позволит функцию распределения приращения аппроксимировать нормальным распределением.
Винеровский процесс определяется как интеграл от стационарного нормального белого шума , имеющего нулевое среднее значение, т. е.
, (4.85)
Легко показать, что
; (4.87)
Кроме того, для приращения можно записать
.
(4.89)
Отсюда следует, что приращение винеровского процесса имеет среднее значение, равное нулю, и дисперсию
Винеровский процесс часто называют также процессом броуновского движения или процессом Винера-Леви . Этот процесс имеет много интересных свойств, из которых здесь отметим лишь следующие:
1. Винеровский процесс
является процессом с независимыми приращениями, т. е. если принять , то случайные
величины независимы
для 
. Так
как случайно величина 
имеет ту
же функцию распределения, что и приращение , то винеровский процесс можно назвать
процессом со стационарными независимыми приращениями.
2. Винеровский процесс является марковским процессом, так как
(4.91)
Это соотношение легко доказывается, если записать
Отсюда получаем
Точно такие же значения
имеют 
и 
.
3. Винеровский процесс
является мартингальным процессом, т. е. его условное математическое ожидание в
момент времени при фиксированных значениях 
равно последнему наблюдаемому
значению Таким
образом,
Отметим здесь, что марковский процесс не обязательно является мартингальным процессом.
4. Винеровский процесс обладает свойством осцилляции Леви, т. е. если - разбиение интервала такое, что , то
, (4.93)
где сходимость суммы понимается в среднеквадратическом смысле.
Приведенные соотношения будут использоваться в дальнейшем при обсуждении преобразований случайных процессов в нелинейных системах.
Стохастический интеграл и стохастические дифференциальные уравнения.
Винеровский процесс был определен выше как интеграл от
белого шума а
именно, . Дж. Дуб показал , что реализации винеровского
процесса являются непрерывными функциями, но не имеют ограниченной вариации и
почти нигде не дифференцируемы. Причину недифференцируемости реализаций
частично поясняет соотношение (4.90), из которого следует, что , так что среднеквадратическое
значение приращения имеет порядок .Тогда производная приращения имеет в
среднем порядок отношения , которое стремится к бесконечности, если
стремится к
нулю.
Таким образом, если - винеровский процесс, то производной трудно придать какой-либо разумный смысл. Можно попытаться также ответить на вопрос, определен ли для произвольной непрерывной функции следующий интеграл Римана:
. (4.94)
Интегралы такого типа уже встречались ранее, когда исследовался отклик линейной системы на воздействие в виде белого шума. Если система описывается уравнением , то
, (4.95)
Смысл последнего интеграла неясен, так как пока что отсутствовало строгое определение для производной .
Один из возможных способов преодоления этой трудности состоит в том, чтобы попытаться использовать понятие интеграла Лебега-Стилтьеса, записав
. (4.96)
Однако этот способ не устраняет трудности, так как не является функцией с ограниченной вариацией, и следовательно, интеграл Лебега-Стилтьеса оказывается неопределенным.
Естественным статистическим обобщением интеграла Лебега-Стилтьеса является стохастический интеграл, при определении которого последовательность интегральных сумм сходится к значению интеграла по вероятности. Именно замена сходимости в обычном нестатистическом смысле сходимостью по вероятности позволяет преодолеть отмеченную выше трудность.
Пусть - векторный случайный процесс с компонентами, а - произвольная матричная функция, кусочно-непрерывная при всех и зависящая, самое большее, от настоящего и прошлых значения процесса , т.е. от . Это ограничение можно записать следующим образом:
Обозначим через множество функций , на котором может быть определена вероятностная мера. В множестве выделим следующие три подмножества:
1. - множество функций из , кусочно-постоянных по на интервале .
2. - множество функций из , интегрируемых в квадрате по на интервале ,
3. - множество функций из , интегрируемых в квадрате по на интервале с вероятностью 1.
Для любой функции из существуют точки такие, что
при ; множество является множеством
точек, в которых функция имеет скачки. Стохастический интеграл
или интеграл Ито для таких функций можно определить следующим образом:
. (4.97)
Если , но не принадлежит подмножеству , для обобщения определения (4.97) используется традиционный предельный переход
, (4.98)
где обозначает предел в среднем
(при 
), и ;
, для всех .
Следует отметить, что стохастический интеграл может быть определен и несколько иными способами. Например,
, (4.99)
где , или при произвольно малом положительном
. (4.100)
В общем случае определения (4.99) и (4.100) не эквивалентны определению (4.98). Если принадлежит множеству , то нетрудно видеть, что три указанных определения приводят к одному и тому же результату, это же можно сказать и относительно других возможных определений. Однако, если не является элементом подмножества , то эти определения не являются, вообще говоря, эквивалентными из-за свойства осцилляции Леви. Хотя определения (4.99) и (4.100) и имеют некоторые преимущества, далее будет показано, что определение (4.98) обычно является более подходящим. Связь между различными определениями стохастического интеграла и обычным нестатистическим определением более подробно будет обсуждаться позднее.
Интеграл, определенный с помощью соотношения (4.98), будем называть интегралом Ито . Его можно рассматривать как линейное преобразование , т. е.
для каждой пары допустимых функций и и для любых действительных матриц и.
Если принадлежит подмножеству , a является винеровским процессом , то интеграл обладает следующими двумя свойствами, полезными для последующего изложения:
; (4.101)
. (4.102)
Доказательства этих свойств основываются на том факте,
что приращение статистически
не зависит от для по условию и от 
, согласно свойству винеровского процесса
о независимости приращений на непересекающихся интервалах. Для простоты здесь
приведем доказательство лишь для случая, когда доказательства для более общих случаев
проводятся аналогично.
Рассмотрим сначала равенство (4.101). Используя (4.97), запишем
Так как и статистически независимы, то среднее значение произведения можно записать как произведение средних значений. Тогда
.
Так как среднее значение приращений винеровского процесса равно нулю, то правая часть последнего равенства также оказывается равной нулю, что доказывает справедливость равенства (4.101).
Аналогичным образом проводится доказательство справедливости соотношения (4.102). Воспользовавшись сначала определением (4.97), запишем
В силу независимости приращений имеем
Вновь, используя независимость приращений и равенство (4.90), можно записать
Таким образом, для получаем
.
Так как является
элементом подмножества , то правая часть последнего равенства
может быть записана как обычный интеграл 
, что
завершает доказательство.
Если не принадлежит подмножеству и используется отличное от (4.98) правило интегрирования, то равенства (4.101) и (4.102) могут оказаться несправедливыми. Это одна из главных причин, из-за которых в данной книге выбирается определение (4.98), поскольку соотношения (4.101) и (4.102) будут довольно часто использоваться в дальнейшем. Необходимо также, чтобы функция принадлежала подмножествам или , так как в противном случае интегральные суммы не будут, вообще говоря, сходиться по вероятности или с вероятностью 1 соответственно.
В дальнейшем потребуется выражение для дисперсии дифференциального приращения . На основании (4.90) можно записать . Если теперь положить , то приращение можно записать как . Тогда при получаем представление
, (4.103)
Этот результат еще раз подтверждает, что приращение имеет порядок , вследствие чего производная не существует.
Нетрудно показать, что
для величины все
моменты, начиная со второго, имеют больший порядок малости по сравнению с . Следовательно, при достаточно малых значениях получаем, что 
и 
для . Отсюда следует, что
величина
фактически является детерминированной и равной для бесконечно малых
значений . Тем самым установлено следующее важное соотношение:
,
из которого следует
Таким образом, винеровский процесс действительно является необычным процессом. Будучи всюду непрерывным, он почти нигде не дифференцируем; дисперсия приращения значений этого процесса на бесконечно малом интервале совпадает с квадратом приращения. Аналогичным образом можно показать также, что
Интересно также следующее свойство винеровского процесса. Если функция не зависит от , то интеграл Ито, определенный соотношением (4.98), является мартингалом, т. е.
Это свойство становится очевидным, если рассмотреть равенство (4.101). Действительно, так как
,
то условное среднее величины , стоящее в левой части равенства (4.106), можно записать в виде
В первом интеграле функция и полностью известна на всем интервале интегрирования, так как она входит в условие. Поэтому этот интеграл не является стохастическим. В то же время во втором интеграле условие не играет уже подобной роли в силу независимости приращений процесса и на непересекающихся интервалах. Поэтому на основании ф-лы (4.101) второе слагаемое в правой части последнего равенства равно нулю. В результате получаем
.
Еще одно полезное свойство интеграла Ито состоит в том, что его конструкция допускает определение интеграла
где - произвольная непрерывная функция, a - -мерный непрерывный случайный процесс. Из этого определения следует, в частности, что если - -мерный нестационарный винеровский процесс , для которого , то справедливо (в среднеквадратическом смысле, с вероятностью 1) равенство
(4.108)
Обратимся теперь к изучению процесса на выходе нелинейной системы, описываемой уравнением
, (4.109)
если на ее входе действует -мерный векторный нормальный белый шум , для которого
Здесь - -мерный случайный вектор состояния; - -мерная нелинейная векторная функция от и ; - матричная функция размерности .
Формальным интегрированием ур-ния (4.109) можно найти следующее неявное выражение для отклика или вектора состояния системы
, (4.110)
где - винеровский процесс; 
, для которого ; 
. Заметим,
что первый интеграл в ф-ле (4.110) является обычным, в то время как второй - стохастическим.
Если случайный векторный процесс с вероятностью 1 удовлетворяет полученному стохастическому
интегральному уравнению, то
ур-ние (4.110) можно записать в следующей символической форме:
Это уравнение в дальнейшем будем называть стохастическим дифференциальным уравнением. Это равенство можно рассматривать как удобный способ записи ур-ния (4.110) в случае, когда функции и , определённые при всех допустимых значениях , принадлежат подмножеству .
В дальнейшем будет показано, что при преобразованиях интеграла Ито необходимо использовать правила, отличающиеся от правил преобразований обычных интегралов. Будем считать, что является процессом Ито; предположим далее, что - функция от и , имеющая, непрерывные частные производные второго порядка по и . Используя правило дифференцирования Ито, получаем, что также является процессом Ито и удовлетворяет уравнению
в котором ради простоты записи использованы следующие сокращенные обозначения
Это уравнение играет очень важную роль при получении многих результатов теории случайных процессов; оно, например, используется при отыскании характеристических функций случайных процессов
Стохастическое дифференциальное ур-ние (4.111) можно переписать в несколько ином виде, если воспользоваться введенными выше обозначениями и :
Здесь винеровский процесс имеет среднее значение, равное нулю, и ковариационную матрицу
. (4.114)
Подробное и удобное по форме доказательство правила дифференцирования Ито для скалярного случая дано в работе . Обобщение этого доказательства на векторный случай не встречает принципиальных трудностей. Здесь приведем лишь упрощенные нестрогие рассуждения. Интегрирование (4.112) приводит к уравнению (для )
которое также является полезным.
Разложим функцию в ряд Тейлора относительно точки и :
где слагаемое содержит члены порядка или и более высокого порядка. Используя теперь ф-лу (4.110) для и учитывая, что - бесконечно малая величина, вследствие чего в разложении из-за свойства осцилляции Леви появляются слагаемые типа
получаем ур-ние (4.115), которое эквивалентно ур-нию (4.112). Иногда удобнее правило дифференцирования Ито записывать в виде
где обычно называется обратным дифференциальным оператором:
Таким образом, является дифференциальным генератором процесса .
Пример 4.3 . Исследуем процесс на выходе нелинейной системы, описываемой уравнениями
на вход которой воздействует нормальный белый шум с ковариационной матрицей .
Используя обычное правило интегрирования, получаем
,
т е процесс является винеровским процессом, что и следовало ожидать Для вычисления необходимо использовать интеграл Ито, так как
.
Использование обычного правила интегрирования привело бы к результату
. (4.119)
Однако рассматриваемый интеграл является стохастическим, и здесь необходимо воспользоваться определением (4.98) Поэтому следует писать
.
Последнее равенство с помощью простых алгебраических преобразований приводится к виду
.
Первая сумма легко вычисляется,
давая в результате 
.
Так как , то
.
Второе слагаемое можно легко вычислить, если воспользоваться свойством осцилляции Леви [см. равенство (4.93)] Так как , то для получаем
.
Используя (4 104), это выражение можно переписать в виде
.
Обычный интеграл в
правой части этого равенства легко вычисляется, так что для окончательно получаем 
.
Чтобы показать, что определение (4.99) в общем случае неэквивалентно определению (4.98), вычислим теперь , воспользовавшись правилом (4.98) Для этого положим . Тогда значение можно приближенно положить равным и записать
Дальнейшие вычисления, проводимые так же, как выше, приводят к следующему результату
Этот результат совпадает с решением, получаемым при обычном исчислении при , и совпадает с решением, основанном на использовании интеграла Ито, при .
Другой способ получения корректного выражения для основывается на использовании правила дифференцирования Ито Так как уже известно, что решение содержит слагаемое вида , где - винеровский процесс, то появляется возможность рассмотреть линейную систему
, (4.119а)
где - белый нормальный шум с нулевым
средним значением Соответствующий процесс Ито удовлетворяет стохастическому
уравнению 
.
Положим 
. Так
как правило дифференцирования Ито [см. (4.112)] записывается в виде
где для рассматриваемой
задачи 
, так
что , а , то в
данном случае
(поскольку 
). Интегрированием
получаем
.
Если теперь учесть, что - винеровский процесс , то последнее уравнение можно переписать следующим образом:
.
Отсюда , так что корректное решение имеет вид
.
Здесь снова результаты, полученные с помощью обычного исчисления и стохастического исчисления, не совпадают. Причиной этого несовпадения, конечно, является то, что для вычисления стохастического интеграла обычные методы, вообще говоря, применять нельзя.
Для того чтобы получить алгоритмы оценивания в любой физической задаче оценивания, приходится выполнять два наиболее важных этапа исследований. На первом из них решается задача моделирования или выбора стохастического дифференциального уравнения, которое описывало бы рассматриваемый физический процесс. Эта модель, которая в конечном счете представляет некоторый процесс, является в общем случае компромиссом между математической точностью и простотой вычислений.
Цель второго этапа - найти алгоритмы оценивания. Этот этап выполняется лишь после того, как выбрана математическая модель процесса. Ниже рассматриваются некоторые аспекты второго этапа.
Ранее уже было отмечено, что стохастический интеграл (интеграл, содержащий произведение двух случайных процессов), нельзя во всех случаях рассматривать как обычный интеграл. Приведенные выше два примера достаточно ясно иллюстрируют различия между этими интегралами. Если для моделирования алгоритмов оценивания используются цифровые вычислительные машины, то подходящая интерпретация стохастического интеграла не является тривиальной. Здесь возможны два подхода. Один из них основывается на обычном исчислении, другой - на стохастическом исчислении. Специальное рассмотрение этих двух подходов будет проведено в гл. 9. Здесь же приведем только некоторые рекомендации для выбора одного из них :
1. Если функция не зависит от , то обычное и стохастическое исчисления приводят к одним и тем же результатами необходимость специального исследования стохастических интегралов просто отпадает. Подобный факт уже упоминался ранее. Этот же случай встретится при исследовании проблемы построения линейных оценок, для которой окажутся возможными существенные упрощения.
2. Если проблема оценивания должна быть сформулирована строго в математическом отношении, то следует использовать стохастическое исчисление.
3. Если ур-ние (4.111) рассматривается как аппроксимация соответствующего дискретного уравнения или как предел уравнения
при неограниченном увеличении числа отсчетов на любом конечном интервале, то необходимо использовать стохастическое исчисление.
4. Если в равенстве (4.109) входной белый шум используется вместо шума с малым интервалом корреляции, то следует применять методы обычного исчисления.
Различие между этими двумя подходами с вычислительной точки зрения также нетрудно выявить (см. ). Если использовать понятия обычного исчисления при отыскании решения ур-ния (4.111), то фактически будет получено решение уравнения
В большом числе случаев решение ур-ния (4.121), полученное методами обычного исчисления, с достаточно высокой точностью будет совпадать с решением дифференциального стохастического ур-ния (4.111) (заметим, что если не зависит от , то, как уже отмечалось выше, методы обычного исчисления приводят к точному решению).
При заданном значении. Дифференцируя равенство (4.126) по
Таким образом, вновь получено уравнение в частных производных Фоккера-Планка. Это уравнение может быть использовано для отыскания плотности вероятности переменной состояния нелинейной системы, описываемой ур-нием (4.111) и возбуждаемой нормальным белым шумом. Вектор переменных состояния такой системы является марковским процессом. В основе этого вывода лежит правило дифференцирования Ито. К сожалению, не существует прямого способа выбора функции . Во многих случаях полезной оказывается такая функция , которая получается при использовании обычного интеграла Римана.
Одно из неудобств, связанных со стохастическими интегралами и стохастическими дифференциальными уравнениями, состоит в том, что для последних могут оказаться несправедливыми правила преобразований обычного исчисления. Конечно, стохастический интеграл можно было бы определить и таким образом, чтобы обычные правила вычислений, как, например, интегрирование по частям, остались справедливыми. На первый взгляд такой подход может показаться привлекательным и более естественным, чем определение Ито. Однако, как будет здесь показано, на самом деле это не так. Ради простоты ограничимся рассмотрением лишь скалярного случая Исследование многомерного случая проводится аналогично и не встречает принципиально новых трудностей.
Обычное правило
интегрирования вообще приводит к другому значению этого интеграла. Точно такое
же значение можно получить только в том случае, если в разложении в ряд
Тейлора подынтегральной функции ограничиться членами второго порядка и
использовать запись 
[см. (4.104)]. То есть для скалярной
функции , зависящей
только от , должно быть справедливо равенство
Аналогично должно выполняться соотношение
(4.134)
для обычного исчисления, чтобы правила вычисления обычного и стохастического исчислений приводили к одним и тем же результатам.
Если стохастический интеграл определить так, чтобы получающиеся при этом результаты оказались совместимыми с результатами обычного исчисления, то равенства (4.101) и (4.102) нарушатся, что очень нежелательно. Действительно, эти два равенства чрезвычайно полезны в том отношении, что они позволяют существенно упростить вычисления математических ожиданий.
Стратонович в работе ввел «симметризованный» стохастический интеграл, в котором
Подобное определение стохастического интеграла дано также в работе , где было принято
В работе предложена аппроксимирующая формула
,
(4.137)
в которой - выделенная совокупность точек на интервале интегрирования. Можно было бы также рассмотреть аппроксимацию вида
Хотя каждое из перечисленных четырех определений приводит к некоторым полезным свойствам стохастического интеграла, все они имеют серьезный недостаток: равенства (4.101) и (4.102) оказываются несправедливыми. Следовательно, многие последующие соотношения должны быть модифицированы. Например, если в определении стохастического интеграла используется равенство (4.136), то уравнение Фоккера-Планка (4.128) оказывается несправедливым, а среднее значение последнего интеграла в правой части равенства (4.124) не равно нулю, поскольку при новом определении величины равенство (4 101) нарушается. Можно показать, что «новое» уравнение Фоккера - Планка, которое соответствует соотношению (4 136), имеет вид
(4.139)
Изменение уравнения Фоккера-Планка при таком переходе намного существенней, чем это можно было ожидать вначале. Вычислять моменты теперь намного труднее. Стохастические дифференциальные уравнения, которые получаются при использовании любого из соотношений (4.135)-(4.138), приводят к случайным процессам, не являющимся более марковскими. Поэтому в дальнейшем в данной главе и в гл. 9 без особых оговорок будем использовать исчисление Ито, основанное на определении (4.98).
Специальность: Прикладная математика и информатика и Прикладная математика и информатика
Целью дисциплины «Стохастические дифференциальные уравнения и их применение» является получение знаний в области теории случайных процессов, знакомство студентов с численными методами решения стохастических дифференциальных уравнений, получение представления о генераторах случайных чисел, и изучение возможности распараллеливания программ, используя среду OpenMP.
Курс предполагает, что полученные теоретические знания в области теории случайных процессов и навыки параллельного программирования слушатели могут в дальнейшем использовать при решении прикладных задач нелинейной динамики сосредоточенных и распределенных систем при учете шумов и флуктуаций.
В результате освоения дисциплины обучающийся должен:
Знать:
– базовые алгоритмы вычислительной математики для решения задач стохастической динамики, условия их применимости.
Уметь :
– определять и профессионально реализовывать необходимые для решения прикладных задач стохастической динамики вычислительные алгоритмы, анализировать полученные результаты;
– профессионально разрабатывать и использовать программное обеспечение для решения прикладных задач;
Проводить процедуры корректности работы реализуемых численных методов.
Владеть :
– вычислительными методами нелинейной динамики;
– современными инструментальными вычислительными средствами.
Тема 1. Вычислительные методы для сосредоточенных динамических систем с шумовыми источниками.
Тема 2. Численное исследование неавтономных динамических систем с шумовыми источниками.
Тема 3. Численное исследование распределенных систем с шумовыми источниками.
Выполнение практических заданий на следующие темы
- «Исследование характеристик генераторов случайных чисел»
- «Распараллеливание в среде OpenMP»
- «Численное моделирование вероятностных и временных характеристик джозефсоновского контакта»
- «Индуцированные шумом эффекты изменения характеристик генерации нелинейных систем (резонансная активация, когерентный и стохастический резонанс, шумо-индуцированное увеличение времени возникновения отклика)»
Литература
а) основная литература:
- А.Н. Малахов, Кумулянтный анализ случайных негауссовских процессов и их преобразований, Москва, Советское радио, 1978).
- К.В. Гардинер, Стохастические методы в естественных науках, Москва, "Мир", 1986.
- В.И. Тихонов, М.А. Миронов, Марковские процессы, Москва, Советское радио, 1977.
- Л.А. Понтрягин, А.А. Андронов, А.А. Витт, О статистическом рассмотрении динамических систем, Журнал экспериментальной и теоретической физики. - 1933. - Т. 3, № 3. - С. 165-180.
- А.Н. Малахов, Флуктуации в автоколебательных системах, M.: Наука, 1968, с. 660.
б) дополнительная литература:
- A.N. Malakhov, A.L. Pankratov, Evolution times of probability distributions and averages - Exact solutions of the Kramers" problem, Adv. Chem. Phys., 121, 357-438 (2002).
в) программное обеспечение и Интернет-ресурсы
http://www.df.unipi.it/~mannella/papers/algorithms/SDE_on_a_computer.pdf
Описание стандарта OpenMP. http://parallel.ru/tech/tech_dev/openmp.html
Материал из synset
Эти материалы являются сокращённой электронной версией книги "Стохастический мир". После конвертации из LaTex появились неизбежные артефакты, которые будут постепенно устраняться. Об ошибках или опечатках, найденных в последней версии убедительная просьба сообщать, например, в закладке "обсуждение" вверху на этой странице или почтой mathсайт. Вы этим очень поможете в улучшении книги. Приветствуются также комментарии общего плана: что понравилось, а что нет. Для чтения книги в web-браузере стоит прочитать совет по настройке браузера для более комфортного просмотра формул.
С уважением, Степанов Сергей Сергеевич.
Случайные события
Стохастические уравнения
Средние значения стохастических процессов
Вероятности стохастических процессов
Стохастические интегралы
Системы уравнений
Стохастическая природа
Стохастическое общество
Краткое содержание
Случайные события
Абсолютно детерминированных событий и процессов не бывает. Вселенная разговаривает с нами на языке теории вероятностей. Предполагается, что Читатель хорошо знаком с ней, поэтому напоминаются только факты, необходимые для дальнейшего изучения предмета.
Первый раздел является вводным, он подводит к необходимости использования стохастических дифференциальных уравнений при исследовании различных систем. Затем обсуждается понятие плотности вероятностей, позволяющей вычислять наблюдаемые в среднем величины. Гауссова вероятность лежит в основе шума, воздействующего на детерминированную динамику. Стохастическая связь между случайными величинами и, наоборот, их независимость важны при обнаружении закономерностей между различными объектами и их характеристиками. Ключевым разделом главы является Модель аддитивного блуждания . Именно обобщение этой простой модели приведёт нас в следующей главе к стохастическим дифференциальным уравнениям. Последний раздел Мартингалы и бесплатный сыр содержит ряд формальных определений, которые при желании можно опустить.
Стохастические уравнения
Эта глава является ключевой. В ней вводится основной математический объект нашего интереса -- стохастические дифференциальные уравнения. Мы будем использовать максимально неформальный, интуитивный путь, считая, что получение конкретных практических результатов важнее, чем математически строгое их обоснование.
Стохастические уравнения представляют собой достаточно естественный непрерывный по времени предел дискретных случайных процессов, рассмотренных в предыдущей главе. Даже решая непрерывное уравнение, мы будем постоянно возвращаться к его дискретному аналогу, как для получения общих аналитических результатов, так и для численного моделирования. Исключительно важным результатом главы является лемма Ито, при помощи которой мы научимся находить точные решения уравнений в некоторых простых, но важных для практических приложений задачах. Затем обсуждаются способы вычисления автокорреляционной функции случайного процесса и его спектральные свойства. В заключение мы затронем тему систем уравнений, к которой более последовательно вернёмся в шестой главе.
Средние значения
Дифференциальное уравнение для случайной функции x(t) - это лишь один из возможных языков описания стохастического процесса. В ситуации, когда система эволюционирует со временем, средние значения также изменяются и подчиняются определённым дифференциальным уравнениям. Фактически, их решение является наиболее прямым способом получения практически полезных результатов.
Мы начнём эту главу с вывода динамического уравнения для средних. С его помощью будет получено простое выражение для плотности вероятности в ситуации, когда система имеет стационарный режим. Затем мы подробно проанализируем две стохастические задачи: уравнение Феллера и логистическое уравнение. В заключение будут рассмотрены метод разложения средних величин в степенной ряд по времени и квазидетерминированное приближение.
Вероятности
Ещё одним способом получения информации о поведении стохастического процесса является решение уравнений для условной плотности вероятности которым посвящена эта глава.
На простых примерах будут продемонстрированы методы решения подобных уравнений. Затем мы рассмотрим вопрос о граничных условиях, которые наиболее естественным образом учитываются при помощи уравнения Фоккера-Планка. Будет вычислено среднее время достижения границы и построен простой метод решения уравнения Фоккера-Планка при наличии граничных условий. Решения уравнений x(t) мы часто записываем при помощи гауссовой случайной переменной.
Стохастические интегралы
Как и в обычном анализе, если определено стохастическое дифференцирование, то естественно ввести и стохастическое интегрирование. Соответствующая техника даст нам ещё один инструмент получения соотношений для иногда достаточно общих случайных процессов. Это очень красивый раздел стохастической математики, который к тому же активно используется в учебной и научной литературе.
В дифференциальных уравнениях присутствуют два бесконечно малых изменения -- снос, пропорциональный dt, и волатильность шума. Соответственно, возможно два вида интегралов. В первом разделе мы рассмотрим стохастические интегралы по dt, изучим их основные свойства и найдём представление некоторых интегралов через обычные случайные величины. Во втором разделе рассматривается интеграл Ито по . Далее будут получены условия, при которых решение стохастического дифференциального уравнения единственно, и рассмотрен итерационный метод построения этого решения.
Системы уравнений
Одномерные стохастические уравнения позволяют описывать только сравнительно простые системы. Даже для обычного физического осциллятора необходимо решать систему из двух уравнений первого порядка. Реальность в общем случае -- многомерна. Она даёт нам множество примеров достаточно сложных, но исключительно интересных случайных процессов.
Как и в одномерном случае, мы начнём с дискретных процессов, обобщение которых на непрерывный случай приведёт нас к системе стохастических дифференциальных уравнений. Фактически, эта глава повторяет большинство результатов предыдущих глав. Для тех, кто уверенно владеет тензорной и матричной алгеброй, соответствующие обобщения служат лишь способом повторения уже известного материала. После вывода основных многомерных уравнений будут рассмотрены решения некоторых задач.
Стохастическая природа
В этой главе приведены примеры природных систем, которые естественным образом описываются при помощи стохастических дифференциальных уравнений. Эти системы охватывают широкий спектр приложений от физики до биологии, однако не требуют глубоких познаний в соответствующих областях. Большинство разделов не связаны друг с другом и могут быть прочитаны в любом порядке, независимо друг от друга. Первое стохастическое дифференциальное уравнение в 1908 году записал Поль Ланжевен (Paul Langevin). Именно с него начинается эта глава.
Стохастическое общество
В этой главе собраны некоторые примеры применения стохастических методов к финансовым рынкам и экономике. Волатильный характер цен и экономических индикаторов приводит к тому, что динамика соответствующих систем является существенно стохастической, и член в уравнениях Ито играет ведущую роль.
Сначала мы сделаем небольшой экскурс в финансовые рынки и эмпирические свойства цен финансовых инструментов. Затем рассмотрим теорию диверсификации и бета - коэффициенты. Стохастические методы оказываются очень полезными при изучении сложных финансовых инструментов. Примером такого инструмента является опцион. Мы рассмотрим основные его свойства и двумя различными способами выведем формулу Блэка-Шоулза. После этого будет рассмотрена простая однофакторная модель кривой доходности.