Для некоторых процессов в достаточно длинных реализациях случайного процесса содержатся все его значения. Следовательно, помимо статистических средних характеристик процесса, определяемых путем усреднения по ансамблю возможных значений процесса, имеется возможность определить временные средние характеристики путем усреднения по времени достаточно длинной реализации процесса.
Случайные процессы, у которых статистические и временные средние характеристики совпадают, называются э р г о д и ч е с к и м и. Далеко не все случайные процессы удовлетворяют условию эргодичности. Однако многие стационарные процессы этому условию удовлетворяют и для них (несмотря на флюктуации временных средних характеристик от одной реализации к другой) с вероятностью, равной единице, временные средние совпадают со статистическими средними:
где - реализации процесса, сдвинутые на .
Можно показать (теорема Винера – Хинчина), что функция корреляции стационарного случайного процесса является Фурье-преобразованием некоторой функции частоты :
()
Физический смысл следует из условия , при котором - средняя мощность процесса, а следовательно - его спектральная плотность мощности (спектр мощности).
Иначе говоря, функция корреляции содержит полную информацию о распределении энергии процесса по частоте, но не может дать сведений о частотном распределении амплитуд и фаз спектральных составляющих реализаций процесса.
Многие распространенные случайные процессы приближенно можно описать корреляционной функцией вида
и соответствующей ей спектральной плотностью
.
Итак, спектр мощности и функция корреляции не являются независимыми характеристиками случайного процесса. Обе эти характеристики определяют степень вероятностной связи между значениями сигнала в различные моменты времени или, как иногда говорят, степень последействия процесса. Процесс считается не имеющим последствия, если вероятность наступления последующих значений процесса не зависит от того, какими были предыдущие значения. В процессах с последействием, наоборот, предыдущее значение процесса влияет на вероятность наступления последующего или ряда последующих значений процесса. Чем сильнее выражено последействие процесса, тем больше максимальный интервал времени , в течение которого данное значение процесса еще влияет на следующие за ним значения.
Функция корреляции характеризует степень влияния одного значения процесса на последующие в зависимости от интервала времени , разделяющего эти значения. Как правило, функция корреляции уменьшается с ростом .
Интервал , на котором функция корреляции имеет еще заметную величину, называется интервалом корреляции. Чем больше интервал корреляции, тем более удаленные значения процесса имеют еще вероятностные взаимосвязи.
Аналогично этому за ширину спектра мощности принимают интервал частот для которого значения имеют еще заметную величину.
Можно показать, что интервал корреляции и ширина спектра мощности связаны обратной зависимостью:
где - постоянная величина ( база сигнала).
Так как наиболее полным описанием случайной последовательности является функция распределения вероятностей ее значений, то задача тестирования в общем случае сводится к получению эмпирических вероятностных характеристик по доступным выборочным данным и проверке гипотез об их соответствии некоторым стандартным характеристикам, определяющим различные классы случайных последовательностей и отдельные их свойства. Часто в качестве стандартной случайной последовательности (СП) выступает стандартная случайная последовательность, например, с нормальным распределением и числовыми характеристиками: - математическое ожидание и - дисперсия случайной последовательности.
Общий алгоритм тестирования случайной последовательности с учетом вводимой стандартной случайной последовательности может включать следующие этапы.
1. Определение эмпирических вероятностных характеристик тестируемой случайной последовательности (математического ожидания, дисперсии, корреляционного момента, вероятностей событий и функции распределения вероятностей). Важно, чтобы качество полученных эмпирических оценок соответствовало выдвигаемым априорно требованиям к допустимому отклонению от истинных значений характеристик (доверительному интервалу и доверительной вероятности), а также определялось требуемым для этого размером выборки. На основе полученных характеристик могут быть установлены свойства симметрии распределения (совпадение значений среднего, моды и медианы, либо равенство значений вероятностей превышения и не превышения среднего значения) и близости его формы к некоторому стандартному, например, к нормальному.
2. Построение гистограммы вероятностей и восстановление эмпирического распределения случайной последовательности на основе полученных вероятностных характеристик и выдвижение гипотезы о виде распределения СП.
3. Проверка верности выдвинутой гипотезы по критериям соответствия (согласия) эмпирических и аналитических вероятностных характеристик, а также определение класса и основных свойств случайной последовательности с оценкой показателей качества оценок и решений.
Рассмотрим основные этапы тестирования случайных последовательностей в предположении выполнения условий стационарности и эргодичности выборочных данных.
Вероятностной характеристикой случайной величины , определяемой непосредственно путем эксперимента, является некоторое число - математическое ожидание, дисперсия, вероятность события . Символ означает истинное значение характеристики. Путем обработки результатов экспериментального исследования X получают экспериментальное значение характеристики, статистическую характеристику или оценку характеристики .
Экспериментальное исследование случайной величины X с целью определения - оценки (приближенного значения) , заключается в проведении N опытов (испытаний, наблюдений) и получении (путем соответствующих измерений) ряда значений — реализаций X. В результате обработки экспериментальных данных определяется как функция эксперимента.
Если провести еще одну серию из N опытов, то будет получен ряд других реализаций случайной величины X и другое значение оценки искомой характеристики . Значение случайной величины X, полученное в результате - ого опыта в серии, можно рассматривать как значение случайной величины а оценку - как реализацию более общей случайной величины
, (1)
являющейся функцией независимых случайных величин, все вероятностные характеристики которых совпадают с характеристиками X.
Вероятностными характеристиками системы двух случайных величин (X,Y), определяемыми непосредственно на основании эксперимента, являются математические ожидания, дисперсии, корреляционный момент, вероятность события . Эксперимент заключается в проведении N опытов и получении ряда значений реализаций случайных величин X, Y. В результате обработки экспериментальных данных получается оценка
,
как реализация случайной функции
, (2)
аналогичной (1).
Погрешность приближения оценки равная
, (3)
является, как и , случайной величиной.
Функцию желательно выбирать так, чтобы выполнялось три условия
1. Математическое ожидание равно нулю:
(4)
2. Дисперсия стремится к нулю с увеличением N
(5)
3 Дисперсия при данной должна быть наименьшей.
При выполнении условия (4) оценка называется несмещенной, условий (4), (5) - состоятельной, всех трех условий - эффективной.
Вследствие случайного характера погрешности (3) для характеристики точности приближенного равенства необходимо располагать вероятностью рд того, что абсолютное значение погрешности не превзойдет некоторого предела
(6)
Интервал от до , в котором с вероятностью рд находится истинное значение , называется доверительным интервалом, его границы - доверительными границами, а вероятность рд - доверительной вероятностью.
Если число экспериментальных данных N достаточно велико, то
погрешность (3) состоятельной оценки можно практически считать
распределенной нормально с математическим ожиданием (4), дисперсией и средним квадратическим отклонением При этом выражение (6) имеет вид:
(7)
где - функция Лапласа, .
С помощью этой формулы решается задача определения доверительной вероятности рд по известным данным .
Функция Лапласа выражает зависимость от . Обратная выражает зависимость от . При , имеем
(8)
С помощью формулы (8) и обратной функции Лапласа решается задача определения доверительного интервала по известным рд и и необходимого числа испытаний по известным рд и .
При решении первой задачи согласно (8) определяется .При решении второй задачи согласно (8) определяется , а затем N.
Для проведения тестирования СП обычно приводят к стандартному виду. Для случая двоичной ноль - единичной последовательности это достигается перекодировкой исходной последовательности в симметричную -1,1- ю последовательность в соответствии с правилом
.
Здесь - элементы стандартной и исходной последовательностей соответственно.
3.2 Определение математического ожидания
Оценка математического ожидания как экспериментальное (выборочное) значение первого начального момента случайной величины X равна
