Последовательный анализ

раздел математич. статистики, характерной чертой к-рого является то, что число производимых наблюдений (момент остановки наблюдений) не фиксируется заранее, а выбирается по ходу наблюдений в зависимости от значений поступающих данных. Стимулом к интенсивному развитию и применению в статистич. практике последовательных методов послужили работы А. Вальда (A. Wald). Им было установлено, что в задаче различения (по результатам независимых наблюдений) двух простых гипотез т. н. последовательный критерий отношений вероятностей дает значительный выигрыш в среднем числе производимых наблюдений по уравнению с наиболее мощным классич. способом различения (определяемой леммой Неймана - Пирсона) с фиксированным объемом выборки и теми же вероятностями ошибочных решений. Основные принципы П. а. состоят в следующем. Пусть x1, x2,... - последовательность независимых одинаково распределенных случайных величин и функция распределения [img: http://localhost:8080/file/041734-157.jpg] зависит от неизвестного параметра q, принадлежащего нек-рому параметрич. множеству Q. Задача состоит в том, чтобы по результатам наблюдений вынести то или иное решение об истинном значении неизвестного параметра q. В основе любой статистич. задачи решения лежат пространство Dзаключительных (терминальных) решений d(о значениях параметра q) и правило t, определяющее момент прекращения наблюдений, в к-рый и выносится заключительное решение. В классич. методах наблюдений момент t является неслучайным и фиксированным заранее; в последовательных методах t является случайной величиной, не зависящей от "будущего" (марковский момент, момент остановки). Формально, пусть [img: http://localhost:8080/file/041734-158.jpg] есть s-алгебра, порожденная случайными величинами x1,...,x п. Случайная величина t=t(w), принимающая значения 0, 1,..., + [img: http://localhost:8080/file/041734-159.jpg], наз. марковским моментом, если событие. [img: http://localhost:8080/file/041734-160.jpg] для каждого [img: http://localhost:8080/file/041734-161.jpg] ([img: http://localhost:8080/file/041734-162.jpg] [img: http://localhost:8080/file/041734-163.jpg]). Пусть [img: http://localhost:8080/file/041734-164.jpg] -совокупность тех измеримых множеств А, для к-рых [img: http://localhost:8080/file/041734-165.jpg] и для каждого [img: http://localhost:8080/file/041734-166.jpg]. Если [img: http://localhost:8080/file/041734-167.jpg] интерпретируется как совокупность событий, наблюдаемых до случайного момента n (включительно), то [img: http://localhost:8080/file/041734-168.jpg] можно интерпретировать как совокупность событий, наблюдаемых до случайного момента t (включительно). Заключительное (терминальное) решение d=d(w) есть [img: http://localhost:8080/file/041734-169.jpg] - измеримая функция со значениями в пространстве D. Пара d= (t, d)таких функций наз. (последовательным) решающим правилом. Для выделения среди решающих правил "оптимального" задают функцию риска [img: http://localhost:8080/file/041734-170.jpg] и рассматривают математич. ожидание [img: http://localhost:8080/file/041734-171.jpg]. Существуют разные подходы к определению понятия оптимального решающего правила d* = (t*, d*). Один из них, бейесовский, основан на предположении, что параметр q является случайной величиной с априорным распределением p=p(dq). Тогда имеет смысл говорить о p-риске [img: http://localhost:8080/file/041734-172.jpg] и называть правило d*=(t*, d*)оптимальным байесовским решением (или p-оптимальным), если [img: http://localhost:8080/file/041734-173.jpg] для любого другого (допустимого) правила. Наиболее распространенной формой риска W(t,q, d)является риск вида сt+W1(q, d), где константа [img: http://localhost:8080/file/041734-174.jpg] интерпретируется как стоимость единичного наблюдения, a W1(q, d).является функцией потерь от заключительного решения. В бейесовских задачах отыскание оптимального заключительного решения d*, как правило, не вызывает трудностей, и основные усилия направлены на отыскание оптимального момента остановки t*. При этом большинство задач П. а. укладывается в следующую схему "оптимальных правил остановки". Пусть [img: http://localhost:8080/file/041734-175.jpg], - цепь Маркова в фазовом пространстве [img: http://localhost:8080/file/041734-176.jpg], где х п - состояние цени в момент времени п,s-алгёбра [img: http://localhost:8080/file/041734-177.jpg] интерпретируется как совокупность событий, наблюдаемых до момента времени п(включительно), а R х - распределение вероятностей, отвечающее начальному состоянию [img: http://localhost:8080/file/041734-178.jpg]. Предполагается, что, прекращая наблюдение в момент времени п, получают выигрыш g(xn). Тогда средний выигрыш от остановки в момент т есть Exg(xt), где х - начальное состояние. Функцию s(x).sup Exg(xt), где sup берется по всем (конечным) моментам остановки t, наз. ценой, а момент t для к-рого [img: http://localhost:8080/file/041734-179.jpg] для всех [img: http://localhost:8080/file/041734-180.jpg], наз. e- оптимальным моментом остановки. О-оптимальные моменты наз. оптимальными. Основные вопросы теории "оптимальных правил остановки" таковы: какова структура цены s(x), как ее найти, когда существуют e-оптимальные и оптимальные моменты, какова их структура. Ниже приведен один из типичных результатов, касающихся поставленных вопросов. Пусть функция g(x)ограничена: [img: http://localhost:8080/file/041735-1.jpg] Тогда цена s(x)является наименьшей эксцессивной мажорантой функции g(x), т. е. наименьшей из функций f(x), удовлетворяющих двум свойствам [img: http://localhost:8080/file/041735-2.jpg] где [img: http://localhost:8080/file/041735-3.jpg]. При этом момент [img: http://localhost:8080/file/041735-4.jpg] является e-оптимальньш для всякого e>0, цена s(x).удовлетворяет уравнению Вальда - Беллмана [img: http://localhost:8080/file/041735-5.jpg] и может быть найдена по формуле [img: http://localhost:8080/file/041735-6.jpg], где [img: http://localhost:8080/file/041735-7.jpg]. В том случае, когда множество Еконечно, момент [img: http://localhost:8080/file/041735-8.jpg] будет оптимальным. В общем случае момент t0 является оптимальным, если [img: http://localhost:8080/file/041735-9.jpg]. Пусть [img: http://localhost:8080/file/041735-10.jpg] В соответствии с определением [img: http://localhost:8080/file/041735-11.jpg] Иначе говоря, прекращение наблюдений следует производить при первом попадании в множество Г. В связи с этим множество Сназ. множеством продолжения наблюдений, а Г - множеством прекращения наблюдений. Иллюстрацией этих результатов может служить задача различения двух простых гипотез, на к-рой А. Вальд продемонстрировал преимущество последовательных методов по сравнению с классическими. Пусть параметр 0 принимает два значения 1 и 0 с априорными вероятностями p и 1-p соответственно и множество заключительных решений Dсостоит также из двух точек: d=1 (принимается гипотеза H1,:q=1) и d=0 (принимается гипотеза H0:q=0). Если функцию W1(q, d).выбрать в виде [img: http://localhost:8080/file/041735-12.jpg] и положить [img: http://localhost:8080/file/041735-13.jpg] то для Rd (p) получают выражение [img: http://localhost:8080/file/041735-14.jpg] где [img: http://localhost:8080/file/041735-15.jpg] - вероятности ошибок первого и второго рода, а Р p означает распределение вероятностей в пространстве наблюдений, отвечающее априорному распределению p. Если [img: http://localhost:8080/file/041735-16.jpg] - апостериорная вероятность гипотезы H1:q=1 относительно s-алгебры [img: http://localhost:8080/file/041735-17.jpg], то [img: http://localhost:8080/file/041735-18.jpg] где [img: http://localhost:8080/file/041735-19.jpg] Из общей теории оптимальных правил остановки, примененной к х п=(п,pn), следует, что функция r(p) =inftRd(p) удовлетворяет уравнению [img: http://localhost:8080/file/041735-20.jpg] Отсюда, в силу выпуклости вверх функций r(p), g(p), Tr(p), можно вывести, что найдутся два числа 0 [img: http://localhost:8080/file/041735-21.jpg] А<B [img: http://localhost:8080/file/041735-22.jpg] 1 такие, что область продолжения С={p:А<p<B}, а область прекращения наблюдений Г= = [0, 1](A,В). При этом момент остановки [img: http://localhost:8080/file/041735-23.jpg] является оптимальным (p0=p). Если р 0 (х).и р 1 (х) - плотности распределений F0 (х) и F1 (х).(по мере [img: http://localhost:8080/file/041735-24.jpg], a [img: http://localhost:8080/file/041735-25.jpg] - отношение правдоподобия, то область продолжения наблюдений (см. рис. 1) может быть записана в виде [img: http://localhost:8080/file/041735-26.jpg] и [img: http://localhost:8080/file/041735-27.jpg]. При этом если [img: http://localhost:8080/file/041735-28.jpg], то выносится решение d=l, т. е. принимаетея гипотеза H1: q=1. Если же [img: http://localhost:8080/file/041735-29.jpg], то - гипотеза H0: q=0. Структура этого оптимального решающего правила сохраняется и для задачи различения гипотез в условноэкстремальной постановке, состоящей в следующем. [img: http://localhost:8080/file/041735-30.jpg] Для каждого решающего правила d=(t, d).вводят вероятности ошибок a(d)=P1(d=0), b(d)=P0(d=l) и задают два числа a>0 и b>0; и пусть, далее, D (a, b) - совокупность всех решающих правил с [img: http://localhost:8080/file/041735-31.jpg] и [img: http://localhost:8080/file/041735-32.jpg]. Следующий фундаментальный результат был получен А. Вальдом. Если a+b<1 и среди критериев d=(t, d), основанных на отношении правдоподобия jn и имеющих вид [img: http://localhost:8080/file/041735-33.jpg] найдутся такие а=а* и b=b*, что вероятности ошибок первого и второго рода в точности равны a и b, то решающее правило d* = (t*, d*).с а= а* и b= b* является в классе D (a, b) оптимальным в том смысле, что [img: http://localhost:8080/file/041735-34.jpg] для любого [img: http://localhost:8080/file/041735-35.jpg] Преимущества последовательного решающего правила d*=(t*, d*)по сравнению с классическим проще проиллюстрировать на примере задачи различения двух гипотез Н 0:q=0 и H1:0=1 относительно локального среднего значения q винеровского процесса xt c единичной диффузией. Оптимальное последовательное решающее правило d*=(t*, d*), обеспечивающее заданные вероятности ошибок a и b первого и второго рода соответственно, описывается следующим образом: [img: http://localhost:8080/file/041735-36.jpg] где lt=1n jt и отношение правдоподобия (производная меры, отвечающей q=1, по мере, отвечающей q=0) jt [img: http://localhost:8080/file/041735-37.jpg] (см. рис. 2). Оптимальное классич. правило [img: http://localhost:8080/file/041735-38.jpg] (согласно лемме Неймана - Пирсона) описывается следующим образом: [img: http://localhost:8080/file/041735-39.jpg] [img: http://localhost:8080/file/041735-40.jpg] где [img: http://localhost:8080/file/041735-41.jpg] а cg - корень уравнения [img: http://localhost:8080/file/041735-42.jpg] Поскольку [img: http://localhost:8080/file/041735-43.jpg], где [img: http://localhost:8080/file/041735-44.jpg] то [img: http://localhost:8080/file/041735-45.jpg] Численный подсчет показывает, что при [img: http://localhost:8080/file/041735-46.jpg] [img: http://localhost:8080/file/041735-47.jpg] Иначе говоря, при рассматриваемых значениях ошибок первого и второго рода оптимальный последовательный метод различения требует примерно в два раза меньше наблюдений, чем оптимальный метод с фиксированным числом наблюдений. Более того, если a=b, то [img: http://localhost:8080/file/041735-48.jpg]