Стохастическая аппроксимация

Определение "Стохастическая аппроксимация" в Большой Советской Энциклопедии

Стохастическая аппроксимация (от греч. stochastikos - умеющий угадывать, проницательный и лат. approximo - приближаюсь), метод решения широкого класса задач статистического оценивания, при котором каждое следующее значение оценки получается в виде основанной лишь на новом наблюдении поправки к уже построенной оценке. Основными чертами, обусловившими популярность Стохастическая аппроксимация в теоретических и прикладных работах, явились её непараметричность (применимость при весьма скудной информации об объекте наблюдения) и рекуррентность (простота пересчёта оценки при поступлении нового результата наблюдений). Стохастическая аппроксимация Применяется во многих прикладных задачах теории управления, обучения, в задачах техники, биологии, медицины. Стохастическая аппроксимация описана в 1951 американскими статистиками Г. Роббинсом и С. Монро, которые предложили рекуррентный план отыскания корня уравнения регрессии, т. е. корня q уравнения r (x) = a в ситуации, когда каждое измеренное значение у_к функции R (x) в точке X_k содержит случайную ошибку. Процедура Роббинса - Монро даётся формулой x_K⁺i = X_k +а_к (у_к - a). При некоторых условиях на функцию R (x), последовательность a_k, стремящуюся к нулю, и на характер случайных ошибок доказано, что X_k ®¥ при увеличении к. Позже метод Стохастическая аппроксимация был применен и для решения др. задач: отыскания максимума функции регрессии, оценки неизвестных параметров распределения по наблюдениям и др. На основе изучения предельного распределения нормированной разности x_k - q построены асимптотически наилучшие процедуры Стохастическая аппроксимация, в которых последовательность а_к нужно выбирать зависящей от наблюдений.
Лит.: Вазан М., Стохастическая аппроксимация. пер. с англ., М., 1972; Невельсон М. Б., Хасьминский Р. З., Стохастическая аппроксимация и рекуррентное оценивание, М., 1972.
  Р. З. Хасьминский.