Стохастическая аппроксимация

Стохастическая аппроксимация — рекуррентный метод построения состоятельной последовательности оценок решений уравнений регрессии и экстремумов функций регрессии в задачах непараметрического оценивания. В биологии, химии, медицине используется для анализа результатов опытов. В теории автоматического управления применяется как средство решения задач распознавания, идентификации, обучения и адаптации. Основоположниками метода стохастической аппроксимации являются Кифер, Вольфовиц, Робинс, Монро .

Поиск решения уравнения регрессии

Пусть каждому значению параметра $x$ соответствует измеряемая опытным путём случайная величина $y$ с функцией распределения $F(y|x)$, причем математическое ожидание величины $y$ при фиксированном параметре $x$ $m(y|x)=m(x)$. Требуется найти решение уравнения регрессии $m(x)=\alpha$. Предполагается, что решение уравнения регрессии единственно, а функции $F(y|x)$ и $m(x)$ неизвестны.

Процедура стохастической аппроксимации для получения оценок корня $\hat{x}$ уравнения регрессии $m(\hat{x})=\alpha$ заключается в использовании полученной на основании опыта обучающей выборки измеряемых случайных величин $y_1,\mathrm{...},y_n$.

Оценка $\widehat{x_{n+1}}$ искомого корня находится на основе предыдущей оценки $\widehat{x_n}$ с помощью обучающего значения измеренной случайной величины $y_n$ с помощью соотношения $\widehat{x_{n+1}}=\widehat{x_n}+a_n(\alpha -y_n)$, где $n⩾1$, $\widehat{x_1}$ - произвольное число.

Если последовательность коэффициентов $a_n$ удовлетворяет условиям $a_n>0$, $\sum _{n=1}^{\mathrm{\infty }}{a}_n=\mathrm{\infty }$, $\sum _{n=1}^{\mathrm{\infty }}{a}_n^2<\mathrm{\infty }$, то при $n\to \mathrm{\infty }$ оценка $\widehat{x_{n+1}}$ стремится по вероятности к корню уравнения $m(\hat{x})=\alpha$.

При некоторых дополнительных требованиях к функции регрессии $m(x)$ оценки $\widehat{x_{n+1}}$ могут сходится в среднеквадратическом к решению уравнения регрессии Шаблон:Sfn.

Примеры

• Твёрдость сплава меди с железом $y$ зависит от времени $x$, в течение которого сплав подвергается воздействию высокой температуры. В этом случае измеряемой случайной величиной является твёрдость сплава $y$, а задача состоит в определении времени $\hat{x}$, при котором сплав имеет заданную твёрдость $y=\alpha$Шаблон:Sfn.

Поиск экстремума функции регрессии

Оценка $\widehat{x_{n+1}}$ экстремального значения функции регрессии находится на основе предыдущей оценки $\widehat{x_n}$ и обучающих значений измеренной случайной величины $y_{2n}$ и $y_{2n-1}$ с помощью соотношения $\widehat{x_{n+1}}=\widehat{x_n}+\frac{a_n}{c_n}(y_{2n}-y_{2n-1})$, где $n⩾1$, $\widehat{x_1}$ - произвольное число, $a_n$ - последовательность положительных чисел, а последовательности $y_{2n}$ и $y_{2n-1}$ независимы и соответствуют значениям параметра $\widehat{x_n}+c_n$ и $\widehat{x_n}-c_n$.

Если последовательности коэффициентов $a_n$ и $c_n$ удовлетворяют условиям $a_n>0$, $c_n>0$, $c_n\to 0$ при $n\to \mathrm{\infty }$, $\sum _{n=1}^{\mathrm{\infty }}{a}_n=\mathrm{\infty }$, $\sum _{n=1}^{\mathrm{\infty }}{a}_n{c}_n<\mathrm{\infty }$, $\sum _{n=1}^{\mathrm{\infty }}(\frac{a_n}{c_n}{)}^2<\mathrm{\infty }$, то при $n\to \mathrm{\infty }$ оценка $\widehat{x_{n+1}}$ стремится по вероятности к экстремальному значению функции регрессии.

При некоторых дополнительных требованиях к функции регрессии $m(x)$ оценки $\widehat{x_{n+1}}$ могут сходится в среднеквадратическом к экстремуму функции регрессии.

Примеры

• Урожайность участка земли $y$ зависит от количества удобрений $x$. В этом случае измеряемой случайной величиной является урожайность $y$, а задача состоит в определении количества удобрений $\hat{x}$, при котором участок земли имеет макcимальную урожайностьШаблон:Sfn.

Литература

• Шаблон:Книга
• Шаблон:Книга
• Шаблон:Книга