Прогнозирование финансовых временных рядов на основе нейронных сети

В настоящее время применение нейронных сетей развивается в следующих направлениях:

1. Биржевое и макроэкономическое прогнозирование (Neuro XL, OptimuStock, StocksNeural);
2. Распознавание речи и диалог с человеком (Siri, Alexa, Cortana, Алиса);
3. Имитация интеллектуальной деятельности (слабый ИИ в Siri, Alexa, Cortana, Алиса);
4. Улучшение некачественной и зашумлённой информации (DeepImagePrior);
5. Идентификация подозрительных лиц и ситуаций (GLXSS, Face++)

Нейронная сеть – это математическая модель, состоящая из набора связанных между собой элементов, аналогичных нейронам головного мозга и функционирующих похожим образом.

Нейронной сетью называют множественную суперпозицию многочлена сигма-подобных функций.

В качестве сигма-функций используют рациональную сигмоиду или гиперболический тангенс. Причина использования сигма-функции заключается в том, что различные её участки имеют различное поведение. Изменяя входной коэффициент нейрона можно добиться от него поведения похожего на степенную, линейную или логарифмическую зависимости.

Особенный характер функции нейронной сети придают входные и выходные коэффициенты нейронов, обуславливающие как тип зависимости (входные), так и силу влияния нейрона (выходные) на другие нейроны сети. Подбор этих коэффициентов называется обучением нейронной сети.

Существует три типа обучения сети:

Стохастический метод (обучение по Кохонену) предполагает перебор случайных значений коэффициентов до тех пор, пока функция нейронной сети не начнёт удовлетворительно отображать искомую зависимость. Недостаток этого метода – низкая скорость обучения сети:

Градиентный метод (обратное распространение ошибки) предполагает изменение коэффициентов сети на вычисляемую через производные величину градиента ошибки сигма-функции таким образом, чтобы минимизировать ошибку. Недостаток метода – невозможность поиска альтернативных решений при достижении минимума ошибки в тех случаях, когда минимум функции не глобальный. Эту особенность называют западанием в локальный минимум.

Смешанные методы сочетают в себе одновременное использование как стохастической, так и градиентной составляющей обучения. Примером такого сочетания может служить эволюционный алгоритм, применяемый в модуле поиска решения MS EXCEL.

Модель прогноза на основе однослойной нейронной сети

Структурной единицей искусственной нейронной сети является искусственный нейрон.Искусственный нейрон – это упрощенная математическая модель биологического нейрона. Рассмотрим нейрон Маккалоха-Питса, который был предложен в 1943 году.

У искусственного нейрона выделяют следующие три главных компонента:

1. Входной сигнал – это синапсы (или их еще называют связями) каждый из которых характеризуется собственным весом или силой. В частности, сигнал x на входе синапса j , связанного с нейроном k , умножается на вес w. В отличие от синапсов у биологического нейрона мозга синаптический вес искусственного нейрона может быть как положительным, так и отрицательным. У биологического нейрона связи характеризуются сложным химическим процессом, который по сути своей не может подавать отрицательные веса.
2. На сумматоре происходит сложение входных сигналов, взвешенных относительно соответствующих синапсов нейрона. Другими словами, происходит перемножение значений x на соответствующий вес w и полученные результаты складываются. Эту операцию можно описать как линейную комбинацию.
3. Активационная функция ограничивает амплитуду выходного сигнала нейрона. Эта функция называется функцией сжатия.

В качестве функции активации может выступать любая функция. Перечислим те из них, которые чаще всего используются при построении нейронной сети:

• Пороговая функция активации. Это первая введенная активационная функция, она описана в работе Мак-Каллока и Питса.
• Кусочно-линейная функция активации
• Сигмоидальная активационная функция

Наиболее популярными в настоящее время являются сигмоидальная и функция активации гиперболического тангенса.