НЕЙРОСЕТЕВОЙ МЕТОД ВЫЧИСЛЕНИЯ ПОКАЗАТЕЛЕЙ ЛЯПУНОВА ДЛЯ ВРЕМЕННЫХ РЯДОВ Дмитриева Л.А.,Куперин Ю.А.,Сметанин Н.М.

Санкт-Петербургский государственный университет


Номер: 4-1
Год: 2016
Страницы: 11-19
Журнал: Актуальные проблемы гуманитарных и естественных наук

Ключевые слова

комитеты искусственных нейронных сетей, локальные и глобальные показатели Ляпунова, реконструированные аттракторы, рекуррентное QR-разложение, временные ряды, аппроксимация динамической системы, Committees of artificial neural networks, local and global Lyapunov exponents, reconstructed attractors, recurrent QR-decomposition, time series, approximation of a dynamical system

Просмотр статьи

⛔️ (обновите страницу, если статья не отобразилась)

Аннотация к статье

Предложен новый метод определения локальных и глобальных показателей Ляпунова по заданному временному ряду. Особенностью предложенного метода является использование комитета нейронных сетей для аппроксимации динамической системы, порождающей временной ряд. Аппроксимирующей моделью динамической системы служит обученная нейронная сеть. Комитеты сетей используются для повышения точности вычисления локальных и глобальных показателей Ляпунова. Показано, что на модельных временных рядах предложенный метод определяет все показатели Ляпунова динамической системы с хорошей точностью.

Текст научной статьи

Введение Показатели Ляпунова являются важной характеристикой динамических систем и описывают разбегание близлежащих траекторий динамической системы на аттракторе в фазовом пространстве или на реконструированном аттракторе. По известным показателям Ляпунова можно определить в каком режиме находится динамическая система: если старший показатель положителен, то данная динамическая система находится в хаотическом режиме. В настоящее время существует достаточно большое количество методов численных расчетов наибольших показателей Ляпунова для различных ситуаций [9-11]. Однако в любом случае эти расчеты требуют наличия множества фазовых траекторий на аттракторе, которые в определенные моменты времени локализованы в достаточно малых фазовых объемах. Среди численных алгоритмов для расчета наибольший показатель Ляпунова непосредственно из временных рядов отметим, например, алгоритм Вольфа [12], алгоритм Сано и Савада [13] и алгоритм Экмана [14]. Следует, однако, заметить, что перечисленные алгоритмы и их модификации позволяют вычислить лишь старший показатель Ляпунова и, кроме того, вычисления по этим алгоритмам приводит, как правило, к неприемлемо большим погрешностям вычислений. Отметим также работы [15] и [16], посвященные вычислению показателей Ляпунова или их аналогов с использованием нейросетевых технологий. Однако подход, использованный в настоящей работе, существенно отличается от методов работ [15] и [16]. Целью настоящей работы является разработка и тестирование на модельных временных рядах метода вычисления всех ляпуновских показателей по временному ряду с высокой точностью. Особенностью метода является использование комитета нейронных сетей для аппроксимации динамической системы, порождающей временной ряд. Как показано в настоящей работе, это позволяет преодолеть трудности численных алгоритмов, перечисленных выше. В начале настоящей работы приводятся определения локальных показателей Ляпунова (ЛПЛ) и глобальных показателей Ляпунова (ГПЛ). Затем рассматривается метод определения ГПЛ и ЛПЛ если известно отображение, задающее дискретную по времени динамическую систему. Далее рассматриваются способы обобщения данного метода на случай когда известен только временной ряд, порожденный дискретной динамической системой. После чего подробно описывается метод определения ЛПЛ по временному ряду с использованием нейронных сетей. В конце работы приведен обзор результатов применения предложенного метода к модельным временным рядам. Глобальные и локальные показатели Ляпунова Рассмотрим дискретную по времени динамическую систему, эволюция которой задается уравнением: Здесь - точки траектории динамической системы, - задает нумерацию точек траектории, - отображение задающее эволюцию траектории динамической системы. Рассмотрим как меняется малое возмущение траектории с течением времени . Пренебрегая старшими членами в ряде Тейлора для получим следующую оценку динамики возмущения : Здесь - матрица Якоби размера вычисленная в точке . Итеративно применяя последнюю формулу можно получить следующие соотношение: Здесь матрица описывает изменение во времени возмущения для шагов итераций. Если принадлежит аттрактору динамической системы, то при определенных условиях согласно [1] при собственные числа матрицы не зависят от начальной точки и позволяют определить глобальные показатели Ляпунова следующим образом: Определение 1. Пусть - собственные числа матрицы при и для любой точки траектории , принадлежащей аттрактору динамической системы. Тогда - глобальные показатели Ляпунова (ГПЛ). При конечном собственные числа матрицы зависят от и . Можно ввести в рассмотрение локальные показатели Ляпунова: Определение 2. Пусть - собственные числа матрицы при конечном и для некоторой точки траектории . Тогда - локальные показатели Ляпунова (ЛПЛ) вычисленные за временных шагов для возмущения точки траектории . QR-алгоритм определения показателей Ляпунова Как было отмечено выше для определения локальных и глобальных показателей Ляпунова необходимо устойчиво вычислять собственные числа матрицы . Основная проблема связана с тем, что матрица плохо обусловлена при больших , и, как следствие, прямое вычисление матрицы , а затем и её собственных чисел, затруднительно. Однако можно учесть тот факт, что для определения показателей Ляпунова необходимы логарифмы собственных чисел . В работе [2] предложен метод оценки логарифмов собственных чисел с помощью рекуррентного QR-разложения компонент матрицы . Первым шагом QR-алгоритма является выбор точки траектории и вычисление соответствующей ей матрицы Якоби . Далее производится QR-разложение на произведение двух матриц: , где - ортогональная матрица, - верхнетреугольная матрица. Далее производится аналогичное разложение для произведения матриц , то есть находятся такие матрицы и что Поскольку матрица ортогональная, легко показать что Повторяя данную процедуру раз приходим к разложению в следующем виде: Поскольку , и -ортогональная а - верхнетреугольные, то локальные показатели Ляпунова (логарифмы собственных чисел матрицы ) определяются по следующей формуле: Здесь - - й диагональный элемент матрицы . Оценка показателей Ляпунова по временному ряду с использованием нейронных сетей Алгоритм, описанный в предыдущем разделе, предполагает, что явно задано отображение, определяющее динамическую систему. Однако часто такое отображение не является известным и в распоряжении имеется только наблюдаемый временной ряд. Для того чтобы использовать описанный выше алгоритм достаточно иметь способы оценки матрицы Якоби неизвестного отображения. Это можно сделать различными способами. Первый способ локальный: выбирается область реконструированного аттрактора для оценки матрицы Якоби, производится локальная аппроксимация с использованием соседних точек лежащих на реконструированном аттракторе [3]. Второй способ глобальный. Здесь строится глобальная модель динамической системы: производится аппроксимация отображения задающего динамику системы и затем определяется матрица Якоби для разных точек реконструированного аттрактора. В качестве модели динамической системы удобно брать обученную нейронную сеть прямого распространения как это делалось, например, в [4]. В настоящей работе используется глобальный способ восстановления матриц Якоби. В качестве аппроксиматора используется нейронная сеть с двумя скрытыми слоями. Пусть задан временной ряд . Предполагается, что элементы этого временного ряда являются некоторой наблюдаемой скалярной функцией от состояния динамической системы . Здесь - точки траектории динамической системы, задает нумерацию точек траектории, - отображение задающее эволюцию траектории динамической системы. С помощью стандартной процедуры погружения в лаговое пространство [7] можно перейти к рассмотрению лаговых векторов , где задаются соотношением: Здесь - размерность вложения, - лаг. Можно поставить задачу аппроксимации отображения определяющего динамическую систему: . Поскольку то у отображения неизвестна только последняя компонента . Остальные компоненты задаются как для . Таким образом, задача аппроксимации отображения определяющего динамическую систему: сводится к определению отображения . То есть необходимо аппроксимировать функцию , что можно интерпретировать как задачу прогнозирования временного ряда решаемую методом нелинейной авторегрессии. Подходящей нелинейной моделью аппроксимирующей функцию является нейронная сеть прямого распространения. Мотивацией такому выбору модели является теорема универсальной аппроксимации [5], которая утверждает, что нейронная сеть с одним скрытым слоем способна со сколь угодной точностью аппроксимировать непрерывную функцию на компактном подмножестве в . Обучающими данными для нейронной сети является набор пар вход-выход задаваемых в виде . Результатом обучения нейронной сети является модель , где - настроенный в процессе обучения вектор весов нейронной сети. Соответствующая модель отображения задается следующим образом: Здесь - -компонента -мерного вектора . Матрица Якоби такой модели определяется по формуле: Согласно теореме Такенса [6] при определенных условиях отображение будет иметь такие же динамические характеристики как и отображение , задающее динамическую систему, которая и порождает временной ряд. Примерами таких характеристик являются фрактальные размерности реконструированного аттрактора, набор обобщенных энтропий и все штук показателей Ляпунова. Таким образом, зная нейросетевую аппроксимацию отображения и имея алгоритм вычисления , можно воспользоваться QR-алгоритмом определения показателей Ляпунова. Полученные показатели будут являться оценкой показателей Ляпунова динамической системы, заданной отображением . Численные эксперименты и результаты Описанный выше алгоритм был протестирован на трёх временных рядах с известными порождающими эти временные ряды динамическими системами. Оценки ГПЛ известны априори. Длина каждого временного ряда - 2000 отсчетов. На рисунке 1 изображены первые 200 отсчетов каждого временного ряда. Ниже перечислены используемые временные ряды, их динамические системы и ГПЛ: 1. logistic - логистическое хаотическое отображение: . ГПЛ равен 2. henon - отображение Хенона . ГПЛ равны , 3. lorenzx - x-компонента системы Лоренца ,, . ГПЛ равны . Система Лоренца была проинтегрирована с шагом 0,0001 секунд с начальными условиями =0, =1, =1.05 на 2800000 шагов. Первые 1400000 шагов отброшены. Остальные точки (x-компонента) взяты с шагом в 700 шагов (0,07 с). В итоге получился ряд в 2000 отсчетов. Рис.1. Первые 200 отсчетов временных рядов logistic, henon, lorenzx. Для каждого временного ряда был произведен расчет ЛПЛ для от 1 до 200 и для 500 различных начальных точек . Каждый расчет был повторен 30 раз для разных случайных инициализаций весов нейронной сети. Множество обученных сетей образуют комитет нейронных сетей [8]. Как и ожидалось, вне зависимости от начальной точки ЛПЛ сходятся к ГПЛ после 100 шага. На рисунке 2 приведен пример такой сходимости для ряда henon при 10 различных начальных точках. Рис.2. Зависимость и от для 10 различных начальных точек для временного ряда henon. Если зафиксировать =200, то распределение набора значений для каждой сети будет давать некоторый спектр (далее спектр ЛПЛ). Объединённые по 5 лучшим (с наименьшей ошибкой обучения) нейронным сетям спектры ЛПЛ каждого ряда представлены на рисунке 3. Значения ГПЛ помечены на оси абсцисс. Также на рисунке 3 указаны ошибки обучения нейронных сетей. Рис.3. Спектры ЛПЛ (по 5 лучшим нейросетям комитета) временных рядов logistic, henon, lorenzx (слева) и значения среднеквадратичных отклонений (mse) обученных нейросетей (справа). Из рисунков видно, что спектры сосредоточены вблизи априори известных ГПЛ. Среднее значения спектров ЛПЛ можно считать оценкой ГПЛ. Два стандартных отклонения (оценка ширины спектра) можно считать мерой погрешности оценки ГПЛ. Ниже приведена таблица 1 с рассчитанными оценками ГПЛ для 5 лучших сетей комитета и для каждого временного ряда. Также в таблице указаны погрешность, истинные ГПЛ и абсолютная ошибка оценки ГПЛ. Таблица 1 Результаты вычисления ГПЛ ГПЛ Оценка ГПЛ Погрешность Абсолютная ошибка logistic 0.6931 0.6825 0.0164 0.0106 henon 0.41922 0.413 0.032 0.006 -1.62319 -1.609 0.066 0.014 lorenzx 0.9056 1.36 0.64 0.45 0 0.18 0.62 0.18 -14.5723 -15.17 6.80 0.60 Из таблицы 1 видно, что все оценки ГПЛ совпадают с истинными ГПЛ в пределах погрешности (погрешность больше чем допущенная ошибка). Такой результат указывает на работоспособность рассматриваемого метода. Также следует отметить, что оценки старших показателей в пределах погрешности больше 0, что означает, что метод в состоянии определять находится ли изучаемая динамическая система в хаотическом режиме или нет. Заключение Разработанный в работе метод вычисления показателей Ляпунова по временному ряду оказался работоспособным и достаточно точным в случае рассмотренных здесь модельных временных рядов. В дальнейшем планируется применить предложенный здесь метод для анализа временных рядов реального мира. В частности, для финансовых временных рядов с целью определения горизонтов прогнозирования и для временных рядов многоканальных электроэнцефалограмм с целью выявления таких патологий, как эпилепсия.

Научные конференции

 

(c) Архив публикаций научного журнала. Полное или частичное копирование материалов сайта возможно только с письменного разрешения администрации, а также с указанием прямой активной ссылки на источник.