Рефераты Главная Начертательная геометрия Оккультизм и уфология Педагогика Полиграфия Политология Программированиекомпьютеры и кибернетика Производство и технологии Социальная работа Начертательная геометрия Не сортированные Таможенная система Теория государства и права Арбитражный процесс Реклама Нотариат Менеджмент Металлургия Минералогия Москвоведение |
Использование нечеткой искусственной нейронной сети TSK (Takagi, Sugeno, Kang’a) в задаче прогнозирования валютных курсовИспользование нечеткой искусственной нейронной сети TSK (Takagi, Sugeno, Kang’a) в задаче прогнозирования валютных курсовМИНИСТЕРСТВО ОБРАЗОВАНИЯ и НАУКИ УКРАИНЫ НАЦИОНАЛЬНАЯ АКАДЕМИЯ НАУК УКРАИНЫ НАЦИОНАЛЬНЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ УКРАИНЫ «КИЕВСКИЙ ПОЛИТЕХНИЧЕСКИЙ ИНСТИТУТ» НАУЧНО-ОБУЧАЮЩИЙ КОМПЛЕКС «ИНСТИТУТ ПРИКЛАДНОГО СИСТЕМНОГО АНАЛИЗА» Курсовая роботаПо дисциплине «Основы проектирования интеллектуальных систем»«Использование нечеткой искусственной нейронной сетиTSK (Takagi, Sugeno, Kang'a) в задаче прогнозирования валютных курсов»ВыполнилПоляновский Н. Агрупа КА-555 курсПринялЗайченко Ю. ПКиев - 2009г. РефератКлючевые слова: прогнозирование, нечеткая нейронная сеть, нечеткость, валютные курсы, TSK.В данной работе рассматривается прогнозирование валютных курсов. Рассматривалась искусственная нечеткая нейронная сеть TSK. В качестве критерия правильности прогноза были выбраны средний квадрат отклонения и средняя абсолютная процентная погрешность. ННС TSK сравнивается с методом экспоненциального сглаживания и с искусственной нейронной сетью с кубическими сплайнами. Были получены результаты, которые свидетельствуют о том, что рассматриваемый искусственная нейронная сеть может быть использованы в деятельности банков и других инвесторов. ВведениеПовышение эффективности краткосрочных операций с валютой - одна из важнейших задач в деятельности банков и других инвесторов. Ежедневно (а иногда и несколько раз в день) банки продают и покупают различные валюты в значительных объемах, стремясь придать движение имеющимся в наличии свободным валютным резервам с целью избежать потерь от конъюнктурных колебаний курсов и получить дополнительную прибыль. Эффективность валютных операций существенным образом зависит он надежности прогнозов колебаний курсов валют. Именно поэтому краткосрочное прогнозирование курсов имеет большое практическое значение для оперативной деятельности банков и прочих инвесторов, а вопрос о возможности применения статистических методов для этой цели представляется актуальным.Информация о динамике курсов национальных валют создает впечатление хаотического движения: падение и рост курсов сменяют друг друга в каком-то случайном порядке. Даже если за большой интервал времени отмечается тенденция, например, к росту, то на графике легко можно увидеть, что эта тенденция прокладывала себе путь через сложные движения временного ряда курса валюты. Направление ряда все время меняется под воздействием нерегулярных и часто неизвестных сил. Исследуемый объект в полной мере подвержен воздействию стихии мирового рынка, и точной информации о будущем движении курса нет. Необходимо сделать прогноз.В данной курсовой работе предпринята попытка прогнозирования валютных курсов с использованием искусственной нейронной сети. Раздел 1. Область исследований1.1 Важность задачи прогнозированияВ наше время перед человечеством стоит задача прогнозирования различных важных с точки зрения прикладной деятельности человека показателей. Эти показатели могут быть физическими, социальными и экономическими. Жизненно важным для человечества является задача своевременного прогнозирования землетрясений, цунами, повышенной солнечной активности. Не менее важной задачей прогнозирования является прогнозирование социальных показателей, таких как: численность народонаселения, уровень смертности, градация граждан по возрастному цензу в будущем. В условиях рыночной экономики для обеспечения населения необходимыми товарами и услугами, а также для обеспечения нормального функционирования экономики требуется прогнозировать следующие макроэкономические показатели: валовой внутренний продукт, валовой внутренний продукт, внешнеэкономическое торговое сальдо, курсы национальных валют.1.2 Существующие методы прогнозированияОдним из самых первых и распространенных методов прогнозирования является метод наименьших квадратов (МНК). В основе этого метода лежит гипотеза о том, что временной ряд имеет линейный тренд. Данное допущение в задаче краткосрочного прогнозирования валютных курсов является недопустимым.В середине двадцатого века независимо друг от друга Браун и Холт предложили метод экспоненциального сглаживания. Суть метода состоит в том, что прогноз на следующий шаг является взвешенной суммой предыдущих, уже известных членов временного ряда. Веса при членах временного ряда экспоненциально уменьшаются со временем. В 60-х годах двадцатого века Калманом был предложен метод фильтрации, позже названный в его честь. Суть данного метода состоит в представлении временного ряда в модели пространстве состояний [2].Метод Группового Учета Аргументов (МГУА) разрабатывается академиком НАН Украины А.Г. Ивахненко и его школой, с 60-х годов двадцатого века, и является типичным методом индуктивного моделирования и одним из наиболее эффективных методов структурно-параметрической идентификации сложных объектов, процессов и систем по данным наблюдений в условиях неполноты информации.Искусственные нейронные сети являются перспективным направлением в создании искусственного интеллекта и еще одним инструментом, позволяющим осуществлять прогнозирование. Раздел 2. Описание выбранных инструментов2.1 Общая характеристика нечетких нейронных сетейНечеткие искусственные нейроны, так же называемые нейронными клетками, узлами модулями, моделируют структуру и функции биологических нейронов. Архитектура и особенности нечетких искусственных нейронных сетей, состоящих из нейронов, зависит от конкретных задач, которые будут решаться с их помощью.Соединенные между собой нейроны создают искусственную нейронную сеть (ИНС). Таким образом ИНС - это пара (M, V), где M - множество нейронов; V - множество связей. Структура сети задается в виде графа, в котором вершинами являются нейроны, а ребрами являются связи.ИНС могут быть применены в следующих областях и для решения следующих задач: аппроксимация функций, создание ассоциативной памяти, архивирование данных, распознавание и классификация, оптимизационные задачи, управление сложными процессами, прогнозирование, нейрокомпьютеры.Нечеткие нейронные сети (ННС) применяются в системах с нечеткой логикой. ННС помогают снять неопределенность в задачах, где входные переменные заданы интервально2.2 Общая характеристика среды программирования Delphi 7Для программной реализации искусственной нейронной сети, рассматриваемой в данной курсовой работе, была использована визуальная среда программирования Delphi 7. Выбор был обусловлен возможностью быстрого написания приложения с удобным пользовательским интерфейсом для семейства операционных систем Windows и Linux. Раздел 3. Математическое описание задачи3.1 Описание общей задачи прогнозирования валютных курсовВ данном подразделе рассматривается прогнозирование валютных курсов. Объектом исследования является временной ряд последовательных ежедневных данных (наблюдений) о динамике валютных пар, который будем записывать какгде - длина ряда.Исходные ряды исследуются на абсолютную случайность. Проверяется, не являются ли они белым шумом. В качестве критериев случайности используются: критерий поворотных точек, критерий распределения длины фазы и критерий, основанный на знаках разностей [1].В целом, проведенное автором работы изучение исходных рядов валютных курсов показало, что, несмотря на сильную колеблемость ежедневных данных, они не являются совершенно случайными.3.2 Описание структуры ННС TSKНа рисунке 1 приводится структура нейронной сети TSK. Выделяются следующие характеристики, свойства, особенности и функциональные элементы сети:1) Обучение проводится с учителем. Т.е. для каждого входного вектора имеется желаемое для выхода значение. 2) Выборка разбивается на 2 части: обучающая и проверочная.Обобщенную схему вывода в модели TSK при использовании правил и переменных можно представить в следующем виде:, то ;, то где - значение лингвистической переменной для правила с функцией принадлежности (ФП), , В нечеткой нейронной сети TSK пересечение правил определяется ФП в форме произведения, т.е.При правилах вывода композиция исходных результатов сети определяется по следующей формуле (аналогично выводу Сугено):где , Нечеткая нейронная сеть TSK задается многослойной структурной сетью, представленной на рисунке 1. В такой сети выделяют 5 слоев.1. Первый слой выполняет раздельную фаззификацию каждой переменной , , определяя для каждого -го правила вывода значение ФП в соответствии с функцией фаззификации. Это параметрический слой с параметрами , которые подлежат адаптации в процессе обучения.2. Второй слой выполняет агрегирование отдельных переменных , определяя результирующую степень принадлежности для вектора условиям -го правила. Это не параметрический слой.3. Третий слой представляет собой генератор функции TSK, в котором рассчитывается значения . В этом слое также происходит умножение функции на , сформированных на предыдущем слое. Это параметрический слой, в котором адаптации подлежат линейные параметры (веса), для , , определяющие функции последствий правил.4. Четвертый слой составляют 2 нейрона-сумматора, один из которых рассчитывает взвешенную сумму сигналов , а второй определяет сумму весов .5. Пятый слой состоит из одного единственного нейрона. В нем веса подлежат нормализации и вычисляется выходной сигнал в соответствием с выражениемЭто так же не параметрический слой.Из приведенного описания следует, что нечеткая сеть TSK содержит только 2 параметрических слоя (первый и третий), параметры которых уточняются в процессе обучения. Параметры первого слоя () будем называть нелинейными, а параметры третьего слоя - линейными весами.Общее выражение для функциональной зависимости для сети TSK задается так: Рисунок 1. Структура ННС TSK 3.3 Алгоритм обученияРассмотрим гибридный алгоритм обучения. В гибридном алгоритме параметры, подлежащие адаптации, делятся на 2 группы. Первая из них состоит из линейных параметров третьего слоя, а вторая группа - из параметров нелинейной ФП первого слоя. Уточнение параметров происходит в 2 этапа.На первом этапе при фиксации отдельных значений параметров функции принадлежности, решая систему линейных уравнений, рассчитываются линейные параметры полинома TSK. При известных значениях ФП зависимость для выхода можно представить в виде линейной формы относительно параметра :, где , При размерности обучающей выборки , и замене выходного сигнала сети ожидаемым значением получим систему из линейных уравнений видагде означает уровень активации (вес) условия -го правила при предъявлении -го входного вектора . Это выражение можно записать в матричном видеРазмерность матрицы равняется . При этом количество строк обычно бывает значительно больше количества столбцов . Решение этой системы уравнений можно получить как обычными методами, так и за один шаг, используя псевдо инверсию матрицы :,где - псевдо инверсная матрица.На втором этапе после фиксации значения линейных параметров рассчитываются фактические выходные сигналы , , для этого используется линейная зависимость:После этого рассчитывается вектор ошибки и критерийСигналы ошибок направляются через сеть в обратном порядке согласно методу Back Propagation вплоть до первого слоя, где могут быть рассчитаны компоненты . После вычисления вектора градиента делается шаг спуска градиентным методом. Соответствующие формулы обучения (для самого простого метода быстрого спуска) принимают вид: ,,,где - номер итерации.После уточнения нелинейных параметров снова запускается процесс адаптации линейных параметров функции TSK (первый этап) и нелинейных параметров (второй этап). Этот цикл продолжается до тех пор пока не стабилизируются все параметры процесса.В курсовой работе использовалась обобщенная колоколообразная функция принадлежностисоответствующие формулы градиентного метода целевой функции для одной пары данных принимают вид:,, Соответствующие производныепринимают следующий вид:,,для ,где - дельта Кронекера, ; При практической реализации гибридного метода обучения нечетких сетей доминирующим фактором их адаптации считается первый этап, на котором веса подбираются с использованием псевдо инверсии за один шаг. Для уравновешивания его влияния второй этап много раз повторяется в каждом цикл.Представленный гибридный алгоритм - один из наиболее эффективных способов обучения нечетких нейронных сетей. Его характерной чертой является разделение процесса на два отделенных во времени этапа. Если учитывать, что расчетная сложность каждого алгоритма оптимизации нелинейно зависит от количества параметров, которые подлежат оптимизации, то уменьшение размерности задач оптимизации значительно сокращает объем расчетных операций и повышает скорость сходимости алгоритма. Благодаря этому гибридный алгоритм является более эффективным в сравнении с обычным градиентным методом. [3] Раздел 4. Полученные результаты4.1 Экспериментальные исследования ННС TSKРассматриваются временные ряды валютных курсов российского рубля по отношению к американскому доллару, евро, британскому фунту стерлингов, швейцарскому франку, японской йене. А также рассматриваются временные ряды курсов валютных пар доллара к евро, британскому фунту стерлингов, японской йене. Временные ряды взяты за 2007, 2008 и начало 2009 года - всего 500 измерений. Данные о временных рядах взяты с сайта биржевых торгов Forex и официального сайта центрального банка России.Количество точек обучающей выборке в эксперименте взято равным 250, количество точек проверочной выборки - 250. На рисунках 2-9 приведены графики курсов валют реальные данные и прогноз на 1 шаг. Видно, что реальные данные от спрогнозированных данных визуально практически неотличимы. На рисунках 10-17 приведены графики курсов валют реальные данные и прогноз на 3 шага. Видно, что реальные данные от спрогнозированных данных уже можно отличить визуально. В приложении 1 приведены численные значения реальных и спрогнозированных значений курсов валют, а также ошибки прогноза.Каждая валютная пара рассматривается независимо от других валютных пар. Входными данными для прогнозирования значения курса валютной пары являются наблюдения за ежедневными курсами этой валютной пары за предыдущие периоды. Выходом является прогноз курса рассматриваемой валютной пары на следующий период.Критерием эффективности прогноза было выбрано среднеквадратическое отклонение СКО. где - прогноз на -ый момент времени, сделанный в момент времени .Вторым критерием эффективности был САПП..СКО и САПП искались отдельно на обучающей выборке и отдельно на проверочной выборке. Полученные значения СКО и САПП приведены в разделе 4.4., где будет проведена сравнительная характеристика рассматриваемой ИНС и метода экспоненциального сглаживания.Рисунок 2. График курса валюты доллара США к евро. Зеленый - реальные данные, красный - спрогнозированные Рисунок 3. График курса валюты доллара США к британскому фунту стерлингов. Зеленый - реальные данные, красный - спрогнозированныеРисунок 4. График курса валюты доллара США к евро. Зеленый - реальные данные, красный - спрогнозированные Рисунок 5. График курса валюты российского рубля к доллару США. Зеленый - реальные данные, красный - спрогнозированныеРисунок 6. График курса валюты российского рубля к евро. Зеленый - реальные данные, красный - спрогнозированные Рисунок 7. График курса валюты российского рубля к британскому фунту стерлингов. Зеленый - реальные данные, красный - спрогнозированныеРисунок 8. График курса валюты российского рубля к швейцарскому франку. Зеленый - реальные данные, красный - спрогнозированные Рисунок 9. График курса валюты российского рубля к доллару японской йене. Зеленый - реальные данные, красный - спрогнозированныеРисунок 10. График курса валюты доллара США к евро. Зеленый - реальные данные, красный - спрогнозированные на 3 шага Рисунок 11. График курса валюты доллара США к британскому фунту стерлингов. Зеленый - реальные данные, красный - спрогнозированные на 3 шагаРисунок 12. График курса валюты доллара США к японской йене. Зеленый - реальные данные, красный - спрогнозированные на 3 шагаРисунок 13. График курса валюты российского рубля к доллару США. Зеленый - реальные данные, красный - спрогнозированные на 3 шагаРисунок 14. График курса валюты российского рубля к евро. Зеленый - реальные данные, красный - спрогнозированные на 3 шага Рисунок 15. График курса валюты российского рубля к британскому фунту стерлингов. Зеленый - реальные данные, красный - спрогнозированные на 3 шагаРисунок 16. График курса валюты российского рубля к швейцарскому франку. Зеленый - реальные данные, красный - спрогнозированные на 3 шагаРисунок 17. График курса валюты российского рубля к японской йене. Зеленый - реальные данные, красный - спрогнозированные на 3 шага4.2 Экспериментальные исследования метода экспоненциально сглаживанияМетод экспоненциально сглаживания (МЭС) является адаптивным алгоритмом прогнозирования. МЭС проявил себя с хорошей стороны во многих экспериментальных исследованиях [1]. Поэтому МЭС был выбран для сравнения потенциальной эффективности ННС TSK в данной курсовой работе. Экспоненциальное сглаживание ряда осуществлялось по рекуррентной формуле:где - значение экспоненциальной средней в момент ; - постоянная сглаживания (параметр адаптации), , .При прогнозировании исходная выборка была разбита на 2 части: обучающую и проверочную. Длины обучающей и проверочной выборке в эксперименте с ННС TSK и МЭС были равны. На обучающей выборке была выбрана наилучшая постоянная сглаживания . Далее она использовалась для прогнозирования на проверочной выборке. 4.3 Экспериментальные исследования нейронной сети с кубическими сплайнамиНа рисунке 2 приводится структура нейронной сети, которая была ранее предложена автором курсовой работы. Данная нейронная сеть приводится для сравнения. Выделяются следующие характеристики, свойства, особенности и функциональные элементы сети:1. Обучение проводится с учителем. Т.е. для каждого входного вектора имеется желаемое для выхода значение. 2. Выборка разбивается на 2 части: обучающая и проверочная.3. На вход необходимо подавать сигналы . , где - память системы.4. На входов подаются следующие величины , где - память системы.5. На выходе ИНС ожидается прогноз изменения значения величины . Т.е. где - выход ИНС.6. функции принадлежности типа кубических сплайнов, предложенные Е. В. Бодянским. На интервале [0,1], нужно расположить функций принадлежности при этом центр расположен в нуле (), а центр в единице .Данные функции принадлежности не допускают «дыр» и обеспечивают единичное разбиение, т.е. Рисунок 2. Структура исследуемой нейронной сети4.4 Сравнение полученных результатовВ таблице 1 приведено СКО на обучающей и через черту приведено СКО на проверочной выборке для ННС TSK, ИНС с кубическими сплайнами (далее ИНС) и МЭС.Как видно с таблицы 1 ННС TSK на обучающей выборке во всех экспериментах показала СКО более чем в два раза меньшее, чем МЭС.На проверочной выборке ННС TSK также показала лучший результат во всех экспериментах в сравнении с МЭС.ННС TSK в сравнении с ИНС показала приблизительно одинаковые результаты, но в среднем на 3.75% хуже по критерию СКО.
Страницы: 1, 2 |
|
