[Обсуждение] Нейросетевые дела

[asbets]

13 часов назад, usver73 сказал:

Что означает  Ваша погрешность? Сеть ошибается в 11.5%? Т.е. более 88% направление входа угадано верно?

Но ведь это грааль! Чем Вас не устраивает данный результат?

Ну пока до грааля еще не дошли. 

Первый вопрос. Смотрите. Есть 3 дня  в виде  H4  свечей.

Есть диапазон прохода цены в эти 3 дня от самого Low до самого High - это диапазон цены 3-х дней.

Сеть прогнозирует следующий день, какой у него будет High и Low. Рисует этот квадрат дня на графике. 

 

По итогу имеем (например для Low), что есть фактический Low и прогнозный. 

Разница этих Low  - это насколько ошиблась сеть в прогнозе. 

Вот сравнение этой разницы со всем диапазоном прохода цены предыдущих  3  дней - и  есть погрешность. 

 

 

Что не устраивает...

1 . Если смотреть эту разницу (факт и прогноз) в отношении с диапазоном самого итогового дня, а не 3-х дневного диапазона, то в процентах 

погрешность будет больше. Просто изначально ориентировался на сравнение именно с входными данными. 

2. Чисто личный взгляд , что  только свечей за 3 дня для прогноза маловато, нужны еще данные. 

 

А, еще 3-й вопрос: "Т.е. более 88% направление входа угадано верно?".

Выше пояснил, что речь шла не о направлении, а о цене. 

Что касается именно направления - вот взял сентябрь и отметил , где на мой взгляд правильное направление прогнозирует - галочка, где нет - крест. Конечно, 88% нет.

Пока явно видно косяки - на разворотах цены. Выставляется прогноз на продолжение тренда, а цена разворачивается. 

 

Но также видно, где есть плюсы - хорошо реагирует на начало тренда (например с 22.09) и 2-го и 29 - но там трендики быстро сдулись. 

 

 

 

 

 

Изменено 2 октября, 2020 пользователем asbets

[usver73]

7 часов назад, asbets сказал:

1 . Если смотреть эту разницу (факт и прогноз) в отношении с диапазоном самого итогового дня, а не 3-х дневного диапазона, то в процентах 

погрешность будет больше. Просто изначально ориентировался на сравнение именно с входными данными. 

Если Вы прогнозируете диапазон следующего дня, то причем здесь исходные данные? 
ИМХО, сравнивать нужно прогноз/факт именно следующего за исходными данными дня.
Далее, не совсем понятно- как оценить ошибку прогнозирования, когда в прогнозе две цены..
На последнем графике в период с 18 по 25 сентября Вы все дни отметили галкой, т.е. прогноз сбылся?
Но ведь все прогнозируемые хаи не были даже близко достигнуты..! Это сродни утверждению "цена пойдет или вверх или вниз".
В общем- не понятно- какая функция ошибки прогнозирования применена. 
Отсюда "...ошибка 11,5%.." воспринимается как взятая из воздуха

[МихМих]

Привет! Нужны четкие критерии ошибки. Если процент верно угаданного направления изменения прогнозируемого выхода равен 75%, то ошибка такого прогноза составляет 25%. Заметьте, при этом в 3-х случаях из 4-х можно забирать ставку на обновление максимума, либо минимума. Достаточно ли этого? Ответ на этот вопрос зависит от сценария развития ситуации в прогнозируемом периоде. Обычно, нейросеть выдает прогноз на обновление максимума тогда, когда имелось хорошее движение вверх в предыдущий период и цена его закрытия находится близко от цены открытия прогнозной свечи. Потенциальная прибыль при формальном исполнении прогноза (обновлению максимума) может составлять от единиц, до нескольких десятков пунктов, а риск, с учетом средней исторической волатильности будет больше или равен потенциальной прибыли. Стоит ли игра на обновление свеч? Для меня - нет, поэтому я вхожу на обновление максимума только после снижения инструмента. В случае игры на обновления минимума - наоборот. Это общий принцип. Если пойти глубже, то необходимо отметить, что прогноз %Change High точнее по ошибке, выше по корреляции и точности исполнения (будет выше или ниже прежнего) тогда, когда High прогнозируется к снижению. Для Low - наоборот, т.е. к повышению. Следовательно, для получения максимального статистического преимущества продавать по прогнозу нужно тогда, когда: 1) High спрогнозирован вниз; 2) с начала периода состоялся  рост в район значений расчетного High; 3) цель в виде предыдущего Low достаточно далека. Покупать - по аналогии. Это то, что касается прогноза отдельно взятого тайм-фрейма.

Изменено 4 октября, 2020 пользователем МихМих

[asbets]

В 02.10.2020 в 18:48, usver73 сказал:

Если Вы прогнозируете диапазон следующего дня, то причем здесь исходные данные? 
ИМХО, сравнивать нужно прогноз/факт именно следующего за исходными данными дня.

Да, наверное, это более логично сравнивать с результатом, а не с диапазоном.

Спасибо за замечание. Посмотрю, как пересчитать.

Но поясню свою логику, почему делал именно так.

 

Ранее в этом посте писал ( https://tlap.com/forum/laboratoriya-profitfx/24/neyrosetevye-dela/21575/?tab=comments#comment-463390 )

" В НС есть ограничение – данные должны быть в нормализованном формате. т.е. от 0 до 1.

Для диапазона – 0 = LOW всего диапазона 18 свечей 4H, а  1 = High.

Но поскольку хай-лоу прогнозируемого  дня еще нет, подогнать их под нормализацию невозможно. "

 

Суть в том что, в случае, когда сеть "видит", что будет пробой и цена уйдет за диапазон, она не знает, где

остановится за диапазоном. Сеть ставит максимальное значение - либо 0 (вниз пробой) либо 1 (пробой вверх).

 

А вот здесь вы меня не правильно поняли:

"На последнем графике в период с 18 по 25 сентября Вы все дни отметили галкой, т.е. прогноз сбылся?
Но ведь все прогнозируемые хаи не были даже близко достигнуты..! Это сродни утверждению "цена пойдет или вверх или вниз"." 

 

Нет, этот график привел как  направление, а не прогноз цены (я там писал):

" Что касается именно направления - вот взял сентябрь и отметил "

Просто уже стал замечать, что когда сеть прогнозирует цену на границе диапазона - то вероятность,

что цена будет двигаться в этом направлении выше, чем в обратном.

Сорри. Надо было мне про это  сразу написать. 

Там как раз видно, что с 22 сентября цена валится, и сеть прогнозирует направление вниз, предлагая "0" , т.е. низ диапазона. 

 

Да, вы правы, хаи она в этот момент очень далеко ставит.

И  над этим надо работать. 

 

Вот на картинке пояснил про диапазон, и прорыв его на сл. день : 

 

 

"В общем- не понятно- какая функция ошибки прогнозирования применена. 
Отсюда "...ошибка 11,5%.." воспринимается как взятая из воздуха" 

Нет, она не с воздуха . 

Вот как это в цифрах. 

Out LowRes	Out HighRes	LowRes	HighRes	Разница Low	Разница High
0,1148	0,5222	0	0,24131	0,114	0,2809
0,12434	0,4770	0	0,29428	0,1243	0,1827
0,10744	0,5094	0	0,15242	0,1074	0,3570

Out LowRes  - прогноз сети по Low

Out HighRes - прогноз сети по High

LowRes      - фактический результат по Low

HighRes    -фактический результат по High

Разница Low - это и есть погрешность.  Разница High - погрешность по High.

Изменено 5 октября, 2020 пользователем asbets

[asbets]

В 03.10.2020 в 13:35, МихМих сказал:

Привет! Нужны четкие критерии ошибки. Если процент верно угаданного направления изменения прогнозируемого выхода равен 75%, то ошибка такого прогноза составляет 25%. Заметьте, при этом в 3-х случаях из 4-х можно забирать ставку на обновление максимума, либо минимума. Достаточно ли этого? Ответ на этот вопрос зависит от сценария развития ситуации в прогнозируемом периоде..... 

Могли бы пояснить как нибудь на графике. Не понял мысль. То ли понедельник, то ли туплю...:-)

[МихМих]

[usver73]

Если сеть выдаёт от 0 до 1, то, например, от 0 до 0.5 это Low, от 0.5 до 1 это high. Вроде это называется бинарный классификацией.

Можно посчитать ошибку предсказания.

Можно и дальше пойти: среднее значение,  допустим,  0.3-0.7 обозначить как неопределённое. 

[МихМих]

15 часов назад, usver73 сказал:

Если сеть выдаёт от 0 до 1, то, например, от 0 до 0.5 это Low, от 0.5 до 1 это high.

High  какого тайм-фрейма? Абсолютное числовое значение у него имеется?

 

15 часов назад, usver73 сказал:

Можно и дальше пойти: среднее значение,  допустим,  0.3-0.7 обозначить как неопределённое. 

Все уже придумано - промежуточные значения функции означают меньшую силу сигнала.

15 часов назад, usver73 сказал:

Вроде это называется бинарный классификацией.

Или распознавание образов ситуации к покупке, либо продаже.

[asbets]

В 05.10.2020 в 21:47, usver73 сказал:

Если сеть выдаёт от 0 до 1, то, например, от 0 до 0.5 это Low, от 0.5 до 1 это high. Вроде это называется бинарный классификацией.

Можно посчитать ошибку предсказания.

Можно и дальше пойти: среднее значение,  допустим,  0.3-0.7 обозначить как неопределённое. 

В данном проекте это не классификация, а прогноз.

Т.е.  0,75 - это цена в цифре = 0,75 от низа (который 0) и от 1 (который High). 

 

Сразу ответ на еще вопрос в : 

"High  какого тайм-фрейма? Абсолютное числовое значение у него имеется?" 

Таймфрейм H4.

Да, числовое значение имеется, иначе бы на графике низ-верх не нарисовался.

 

т.е. вот пример пересчета : 

На таймфрейме H4 в диапазоне 3 дней цена Low = 1.0500 , а цена High 1.0800. 

1. Считаем диапазон :  1.0800-1.0500 = 0.0300. Это весь диапазон 300  пунктов.

Тогда получается , что 0,75 = 1.0500+0.03*0.75 = 1.0725 цена (допустим это прогноз). 

А факт цена была 1.06.

Факт цена тоже пересчитывается в диапазон: (1.06-1.05)/0.03=0,33. 

 

Но есть нюанс. Когда цена уходит за диапазон, ей присваивается либо 1 (за верхом) либо 0 (за низом).

 

Изменено 9 октября, 2020 пользователем asbets

[МихМих]

Зачем брать трехдневный диапазон H4 для прогноза? На какой период времени действителен прогноз? Сколько примеров видит нейросеть?

[usver73]

5 часов назад, asbets сказал:

Факт цена тоже пересчитывается в диапазон: (1.06-1.05)/0.03=0,33. 

 

Но есть нюанс. Когда цена уходит за диапазон, ей присваивается либо 1 (за верхом) либо 0 (за низом).

 

Лень было перечитывать описание/начало - там наверно это описывалось... Отсюда неверная интерпретация Ваших изысканий.
Да, если результат прогноза НС некая цена, то два вопроса: цена чего?(подозреваю, что Close). Второй- откуда рисуются High-Low?
Если цена осталась в диапазоне "сигнальных" свеч, то ошибка считается традиционными способами (МихМих о них скриншотил)
И как рассчитывать ошибку при выходе из диапазона? (Этот вопрос Вы сами задали...)

 

1 час назад, МихМих сказал:

Зачем брать трехдневный диапазон H4 для прогноза? На какой период времени действителен прогноз? Сколько примеров видит нейросеть?

Думаю, здесь как раз кроется магия подбора фичей.

[МихМих]

30 минут назад, usver73 сказал:

Думаю, здесь как раз кроется магия подбора фичей.

Если брать тайм-фрейм Н4, то и прогноз нужно получать для Н4. Это значит, что торговать по прогнозу нужно каждые 4 часа. Меня смущает упоминание о трехдневном диапазоне. Что это - последовательность из 18 примеров? Учитывая, что на обучение должно идти 60% образцов, остальное на кросс-валидацию и тестирование, то каково качество выборки? 

[usver73]

Только что, МихМих сказал:

Учитывая, что на обучение должно идти 60% образцов, остальное на кросс-валидацию и тестирование, то каково качество выборки? 

Возможно автор взял 10к образцов трехдневных свечей Н4 в качестве фичей... мы ж не знаем

[asbets]

В 09.10.2020 в 17:39, МихМих сказал:

Зачем брать трехдневный диапазон H4 для прогноза? На какой период времени действителен прогноз? Сколько примеров видит нейросеть?

1. Почему 3 дня в виде H4? 

Раньше тестировалось много вариантов:

1. от 20 до 10 дневных свечей.

2. 40 свечей H4 

и еще много вариантов. 

 

Везде получалось (плюс минус небольшие отклонения), что прогноз заходил в погрешность около 10% от заданного диапазона.

Ну то есть получалось что 10 дней диапазон, что 40 - везде погрешность примерно 10%. Ну а  в пунктах 10 дней больше, чем 3 дня - это очевидно.  Но с другой стороны 3 дневных - это совсем мало данных для сети.

Поэтому пока тестирую этот вариант :  диапазон 3 дня , представленный в виде H4. 

Это не означает, что это лучше или хуже - просто надо было тут с чего -то начать.

 

2. Прогноз на 1 день.

 

3. Последний вариант обучения - 8582 записи, из них непосредственно на "обучение" отводится 78% (6700 примерно) и по 11%  на кросс-валидность и тест обучения.  

 

 

Изменено 13 октября, 2020 пользователем asbets

[asbets]

В 09.10.2020 в 19:54, usver73 сказал:

Да, если результат прогноза НС некая цена, то два вопроса: цена чего?(подозреваю, что Close). Второй- откуда рисуются High-Low?
Если цена осталась в диапазоне "сигнальных" свеч, то ошибка считается традиционными способами (МихМих о них скриншотил)
И как рассчитывать ошибку при выходе из диапазона? (Этот вопрос Вы сами задали...

Берутся цены во входные данные только High Low.

Сеть "отдает" прогноз по High и Low отдельно. 

 

Как рассчитать ошибку при выходе из диапазона? 

Пока в данном варианте проекта никак. 

 

Почему?  Опять вернусь к входным данным - сети нужны нормализованные данные,

т.е. в диапазоне от 0 до 1. Ибо математика так работает. 

Тут возникла дилемма - как подать данные. 

Было опять же несколько вариантов. 

Например такой

Можно было "сжать" входной диапазон (т.е. свечи H4) до цифр , например от 0,4 до 0,6.

Тогда, прогноз (итоговую дневную свечу), которая выходит ЗА диапазон можно было бы записать в виде 0,9 например.  Но опять же, могут возникнуть итоговые свечи, которые и за 1 опять же должны выйти.  

Т.е. математически  - если ширина диапазона = 0,2  от 0,4 до 0,6, а итоговая свеча шире диапазона в 3 раза - а такое может быть легко, когда цена 3 дня стоит узко , а потом улетает, то в итоге её надо записать как 0,6+3*0,2 = 1,2  ну или 0,4-3*0,2= -0,2. 

Но в этом варианте пытался что-то делать и совсем каких-то вменяемых результатов получить не удалось. 

 

Поэтому ПОКА остановился на этом варианте - всё что вышло за диапазон просто 1 или 0. 

Это опять же не догма. Просто пока так.  

 

 

 

Изменено 13 октября, 2020 пользователем asbets

[МихМих]

5 часов назад, asbets сказал:

Последний вариант обучения - 8582 записи, из них непосредственно на "обучение" отводится 78% (6700 примерно) и по 11%  на кросс-валидность и тест обучения.  

Проблема оптимальной выборки данных для обучения не имеет математического решения, только эмпирический подход. Если сеть на 8000 примерах показывает одинаковый результат с сетью на 500 примерах, то первая сеть должна быть более стабильна. Уменьшение количества примеров на кросс-валидацию и тестирование, как и подгон количества примеров под лучшие результаты на тесте, могут привести к перетренированности. Разработчики TS4 по умолчанию выставляют 60/20/20 и 5 летний диапазон для данных EOD.

 

5 часов назад, asbets сказал:

Берутся цены во входные данные только High Low.

Сеть "отдает" прогноз по High и Low отдельно. 

И это правильно. Я предпочитаю входить от недельных прогнозных экстремумов, хотя такая торговля не проста, куда надежнее контр-трендовый вход при пробое таких прогнозов, однако тогда количество входов резко уменьшается, можно неделями сидеть впустую.

[asbets]

В 13.10.2020 в 17:15, МихМих сказал:

Разработчики TS4 по умолчанию выставляют 60/20/20 и 5 летний диапазон для данных EOD.

Они же в хелпе по Нейросолюшн пишут : 

" A practical way to find a point of better generalization is to set aside a small percentage (around 10%) of the training set and use it for cross validation. ........  Cross validation is one of the most powerful methods to stop the training." 

 

Ну то есть, сколько выделять - это творческий процесс в разумных пределах :-) 

Изменено 18 октября, 2020 пользователем asbets

[ademen]

https://gitlab.com/karuzzo/anndotnet

Готовый продукт, открытый код 

Стоит внимания?

Изменено 1 января, 2021 пользователем ademen

[andy.lugansk]

4 часа назад, ademen сказал:

Готовый продукт, открытый код 

Он таки довел тему до какого-то результата...

Тема начиналась на этом форуме, а потом смутно помню, или неудачные попытки монетизации на грани фола (правил тлап), Толи какой-то почти конфликт с местным руководством....

Не помню деталей всех.

 

Помню что он ставил рекорды разгона на сТрейдере и ему робофорекс за такие дела отказал в обслуживании)) там были проценты прибыльности серьезные+сигналил.

Изменено 1 января, 2021 пользователем andy.lugansk