Usando Power BI para Datos Históricos

Todo sobre los proveedores de datos en tiempo real.
Responder
Avatar de Usuario
Fercho
Mensajes: 49
Registrado: 05 Ene 2022 13:48

Usando Power BI para Datos Históricos

Mensaje por Fercho »

Hola elarvi, muy buen dato lo de ForexTester, y la verdad que la subsripción de por vida si realmente son datos de calidad, no esta nada mal el precio comparado con otros servicios como Tickdata LCC que pide unos 21 mil usd por un pack de datos M1 :shock:

¿ Porqué dices que no se puede pegar en Excel ? ¿ por la cantidad de datos ? en ese caso prueba con el complemento PowerPivot de Excel, hay muchísimo video en youtube de cómo usarlo. He cargado más de 10 millones de filas en menos de 20 segundos. Luego el formuleo es bien parecido a Excel, nada más que en inglés y hay que tratar cada columna como un todo, es decir como si metieramos en una celda 10 millones de celdas. Lo bueno luego es que en Excel abres tablas dinámicas en un par de clics y resuelves toda la información, gráficos etc, sin formulear más nada. Muy potente.

De momento estoy haciendo tests con datos históricos para 21 pares en M1 desde 1986 hasta el 2013, cuando le pueda sacar un duro a esos años vuelvo al presente y me suscribo a algun proveedor fiable, que por lo que he visto más o menos todos los de bajo coste/grátis tienen información parecida (y no me fio mucho..), igual nada el forex tiene eso, hay muchísima diferencia de un proveedor a otro...

Saludos!

Esta conversación viene de este hilo:

viewtopic.php?t=15611
"Los números son como prisioneros de guerra, cuanto más los sacudes, más información te dan"
elarvi
Mensajes: 227
Registrado: 22 Mar 2022 16:47

Re: Base de datos de forex

Mensaje por elarvi »

Fercho escribió: 27 Feb 2023 14:47 Hola elarvi, muy buen dato lo de ForexTester, y la verdad que la subsripción de por vida si realmente son datos de calidad, no esta nada mal el precio comparado con otros servicios como Tickdata LCC que pide unos 21 mil usd por un pack de datos M1 :shock:

¿ Porqué dices que no se puede pegar en Excel ? ¿ por la cantidad de datos ? en ese caso prueba con el complemento PowerPivot de Excel, hay muchísimo video en youtube de cómo usarlo. He cargado más de 10 millones de filas en menos de 20 segundos. Luego el formuleo es bien parecido a Excel, nada más que en inglés y hay que tratar cada columna como un todo, es decir como si metieramos en una celda 10 millones de celdas. Lo bueno luego es que en Excel abres tablas dinámicas en un par de clics y resuelves toda la información, gráficos etc, sin formulear más nada. Muy potente.

De momento estoy haciendo tests con datos históricos para 21 pares en M1 desde 1986 hasta el 2013, cuando le pueda sacar un duro a esos años vuelvo al presente y me suscribo a algun proveedor fiable, que por lo que he visto más o menos todos los de bajo coste/grátis tienen información parecida (y no me fio mucho..), igual nada el forex tiene eso, hay muchísima diferencia de un proveedor a otro...

Saludos!
Buenas, pues desconocía que con PowerPivot se podía manejar tanta información, lo echaré un vistazo, porque quería montar una estadística con el PoC y no se me ocurría de dónde sacar el dato sino haciéndolo yo... para 10 años de cotización, tic a tic, me salen 211 millones de datos, jejeje....

Hasta el momento he intentado sacar estadísticas de datos y cuando tomas series históricas de tantos años, la cosa cambia mucho, pues las condiciones económicas de hace 30 años, no son las de ahora, pero bueno, como curiosidad te puede valer.

No se si conoces programas como Forex Strategy Buider, te optimizan estrategias, pero son tan perfecto que te optimizan estrategias para determinados períodos, que si intentas llevar a otro activo ... no funcionan, no se, es un mundo complicado, jejeje....

Un saludo y gracias por responder.
Avatar de Usuario
Fercho
Mensajes: 49
Registrado: 05 Ene 2022 13:48

Re: Base de datos de forex

Mensaje por Fercho »

Le pregunté a Google..

"Power Pivot uses the data stored in the Data Model of Excel. And this data model so huge that it can contain 2,147,483,647 tables and each of those table can have 2,147,483,647 columns and 1,999,999,997 rows. That makes many million Rows of data."

Asique parece que sin problemas para 211 millones de filas :D

He probado Adaptrade Builder solamente, y la verdad que no le he encontrado la vuelta.. :?

Ninjatrader 8 también trae un generador de estrategias, y es gratis, igual no me puesto seriamente con generadores de estrategias más que un par de dias, es como que al final lo veo todo muy curve fitting y falto de lógica para mi gusto, pero bueno, es muy probable que me falte experiencia en el tema :lol:
"Los números son como prisioneros de guerra, cuanto más los sacudes, más información te dan"
elarvi
Mensajes: 227
Registrado: 22 Mar 2022 16:47

Re: Base de datos de forex

Mensaje por elarvi »

Fercho escribió: 01 Mar 2023 20:35 Le pregunté a Google..

"Power Pivot uses the data stored in the Data Model of Excel. And this data model so huge that it can contain 2,147,483,647 tables and each of those table can have 2,147,483,647 columns and 1,999,999,997 rows. That makes many million Rows of data."

Asique parece que sin problemas para 211 millones de filas :D

He probado Adaptrade Builder solamente, y la verdad que no le he encontrado la vuelta.. :?

Ninjatrader 8 también trae un generador de estrategias, y es gratis, igual no me puesto seriamente con generadores de estrategias más que un par de dias, es como que al final lo veo todo muy curve fitting y falto de lógica para mi gusto, pero bueno, es muy probable que me falte experiencia en el tema :lol:
Pues tenías razón, la verdad es que no parece muy complicado, me tengo que familiarizar con el entorno, pero con la información al tic, me resulta más fácil calcular de un modo exacto el PoC, pues unos de los problemas que tengo era que no tenía información histórica del PoC para elaborar estadísticas.

Mil gracias, cada día en este foro se aprende algo nuevo.
elarvi
Mensajes: 227
Registrado: 22 Mar 2022 16:47

Re: Base de datos de forex

Mensaje por elarvi »

Fercho escribió: 01 Mar 2023 20:35 Le pregunté a Google..

"Power Pivot uses the data stored in the Data Model of Excel. And this data model so huge that it can contain 2,147,483,647 tables and each of those table can have 2,147,483,647 columns and 1,999,999,997 rows. That makes many million Rows of data."

Asique parece que sin problemas para 211 millones de filas :D

He probado Adaptrade Builder solamente, y la verdad que no le he encontrado la vuelta.. :?

Ninjatrader 8 también trae un generador de estrategias, y es gratis, igual no me puesto seriamente con generadores de estrategias más que un par de dias, es como que al final lo veo todo muy curve fitting y falto de lógica para mi gusto, pero bueno, es muy probable que me falte experiencia en el tema :lol:
Buenas...

Sigo trasteando con Power Pivot, aunque a decir verdad estoy con Power BI que la base es la misma y me sirve para más cosas, quizás en teoría acepte millones de datos, pero tiene una limitación en cuanto al tamaño del archivo input, no puede superar los 2 GB, pero también lo superado, he troceado la base de datos en archivos inferiores a esa cantidad y asunto resuelto, construyo la base de datos total a partir de cada uno de los fragmentos.

Respecto a los generadores de estrategias, sirven de ayuda, pero tengo la sensación que la excesiva sobreparametrización de los indicadores sólo te lleva a sólo funciona para ese activo y para el periodo analizado, si la intentas llevar a futuro, no se en qué medida se cumplirá. Salvo que sea una curva realmente buena, muy lineal, sin saltos, etc.

Un saludo.

Avatar de Usuario
Fercho
Mensajes: 49
Registrado: 05 Ene 2022 13:48

Re: Base de datos de forex

Mensaje por Fercho »

Que tal Elarvi!

Me alegro que te haya sido de utilidad, tienes razón con Power Bi puedes hacer más cosas, yo no he salido de Power Pivot, de momento me sobra para lo que vengo trabajando, quizás expandiendo horizontes en un futuro lo necesite... 8)

Tienes razón con respecto al límite de 2GB por archivo, he hecho una prueba y me ha salido el aviso de restricción: "...No se puede completar la consulta. El resultado de la consulta tiene un tamaño superior al tamaño máximo de una base de datos (2 GB)..." :oops:

Lo que se me ocurre es dividir el archivo en partes de un max de 2GB y luego establecer relaciones,

"Los números son como prisioneros de guerra, cuanto más los sacudes, más información te dan"
Avatar de Usuario
X-Trader
Administrador
Mensajes: 12850
Registrado: 06 Sep 2004 10:18
Contactar:

Re: Base de datos de forex

Mensaje por X-Trader »

@Elarvi y @Fercho, quizás sería buena idea abrir un hilo aparte sobre PowerBI y sus aplicaciones, ¿cómo lo veis? Si queréis lo creo a partir del post que me digáis con el título que queráis, ya me decís, gracias.

Saludos,
X-Trader
"Los sistemas de trading pueden funcionar en ciertas condiciones de mercado todo el tiempo, en todas las condiciones de mercado en algún momento del tiempo, pero nunca en todas las condiciones de mercado todo el tiempo."
Avatar de Usuario
Fercho
Mensajes: 49
Registrado: 05 Ene 2022 13:48

Re: Base de datos de forex

Mensaje por Fercho »

X-Trader escribió: 13 Mar 2023 10:41 @Elarvi y @Fercho, quizás sería buena idea abrir un hilo aparte sobre PowerBI y sus aplicaciones, ¿cómo lo veis? Si queréis lo creo a partir del post que me digáis con el título que queráis, ya me decís, gracias.

Saludos,
X-Trader
:arrow: Sería un gran honor @X-Trader! sé algunas cosas de Power Pivot, me he puesto con los artículos de Marcov de Oscar C. sobre todo, hasta podríamos hacer un mix, Markov en PowerPivot
"Los números son como prisioneros de guerra, cuanto más los sacudes, más información te dan"
Avatar de Usuario
X-Trader
Administrador
Mensajes: 12850
Registrado: 06 Sep 2004 10:18
Contactar:

Re: Base de datos de forex

Mensaje por X-Trader »

Fercho escribió: 13 Mar 2023 14:03 :arrow: Sería un gran honor @X-Trader! sé algunas cosas de Power Pivot, me he puesto con los artículos de Marcov de Oscar C. sobre todo, hasta podríamos hacer un mix, Markov en PowerPivot
¡Hecho!

Y genial lo de Markov, a ver qué te sale ;) :smt023

Saludos,
X-Trader
"Los sistemas de trading pueden funcionar en ciertas condiciones de mercado todo el tiempo, en todas las condiciones de mercado en algún momento del tiempo, pero nunca en todas las condiciones de mercado todo el tiempo."
elarvi
Mensajes: 227
Registrado: 22 Mar 2022 16:47

Re: Usando Power BI para Datos Históricos

Mensaje por elarvi »

No se te escapa una @X-Trader, mil gracias.

@Fercho, no sé si conoces mi pasión por el FDAX, pero hice una cadena de markov utilizando volumen, vdax-new y un par de cosas más... lo busco y te comparto resultados.

Un saludo.
Avatar de Usuario
Fercho
Mensajes: 49
Registrado: 05 Ene 2022 13:48

Re: Usando Power BI para Datos Históricos

Mensaje por Fercho »

hola @elarvi ! no, no sabía lo de tu pasión por el vda-new, cuando quieras ! todo suma ! yo ni bien termine un par de cosas publico un videito tipo youtube que será el primero de la serie,
(esperemos que Netflix no la cancele antes).. vamos encendiendo motores :-D
"Los números son como prisioneros de guerra, cuanto más los sacudes, más información te dan"
Si te ha gustado este hilo del Foro, ¡compártelo en redes!


Responder

Volver a “Data Feeds e Históricos”