Millora #6808
tancatImplementar Matomo Analytics al DDD
Descripció
Matomo és un software similar a Google Analytics per a la recollida i anàlisi de dades estadístiques de repositoris. OpenAire l'utitza.
Revisar la documentació per implementar-lo al DDD: https://hdl.handle.net/20.500.11967/857
Tasques relacionades 3 (1 oberta — 2 tancades)
CA Actualitzat per Cristina Azorin fa aproximadament 4 anys
- S'ha afegit relacionat amb Tasca #6894: Eliminar Google Analytics del DDD
CA Actualitzat per Cristina Azorin fa aproximadament 4 anys
Abans el ID y el token eren visibles en el dashboard i ara s'ha de demanar (a Dimitris) que gestiona l'alta del repositori en matomo, que és aquest correu.
Dear Cristina Azorín,
we have received your request to enable the OpenAIRE usage statistics for your repository
Repository - Diposit Digital de Documents de la UAB, Spain (opendoar____::1404) Matomo ID - 574 Authentication token - 32846584f571be9b57488bf4088f30ea
In order to enable the usage statistics, you must install the OpenAIRE's tracking code in your repository software. OpenAIRE's usage statistics service tracking code is maintained on Github as a patch for various versions of DSpace (https://github.com/openaire/OpenAIRE-Piwik-DSpace) and as an Eprints plugin for version 3 (https://github.com/openaire/EPrints-OAPiwik). In case the platform is different from DSpace or EPrints please contact the OpenAIRE team in repositoryusagestats@openaire.eu in order to find a solution.
For more information about your request and configuration details, go here:
https://provide.openaire.eu//getImpact/instructions/opendoar____::1404
Once you have finished configuring your repository or if you have any questions, please notify the OpenAIRE team by sending an email to repositoryusagestats@openaire.eu
Best,
The OpenAIRE team
CA Actualitzat per Cristina Azorin fa aproximadament 4 anys
- Data de venciment ha canviat de 30-04-2022 a 30-12-2022
Sembla que OpenAIRE ha canviat de criteris i no vol les estadístiques de cada repositori sino un node nacional.
La Fecyt, a través de Recolecta, ha de fer aquest node i ha contractat una empresa per a fer la implementació.
Dins el Grup de Repositoris de Rebiun hi ha una acció oberta per a fer aquest traspàs d'estadístiques a Recolecta i ens han dit que ens necessiten per a fer proves amb repositoris que no siguin DSpace i que no estiguin encara a OpenAIRE. Ara, a més, tindríem el suport de l'empresa. Quan tingui més dades sobre l'empresa, els manuals... les posaré a la tasca; segurament no serà fins a finals de l'any, però no té gaire sentit treballar ara per OpenAIRE si hi ha la possibilitat de que no serveixi en el futur.
De moment aturem aquesta tasca. Javier, si pots anar-te familiaritzant amb el manual, estarà bé, però suposo que a l'hora de la implementació real hi haurà algun canvi.
CA Actualitzat per Cristina Azorin fa més de 3 anys
Dear Participant,
On behalf of OpenAIRE-Nexus Project we would like to thank you all for your participation and interest in OpenAIRE UsageCounts Service webinar.
You may find the presentation and recordings here or:
• Recording: https://youtu.be/n0oHH9RE3Fs
• Slides: https://zenodo.org/record/6826981#.Ys62unbMJPZ
It’s important for us to have your feedback about this session, so please fill in this evaluation form – https://forms.gle/fmXqiYb3M15qGVcV9
CA Actualitzat per Cristina Azorin fa més de 3 anys
Avui hem respost afirmativament a aquesta petició. Personalment em sembla estrany que OpenAIRE hagi fet un plugin per E-Prints i cap per Invenio (que és el que dona suport a Zenodo).
De: ANA MARIA POVEDA POVEDA <poveda@db.uc3m.es>
Enviat: dimarts, 12 de juliol de 2022 13:29
Per a: Cristina Azorin Millaruelo <Cristina.Azorin@uab.cat>
A/c: Francisco Jesús Martínez Galindo <pacomar@upv.es>
Tema: Estadísticas de La Referencia
Quería comentarte que nos hemos reunido con Lautaro Matas (La Referencia) y con FECYT para ver la instalación de Dspace-stats-collector en los repositorios que estamos en el proyecto piloto.
En la reunión surgió la duda de qué pasaba con otros SW de repositorios como e-Prints o Invenio.
En el caso de e-Prints lo van a solucionar adaptando el plugin que desarrolló OpenAIRE.
Para Invenio, nos han dicho que podrían hacer un desarrollo si existe algún repositorio interesado en hacer las pruebas con ellos, porque no saben cómo funciona Invenio, y hemos pensado en ti.
JP Actualitzat per Javier Planella fa més de 3 anys
No se visualizan datos en el dashboard de Openaire:
As the repository is registered in OpenAIRE it should be able to access your dashboard in OpenAIRE PROVIDE, but there are an issue that is blocking the access. The OpenAIRE technical team is working on that in order to solve it.
We will inform you as soon as it’s solved.
JP Actualitzat per Javier Planella fa més de 3 anys
Manual de Matomo:
desarrollo generico en Python para plataformas diferentes de Dspace/Eprints:
https://github.com/openaire/Generic-Matomo-Tracker
Contacto con Maria Poveda/Jesus Martinez
JP Actualitzat per Javier Planella fa més de 3 anys
Laura Matas (LaReferencia) dice:
hemos creado una solución para dspace que en un futuro podría ser adaptada para invenio.
Otra alternativa que se me ocurre para optimizar recursos es intentar aprovechar el desarrollo que ya están haciendo sobre el matomo tracker de OpenAIRE. Nosotros aceptamos cualquier forma de envio compatible con Matomo. Los requisitos mínimos son:
- poder enviar a un matomo de LA Referencia (otro distinto del openaire)
- poder agregar variables custom a cada evento enviado. El requisito mínimo es enviar el oai identifier del ítem accedido/descargado.
Si no recuerdo mal el generic tracker usa los logs de las aplicaciones para luego enviarlos usando el protocolo matomo. Las preguntas clave, en mi opinión son dos:
1. invenio puede volcar el oai identifier del item accedido al log?
2. el generic tracker puede enviar el identifier como una variable custom en cada evento?
FJ Actualitzat per Ferran Jorba fa més de 3 anys
Vaig demanar si hi ha una versió en Python3 del processador genèric i resulta que sí: https://github.com/openaire/Generic-Matomo-Tracker/issues/4
JP Actualitzat per Javier Planella fa més de 3 anys
Para la instalación y configuración hacen falta 2 parametros: opendoarID y el identificador del repositorio en el Matomo. La información es la siguiente:
Dipòsit Digital de Documents de la UAB
OpendoarID: 1404
Identificador Matomo: 133JP Actualitzat per Javier Planella fa més de 3 anys
Tracking HTTP API
https://developer.matomo.org/api-reference/tracking-api
FAQ importacion de datos:
https://matomo.org/faq/general/how-do-i-run-the-log-file-importer-script-with-default-options/
Script de importacion de logs en Matomo:
https://github.com/matomo-org/matomo-log-analytics/
Servidor donde está alojado Matomo (de LaReferencia)
https://matomo.lareferencia.info
Pendiente de que nos creen un usuario de desarrollo para verificar que llegan los datos
JP Actualitzat per Javier Planella fa més de 3 anys
Se han subido datos de prueba al servidor de Matomo de LaReferencia
Guiilermo va a revisarlo, verificara si están los datos son suficientes
JP Actualitzat per Javier Planella fa més de 3 anys
Prueba de envio 2500 datos a Matomo-Referencia de descargas de documentos de Enero de 2022.
Esperamos confirmacion de que los datos son los que necesitan
CA Actualitzat per Cristina Azorin fa aproximadament 3 anys
- Paraula clau s'ha establert a NCR
CA Actualitzat per Cristina Azorin fa aproximadament 3 anys
- Data de venciment ha canviat de 30-12-2022 a 28-02-2023
El 18 de gener en Javier va fer la consulta per saber com marcar la distinció entre consultes i descàrregues.
JP Actualitzat per Javier Planella fa aproximadament 3 anys
Contacto de nuevo para que nos confirmen que el envio de está correcto
JP Actualitzat per Javier Planella fa aproximadament 3 anys
- Data de venciment ha canviat de 28-02-2023 a 28-04-2023
Despues de Semana Santa contactar de nuevo
CA Actualitzat per Cristina Azorin fa quasi 3 anys
Els nostres identificadors a OpenAIRE són
To configure your repository to allow tracking in Matomo platform, please change the configuration files with the following parameters and values, generated for your site:
MatomoID
574
AuthenticationToken
32846584f571be9b57488bf4088f30ea
Els deixo aquí per si els necessitem
JP Actualitzat per Javier Planella fa quasi 3 anys
Nos confirman:
Los datos recibidos de la UAB se ven correctos: tienen las variables personalizadas, el título del item cuando es vista, el enlace al bitstream cuando es descarga.
Se borran los datos de los eventos recibidos y procederemos al envio por completo del mes de enero 2022.
Con dichos datos se validaran las indexaciones en S3 y elasticsearch.
Es importante que se envien un máximo de 10000 eventos por hora
JP Actualitzat per Javier Planella fa quasi 3 anys
Se envian a Matomo La Referencia los datos del mes de Enero de 2022 (unos 2600) para poder hacer tests de las siguientes etapas de procesamiento
Programacion en servidor de produccion
ddd@mompou:~/bin/matomo$
fichero de datos a procesar:
ddd@mompou:~/var/log/access_a2022_descarregues.log.gz
JP Actualitzat per Javier Planella fa quasi 3 anys
Enviar datos con fecha anterior a 24 horas no era posible por un fallo del token en la configuración interna de Matomo
Nos facilitan un nuevo token (guardado en Bitwarden) y ahora ya es posible enviar los datos desde Enero de 2022
JP Actualitzat per Javier Planella fa més de 2 anys
Se envian los primeros 8000 datos correspondientes a los dias 1 y 2 de Enero de 2022
Cuando confirmen que esta todo correcto se enviara en resto de año 2022
Nota: en bloques de 500
JP Actualitzat per Javier Planella fa més de 2 anys
Programado en taltabull
Se enviaran aprox. 40.000 datos cada dia
JP Actualitzat per Javier Planella fa més de 2 anys
Reprogramado script, de tal manera que se enviaran 500 datos cada 2 minutos, 15.000 la hora, 360.000 al dia (se cambia horario de 8 a 21:00 a las 24 horas)
Fecha prevista para finalizar envio de todo el año 2022: 14 de Julio
nota: el proceso de cada envio tarda aproximadamente 20 segundos
JP Actualitzat per Javier Planella fa més de 2 anys
- Data de venciment ha canviat de 28-04-2023 a 08-09-2023
JP Actualitzat per Javier Planella fa més de 2 anys
LaReferencia asigna un nuevo Token: 4c7f0fd6d3c71c8f77b8488a563527c3
Procedemos al envio de los datos de Junio, Julio y Agosto de 2023 con el nuevo token. Mañana Miercoles 06/09 estarán todos los datos disponibles.
JP Actualitzat per Javier Planella fa més de 2 anys
- Estat ha canviat de En curs a Tancada
Se han acabado de enviar los datos hasta el 06/09/2023
Se programa el envio diariamente cada 10 minutos, desde las 01 hasta las 23, todos los dias
CA Actualitzat per Cristina Azorin fa més de 2 anys
- S'ha afegit copiada a Tasca #8243: No apareixen correctament les estadístiques Matomo a Recolecta ni a La Referencia
CA Actualitzat per Cristina Azorin fa més de 2 anys
- S'ha afegit copiada a Tasca #8244: Visualizar Matomo Analytics al DDD
CA Actualitzat per Cristina Azorin fa aproximadament 2 anys
- Paraula clau s'ha suprimit (
NCR)
JP Actualitzat per Javier Planella fa aproximadament 1 any
- Estat ha canviat de Tancada a En curs
Fecyt informa:
Hemos comprobado que están teniendo problemas a la hora de visualizar las estadísticas (pantallazo). Además, hemos comprobado que él envió de datos está parado en enero.
JP Actualitzat per Javier Planella fa aproximadament 1 any
- Estat ha canviat de En curs a Tancada
Se cambiam parametros en la programacion.
Se empiezan a enviar los datos de forma retroactiva desde 1 de Enero de 2025.
Este proceso de completará hasta la fecha actual de forma progresiva, aproximadamente 24 horas