Projecte

General

Perfil

Accions

Millora #6808

tancat
AF JP

Implementar Matomo Analytics al DDD

Millora #6808: Implementar Matomo Analytics al DDD

Afegit per Anna Florensa fa aproximadament 4 anys. Actualitzat fa aproximadament 1 any.

Estat:
Tancada
Prioritat:
Normal
Assignat a:
Temàtica prevista:
Inici:
02-02-2022
Data de venciment:
08-09-2023
Paraula clau:

Descripció

Matomo és un software similar a Google Analytics per a la recollida i anàlisi de dades estadístiques de repositoris. OpenAire l'utitza.
Revisar la documentació per implementar-lo al DDD: https://hdl.handle.net/20.500.11967/857


Tasques relacionades 3 (1 oberta2 tancades)

relacionat amb DDD - Tasca #6894: Eliminar Google Analytics del DDDTancadaFerran Jorba15-02-202228-07-2022Accions
copiada a DDD - Tasca #8243: No apareixen correctament les estadístiques Matomo a Recolecta ni a La ReferenciaTancadaJavier Planella02-02-202208-09-2023Accions
copiada a DDD - Tasca #8244: Visualizar Matomo Analytics al DDDCreadaCarme Besson02-02-202231-07-2025Accions

CA Actualitzat per Cristina Azorin fa aproximadament 4 anys Accions #1

  • S'ha afegit relacionat amb Tasca #6894: Eliminar Google Analytics del DDD

CA Actualitzat per Cristina Azorin fa aproximadament 4 anys Accions #2

Abans el ID y el token eren visibles en el dashboard i ara s'ha de demanar (a Dimitris) que gestiona l'alta del repositori en matomo, que és aquest correu.

Dear Cristina Azorín,

we have received your request to enable the OpenAIRE usage statistics for your repository

Repository - Diposit Digital de Documents de la UAB, Spain (opendoar____::1404) Matomo ID - 574 Authentication token - 32846584f571be9b57488bf4088f30ea

In order to enable the usage statistics, you must install the OpenAIRE's tracking code in your repository software. OpenAIRE's usage statistics service tracking code is maintained on Github as a patch for various versions of DSpace (https://github.com/openaire/OpenAIRE-Piwik-DSpace) and as an Eprints plugin for version 3 (https://github.com/openaire/EPrints-OAPiwik). In case the platform is different from DSpace or EPrints please contact the OpenAIRE team in in order to find a solution.

For more information about your request and configuration details, go here:
https://provide.openaire.eu//getImpact/instructions/opendoar____::1404

Once you have finished configuring your repository or if you have any questions, please notify the OpenAIRE team by sending an email to

Best,
The OpenAIRE team

CA Actualitzat per Cristina Azorin fa aproximadament 4 anys Accions #3

  • Data de venciment ha canviat de 30-04-2022 a 30-12-2022

Sembla que OpenAIRE ha canviat de criteris i no vol les estadístiques de cada repositori sino un node nacional.

La Fecyt, a través de Recolecta, ha de fer aquest node i ha contractat una empresa per a fer la implementació.

Dins el Grup de Repositoris de Rebiun hi ha una acció oberta per a fer aquest traspàs d'estadístiques a Recolecta i ens han dit que ens necessiten per a fer proves amb repositoris que no siguin DSpace i que no estiguin encara a OpenAIRE. Ara, a més, tindríem el suport de l'empresa. Quan tingui més dades sobre l'empresa, els manuals... les posaré a la tasca; segurament no serà fins a finals de l'any, però no té gaire sentit treballar ara per OpenAIRE si hi ha la possibilitat de que no serveixi en el futur.

De moment aturem aquesta tasca. Javier, si pots anar-te familiaritzant amb el manual, estarà bé, però suposo que a l'hora de la implementació real hi haurà algun canvi.

CA Actualitzat per Cristina Azorin fa més de 3 anys Accions #4

Dear Participant,

On behalf of OpenAIRE-Nexus Project we would like to thank you all for your participation and interest in OpenAIRE UsageCounts Service webinar.
You may find the presentation and recordings here or:

• Recording: https://youtu.be/n0oHH9RE3Fs
• Slides: https://zenodo.org/record/6826981#.Ys62unbMJPZ

It’s important for us to have your feedback about this session, so please fill in this evaluation form – https://forms.gle/fmXqiYb3M15qGVcV9

CA Actualitzat per Cristina Azorin fa més de 3 anys Accions #5

Avui hem respost afirmativament a aquesta petició. Personalment em sembla estrany que OpenAIRE hagi fet un plugin per E-Prints i cap per Invenio (que és el que dona suport a Zenodo).

De: ANA MARIA POVEDA POVEDA <>
Enviat: dimarts, 12 de juliol de 2022 13:29
Per a: Cristina Azorin Millaruelo <>
A/c: Francisco Jesús Martínez Galindo <>
Tema: Estadísticas de La Referencia

Quería comentarte que nos hemos reunido con Lautaro Matas (La Referencia) y con FECYT para ver la instalación de Dspace-stats-collector en los repositorios que estamos en el proyecto piloto.

En la reunión surgió la duda de qué pasaba con otros SW de repositorios como e-Prints o Invenio.

En el caso de e-Prints lo van a solucionar adaptando el plugin que desarrolló OpenAIRE.

Para Invenio, nos han dicho que podrían hacer un desarrollo si existe algún repositorio interesado en hacer las pruebas con ellos, porque no saben cómo funciona Invenio, y hemos pensado en ti.

JP Actualitzat per Javier Planella fa més de 3 anys Accions #6

No se visualizan datos en el dashboard de Openaire:

As the repository is registered in OpenAIRE it should be able to access your dashboard in OpenAIRE PROVIDE, but there are an issue that is blocking the access. The OpenAIRE technical team is working on that in order to solve it.

We will inform you as soon as it’s solved.

JP Actualitzat per Javier Planella fa més de 3 anys Accions #7

Manual de Matomo:

https://repositoriorebiun.org/bitstream/handle/20.500.11967/857/Manual_Instalacion_Matomo_OpenAire.pdf?sequence=4&isAllowed=y

desarrollo generico en Python para plataformas diferentes de Dspace/Eprints:
https://github.com/openaire/Generic-Matomo-Tracker

Contacto con Maria Poveda/Jesus Martinez

JP Actualitzat per Javier Planella fa més de 3 anys Accions #8

Laura Matas (LaReferencia) dice:

hemos creado una solución para dspace que en un futuro podría ser adaptada para invenio.
Otra alternativa que se me ocurre para optimizar recursos es intentar aprovechar el desarrollo que ya están haciendo sobre el matomo tracker de OpenAIRE. Nosotros aceptamos cualquier forma de envio compatible con Matomo. Los requisitos mínimos son:

- poder enviar a un matomo de LA Referencia (otro distinto del openaire)
- poder agregar variables custom a cada evento enviado. El requisito mínimo es enviar el oai identifier del ítem accedido/descargado.

Si no recuerdo mal el generic tracker usa los logs de las aplicaciones para luego enviarlos usando el protocolo matomo. Las preguntas clave, en mi opinión son dos:
1. invenio puede volcar el oai identifier del item accedido al log?
2. el generic tracker puede enviar el identifier como una variable custom en cada evento?

FJ Actualitzat per Ferran Jorba fa més de 3 anys Accions #9

Vaig demanar si hi ha una versió en Python3 del processador genèric i resulta que sí: https://github.com/openaire/Generic-Matomo-Tracker/issues/4

JP Actualitzat per Javier Planella fa més de 3 anys Accions #10

Para la instalación y configuración hacen falta 2 parametros: opendoarID y el identificador del repositorio en el Matomo. La información es la siguiente:

Dipòsit Digital de Documents de la UAB

OpendoarID: 1404
Identificador Matomo: 133

JP Actualitzat per Javier Planella fa més de 3 anys Accions #11

Tracking HTTP API
https://developer.matomo.org/api-reference/tracking-api

FAQ importacion de datos:
https://matomo.org/faq/general/how-do-i-run-the-log-file-importer-script-with-default-options/

Script de importacion de logs en Matomo:
https://github.com/matomo-org/matomo-log-analytics/

Servidor donde está alojado Matomo (de LaReferencia)
https://matomo.lareferencia.info
Pendiente de que nos creen un usuario de desarrollo para verificar que llegan los datos

JP Actualitzat per Javier Planella fa més de 3 anys Accions #12

Se han subido datos de prueba al servidor de Matomo de LaReferencia

Guiilermo va a revisarlo, verificara si están los datos son suficientes

JP Actualitzat per Javier Planella fa més de 3 anys Accions #13

Prueba de envio 2500 datos a Matomo-Referencia de descargas de documentos de Enero de 2022.
Esperamos confirmacion de que los datos son los que necesitan

CA Actualitzat per Cristina Azorin fa aproximadament 3 anys Accions #14

  • Paraula clau s'ha establert a NCR

CA Actualitzat per Cristina Azorin fa aproximadament 3 anys Accions #15

  • Data de venciment ha canviat de 30-12-2022 a 28-02-2023

El 18 de gener en Javier va fer la consulta per saber com marcar la distinció entre consultes i descàrregues.

JP Actualitzat per Javier Planella fa aproximadament 3 anys Accions #16

Contacto de nuevo para que nos confirmen que el envio de está correcto

JP Actualitzat per Javier Planella fa aproximadament 3 anys Accions #17

  • Data de venciment ha canviat de 28-02-2023 a 28-04-2023

Despues de Semana Santa contactar de nuevo

CA Actualitzat per Cristina Azorin fa quasi 3 anys Accions #18

Els nostres identificadors a OpenAIRE són

To configure your repository to allow tracking in Matomo platform, please change the configuration files with the following parameters and values, generated for your site:

MatomoID
574
AuthenticationToken
32846584f571be9b57488bf4088f30ea

Els deixo aquí per si els necessitem

JP Actualitzat per Javier Planella fa quasi 3 anys Accions #19

Nos confirman:

Los datos recibidos de la UAB se ven correctos: tienen las variables personalizadas, el título del item cuando es vista, el enlace al bitstream cuando es descarga.

Se borran los datos de los eventos recibidos y procederemos al envio por completo del mes de enero 2022.
Con dichos datos se validaran las indexaciones en S3 y elasticsearch.

Es importante que se envien un máximo de 10000 eventos por hora

JP Actualitzat per Javier Planella fa quasi 3 anys Accions #20

Se envian a Matomo La Referencia los datos del mes de Enero de 2022 (unos 2600) para poder hacer tests de las siguientes etapas de procesamiento

Programacion en servidor de produccion
ddd@mompou:~/bin/matomo$
fichero de datos a procesar:
ddd@mompou:~/var/log/access_a2022_descarregues.log.gz

JP Actualitzat per Javier Planella fa quasi 3 anys Accions #21

Enviar datos con fecha anterior a 24 horas no era posible por un fallo del token en la configuración interna de Matomo
Nos facilitan un nuevo token (guardado en Bitwarden) y ahora ya es posible enviar los datos desde Enero de 2022

JP Actualitzat per Javier Planella fa més de 2 anys Accions #22

Se envian los primeros 8000 datos correspondientes a los dias 1 y 2 de Enero de 2022
Cuando confirmen que esta todo correcto se enviara en resto de año 2022

Nota: en bloques de 500

JP Actualitzat per Javier Planella fa més de 2 anys Accions #23

Programado en taltabull

Se enviaran aprox. 40.000 datos cada dia

JP Actualitzat per Javier Planella fa més de 2 anys Accions #24

Reprogramado script, de tal manera que se enviaran 500 datos cada 2 minutos, 15.000 la hora, 360.000 al dia (se cambia horario de 8 a 21:00 a las 24 horas)

Fecha prevista para finalizar envio de todo el año 2022: 14 de Julio

nota: el proceso de cada envio tarda aproximadamente 20 segundos

JP Actualitzat per Javier Planella fa més de 2 anys Accions #25

  • Data de venciment ha canviat de 28-04-2023 a 08-09-2023

JP Actualitzat per Javier Planella fa més de 2 anys Accions #26

LaReferencia asigna un nuevo Token: 4c7f0fd6d3c71c8f77b8488a563527c3

Procedemos al envio de los datos de Junio, Julio y Agosto de 2023 con el nuevo token. Mañana Miercoles 06/09 estarán todos los datos disponibles.

JP Actualitzat per Javier Planella fa més de 2 anys Accions #27

  • Estat ha canviat de En curs a Tancada

Se han acabado de enviar los datos hasta el 06/09/2023

Se programa el envio diariamente cada 10 minutos, desde las 01 hasta las 23, todos los dias

CA Actualitzat per Cristina Azorin fa més de 2 anys Accions #28

  • S'ha afegit copiada a Tasca #8243: No apareixen correctament les estadístiques Matomo a Recolecta ni a La Referencia

CA Actualitzat per Cristina Azorin fa més de 2 anys Accions #29

  • S'ha afegit copiada a Tasca #8244: Visualizar Matomo Analytics al DDD

CA Actualitzat per Cristina Azorin fa aproximadament 2 anys Accions #30

  • Paraula clau s'ha suprimit (NCR)

JP Actualitzat per Javier Planella fa aproximadament 1 any Accions #31

  • Estat ha canviat de Tancada a En curs

Fecyt informa:

Hemos comprobado que están teniendo problemas a la hora de visualizar las estadísticas (pantallazo). Además, hemos comprobado que él envió de datos está parado en enero.

JP Actualitzat per Javier Planella fa aproximadament 1 any Accions #32

  • Estat ha canviat de En curs a Tancada

Se cambiam parametros en la programacion.
Se empiezan a enviar los datos de forma retroactiva desde 1 de Enero de 2025.
Este proceso de completará hasta la fecha actual de forma progresiva, aproximadamente 24 horas

Accions

També disponible a: PDF Atom