Segmentación de instrumentos de Batería de murga Uruguaya
Introducción
Este proyecto se plantea como objetivo la captura de una base de datos de filmaciones estéreo de ejecuciones de redoblante y platillos de murga y el análisis de esta base de datos para la localización espacial del intérprete, las baquetas, el aro del redoblante y los platillos.
Este análisis podría ser aprovechado a futuro en la caracterización de golpes para una transcripción musical, clasificando en función de dónde y cómo ocurrieron dichos golpes.
Se decide tomar estos dos instrumentos ya que presentan dificultades distintas en su detección y el análisis del toque de bombo de murga resulta similar en parte al redoblante y también al de percusión de candombe analizado en años anteriores.
Objetivos
Calibración de las cámaras.
Detección de baquetas y aro del redoblante.
Detección de platillos.
Estimación de la pose del intérprete: manos y brazos.
Análisis de relevancia de la posición y el movimiento corporal para la ejecución de cada instrumento.
Creación base de datos (filmaciones estéreo) de ejecuciones de:
Redoblante
Platillos
Localizacion espacial de:
Intérprete
Baquetas
Aro del redoblante
Platillos
Métodos propuestos
Sobre imágenes estéreo a 240fps:
LSD
Detección de formas
Algoritmo de estimación de pose de brazos, manos y cabeza (ej: OpenCV OpenPose)
Areas de estudio
Creación de base de datos
Se pone a disposición de la comunidad ejecuciones de platillos y redoblante de murga
Calibración de cámara
De camaras GoPro Hero3+ black edition, de lente muy abierto y gran distorsion radialDetección de palos
Mediante distintos métodos se aborda el problema central para el análisis de una ejecución de redoblante
Detección del cuerpo del tocador
A través de implementaciones distintas de OpenPose, se analiza la información extraible
Análisis de los platos
Deteccion de golpes y etiquetado a partir de mascara de color de sombrasCodigo en GitHub
Base de datos en Google Drive
Integrantes

Facundo Rosa
Estudiante de grado de la carrera Ingeniería Eléctrica - Facultad de Ingeniería - UdelaR - facundo.rosa@gmail.com

Ivan Meresman Higgs
Estudiante de grado de la carrera Ingeniería Eléctrica - Facultad de Ingeniería - UdelaR - ivan.meresman@gmail.com