Segmentación de instrumentos de Batería de murga Uruguaya

Introducción

Este proyecto se plantea como objetivo la captura de una base de datos de filmaciones estéreo de ejecuciones de redoblante y platillos de murga y el análisis de esta base de datos para la localización espacial del intérprete, las baquetas, el aro del redoblante y los platillos.

Este análisis podría ser aprovechado a futuro en la caracterización de golpes para una transcripción musical, clasificando en función de dónde y cómo ocurrieron dichos golpes.

Se decide tomar estos dos instrumentos ya que presentan dificultades distintas en su detección y el análisis del toque de bombo de murga resulta similar en parte al redoblante y también al de percusión de candombe analizado en años anteriores.

Objetivos

  • Calibración de las cámaras.

  • Detección de baquetas y aro del redoblante.

  • Detección de platillos.

  • Estimación de la pose del intérprete: manos y brazos.

  • Análisis de relevancia de la posición y el movimiento corporal para la ejecución de cada instrumento.

  • Creación base de datos (filmaciones estéreo) de ejecuciones de:

    • Redoblante

    • Platillos

  • Localizacion espacial de:

    • Intérprete

    • Baquetas

    • Aro del redoblante

    • Platillos

Métodos propuestos

Sobre imágenes estéreo a 240fps:

  • LSD

  • Detección de formas

  • Algoritmo de estimación de pose de brazos, manos y cabeza (ej: OpenCV OpenPose)

Areas de estudio

 Creación de base de datos

Se pone a disposición de la comunidad ejecuciones de platillos y redoblante de murga

Calibración de cámara

De camaras GoPro Hero3+ black edition, de lente muy abierto y gran distorsion radial

Detección de palos

Mediante distintos métodos se aborda el problema central para el análisis de una ejecución de redoblante

Detección del cuerpo del tocador

A través de implementaciones distintas de OpenPose, se analiza la información extraible

 Análisis de los platos

Deteccion de golpes y etiquetado a partir de mascara de color de sombras

Codigo en GitHub

Base de datos en Google Drive

Integrantes

Facundo Rosa

Estudiante de grado de la carrera Ingeniería Eléctrica - Facultad de Ingeniería - UdelaR - facundo.rosa@gmail.com

Ivan Meresman Higgs

Estudiante de grado de la carrera Ingeniería Eléctrica - Facultad de Ingeniería - UdelaR - ivan.meresman@gmail.com

Tutor: Álvaro Gómez 

Ingeniero y docente del Instituto de Ingeniería Eléctrica - Facultad de Ingeniería - agomez@fing.edu.uy

Proyecto Final - TImag 2019 - Facultad de Ingeniería - Universidad de la República - Uruguay
Creado con Webnode
¡Crea tu página web gratis! Esta página web fue creada con Webnode. Crea tu propia web gratis hoy mismo! Comenzar