Segmentación de instrumentos de Batería de murga Uruguaya

Introducción

Este proyecto se plantea como objetivo la captura de una base de datos de filmaciones estéreo de ejecuciones de redoblante y platillos de murga y el análisis de esta base de datos para la localización espacial del intérprete, las baquetas, el aro del redoblante y los platillos.

Este análisis podría ser aprovechado a futuro en la caracterización de golpes para una transcripción musical, clasificando en función de dónde y cómo ocurrieron dichos golpes.

Se decide tomar estos dos instrumentos ya que presentan dificultades distintas en su detección y el análisis del toque de bombo de murga resulta similar en parte al redoblante y también al de percusión de candombe analizado en años anteriores.

Objetivos

  • Calibración de las cámaras.

  • Detección de baquetas y aro del redoblante.

  • Detección de platillos.

  • Estimación de la pose del intérprete: manos y brazos.

  • Análisis de relevancia de la posición y el movimiento corporal para la ejecución de cada instrumento.

  • Creación base de datos (filmaciones estéreo) de ejecuciones de:

    • Redoblante

    • Platillos

  • Localizacion espacial de:

    • Intérprete

    • Baquetas

    • Aro del redoblante

    • Platillos

Métodos propuestos

Sobre imágenes estéreo a 240fps:

  • LSD

  • Detección de formas

  • Algoritmo de estimación de pose de brazos, manos y cabeza (ej: OpenCV OpenPose)

Areas de estudio

 Creación de base de datos

Se pone a disposición de la comunidad ejecuciones de platillos y redoblante de murga

Calibración de cámara

De camaras GoPro Hero3+ black edition, de lente muy abierto y gran distorsion radial

Detección de palos

Mediante distintos métodos se aborda el problema central para el análisis de una ejecución de redoblante

Detección del cuerpo del tocador

A través de implementaciones distintas de OpenPose, se analiza la información extraible

 Análisis de los platos

Deteccion de golpes y etiquetado a partir de mascara de color de sombras

Codigo en GitHub

Base de datos en Google Drive

Integrantes

Facundo Rosa

Estudiante de grado de la carrera Ingeniería Eléctrica - Facultad de Ingeniería - UdelaR - facundo.rosa@gmail.com

Ivan Meresman Higgs

Estudiante de grado de la carrera Ingeniería Eléctrica - Facultad de Ingeniería - UdelaR - ivan.meresman@gmail.com

Tutor: Álvaro Gómez 

Ingeniero y docente del Instituto de Ingeniería Eléctrica - Facultad de Ingeniería - agomez@fing.edu.uy

Proyecto Final - TImag 2019 - Facultad de Ingeniería - Universidad de la República - Uruguay
Creado con Webnode
CREADO CON WEBNODE ¿Te gusta esta página web? La tuya puede estar online hoy mismo. ¿Te gusta esta página web? La tuya puede estar online hoy mismo. Describe tu idea y la IA creará el primer borrador. Sin programar y gratis al empezar.