@mastersthesis {161, title = {El enfoque IBMAP para aprendizaje de estructuras de redes de Markov}, volume = {Doctorado en Ciencias de la Computaci{\'o}n (PhD in Computer Science)}, year = {2014}, month = {11/2014}, pages = {138}, type = {Doctorado}, abstract = {

Las redes de Markov\ son modelos probabil{\'\i}sticos gr{\'a}ficos,\ una herramienta computacional para el modelado eficiente de distribuciones de probabilidad\ que utiliza grafos para facilitar la representaci{\'o}n de problemas complejos.\ Estos modelos han sido dise{\~n}ados para ser manipulados por sistemas expertos,\ utilizando la teor{\'\i}a de la probabilidad para razonar eficientemente bajo condiciones de incertidumbre.\ Sin embargo, una limitaci{\'o}n importante para el uso de estos modelos es que en la pr{\'a}ctica\ resulta complejo dise{\~n}arlos manualmente, ya que el conocimiento de expertos no siempre es suficiente,\ sumado al hecho de que muchos dominios reales poseen una gran dimensionalidad.\ Por esto, el aprendizaje\ de estos modelos a partir de datos\ es un t{\'o}pico que ha tomado gran relevancia, ya que la disponibilidad de datos digitales es cada vez mayor,\ resultando adem{\'a}s en un mecanismo interesante para descubrir nuevo conocimiento a partir de datos digitales.

En este trabajo, la investigaci{\'o}n se centra en un enfoque espec{\'\i}fico de\ aprendizaje de redes de Markov:\ los algoritmos basados en independencia.\ Estos algoritmos est{\'a}n dise{\~n}ados para aprender la estructura de independencias del modelo,\ que es la componente que codifica de un modo compacto el conocimiento sobre la distribuci{\'o}n.\ Los algoritmos basados en independencia han sido dise{\~n}ados bajo lineamientos te{\'o}ricos\ que permiten aprender la estructura de un modo eficiente y robusto, a partir de\ la ejecuci{\'o}n de un conjunto de tests estad{\'\i}sticos de independencia\ sobre los datos.\ Com{\'u}nmente, los resultados de dichos tests son utilizados como restricciones\ que gu{\'\i}an una b{\'u}squeda en el espacio de las estructuras de independencia posibles,\ convergiendo a una estructura que satisface los resultados de todos los tests.\ Estos algoritmos garantizan que la estructura aprendida es correcta\ bajo la suposici{\'o}n de que los tests estad{\'\i}sticos son confiables.\ No obstante, un hecho muy com{\'u}n en la pr{\'a}ctica suele ser que los datos disponibles no son suficientes para obtener resultados correctos desde los tests estad{\'\i}sticos.\ Cuando esto sucede, los algoritmos basados en independencia\ acumulan y propagan suposiciones de\ independencia incorrectas,\ resultando en un aprendizaje con gran cantidad de errores estructurales.\ Este hecho, que resulta en una limitaci{\'o}n de real importancia\ a la hora de aplicar esta tecnolog{\'\i}a,\ es la motivaci{\'o}n de la presente tesis.

En este trabajo se presenta el enfoque de m{\'a}ximo a posteriori basado en independencias\ para aprendizaje de estructuras de redes de Markov (IBMAP, del ingl{\'e}s independence-based maximum-a-posteriori).\ Dado que los algoritmos tradicionales descartan la estructura correcta cada vez que ejecutan\ un test err{\'o}neo, se propone un enfoque que asigna probabilidades a las distintas estructuras,\ sin descartar ninguna. Para esto, se propone una funci{\'o}n de puntaje de estructuras basada en tests estad{\'\i}sticos denominada IB-score\ (puntaje basado en independencias).\ Esta funci{\'o}n permite computar de un modo aproximado la probabilidad a posteriori\ de una estructura dados los datos Pr(G|D), combinando los resultados de un conjunto de tests estad{\'\i}sticos.\ De este modo, las diferentes estructuras poseen un puntaje m{\'a}s alto o m{\'a}s bajo seg{\'u}n\ las probabilidades de las independencias que codifican.\ En resumen, el enfoque propuesto consiste en la maximizaci{\'o}n de la funci{\'o}n IB-score sobre el espacio de todas las estructuras posibles.\ A modo de instanciaci{\'o}n de este enfoque se presenta una srie de algoritmos que maximizan dicha funci{\'o}n\ con diversos mecanismos de optimizaci{\'o}n.\ 

Para validar el enfoque se evalu{\'o} el desempe{\~n}o de las distintas instanciaciones de la b{\'u}squeda,\ evaluando la calidad de las estructuras aprendidas con respecto\ a algoritmos basados en independencia que pertenecen al estado del arte.\ Se presentan resultados sistem{\'a}ticos sobre una gran variedad de dimensiones del problema,\ demostrando que este enfoque permite mejorar significativamente la calidad de las estructuras aprendidas.\ Se demuestra tambi{\'e}n que dichas mejoras pueden obtenerse a un costo computacional\ competitivo respecto de los algoritmos del estado del arte.\ Dicha experimentaci{\'o}n fue llevada a cabo sobre datos sint{\'e}ticos y datos del mundo real, y en una aplicaci{\'o}n de aprendizaje de estructuras para algoritmos evolutivos.

}, author = {Schl{\"u}ter, Federico and Bromberg, Facundo} }