¡Descarga Tesis de Electrónica y más Esquemas y mapas conceptuales en PDF de Electrónica solo en Docsity!
DeDessaarrrroolllloo dede didiffeerreenntteess méméttooddooss dede
se selleecccciióónn dede vavarriiaabblleess paparraa sisisstteemmaass
mu mullttiisseennssoorriiaalleess
Autor:
Oscar Eduardo Gualdrón Guerrero
Directores:
Dr. Eduard Llobet Valero
Dr. Jesús Brezmes Llecha
Escola Tècnica Superior D’ Enginyeria
Departament D`Enginyeria Electrònica Elèctrica I Automàtica
Universitat Rovira I Virgili
Tarragona (España), 12 de Septiembre de 2006
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
Índice
PREFACIO….………………….………………………………………………..……….. ix Agradecimientos………………………………………………………………….. xii
v
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES
vii DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES
- INTRODUCCION……………………………………………………………………… Resumen……………………………………………………………….................. xiii
- 1.1 Motivación………………………………………………………………………
- 1.2 Objetivos….……………………………………………………………………
- 1.3 Organización de la memoria…….……………………………………………..
- 1.4 Referencias………………………………………………………………………
- ESTADO DEL ARTE…………………………………....……………………………. - 2.1 Introducción…………………………………………………………..............
- 2.2 Nociones básicas sobre sistemas de olfato electrónico…..........................…. - 2.2.1 El sistema de olfato humano…………………………………….............. - 2.2.2 Paralelismo con el sistema de olfato artificial……..............…………… - 2.2.3 Módulos básicos y secuencia de trabajo………….....………………….. - 2.2.4 Ventajas de los sistemas de olfato electrónico……......……………..…. - 2.2.5 Limitaciones actuales de las narices electrónicas……......………..……. - 2.2.5.1 Lentitud entre medidas………….................……………………… - 2.2.5.2 Deriva de los sensores………….............…………………....…… - 2.2.5.3 Baja sensibilidad y selectividad……………….......................…… - 2.2.5.4 Conjunto de entrenamiento elevado….............…………………… - 2.3 Sistemas de Olfato Electrónico basados en Espectrometría de masas…. - 2.3.1 Partes de un espectrómetro de masas…………………....................….. - 2.3.1.1 Entrada……………..........……………………………………… - 2.3.1.2 Ionización……………...........…………………………………... - 2.3.1.3 Aceleración…………...........…………………………………….. - 2.3.1.4 Análisis………………...........…………………………………… - 2.3.1.5 Detección…………...........……………………………………….
- ISBN:978-84-693-4070-7/DL:T-1167- Oscar Eduardo Gualdron Guerrero - 2.3.2 Ventajas de la espectrometría de masas………………..................... - 2.3.3 Limitaciones de la espectrometría de masas……….……………..... - 2.4 Estado del arte…………………………………………………...................... - 2.5 Conclusiones…………………………………………………………………... - 2.6 Referencias……………………………………………………….……………
- BASE TEÓRICA Y MÉTODOS……………………..…………….…..…………….. - 3.1 Introducción…………………………………………………………………... - 3.2 Algoritmos de reconocimientos de patrones………………………………... - 3.3 Redes neuronales…………………………………………………………….. - 3.3.1 Definición…………………………………………………………... - 3.3.2 Ventajas de las redes neuronales…………………..……………….. - 3.3.2.1 Aprendizaje adaptativo…………………………………… - 3.3.2.2 Auto-organización………………………………………... - 3.3.2.3 Tolerancia a los errores…………………………………… - 3.3.2.4 Operación en tiempo real…………………………………. - 3.3.2.5 Fácil inserción a las nuevas tecnologías………………….. - 3.3.3 Aplicaciones de las redes neuronales……………………………….. - 3.3.4 Redes FUZZY ART…………………………………………………. - 3.3.4.1 Introducción……………………………………………… - 3.3.4.2 Algoritmo………………………………………………… - 3.3.5 Redes fuzzy ARTMAP…………………………………………….... - 3.3.6 Red PNN (Probabilistic neural networks)……………………........... - 3.4 Support Vector Machines……………………………………………………. - 3.4.1 Introducción…………………………………………………………. - 3.4.2 SVM para clasificación……………………………………………... - 3.4.2.1 Caso linealmente separable……………………………… - 3.4.2.2 Margen del hiperplano y solución del problema………… - 3.4.2.3 Caso no lineal……………………………………………. - 3.4.2.4 Caso no separable………………………………………… - 3.4.3 SVM multiclase……………………………………………………... - 3.4.4 Regresión mediante SVM’s…………………………………………. - 3.5 Selección de variables…………………………………………………………
- ISBN:978-84-693-4070-7/DL:T-1167- Oscar Eduardo Gualdron Guerrero - 3.5.1 Introducción…………………………………………………..……. - 3.5.2 Métodos determinísticos (o secuenciales)……………….……….. - 3.5.2.1 Método secuencial forward selection (SFS)….………… - 3.5.2.2 Método secuencial backward selection (SBS)………….. - 3.5.3 Métodos de optimización estocásticos……………………………. - 3.5.3.1 Algoritmos genéticos…………………………………… - 3.5.3.2 Algoritmo simulated annealing………………………… - Ruidosas y con información irrelevante…………………………………. 3.6 Técnicas de selección de variables para eliminar variables redundantes - 3.6.1 Criterio de la varianza……………………………………..…….. - 3.6.2 Colinealidad entre las variables………………………………….
- 3.7 Conclusiones…………………………………………………………………
- 3.8 Referencias………………………………. ………..………………………
- RESULTADOS…………………………………….……………………………..….
- 4.1 Introducción……………………………………………………………..…. - sensores de gases……..…………………………………………………..... 4.2 Métodos de selección de variables para sistemas SDOE basados en - 4.2.1 Equipo de medida……………………………………………….... - 4.2.2 Procedimiento de adquisición de las medidas……………………. - 4.2.3 Conjunto de medidas experimental………………………………. - 4.2.4 Software………………………………………………………….. - 4.2.5 Identificación y cuantificación simultánea de vapores simples….. - 4.2.6 Identificación de vapores simples y sus mezclas binarias……...... - 4.2.6.1 Proceso en una fase…………………………………… - 4.2.6.2 Proceso en dos fases……………………………………
- en espectrometría de masas……………………………………………...… 4.3 Selección de variables para aplicaciones de sistemas olfativos basados - 4.3.1 Introducción……………………………………………………… - 4.3.2 Conjunto experimental……………………………………………. - 4.3.2.1 Conjunto de muestras de solventes…………………….. - 4.3.2.2 Análisis del conjunto de los solventes………………….. - 4.3.2.3 Conjunto de muestras de aceites de oliva……………….
- ISBN:978-84-693-4070-7/DL:T-1167- Oscar Eduardo Gualdron Guerrero
4.3.2.4 Análisis del conjunto de aceites……………………..….. 140 4.3.2.5 Conjunto de muestras de jamón ibérico……………..…... 145 4.3.2.6 Análisis del conjunto de datos de los jamones ibéricos…. 4.4 Selección de variables empleando Support vector machines (SVM) para aplicaciones en sistemas olfativos artificiales……………………… 150 4.4.1 Introducción……………………………………………………….. 150 4.4.2 Selección de variables y Support vector machines………………… 151 4.4.3 Selección de variables y clasificación usando SVM………..…….. 151 4.4.4 Selección de variables y regresión usando SVM…………………. 157 4.5 Conclusiones………………………………………………………………… 159
**4. 6 Referencias……………………………………………...………………….. 160
- CONCLUSIONES......................................................................................................... 161
- ANEXO: LISTA DE PUBLICACIONES................................................................... 169 6.1 Publicaciones derivadas de esta tesis doctoral.......................................... 170 6.2 Conferencias……………………………………...........………………….. 171**
viii
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
x
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
“Con la paciencia y la tranquilidad se logra todo...y algo más”
Benjamín Franklin
xi
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
Resumen
Los sistemas de olfato electrónico son instrumentos que han sido desarrollados para emular a los sistemas de olfato biológicos. A este tipo de ingenios se les ha conocido popularmente como narices electrónicas (NE). Los científicos e ingenieros que siguen perfeccionando este tipo de instrumento trabajan en diferentes frentes, como son el del desarrollo de nuevos sensores de gases (con mejor discriminación y mayor sensibilidad), el de la adaptación de técnicas analíticas como la espectrometría de masas (MS) en substitución de la tradicional matriz de sensores químicos, la extracción de nuevos parámetros de la respuesta de los sensores (preprocesado) o incluso en el desarrollo de técnicas más sofisticadas para el procesado de datos. Uno de los principales inconvenientes que en la actualidad presentan los sistemas de olfato artificial es la alta dimensionalidad de los conjuntos a analizar, debido a la gran cantidad de parámetros que se obtienen de cada medida. El principal objetivo de esta tesis ha sido estudiar y desarrollar nuevos métodos de selección de variables con el fin de reducir la dimensionalidad de los datos y así poder optimizar los procesos de reconocimiento en sistemas de olfato electrónico basados en sensores de gases o en espectrometría de masas. Para poder evaluar la importancia de los métodos y comprobar si ayudan realmente a solucionar la problemática de la dimensionalidad se han utilizado cuatro conjuntos de datos pertenecientes a aplicaciones reales que nos permitieron comprobar y comparar los diferentes métodos implementados de forma objetiva. Estos cuatro conjuntos de datos se han utilizado en tres estudios cuyas conclusiones repasamos a continuación: En el primero de los estudios se ha demostrado que diferentes métodos (secuenciales o estocásticos) pueden ser acoplados a clasificadores fuzzy ARTMAP o PNN y ser usados para la selección de variables en problemas de análisis de gases en sistemas multisensoriales. Los métodos fueron aplicados simultáneamente para identificar y cuantificar tres compuestos orgánicos volátiles y sus mezclas binarias construyendo sus respectivos modelos neuronales de clasificación.
xiii
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
El segundo trabajo que se incluye en esta tesis propone una nueva estrategia para la selección de variables que se ha mostrado eficaz ante diferentes conjuntos de datos provenientes de sistemas olfativos basados en espectrometría de masas (MS). La estrategia ha sido aplicada inicialmente a un conjunto de datos consistente de mezclas sintéticas de compuestos volátiles. Este conjunto ha sido usado para mostrar que el proceso de selección es viable para identificar un mínimo número de fragmentos que permiten la discriminación correcta entre mezclas usando clasificadores fuzzy ARTMAP. Además, dada la naturaleza simple del problema planteado, fue posible mostrar que los fragmentos seleccionados, son fragmentos de ionización característicos de las especies presentes en las mezclas a ser discriminadas. Una vez demostrado el correcto funcionamiento de esta estrategia, se aplicó esta metodología a otros dos conjuntos de datos (aceite de oliva y jamones ibéricos, respectivamente). El tercer estudio tratado en esta tesis ha girado en torno al desarrollo de un nuevo método de selección de variables inspirado en la concatenación de varios procesos de “backward selection”. El método está especialmente diseñado para trabajar con Support Vector machines (SVM) en problemas de clasificación o de regresión. La utilidad del método ha sido evaluada usando dos de los conjuntos de datos ya utilizados anteriormente.
Como conclusión se puede decir que para los diferentes conjuntos estudiados, la inclusión de un proceso previo de selección de variables da como resultado una reducción drástica en la dimensionalidad y un aumento significativo en los correspondientes resultados de clasificación. Los métodos introducidos aquí no solo son útiles para resolver problemas de narices electrónicas basadas en MS, sino también para cualquier aplicación de sistemas de olfato artificial que presenten problemas de alta dimensionalidad como en el caso de los conjuntos de datos estudiados en este trabajo.
xiv
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
Desarrollo de diferentes métodos de selección de variables para sistemas multisensoriales
1.1 Motivación
Los Sistemas de Olfato Electrónico (SDOE) son instrumentos que han sido desarrollados intentando emular el funcionamiento de los sistemas de olfato biológicos. A este tipo de ingenios se les ha conocido popularmente como Narices Electrónicas (NE). Los científicos e ingenieros que siguen perfeccionando este tipo de sistemas trabajan en diferentes frentes para intentar neutralizar las limitaciones prácticas que presentan. Entre las estrategias bajo estudio, se pueden destacar las siguientes:
- Desarrollo de nuevas tecnologías de fabricación y de síntesis de materiales que permitan desarrollar sensores de gases más sensibles y con un mayor poder de discriminación.
- Incorporación de nuevas técnicas de detección como la espectrometría de masas en substitución de la tradicional matriz de sensores químicos.
- Diseño de nuevos métodos de extracción de información mediante la incorporación de nuevos parámetros y métodos de operación.
- Desarrollo de técnicas sofisticadas de procesado de datos y reconocimiento de patrones. De todo ello se deriva que en la mayoría de intentos por mejorar este tipo de instrumentos se puede encontrar la tendencia común a generar un mayor número de descriptores (parámetros, variables) por cada medida realizada, lo cual, lejos de ser beneficioso, genera nuevos problemas a resolver. Por ejemplo, en una NE con N sensores, el mínimo número de parámetros extraídos en cada medida será N (uno por sensor) aunque pueden ser muchos más cuando utilizamos información dinámica. La obtención de un amplio número de variables descriptoras por experimento (resultado de multiplicar el número de sensores por el número de parámetros) puede a priori parecer deseable, pero probablemente no todos los descriptores sean relevantes para las tareas de clasificación y cuantificación encomendadas.
2
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
Introducción
Por tanto, con las nuevas tendencias se hace cada vez más evidente la necesidad de aplicar un método de selección de variables que permita eliminar del conjunto de descriptores aquellos que sean redundantes o que sólo introduzcan ruido al sistema de reconocimiento. A juicio de un buen número de investigadores [1-11] este proceso es una de las claves para mejorar la precisión de los sistemas de olfato electrónico en su difícil tarea de analizar aromas simples o complejos. A modo de ejemplo, podemos comentar las razones que aconsejan realizar una selección de las variables a utilizar por el algoritmo de reconocimiento de patrones en los sistemas de olfato electrónico basados en matrices de sensores:
- Los parámetros que provienen de sensores poco sensibles a los compuestos volátiles de interés pueden presentar una alta varianza que no relacionada a cambios en la composición del aroma analizado sino debida al ruido, lo que no solo no ayuda en la tarea de reconocimiento de estos volátiles sino que dificulta dicho proceso.
- Los parámetros que provengan de sensores que tengan un comportamiento muy parecido en la detección de determinados compuestos volátiles proporcionarán información redundante. La información redundante aumenta la complejidad del sistema sin aportar mejoras substanciales en el modelo de aprendizaje, lo cual empeora la capacidad de generalización del equipo.
- Como regla general, la utilización de un número elevado de sensores en la matriz de detección incrementará el tamaño, el peso y costo del sistema final (por lo tanto, influenciará negativamente en sus características comerciales). Idealmente, el número de sensores debe minimizarse siempre y cuando no se comprometa el funcionamiento del sistema de NE. Reducir el número de variables con el fin de optimizar el funcionamiento implica un cierto riesgo de pérdida de información. Por ese motivo las variables deben seleccionarse cuidadosamente. Una selección inadecuada de variables puede llevar a un funcionamiento inaceptable del sistema. La figura 1.1 resume las posibles situaciones en las que nos podemos encontrar, señalando que opción sería la más deseable para el sistema.
3
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
Introducción
clasificación y predicción de olores y aromas [12-19]. Las NE basadas en espectrometría de masas consideran a cada relación masa-carga (m/z) como un sensor diferente, por lo que se trata de un instrumento con una matriz de tantos sensores como variables masa-carga m/z se incluyan en el rango de análisis. Es importante destacar que en muchos casos, los mejores resultados se obtienen con un número muy pequeño de relaciones m/z (provenientes de iones fragmentados característicos de una aplicación). El uso indiscriminado de la totalidad del espectro de variables m/z puede conllevar a introducir ruido no deseado y empobrecer los resultados de clasificación/predicción obtenidos. La elección óptima de las relaciones m/z que describan mejor la aplicación que se busca es de gran importancia para que el sistema de NE funcione correctamente. Muchos autores han propuesto diferentes estrategias para seleccionar la configuración óptima del sistema de olfato electrónico basándose en el conocimiento previo de los analitos presentes en cada aplicación [20-25]. Este conocimiento previo normalmente se obtiene mediante técnicas tradicionales como la cromatografía de gases- espectrometría de masas (GC-MS). Es cierto que mediante un método que optimice la separación cromatográfica se pueden obtener los mismos o mejores resultados que mediante la espectrometría directa. Sin embargo, la complicada puesta a punto de dicho método (que requiere de personal cualificado), su complicada ejecución y tardanza hacen de la espectrometría directa un rival sin igual, siempre y cuando sus resultados sean los adecuados. En definitiva, los métodos de selección de variables son necesarios para conseguir que la espectrometría directa de masas sea útil, y si no se dispone de personal especializado estos métodos deben realizar automáticamente la selección de las relaciones m/z que son relevantes para la aplicación diseñada sin necesidad de conocer previamente la naturaleza exacta de los analitos
5
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
Desarrollo de diferentes métodos de selección de variables para sistemas multisensoriales
1.2 Objetivos
Una vez se ha identificado la problemática de la alta dimensionalidad en los datos y la necesidad de buscar conjuntos reducidos de variables que permitan optimizar el proceso de reconocimiento, se plantea como objetivo principal de esta tesis el desarrollo de nuevos métodos de selección de variables basados tanto en modelos secuenciales como estocásticos acoplados con modelos predictivos basados en diferentes redes neuronales (fuzzy ARTMAP, PNN) y métodos de reconocimiento de patrones como los Support Vector Machines (SVM). Para la evaluación de todas estas posibilidades se utilizarán una amplia variedad de conjuntos de datos reales para la comprobación y comparación de los respectivos métodos implementados. Con todo este trabajo se persigue reducir la dimensionalidad de los problemas de identificación en aplicaciones de sistemas de olfato electrónico. El objetivo principal de la tesis puede ser subdividido en diferentes etapas sobre los que se fundamenta esta memoria:
- Desarrollo de métodos para la selección de variables basados en técnicas secuenciales como son forward selection, backward elimination y stepwise selection )
- Desarrollo de métodos para la selección de variables basados en técnicas estocásticas como los algoritmos genéticos (GA) y el simulated annealing (SA).
- Determinación de los diferentes métodos para la evaluación del criterio de selección ó “ fitness ”. Métodos basados en redes neuronales de entrenamiento rápido (Fuzzy ARTMAP, PNN) acoplados a los diferentes métodos de selección desarrollados.
- Implementación de métodos de selección de variables basados en Support Vector Machines (SVM) para procesos de reconocimiento y selección de variables en sistemas olfativos.
6
DESARROLLO DE DIFERENTES MÉTODOS DE SELECCIÓN DE VARIABLES PARA SISTEMAS MULTISENTORIALES Oscar Eduardo Gualdron Guerrero ISBN:978-84-693-4070-7/DL:T-1167-
