Reconhecimento facial e fNIRS para a detecção de traços de emoção aplicados a jogos sérios

Abstract

O desempenho no aprendizado de escolares está diretamente ligado ao bem-estar do mesmo, o que consolida a necessidade da criação de ferramentas capazes de observar traços de emoção durante o desenvolvimento de atividades específicas. Aliando jogos educacionais à observação de emoções, pode-se garantir que as atividades de aprendizado sejam mais prazerosas, melhorando a eficiência dos escolares. Para observar traços de emoções, deve-se evocá-las atentando para que estas estejam em destaque para a metodologia utilizada para a observação. Nesta pesquisa, usam-se duas formas de observação dos traços de emoção: micro expressões faciais e resposta hemodinâmicas do córtex cerebral. Na busca de evidências de emoções, utilizam-se métodos e protocolos de evocação dos traços de emoções, onde são utilizadas imagens fortes, responsáveis por provocar reações emocionais. Com a construção de um paradigma, pode-se observar a influência da sequência das imagens, usadas no exame, na variação de resposta das percepções emocionais.Foram observadas emoções positivas, negativas e neutras, relacionando-as aos traços de expressão. O estudo se limita a diferenciar estas três emoções, que são possíveis de se distinguir a partir de análise fisiológica. Para tanto, utilizaram-se câmeras e sensores óticos, respectivamente, para reconhecer micro expressões da face e respostas hemodinâmicas corticais. Estas emoções foram classificados a partir de um método de inteligência artificial cuja entrada são os traços emocionais. Este método cria um conjunto de padrões de respostas para cada uma das emoções, classificando a emoção atual do participante. A possibilidade de gerar índices emocionais para uma atividade fim, amplia em muito o ensino de jogos sérios, mas também fortalece o uso deste método de reconhecimento em outras aplicações. A partir da união das duas metodologias de reconhecimentos fisiológicos, obteve-se um método robusto de classificação das emoções, com taxa de 77,2% de acerto.

This work aims to improve the recognition of emotional responses to different stimuli that provoke alterations into humans. Said alterations can be measured through several tools such as Magnetic Resonance Imaging, Functional Near Infrared Spectroscopy (fNIRS), Electroencephalography (EEG) and Facial Recognition. In this work, we used a combination of the fNIRS system, which measures the variation of hemoglobin oxygenation, and facial recognition tools. The participants were stimulated with a sequence of images from the IAPS database, which are labeled with the weighted emotions they provoke. This allowed the training of a classifier that was capable of predicting the emotion that was experienced by the user during the activity performed. This article covers the recognition of positive, negative and neutral emotions using classifiers, created in Matlab, that are based on participant physiological responses. The combination of fNIRS, facial recognition and machine learning supported the creation of a predictor with 77.2% correct classification rate.