Pondere e Expanda: Impacto e Limitações de Representações Contextual-Esparsas na Modelagem de Tópicos

Ana Cláudia Machado, Celso França, Ian Nunes, Marcos André Gonçalves, Leonardo Rocha

Abstract: Resumo Este trabalho propõe o uso de representações contextual-esparsas na tarefa de Modelagem de Tópicos (MT), com o objetivo de combinar a interpretabilidade das representações esparsas com o poder semântico das representações contextuais. Utilizando o modelo SPLADE, buscamos representar documentos de forma sensível ao contexto por meio da expansão e ponderação de termos. Avaliamos empiricamente essa abordagem em comparação com outras representações. Os resultados indicam que a ponderação permite uma MT eficaz, enquanto a expansão, embora promissora, apresenta limitações devido à incompatibilidade entre o vocabulário da representação e os textos originais.

External IDs:doi:10.5753/sbbd.2025.247809