Modelling document-query interaction in a hierarchical neural model for IR
Résumé
Recent deep approaches to information retrieval are either representation-oriented or interaction-oriented, depending on how they view the modelling of document and query representations and their interactions. We explore a hierarchical approach to document encoding that enables modelling the query-document interaction at different levels of granularity. The proposed model splits the input documents into blocks that are individually matched to a given query through a series of self-attention modules, along with pooling and projection layers. We test our method on the LETOR 4.0 MQ2007 standard IR collection. The approach shows promising preliminary results, albeit a more in-depth exploration of the modelling choices could provide further gains.
Les techniques récentes dans le domaine de la recherche d'information adoptent une approche reposant sur la représentation ou l'interaction, en fonction de ce qui est le plus adapté à l'exercice. Dans cet article, nous présentons une approche hiérarchique pour la représentation des documents permettant de modéliser l'interaction document-requête à différents niveaux de granularité. Le modèle présenté sépare chaque document en un ensemble de blocs qui sont appariés à la requête donnée à l'aide de modules d'attention et de couche de pooling et de projection. Nous avons évalué notre modèle sur le jeu de données de LETOR 4.0 MQ2007. L'approche montre des résultats préliminaires prometteurs, bien qu'une exploration plus approfondie des choix de modélisation pourrait apporter des gains supplémentaires.
| Origine | Fichiers éditeurs autorisés sur une archive ouverte |
|---|