【论文阅读】Learning to Retrieve Reasoning Paths over Wikipedia Graph for Question Answering

深藏阁楼爱情的钟 2022-10-19 12:52 28阅读 0赞

# Learning to Retrieve Reasoning Paths over Wikipedia Graph for Question Answering #

> [论文：https://arxiv.org/abs/1911.10470][https_arxiv.org_abs_1911.10470]
> 
> [代码：https://github.com/AkariAsai/learning\_to\_retrieve\_reasoning\_paths][https_github.com_AkariAsai_learning_to_retrieve_reasoning_paths]
> 
> 学习在维基百科中检索问题的推理路径
> 
>  *  基于推理路径

## 任务 ##

从维基百科中提取推理路径实现多轮问答。

*  多轮问答：
    
    需要结合多篇文档的“知识推理”能得到最终答案。
    
    ![image-20201208143543082][]
    
    ![image-20201208143556977][]

## 方法（模型） ##

1.  通过维基百科的超链接构建一个维基百科图网络，在不同的文档之间建模。
2.  使用一个RNN给推理路径建模，从而找到最佳推理路径。

### 模型结构： ###

> 由一个提取器和阅读器组成

![image-20201208143829008][]

推理路径提取器（Reasoning Path Retrieval）：根据维基百科之间的超链接关系得到若干推理路径。

阅读理解答案抽取器（Reading and Answering Reasoning Path）：基于这些路径找到最可能的一条路径作为最终的答案。

> 将维基百科文章里的每个段落 p p p作为基本单元。给定问题 q q q，模型首先找到一条推理路径 E = \[ p i , . . . , p k \] E = \[p\_i, . . . , p\_k\] E=\[pi,...,pk\]，用 S r e t r ( q , E ) S\_\{retr\}(q, E) Sretr(q,E)表示；然后在 E E E中找到答案 a a a，用 S r e a d ( q , E , a ) S\_\{read\}(q, E, a) Sread(q,E,a)表示。

a r g   m a x E , a   S ( q , E , a )      s . t .    S ( q , E , a ) = S r e t r ( q , E ) + S r e a d ( q , E , a ) \\underset\{E,a\}\{arg \\ max\} \\ S(q, E, a) \\ \\ \\ \\ s.t. \\ \\ S(q, E, a) = S\_\{retr\}(q, E) + S\_\{read\}(q, E, a) E,aarg max S(q,E,a)    s.t.  S(q,E,a)=Sretr(q,E)\+Sread(q,E,a)

### 推理路径提取 ###

#### Constructing the Wikipedia graph ####

直接使用维基百科中的超链接构建有向图 G G G。

#### General formulation with a recurrent retriever ####

使用RNN建模问题 Q Q Q的推理路径。

给定问题 q q q，在时间步 t t t时，模型从候选段落集 C t C\_t Ct中找出 p i p\_i pi ，与 q q q拼接计算 p i p\_i pi的概率。

遇到 \[ E O E \] \[EOE\] \[EOE\]时结束推理，允许它在给定每个问题的情况下捕获具有任意长度的推理路径。  
 w i = B E R T C L S ( q , p i ) ∈ R d w\_i=BERT\_\{CLS\}(q,p\_i) \\in \\R^d wi=BERTCLS(q,pi)∈Rd

P ( p i ∣ h t ) = σ ( w i ⋅ h t + b ) P(p\_i|h\_t)=\\sigma(w\_i·h\_t+b) P(pi∣ht)=σ(wi⋅ht\+b)

h t = 1 = R N N ( h t , w i ) ∈ R d h\_\{t=1\}=RNN(h\_t,w\_i) \\in \\R^d ht=1=RNN(ht,wi)∈Rd

#### Beam search for candidate paragraphs ####

为防止计算量过大，使用Beam Search来构建多个检索路径。

#### Data augmentation ####

对真实的推理路径 g = \[ p 1 , . . . , p ∣ g ∣ \] g = \[p\_1, . . . , p\_\{|g|\}\] g=\[p1,...,p∣g∣\]增加一条新的推理路径 g = \[ p r , p 1 , . . . , p ∣ g ∣ \] g = \[p\_r,p\_1, . . . , p\_\{|g|\}\] g=\[pr,p1,...,p∣g∣\]， p r p\_r pr是与 p 1 p\_1 p1有联系的TF-IDF分最高的一个段落。

#### Negative examples for robustness ####

使用两种负采样策略：

(1)基于TF-IDF

(2)基于超链接

单轮QA只用(1)，多轮QA两者都用，负采样数为50。

#### Loss function ####

在  C t C\_t Ct上使用广泛使用的交叉熵损失和softmax归一化是不理想的，因为同时最大化 g g g和增广的 g r g\_r gr是矛盾的。因此本文独立评估 P ( p i ∣ h t ) P(p\_i|h\_t) P(pi∣ht)并使用 binary cross-entropy loss来最大化所有可能路径的概率值。  
KaTeX parse error: Got function '\\sum' with no arguments as argument to '\\underset' at position 76: …p\}∈\\tilde C\_t\} \\̲s̲u̲m̲ ̲log (1 − P(\\til…

*   p ~ ∈ C ~ t \\tilde\{p\}∈\\tilde C\_t p~∈C~t是负样本集合。

### READING AND ANSWERING GIVEN REASONING PATHS ###

使用Bert模型计算推理路径和答案概率。

> 使用Bert模型对应于CLS标识符位的输出判断推理路径包括答案的概率。

P ( E ∣ q ) = σ ( w n ⋅ u E )    s . t .    u E = B E R T \[ C L S \] ( q , E ) ∈ R D P(E|q) = σ(w\_n· u\_E) \\ \\ s.t. \\ \\ u\_E= BERT\_\{\[CLS\]\}(q, E) ∈ \\R^D P(E∣q)=σ(wn⋅uE)  s.t.  uE=BERT\[CLS\](q,E)∈RD

E b e s t = a r g   m a x E ∈ E   P ( E ∣ q ) E\_\{best\}=\\underset\{E∈E\} \{arg\\ max \} \\ P(E|q) Ebest=E∈Earg max P(E∣q)

S r e a d = a r g   m a x i , j , i ≤ j   P i s t a r t P j e n d S\_\{read\}= \\underset\{i,j, i≤j\}\{arg \\ max\}\\ P^\{start\}\_i P^\{end\}\_j Sread=i,j,i≤jarg max PistartPjend

### Multi-task loss function ###

L r e a d = L s p a n + L n o \_ a n s w e r = ( − l o g P y s t a r t s t a r t − l o g P y e n d e n d ) − l o g P r L\_\{read\}= L\_\{span\}+ L\_\{no\\\_answer\}= (− log P^\{start\}\_\{y^\{start\}\} − log P^\{end\}\_\{y^\{end\}\}) − log P^r Lread=Lspan\+Lno\_answer=(−logPystartstart−logPyendend)−logPr

## 数据集 ##

*  **HotpotQA**
 *  SQuAD Open
 *  Natural Question Open

## 性能水平 ##

HotpotQA验证集测试结果:

![image-20201210141209866][]

HotpotQA测试集测试结果:

![image-20201210141630169][]

> 本文提出的模型在hotpot数据集上取得了非常优秀的测试结果。

SQuAD Open测试结果:

![image-20201210141756755][]

Natural Question Open测试结果:

![image-20201210141817154][]

## 结论 ##

不同的路径抽取方法比较：

![image-20201210142007831][]

**消融实验：**

![image-20201210142257828][]

> 可以看到，移除任何一部分对模型的结果影响都比较大。

实体链接：

![image-20201210142511733][]

> 使用超链接和实体链接系统对实验结果影响不大，说明超链接并不是必要因素。

推理路径长度：

![image-20201210142637317][]

> 推理路径的长度对实验结果有显著的影响，推理路径较短时准确率较低。

本文介绍了一种新的基于图的递归检索方法，该方法在维基百科图上检索推理路径，以回答开放领域多轮问答。使用推理路径提取器构建推理路径，使用阅读理解答案抽取器对推理路径进行重新排序，并将最终答案确定为从最佳推理路径中提取的答案。在多个数据集上都表现出了优秀的性能。

## 思考 ##

### 搜索算法beam search（束搜索） ###

> 是exhaustive search和greedy search的折中方案。

beam search有一个超参数**beam size**（束宽），设为 k k k 。第一个时间步长，选取当前条件概率最大的  k k k个词，当做候选输出序列的第一个词。之后的每个时间步长，基于上个步长的输出序列，挑选出**所有组合中**条件概率最大的 k k k 个，作为该时间步长下的候选输出序列。始终保持 k k k个候选。最后从 k k k个候选中挑出最优的。

[https_arxiv.org_abs_1911.10470]: https://arxiv.org/abs/1911.10470
[https_github.com_AkariAsai_learning_to_retrieve_reasoning_paths]: https://github.com/AkariAsai/learning_to_retrieve_reasoning_paths
[image-20201208143543082]: /images/20221005/feff27f816c84fc78a3e668aa3e9eafd.png
[image-20201208143556977]: /images/20221005/263e1d9e6c3c40f18c3d3e260edb1296.png
[image-20201208143829008]: /images/20221005/1354c8ee39a44e1d9a6fda60216a263f.png
[image-20201210141209866]: /images/20221005/ea19ebeae7e144bf9704429331222a81.png
[image-20201210141630169]: /images/20221005/608f9ce2241d4d7ba50bf31017076aea.png
[image-20201210141756755]: 
[image-20201210141817154]: /images/20221005/5b4c647aab2445c0a4c50a782f033807.png
[image-20201210142007831]: /images/20221005/5db82cb41bd74b2a9f419c9d2fb8cac6.png
[image-20201210142257828]: /images/20221005/bf98ec5427204bb39163bb1c7258cfad.png
[image-20201210142511733]: /images/20221005/3834567eaa2543fba08b6e8d3cce018c.png
[image-20201210142637317]: /images/20221005/10c670007a0a47f4976ef4c046408c9b.png