论文阅读《Understanding Procedural Text using Interactive Entity Networks》

ゝ一纸荒年。 2022-10-23 05:52 173阅读 0赞

# 总结 #

*  原文出处：CSDN\_LawsonAbs
 *  LawsonAbs的认知与思考，望各位读者审慎阅读。
 *  论文类型：改进模型类，无亮点。
 *  建议：如果读者尚未读到此文，建议换文阅读。
 *  [论文地址][Link 1]

--------------------

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]  
本文主要按照如下三个方面来叙述：

# 1 Target：Understanding procedural text #

# 2 Method：By using Interactive Entity Network #

# 3 Contributions: #

*  introduce an novel module——IEN(by using attention)
 *  conduct intensive experiments

# 4 Experiments #

--------------------

# 1 Task #

## 1.1 What’s procedural text? ##

e.g., scientific articles, instruction books, or recipes

sentence 1:

> The water breaks into oxygen, hydrogen, and electrons.

sentence 2:

> Blood travels to the lungs.  
> Carbon dioxide is removed from the blood.  
> Oxygen is added to your blood.

## 1.2 Entity state tracking is the key task for procedural text comprehension. ##

本文的任务：Focus on scientific process understanding task(Dalvi et al., 2018), in which the tracking targets are action and location of entities.

## 1.3 Example ##

The state tracking task is to predict the states of each entity  e i e\_i ei after reading each sentence  s t s\_t st, where an entity’s state is a value of a property  p j p\_j pj.

> CO2 enters leaf.

> System:  
> the existence( p j p\_j pj) of CO2 ( e i e\_i ei) is true  
> the location( p j p\_j pj) of CO2 is leaf

## 1.4 Difficulties ##

*  dynamic nature
 *  the involvement of multiple entities => \[`The water breaks into oxygen, hydrogen, and electrons.`\]
 *  the complexity of tracking targets

## 1.5 Challenge ##

how to properly capture the relationship between entity interactions and their state changes.  
![在这里插入图片描述][20210315102007259.png]

# 2 IEN: Interactive Entity Network #

本文的贡献就在于提出了这个IEN模型，因为它提高了任务的效果，所以它有用。

## 2.1 Characteristics ##

*  two-layer RNN model

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 1]

### 2.1.1 Bottom RNN Encoder : Word-Level Encoding ###

w ⃗ i = \[ e m b ( w i ) ; v i \] \\vec \\textbf w\_\{i\} = \[emb(w\_i);v\_i\] wi=\[emb(wi);vi\]

*  等式左边的 w i w\_i wi 表示的是embedding vector，程式右边的 w i w\_i wi 是单词i
 *  实验中针对不同的`embedding function`，如（`fastText、ELMo`），进行对比
 *   v i v\_i vi 是一个标量，用于表示 w i w\_i wi 这个词是否是动词
 *  将得到的 w i w\_i wi 送入到BiLSTM中得到最后的一个表示  u i = B i L S T M ( \[ w i \] ) u\_i =BiLSTM(\[w\_i\]) ui=BiLSTM(\[wi\])

### 2.1.2 Upper RNN Encoder : Sentence-Level Encoding and IEN cell ###

> To track the state changes, we extract sentence features from word-level encodings by running another RNN at the sentence level.

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 2]

x t e i x\_t^\{e\_i\} xtei ： 表示的就是在句子`t`中的  e i e\_i ei 实体；  
 x t l j x\_t^\{l\_j\} xtlj ： 表示的就是在句子`t`中的  l j l\_j lj 位置；  
 u t v u\_t^\{v\} utv：表示的是句子t中的谓语动词。

补充：

*  如果entity 或者 location 是由多个词构成的，那么就执行一个mean pooling 操作。

接着分别将所有的实体、位置表示拼接在一起得到  x t e ∈ R n ∗ d x\_t^e \\in R^\{n\*d\} xte∈Rn∗d，  x t l ∈ R m ∗ d x\_t^l \\in R^\{m\*d\} xtl∈Rm∗d。  x t e x\_t^e xte 和  x t l x\_t^l xtl 就是第`t`个IEN cell 的输入。  
下图中红框1就是IEN cell 部分，而其中的红框2就是IEN cell 的输入。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 3]  
接着来看一下IEN cell 是如何设计的？

## 2.2 Structure of an IEN cell ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 4]  
在每个 IEN cell中，都有 n 个实体 slots、 m个location slots，与上面的 x t e x\_t^e xte 和  x t l x\_t^l xtl 相对应。

### 2.2.1 IEN cell Inputs ###

> the representations of all entities and all location candidates in a signle sentence st, or a mask vector if the entity or location candidate is not in st .

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 5]

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 6]

memory slots 是什么？

*  we place memory slots inside IEN cells and let them recurrently update as GRU;
 *  Each memory slot represents the state of a specific entity or a location candidate.

h t e ∈ R n ∗ d h\_t^e \\in R^\{n\*d\} hte∈Rn∗d 表示第t个IEN cell中所有实体的 memory slots；  h t l ∈ R n ∗ d h\_t^l \\in R^\{n\*d\} htl∈Rn∗d 表示第t个IEN cell中所有location的 memory slots。更新过程如下：

## entity memory slots ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 7]  
这里的 Att 是一个 scaled key-value attention function. 定义公式如下：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 8]

模型的亮点就在于将 attention 引入到了GRU中，这样显式地模拟出 entity-entity 以及 entity-location 之间的交互。

## location memory slots ##

这个更新过程同 entity memory slots 很相似，不再叙述。

### 2.2.3 输出 ###

#### 2.2.3.1 Entity Actions ####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 9]

#### 2.2.3.2 Entity Locations ####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 10]

# 参考资料 #

*  GRU 的结构图  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 11]

[Link 1]: https://www.aclweb.org/anthology/2020.emnlp-main.591.pdf
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]: /images/20221023/f9c15713122446f4b45dcaeda31cc685.png
[20210315102007259.png]: /images/20221023/293de10eb5f6458d80b3cf7d69495d71.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 1]: /images/20221023/e7dceff0a4254a7689776896a52ec6c0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 2]: /images/20221023/b6485d1f64874477bc0f98e1a03d7a3f.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 3]: /images/20221023/2cfcc04e074c4c4fb7c42902a32b2262.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 4]: /images/20221023/cd3770b2dfd84707834e7095ebe60117.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 5]: /images/20221023/dd8557f195604a87a7a192e2d8746100.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 6]: /images/20221023/e6201fb1970e40949b457b5f89a28160.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 7]: /images/20221023/6c184c51cf3a4f288ccea4e403bbcc02.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 8]: /images/20221023/c185780b5a7c4a0696fbb9eaf6bbd65e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 9]: /images/20221023/3699c37fbbc8426bb0a473b6b7f17188.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 10]: /images/20221023/4cf4d7966e824e738b9394d697ea7668.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 11]: /images/20221023/5142dfbea9e145b9b1ce8f1ce56797ad.png