在16.1 节中，我们讨论了情感分析的问题。该任务旨在将单个文本序列分类为预定义的类别，例如一组情感极性。然而，当需要决定一个句子是否可以从另一个句子推断出来，或者通过识别语义等同的句子来消除冗余时，知道如何对一个文本序列进行分类是不够的。相反，我们需要能够对成对的文本序列进行推理。
16.4.1。自然语言推理
自然语言推理研究是否可以从前提中推断出假设，其中两者都是文本序列。换句话说，自然语言推理决定了一对文本序列之间的逻辑关系。这种关系通常分为三种类型：
-
蕴涵：假设可以从前提中推导出来。
-
矛盾：可以从前提推导出假设的否定。
-
中性：所有其他情况。
自然语言推理也称为识别文本蕴含任务。例如，下面的一对将被标记为 蕴涵，因为假设中的“示爱”可以从前提中的“互相拥抱”中推导出来。
前提：两个女人互相拥抱。
假设：两个女人正在秀恩爱。
下面是一个矛盾的例子，因为“running the coding example”表示“not sleeping”而不是“sleeping”。
前提：一个人正在运行来自 Dive into Deep Learning 的编码示例。
假设：这个人正在睡觉。
第三个例子显示了一种中立关系，因为“为我们表演”这一事实不能推断出“著名”或“不著名”。
前提：音乐家正在为我们表演。
假设：音乐家很有名。
自然语言推理一直是理解自然语言的中心话题。它享有从信息检索到开放域问答的广泛应用。为了研究这个问题，我们将从调查一个流行的自然语言推理基准数据集开始。
16.4.2。斯坦福自然语言推理 (SNLI) 数据集
斯坦福自然语言推理 (SNLI) 语料库是超过 500000 个带标签的英语句子对的集合 （Bowman等人，2015 年）。我们将提取的 SNLI 数据集下载并存储在路径中../data/snli_1.0。
Downloading ../data/snli_1.0.zip from https://nlp.stanford.edu/projects/snli/snli_1.0.zip...
16.4.2.1。读取数据集
原始 SNLI 数据集包含的信息比我们在实验中真正需要的信息丰富得多。因此，我们定义了一个函数read_snli 来仅提取部分数据集，然后返回前提、假设及其标签的列表。
#@save
def read_snli(data_dir, is_train):
"""Read the SNLI dataset into premises, hypotheses, and labels."""
def extract_text(s):
# Remove information that will not be used by us
s = re.sub('\\(', '', s)
s = re.sub('\\)', '', s)
# Substitute two or more consecutive whitespace with space
s = re.sub('\\s{2,}', ' ', s)
return s.strip()
label_set = {'entailment': 0, 'contradiction': 1, 'neutral': 2}
file_name = os.path.join(data_dir, 'snli_1.0_train.txt'
if is_train else 'snli_1.0_test.txt')
with open(file_name, 'r') as f:
rows = [row.split('\t') for row in f.readlines()[1:]]
premises = [extract_text(row[1]) for row in rows if row[0] in label_set]
hypotheses = [extract_text(row[2]) for row in rows if row[0] in label_set]
labels = [label_set[row[0]] for row in rows if row[0] in label_set]
return premises, hypotheses, labels
#@save
def read_snli(data_dir, is_train):
"""Read the SNLI dataset into premises, hypotheses, and labels."""
def extract_text(s):
# Remove information that will not be used by us
s = re.sub('\\(', '', s)
s = re.sub('\\)', '', s)
# Substitute two or more consecutive whitespace with space
s = re.sub('\\s{2,}', ' ', s)
return s.strip()
label_set = {'entailment': 0, 'contradiction': 1, 'neutral': 2}
file_name = os.path.join(data_dir, 'snli_1.0_train.txt'
if is_train else 'snli_1.0_test.txt')
with open(file_name, 'r') as f:
rows = [row.split('\t') for row in f.readlines()[1:]]
premises = [extract_text(row[1]) for row in rows if row[0] in label_set]
hypotheses = [extract_text(row[2]) for row in rows if row[0] in label_set]
labels = [label_set[row[0]] for row in rows if row[0] in label_set]
return premises, hypotheses, labels
现在让我们打印前 3 对前提和假设，以及它们的标签（“0”、“1”和“2”分别对应“蕴含”、“矛盾”和“中性”）。
premise: A person on a horse jumps over a broken down airplane .
hypothesis: A person is training his horse for a competition .
label: 2
premise: A person on a horse jumps over a broken down airplane .
hypothesis: A person is at a diner , ordering an omelette .
label: 1
premise: A person on a horse jumps over a broken down airplane .
hypothesis: A person is outdoors , on a horse .
label: 0
premise: A person on a horse jumps over a broken down airplane .
hypothesis: A person is training his horse for a competition .
label: 2
premise: A person on a horse jumps over a broken down airplane .
hypothesis: A person is at a diner , ordering an omelette .
label: 1
premise: A person on a horse jumps over a broken down airplane .
hypothesis: A person is outdoors , on a horse .
label: 0
训练集约550000对，测试集约10000对。下图表明“蕴含”、“矛盾”、“中性”这三个标签在训练集和测试集上都是均衡的。
[183416, 183187, 182764]
[3368, 3237, 3219]
16.4.2.2。定义用于加载数据集的类
下面我们继承DatasetGluon中的类定义一个加载SNLI数据集的类。类构造函数中的参数num_steps指定文本序列的长度，以便每个小批量序列具有相同的形状。换句话说，num_steps较长序列中第一个之后的标记被修剪，而特殊标记“”将附加到较短的序列，直到它们的长度变为num_steps. 通过实现该__getitem__ 功能，我们可以任意访问前提、假设和带有索引的标签idx。
