[套装书]自然语言处理的认知方法+TensorFlow自然语言处理（2册）

作者
[英]伯纳黛特·夏普（Bernadette Sharp） [法]弗洛伦斯·赛德斯（Florence Sèdes）[波兰]维斯拉夫·卢巴泽斯基（Wiesaw Lubaszewski）[澳] 图珊·加内格达拉（Thushan Ganegedara）
丛书名
智能科学与技术丛书
出版社
机械工业出版社
ISBN
9787190808102
简要
简介
内容简介书籍计算机书籍 ---------------------------自然语言处理的认知方法--------------------------- 自然语言处理跨越了许多不同的学科，有时很难理解它们各自带来的贡献和挑战。本书探讨了自然语言处理与认知科学之间的关系，每章都由相关领域的专家撰写，内容涵盖语言理解、语言生成、词联想、词义消除歧义、词可预测性、文本生成和作者身份识别。本书适合对自然语言处理及其跨学科特性感兴趣的学生和研究人员。 ---------------------------TensorFlow自然语言处理--------------------------- 本书首先介绍NLP和TensorFlow基础知识，然后介绍如何使用Word2vec(包括高级扩展)创建单词嵌入，将单词序列转换为可由深度学习算法访问的向量。关于经典深度学习算法的章节，如卷积神经网络(CNN)和递归神经网络(RNN)，展示了句子分类和语言生成等重要的NLP任务。此外还介绍如何将高性能的RNN模型，如长短期记忆(long short memory, LSTM)单元应用于NLP任务，你还将探索神经机器翻译并实现一个神经机器翻译器。
目录



---------------------------自然语言处理的认知方法---------------------------


译者序
前言
作者名单
第1章 延迟解释、浅层处理和构式：“尽可能解释”原则的基础 1
1.1 引言 1
1.2 延迟处理 2
1.3 工作记忆 5
1.4 如何识别语块：分词操作 7
1.5 延迟架构 10
1.5.1 分段和存储 11
1.5.2 内聚聚集 12
1.6 结论 15
1.7 参考文献 16
第2章 人类关联规范能否评估机器制造的关联列表 19
2.1 引言 19
2.2 人类语义关联 20
2.2.1 单词关联测试 20
2.2.2 作者的实验 21
2.2.3 人类关联拓扑 22
2.2.4 人类关联具有可比性 24
2.3 算法效率比较 26
2.3.1 语料库 26
2.3.2 LSA源关联列表 27
2.3.3 LDA源列表 28
2.3.4 基于关联比率的列表 28
2.3.5 列表比较 29
2.4 结论 33
2.5 参考文献 34
第3章 文本词如何在人类关联网络中选择相关词 37
3.1 引言 37
3.2 网络 40
3.3 基于文本的激励驱动的网络提取 42
3.3.1 子图提取算法 42
3.3.2 控制流程 43
3.3.3 最短路径提取 44
3.3.4 基于语料库的子图 46
3.4 网络提取流程的测试 46
3.4.1 进行测试的语料库 46
3.4.2 提取子图的评估 46
3.4.3 有向和无向子图提取：对比 48
3.4.4 每个激励产生的结果 49
3.5 对结果和相关工作的简要讨论 54
3.6 参考文献 57
第4章 反向关联任务 59
4.1 引言 59
4.2 计算前向关联 63
4.2.1 步骤 63
4.2.2 结果和评估 65
4.3 计算反向关联 67
4.3.1 问题 67
4.3.2 步骤 67
4.3.3 结果和评估 71
4.4 人类的表现 73
4.4.1 数据集 73
4.4.2 测试流程 75
4.4.3 评估 76
4.5 机器性能 77
4.6 讨论、结果和展望 78
4.6.1 人类的反向关联 78
4.6.2 机器的反向关联 80
4.7 致谢 82
4.8 参考文献 82
第5章 词汇的隐藏结构与功能 85
5.1 引言 86
5.2 方法 86
5.2.1 词典图 86
5.2.2 心理语言学变量 90
5.2.3 数据分析 91
5.3 内核、卫星、核心、MinSet以及词典余下部分的心理语言学属性 93
5.4 讨论 96
5.5 未来工作 99
5.6 参考文献 101
第6章 用于词义消歧的直推式学习博弈 103
6.1 引言 103
6.2 基于图的词义消歧 104
6.3 半监督学习方法 107
6.3.1 基于图的半监督学习 107
6.3.2 博弈论和博弈动态 108
6.4 词义消歧博弈 110
6.4.1 图构造 110
6.4.2 策略空间 111
6.4.3 收益矩阵 111
6.4.4 系统动力学 112
6.5 评估 113
6.5.1 实验设置 113
6.5.2 评估结果 114
6.5.3 对比先进水平算法 116
6.6 结论 117
6.7 参考文献 117
第7章 用心学写：生成连贯文本的问题 121
7.1 问题 121
7.2 次优文本及其相关原因 123
7.2.1 缺乏连贯性或凝聚力 124
7.2.2 错误引用 125
7.2.3 无动机的主题转移 126
7.3 如何解决任务的复杂性 127
7.4 相关研究 128
7.5 关于构建辅助写作过程的工具的假设 130
7.6 方法论 133
7.6.1 句法结构的识别 135
7.6.2 语义种子词的识别 135
7.6.3 单词对齐 137
7.6.4 确定对齐单词的相似性值 137
7.6.5 确定句子之间的相似性 141
7.6.6 基于句子相似性值的聚类 142
7.7 实验结果和评估 142
7.8 展望和总结 145
7.9 参考文献 146
第8章 面向著述属性的基于序贯规则挖掘的文体特征 149
8.1 引言和研究动机 149
8.2 著述属性过程 151
8.3 著述属性的文体特征 152
8.4 针对文体分析的时序数据挖掘 154
8.5 实验设置 155
8.5.1 数据集 156
8.5.2 分类方案 157
8.6 结果和讨论 158
8.7 结论 162
8.8 参考文献 162
第9章 一种并行的、面向认知的基频估计算法 165
9.1 引言 165
9.2 语音信号分割 167
9.2.1 语音和停顿段 168
9.2.2 浊音和清音区 169
9.2.3 稳定和不稳定区间 170
9.3 稳定区间的F0估计 171
9.4 F0传播 173
9.4.1 控制流 174
9.4.2 峰值传播 175
9.5 不稳定的浊音区域 178
9.6 并行化 178
9.7 实验和结果 179
9.8 结论 180
9.9 致谢 181
9.10 参考文献 182
第10章 基于完形填充、脑电图和眼球运动数据对n元语言模型、主题模型和循环神经网络的基准测试 185
10.1 引言 186
10.2 相关工作 187
10.3 方法 188
10.3.1 人类绩效评估 188
10.3.2 语言模型的三种风格 189
10.4 实验设置 192
10.5 结果 193
10.5.1 可预测性结果 193
10.5.2 N400振幅结果 196
10.5.3 单一注视时延结果 198
10.6 讨论和结论 200
10.7 致谢 202
10.8 参考文献 202
术语表 207



---------------------------TensorFlow自然语言处理---------------------------


译者序
前言
关于作者
关于审阅者
第1章　自然语言处理简介 1
1.1　什么是自然语言处理 1
1.2　自然语言处理的任务 2
1.3　传统的自然语言处理方法 3
1.3.1　理解传统方法 4
1.3.2　传统方法的缺点 7
1.4　自然语言处理的深度学习方法 8
1.4.1　深度学习的历史 8
1.4.2　深度学习和NLP的当前状况 9
1.4.3　理解一个简单的深层模型—全连接神经网络 10
1.5　本章之外的学习路线 12
1.6　技术工具简介 14
1.6.1　工具说明 15
1.6.2　安装Python和scikit-learn 15
1.6.3　安装Jupyter Notebook 15
1.6.4　安装TensorFlow 16
1.7　总结 17
第2章　理解TensorFlow 18
2.1　TensorFlow是什么 18
2.1.1　TensorFlow入门 19
2.1.2　TensorFlow客户端详细介绍 21
2.1.3　TensorFlow架构：当你执行客户端时发生了什么 21
2.1.4　Cafe Le TensorFlow：使用类比理解TensorFlow 23
2.2　输入、变量、输出和操作 24
2.2.1　在TensorFlow中定义输入 25
2.2.2　在TensorFlow中定义变量 30
2.2.3　定义TensorFlow输出 31
2.2.4　定义TensorFlow操作 31
2.3　使用作用域重用变量 40
2.4　实现我们的第一个神经网络 42
2.4.1　准备数据 43
2.4.2　定义TensorFLow图 43
2.4.3　运行神经网络 45
2.5　总结 46
第3章　Word2vec——学习词嵌入 48
3.1　单词的表示或含义是什么 49
3.2　学习单词表示的经典方法 49
3.2.1　WordNet—使用外部词汇知识库来学习单词表示 50
3.2.2　独热编码表示方式 53
3.2.3　TF-IDF方法 53
3.2.4　共现矩阵 54
3.3　Word2vec—基于神经网络学习单词表示 55
3.3.1　练习：queen = king – he + she吗 56
3.3.2　为学习词嵌入定义损失函数 58
3.4　skip-gram算法 59
3.4.1　从原始文本到结构化的数据 59
3.4.2　使用神经网络学习词嵌入 60
3.4.3　使用TensorFlow实现skip-gram 67
3.5　连续词袋算法 69
3.6　总结 71
第4章　高级Word2vec 72
4.1　原始skip-gram算法 72
4.1.1　实现原始skip-gram算法 73
4.1.2　比较原始skip-gram算法和改进的skip-gram算法 75
4.2　比较skip-gram算法和CBOW算法 75
4.2.1　性能比较 77
4.2.2　哪个更胜一筹：skip-gram还是CBOW 79
4.3　词嵌入算法的扩展 81
4.3.1　使用unigram分布进行负采样 81
4.3.2　实现基于unigram的负采样 81
4.3.3　降采样：从概率上忽视常用词 83
4.3.4　实现降采样 84
4.3.5　比较CBOW及其扩展算法 84
4.4　最近的skip-gram和CBOW的扩展算法 85
4.4.1　skip-gram算法的限制 85
4.4.2　结构化skip-gram算法 85
4.4.3　损失函数 86
4.4.4　连续窗口模型 87
4.5　GloVe：全局向量表示 88
4.5.1　理解GloVe 88
4.5.2　实现GloVe 89
4.6　使用Word2vec进行文档分类 90
4.6.1　数据集 91
4.6.2　用词向量进行文档分类 91
4.6.3　实现：学习词嵌入 92
4.6.4　实现：词嵌入到文档嵌入 92
4.6.5　文本聚类以及用t-SNE可视化文档嵌入 93
4.6.6　查看一些特异点 94
4.6.7　实现：用K-means对文档进行分类/聚类 95
4.7　总结 96
第5章　用卷积神经网络进行句子分类 97
5.1　介绍卷积神经网络 97
5.1.1　CNN基础 97
5.1.2　卷积神经网络的力量 100
5.2　理解卷积神经网络 100
5.2.1　卷积操作 100
5.2.2　池化操作 103
5.2.3　全连接层 104
5.2.4　组合成完整的CNN 105
5.3　练习：在MNIST数据集上用CNN进行图片分类 105
5.3.1　关于数据 106
5.3.2　实现CNN 106
5.3.3　分析CNN产生的预测结果 108
5.4　用CNN进行句子分类 109
5.4.1　CNN结构 110
5.4.2　随时间池化 112
5.4.3　实现：用CNN进行句子分类 112
5.5　总结 115
第6章　递归神经网络 116
6.1　理解递归神经网络 116
6.1.1　前馈神经网络的问题 117
6.1.2　用递归神经网络进行建模 118
6.1.3　递归神经网络的技术描述 119
6.2　基于时间的反向传播 119
6.2.1　反向传播的工作原理 120
6.2.2　为什么RNN不能直接使用反向传播 120
6.2.3　基于时间的反向传播：训练RNN 121
6.2.4　截断的BPTT：更有效地训练RNN 121
6.2.5　BPTT的限制：梯度消失和梯度爆炸 122
6.3　RNN的应用 123
6.3.1　一对一RNN 123
6.3.2　一对多RNN 123
6.3.3　多对一RNN 124
6.3.4　多对多RNN 124
6.4　用RNN产生文本 125
6.4.1　定义超参数 125
6.4.2　将输入随时间展开用于截断的BPTT 125
6.4.3　定义验证数据集 126
6.4.4　定义权重和偏置 126
6.4.5　定义状态持续变量 127
6.4.6　用展开的输入计算隐藏状态和输出 127
6.4.7　计算损失 128
6.4.8　在新文本片段的开头重置状态 128
6.4.9　计算验证输出 128
6.4.10　计算梯度和优化 129
6.4.11　输出新生成的文本块 129
6.5　评估RNN的文本结果输出 130
6.6　困惑度：衡量文本结果的质量 131
6.7　有上下文特征的递归神经网络：更长记忆的RNN 132
6.7.1　RNN-CF的技术描述 132
6.7.2　实现RNN-CF 133
6.7.3　RNN-CF产生的文本 138
6.8　总结 140
第7章　长短期记忆网络 142
7.1　理解长短期记忆网络 142
7.1.1　LSTM是什么 143
7.1.2　更详细的LSTM 144
7.1.3　LSTM与标准RNN的区别 149
7.2　LSTM如何解决梯度消失问题 150
7.2.1　改进LSTM 152
7.2.2　贪婪采样 153
7.2.3　集束搜索 153
7.2.4　使用词向量 154
7.2.5　双向LSTM（BiLSTM） 155
7.3　其他LSTM的变体 156
7.3.1　窥孔连接 156
7.3.2　门循环单元 157
7.4　总结 159
第8章　LSTM应用：文本生成 160
8.1　数据集 160
8.1.1　关于数据集 160
8.1.2　数据预处理 162
8.2　实现LSTM 162
8.2.1　定义超参数 163
8.2.2　定义参数 163
8.2.3　定义LSTM单元及操作 165
8.2.4　定义输入和标签 165
8.2.5　定义处理序列数据所需的序列计算 166
8.2.6　定义优化器 167
8.2.7　随时间衰减学习率 167
8.2.8　做预测 168
8.2.9　计算困惑度（损失） 168
8.2.10　重置状态 169
8.2.11　贪婪采样避免单峰 169
8.2.12　生成新文本 169
8.2.13　生成的文本样例 170
8.3　LSTM与窥孔LSTM和GRU对比 171
8.3.1　标准LSTM 171
8.3.2　门控循环单元（GRU） 172
8.3.3　窥孔LSTM 174
8.3.4　训练和验证随时间的困惑度 175
8.4　改进LSTM：集束搜索 176
8.4.1　实现集束搜索 177
8.4.2　集束搜索生成文本的示例 179
8.5　LSTM改进：用单词替代n-gram生成文本 179
8.5.1　维度灾难 179
8.5.2　Word2vec补救 180
8.5.3　使用Word2vec生成文本 180
8.5.4　使用LSTM-Word2vec和集束搜索生成的文本示例 181
8.5.5　随时间困惑度 182
8.6　使用TensorFlow RNN API 183
8.7　总结 186
第9章　LSTM应用：图像标题生成 188
9.1　了解数据 188
9.1.1　ILSVRC ImageNet数据集 189
9.1.2　MS-COCO数据集 189
9.2　图像标题生成实现路径 191
9.3　使用CNN提取图像特征 193
9.4　实现：使用VGG-16加载权重和推理 193
9.4.1　构建和更新变量 194
9.4.2　预处理输入 195
9.4.3　VGG-16推断 196
9.4.4　提取图像的向量化表达 197
9.4.5　使用VGG-16预测类别概率 197
9.5　学习词嵌入 198
9.6　准备输入LSTM的标题 198
9.7　生成LSTM的数据 199
9.8　定义LSTM 201
9.9　定量评估结果 203
9.9.1　BLEU 203
9.9.2　ROUGE 204
9.9.3　METEOR 204
9.9.4　CIDEr 206
9.9.5　模型随着时间变化的BLEU-4 206
9.10　为测试图像生成标题 207
9.11　使用TensorFlow RNN API和预训练的GloVe词向量 210
9.11.1　加载GloVe词向量 210
9.11.2　清洗数据 212
9.11.3　使用TensorFlow RNN API和预训练的词嵌入 213
9.12　总结 218
第10章　序列到序列学习：神经机器翻译 220
10.1　机器翻译 220
10.2　机器翻译简史 221
10.2.1　基于规则的翻译 221
10.2.2　统计机器翻译（SMT） 222
10.2.3　神经机器翻译（NMT） 223
10.3　理解神经机器翻译 225
10.3.1　NMT原理 225
10.3.2　NMT架构 226
10.4　为NMT系统准备数据 228
10.4.1　训练阶段 229
10.4.2　反转源句 229
10.4.3　测试阶段 230
10.5　训练NMT 230
10.6　NMT推理 231
10.7　BLEU评分：评估机器翻译系统 232
10.7.1　修正的精确度 232
10.7.2　简短惩罚项 233
10.7.3　最终BLEU得分 233
10.8　从头开始实现NMT：德语到英语的翻译 233
10.8.1　数据介绍 234
10.8.2　处理数据 234
10.8.3　学习词嵌入 235
10.8.4　定义编码器和解码器 236
10.8.5　定义端到端输出计算 238
10.8.6　翻译结果 239
10.9　结合词嵌入训练NMT 241
10.9.1　最大化数据集词汇表和预训练词嵌入之间的匹配 241
10.9.2　将嵌入层定义为TensorFlow变量 243
10.10　改进NMT 245
10.10.1　教师强迫 246
10.10.2　深度LSTM 247
10.11　注意力 247
10.11.1　突破上下文向量瓶颈 247
10.11.2　注意力机制细节 248
10.11.3　注意力NMT的翻译结果 253
10.11.4　源句子和目标句子注意力可视化 254
10.12　序列到序列模型的其他应用：聊天机器人 256
10.12.1　训练聊天机器人 256
10.12.2　评估聊天机器人：图灵测试 257
10.13　总结 258
第11章　自然语言处理的现状与未来 259
11.1　NLP现状 259
11.1.1　词嵌入 260
11.1.2　神经机器翻译 264
11.2　其他领域的渗透 266
11.2.1　NLP与计算机视觉结合 266
11.2.2　强化学习 268
11.2.3　NLP生成式对抗网络 269
11.3　走向通用人工智能 270
11.3.1　一个模型学习全部 271
11.3.2　联合多任务模型：为多个NLP任务生成神经网络 272
11.4　社交媒体NLP 273
11.4.1　社交媒体中的谣言检测 274
11.4.2　社交媒体中的情绪检测 274
11.4.3　分析推特中的政治框架 274
11.5　涌现的新任务 275
11.5.1　讽刺检测 275
11.5.2　语言基础 276
11.5.3　使用LSTM略读文本 276
11.6　新兴的机器学习模型 277
11.6.1　阶段LSTM 277
11.6.2　扩张RNN（DRNN） 278
11.7　总结 278
11.8　参考文献 279
附录　数学基础与高级TensorFlow 282




有问题微信扫码联系

推荐

Understand China
桂ICP备20004708号-4