[套装书]聊天机器人:入门、进阶与实战+面向机器学习的自然语言标注(2册)

作者
刘宇 崔燕红 郭师光 党习歌James Pustejovsky & Amber Stubbs
丛书名
智能系统与技术丛书
出版社
机械工业出版社
ISBN
9781911051010
简要
简介
内容简介书籍计算机书籍 ---------------------------聊天机器人:入门、进阶与实战--------------------------- 本书是一本建立在零基础的,以介绍对话机器人领域为目的,通过书中的内容介绍让更多对对话机器人感兴趣的初级读者,可以由浅入深,了解和学习对话机器人的发展现状,用途,原理和技术。 主要内容: 第一部分 数学与统计学基础 数学与统计学是现代机器学习理论的基础,本书会对机器学习中重点涉及的数学与统计学知识做一下整理,方便读者了解和掌握,以便可以顺利的过渡到后面专业知识的理解。 第二部分 自然语言处理模型与技术 对话机器人是以自然语言处理为发展的一个专业领域,基础的自然语言处理模型与技术对于学习后面的专业知识是必要的。本书通过先介绍自然语言处理模型,然后对依赖这个模型所扩展出的自然语言处理技术做详细介绍。使得初学者可以从数学理论到模型,从模型到技术的理论结合实际的方式,学好本书的内容 第三部分 对话机器人的核心技术 在对话机器人的核心技术章节,我们先介绍 1.对话机器人的发展综述。 2.自然语言理解NLU的部分,让读者可以更加清晰的认识到Intent (目的)识别和 Entities (命名实体)识别的重要性。为了更加了解一句话中各个实体间的形容和被形容关系,我们引入句法树和依存句法分析的概念。这样机器人就可以简单的弄清一句话说的是什么,和各个实体间的关系。 3.为了让机器像人类一样可以有更多的知识积累和进行简单的逻辑推理,我们接下来要介绍知识图谱。这里我们重点介绍知识图谱的模型,知识抽取,知识图谱数据库的搭建和存储,以及在简单的了解到Intent和各个实体间关系后,如何根据知识图谱进行推理计算和理解 4.在对句子有了一定的深入理解后,我们需要介绍预测会话和答复生成。在机器理解了问题的内容后,如何给出精确的答复。这里会介绍用于客服机器人的Question to Question 的匹配来得到预先准备好的标准答案。也会介绍通话自然语言理解利用知识图谱得到生成答案,以及通过互联网检索的方式,得到置信度较高的问题答案。最后还会了解如何存储我们学到的问题和答案的配对。 5.在机器学会了一问一答后,我们需要介绍 1.根据上下文理解的对话生成。 . 2.多轮对话的控制和生成。 3.多主题多轮对话的切换。 6.人机对话过程中的情感计算 1.设计情感计算的对话场景 2.情感计算的建模与识别 3.根据情感计算生成带情感色彩的回复 第四部分 对话机器人实战 本书的第四个部分会详细分以下三个方面阐述 1.实战对话机器人的架构 2.对话机器人的开发流程和方案 3.对话机器人的开发案例 在对话机器人的开发案例里面,我们会介绍: 1.垂直领域的客服机器人 2.开放领域的知识问答类型机器人 3.闲聊型的情感机器人 第五部分 附录 附录里会有我们总结的机器学习的模型列表,自然语言模型列表,深度学习的模型列表以及每一章的实战代码 ---------------------------面向机器学习的自然语言标注--------------------------- O’Reilly Media通过图书、杂志、在线服务、调查研究和会议等方式传播创新知识。自1978年开始,O’Reilly一直都是前沿发展的见证者和推动者。超级极客们正在开创着未来,而我们关注真正重要的技术趋势——通过放大那些“细微的信号”来刺激社会对新科技的应用。作为技术社区中活跃的参与者,O’Reilly的发展充满了对创新的倡导、创造和发扬光大。 O’Reilly为软件开发人员带来革命性的“动物书”;创建第一个商业网站(GNN);组织了影响深远的开放源代码峰会,以至于开源软件运动以此命名;创立了Make杂志,从而成为DIY革命的主要先锋;公司一如既往地通过多种形式缔结信息与人的纽带。O’Reilly的会议和峰会集聚了众多超级极客和高瞻远瞩的商业领袖,共同描绘出开创新产业的革命性思想。作为技术人士获取信息的选择,O’Reilly现在还将先锋专家的知识传递给普通的计算机用户。无论是通过书籍出版,在线服务或者面授课程,每一项O’Reilly的产品都反映了公司不可动摇的理念——信息是激发创新的力量。
目录



---------------------------聊天机器人:入门、进阶与实战---------------------------


推荐序一
推荐序二
前言
第1章概率统计与应用数学的基础知识
1.1概率的定义
1.2条件概率与贝叶斯公式
1.3随机变量与分布函数
1.4概率分布与参数估计
1.5随机过程与马尔可夫模型
1.6信息熵
1.7本章小结
第2章语言模型与多元文法
2.1词袋模型
2.2N-Gram模型
2.2.1N-Gram简介
2.2.2N-Gram算法
2.2.3N-Gram用途
2.3数据平滑
2.3.1加法平滑方法
2.3.2Good-Turing估计法
2.3.3组合平滑方法
第3章序列标注模型
3.1中文分词
3.1.1条件随机场
3.1.2条件随机场进行中文分词
3.2词性标注
3.2.1词性标注的标准
3.2.2利用隐马尔可夫进行词性标注
3.3命名实体识别
3.3.1利用条件随机场模型进行命名实体识别
3.3.2命名实体识别在对话系统中的作用
3.4序列标注模型
3.5本章小结
第4章文本分析
4.1关键词抽取
4.1.1词频-逆文档频次算法
4.1.2Text Rank
4.2文本分类
4.2.1贝叶斯文本分类模型
4.2.2决策树文本分类模型
4.2.3SVM文本分类模型
4.3主题模型
4.3.1基础知识回顾
4.3.2吉布斯采样
4.3.3隐狄利克雷分配模型
4.4本章小结
第5章深度学习模型
5.1基于深度学习的自然语言模型
5.1.1神经网络自然语言模型与词向量
5.1.2A Neural Probabilistic Language Model
5.1.3CBOW和Skip-Gram
5.1.4Huffman编码与Huffman tree
5.1.5CBOW-Hierarchical Softmax
5.1.6Skip-Gram-Hierarchical Softmax
5.1.7FastText
5.1.8词的全局向量表示
5.2卷积网络CNN
5.2.1卷积网络CNN理论
5.2.2利用CNN进行文本分类
5.3循环网络RNN
5.3.1循环网络RNN(LSTM,GRU)理论
5.3.2利用RNN 进行情感分析
5.3.3Sequence-to-Sequence with Attention Model
5.4Transformer
5.4.1ResNet(Residual Network)残差网络模型
5.4.2Attention is all you need(Transformer)
5.5预训练模型
5.5.1Embeddings from Language Models(ELMo)
5.5.2BERT
第6章对话机器人的发展综述
6.1对话机器人发展史
6.1.1对话机器人的近况
6.1.2开放域
6.1.3垂直领域
6.1.4对话机器人的未来发展趋势
6.2人工智能在对话机器人中的应用
6.2.1深度学习在机器人方面的应用
6.2.2强化学习在机器人方面的应用
6.2.3知识图谱在机器人方面的应用
第7章自然语言理解与知识图谱
7.1知识图谱的表示:三元组模型
7.2知识抽取
7.2.1知识抽取-命名实体识别
7.2.2利用CRF模型识别 NER
7.2.3利用BiLSTM+CRF模型进行命名实体识别
7.3知识抽取-实体关系抽取:Relation Extraction
7.4知识图谱的构建
第8章答案生成与多轮对话
8.1预测会话与答案生成
8.1.1信息检索:利用搜索来预测答案
8.1.2句型模板匹配标准问题生成答案
8.1.3根据知识图谱推理得到答案
8.2多轮对话
8.2.1多轮对话概述
8.2.2任务型多轮对话的控制和生成
8.2.3多主题多轮对话
第9章对话系统的工程架构
9.1对话系统的工程技术
9.1.1常用技术
9.1.2对话系统的分类
9.1.3主要系统软件介绍
9.1.4系统运维相关
9.2对话系统的架构实现
9.2.1阿里小蜜
9.2.2百度对话系统
9.2.3垂直领域对话系统的架构
9.2.4开放领域对话系统的架构
9.3本章小结
第10章实战场景之一——客服机器人
10.1客服机器人架构
10.1.1功能需求
10.1.2系统逻辑架构图
10.2客服机器人设计
10.2.1FAQ的设计
10.2.2导购机器人的设计
10.2.3实例分析
10.3本章小结
第11章实战场景之二——开放域的QA问答
11.1开放领域问答机器人的架构
11.2开放领域问答机器人的开发流程和方案
11.3开放领域问答机器人的开发案例
第12章实战场景之三——聊天机器人
12.1Seq2Seq以及Attention机制
12.2Beam Search
12.3基于Seq2Seq的聊天机器人开发流程
12.3.1语料准备
12.3.2定义Encoder和Decoder
12.3.3模型训练和评估模块
12.3.4模型预测和Beam Search模块
12.4本章小结


---------------------------面向机器学习的自然语言标注---------------------------



前言 1
第1章 基础知识 7
1.1 语言标注的重要性 7
1.1.1 语言学描述的层次 8
1.1.2 什么是自然语言处理 9
1.2 语料库语言学简史 10
1.2.1 什么是语料库 13
1.2.2 语料库的早期应用 15
1.2.3 当今的语料库 17
1.2.4 标注类型 18
1.3 语言数据和机器学习 24
1.3.1 分类 25
1.3.2 聚类 25
1.3.3 结构化模式归纳 26
1.4 标注开发循环 26
1.4.1 现象建模 27
1.4.2 按照规格说明进行标注 30
1.4.3 在语料库上训练和测试算法 31
1.4.4 对结果进行评价 32
1.4.5 修改模型和算法 33
总结 34
第2章 确定目标与选择数据 36
2.1 定义目标 36
2.1.1 目标陈述 37
2.1.2 提炼目标:信息量与正确性 38
2.2 背景研究 43
2.2.1 语言资源 44
2.2.2 机构与会议 44
2.2.3 自然语言处理竞赛 45
2.3 整合数据集 46
2.3.1 理想的语料库:代表性与平衡性 47
2.3.2 从因特网上收集数据 47
2.3.3 从人群中获取数据 48
2.4 语料库的规模 49
2.4.1 现有语料库 50
2.4.2 语料库内部的分布 51
总结 53
第3章 语料库分析 54
3.1 语料库分析中的基本概率知识 55
3.1.1 联合概率分布 56
3.1.2 贝叶斯定理 58
3.2 计算出现次数 58
3.2.1 齐普夫定律(Zip's Law) 61
3.2.2 n元语法 62
3.3 语言模型 63
总结 65
第4章 建立模型与规格说明 66
4.1 模型和规格说明示例 66
4.1.1 电影题材分类 69
4.1.2 添加命名实体 70
4.1.3 语义角色 71
4.2 采用(或不采用)现有模型 73
4.2.1 创建模型和规格说明:一般性与特殊性 74
4.2.2 使用现有模型和规格说明 76
4.2.3 使用没有规格说明的模型 78
4.3 各种标准 78
4.3.1 ISO标准 78
4.3.2 社区驱动型标准 81
4.3.3 影响标注的其他标准 81
总结 82
第5章 选择并应用标注标准 84
5.1 元数据标注:文档分类 85
5.1.1 单标签标注:电影评论 85
5.1.2 多标签标注:电影题材 87
5.2 文本范围标注:命名实体 90
5.2.1 内嵌式标注 90
5.2.2 基于词例的分离式标注 92
5.2.3 基于字符位置的分离式标注 95
5.3 链接范围标注:语义角色 96
5.4 ISO标准和你 97
总结 97
第6章 标注与审核 99
6.1 标注项目的基本结构 99
6.2 标注规格说明与标注指南 101
6.3 准备修改 102
6.4 准备用于标注的数据 103
6.4.1 元数据 103
6.4.2 数据预处理 104
6.4.3 为标注工作分割文件 104
6.5 撰写标注指南 105
6.5.1 例1:单标签标注——电影评论 106
6.5.2 例2:多标签标注——电影题材 108
6.5.3 例3:范围标注——命名实体 111
6.5.4 例4:链接范围标注——语义角色 112
6.6 标注人员 114
6.7 选择标注环境 116
6.8 评价标注结果 117
6.8.1 Cohen的Kappa(κ)算法 118
6.8.2 Fleiss的Kappa(κ)算法 119
6.8.3 解释Kappa系数 122
6.8.4 在其他上下文中计算κ值 123
6.9 创建黄金标准(审核) 125
总结 126
第7章 训练:机器学习 129
7.1 何谓学习 130
7.2 定义学习任务 132
7.3 分类算法 133
7.3.1 决策树学习 135
7.3.2 朴素贝叶斯学习 140
7.3.3 最大熵分类器 145
7.3.4 其他需要了解的分类器 147
7.4 序列归纳算法 148
7.5 聚类和无监督学习 150
7.6 半监督学习 150
7.7 匹配标注与算法 153
总结 154
第8章 测试与评价 156
8.1 测试算法 157
8.2 评价算法 157
8.2.1 混淆矩阵 157
8.2.2 计算评价得分 159
8.2.3 解释评价得分 163
8.3 可能影响算法评价的问题 164
8.3.1 数据集太小 164
8.3.2 算法过于适合开发数据 166
8.3.3 标注中的信息过多 166
8.4 最后测试得分 167
总结 167
第9章 修改与报告 169
9.1 修改项目 170
9.1.1 语料库分布和内容 170
9.1.2 模型和规格说明 170
9.1.3 标注 171
9.1.4 训练和测试 172
9.2 报告工作 173
9.2.1 关于语料库 174
9.2.2 关于模型和规格说明 175
9.2.3 关于标注任务和标注人员 175
9.2.4 关于ML算法 176
9.2.5 关于修改 177
总结 177
第10章 标注:TimeML 179
10.1 TimeML的设计目标 180
10.2 相关研究 181
10.3 建设语料库 182
10.4 模型:初步的标注规格说明 183
10.4.1 时间 183
10.4.2 信号 184
10.4.3 事件 184
10.4.4 链接 184
10.5 标注:最初的尝试 185
10.6 模型:TimeBank中的TimeML标注规格说明 185
10.6.1 时间表达式 185
10.6.2 事件 186
10.6.3 信号 187
10.6.4 链接 187
10.6.5 可信度 189
10.7 标注:TimeBank的产生 189
10.8 TimeML成为ISO-TimeML 192
10.9 对未来建模:TimeML的发展方向 193
10.9.1 叙事容器 194
10.9.2 将TimeML扩展到其他领域 195
10.9.3 事件结构 196
总结 197
第11章 自动标注:生成TimeML 199
11.1 TARSQI组件 200
11.1.1 GUTime:时间标志识别 201
11.1.2 EVITA:事件识别及分类 201
11.1.3 GUTenLINK 202
11.1.4 Slinket 204
11.1.5 SputLink 204
11.1.6 TARSQI组件中的机器学习 205
11.2 TTK的改进 206
11.2.1 结构变化 206
11.2.2 时间实体识别改进:BTime 207
11.2.3 时间关系识别 207
11.2.4 时间关系验证 208
11.2.5时间关系可视化 209
11.3 TimeML竞赛:TempEval-2 209
11.3.1 TempEval-2:系统概述 210
11.3.2 成果综述 213
11.4 TTK的未来 213
11.4.1 新的输入格式 213
11.4.2 叙事容器/叙事时间 214
11.4.3 医学文档 215
11.4.4 跨文档分析 216
总结 216
第12章 后记:标注的未来发展趋势 217
12.1 众包标注 217
12.1.1 亚马逊土耳其机器人 218
12.1.2 有目的的游戏 219
12.1.3 用户生成内容 220
12.2 处理大数据 220
12.2.1 Boosting算法 221
12.2.2 主动学习 221
12.2.3 半监督学习 223
12.3 NLP在线和在云端 223
12.3.1 分布式计算 223
12.3.2 语言资源共享 224
12.3.3 语言应用共享 224
结语 225
附录A 可利用的语料库与标注规格说明列表 227
附录B 软件资源列表 249
附录C MAE用户指南 269
附录D MAI用户指南 276
附录E 参考文献 282



有问题微信扫码联系

推荐

Understand China
桂ICP备20004708号-4