| 作者 |
| [印度] 桑塔努·帕塔纳亚克(Santanu Pattanayak)(以)约阿夫·戈尔德贝格(Yoav Goldberg) |
| 丛书名 |
| 智能系统与技术丛书 |
| 出版社 |
| 机械工业出版社 |
| ISBN |
| 9781911191630 |
| 简要 |
| 简介 |
| 内容简介书籍计算机书籍 ---------------------------Python人工智能项目实战--------------------------- 通过结合深度学习和强化学习,帮助你构建智能而且实用的人工智能系统。本书涉及的项目涵盖众多领域,例如医疗健康、电子商务、专家系统、智能安防、移动应用和自动驾驶,使用的技术包括卷积神经网络、深度强化学习、基于LSTM的RNN、受限玻尔兹曼机、生成对抗网络、机器翻译和迁移学习。本书有关构建智能应用的理论知识将帮助读者使用有趣的方法来拓展项目,令其快速创建有影响力的AI应用。读完本书之后,你将有足够的能力建立自己的智能模型,轻松地解决来自任何领域的问题。 ---------------------------基于深度学习的自然语言处理--------------------------- 本书重点介绍了神经网络模型在自然语言处理中的应用。首先介绍有监督的机器学习和前馈神经网络的基本知识,如何将机器学习方法应用在自然语言处理中,以及词向量表示(而不是符号表示)的应用。然后介绍更多专门的神经网络结构,包括一维卷积神经网络、循环神经网络、条件生成模型和基于注意力的模型。最后讨论树形网络、结构化预测以及多任务学习的前景。 |
| 目录 |
---------------------------Python人工智能项目实战--------------------------- 译者序 前言 作者简介 审校者简介 第1章 人工智能系统基础知识 1 1.1 神经网络 2 1.2 神经激活单元 5 1.2.1 线性激活单元 5 1.2.2 sigmoid激活单元 6 1.2.3 双曲正切激活函数 6 1.2.4 修正线性单元 7 1.2.5 softmax激活单元 9 1.3 用反向传播算法训练神经网络 9 1.4 卷积神经网络 12 1.5 循环神经网络 13 1.6 生成对抗网络 16 1.7 强化学习 18 1.7.1 Q学习 19 1.7.2 深度Q学习 20 1.8 迁移学习 21 1.9 受限玻尔兹曼机 22 1.10 自编码器 23 1.11 总结 24 第2章 迁移学习 26 2.1 技术要求 26 2.2 迁移学习简介 27 2.3 迁移学习和糖尿病视网膜病变检测 28 2.4 糖尿病视网膜病变数据集 29 2.5 定义损失函数 30 2.6 考虑类别不平衡问题 31 2.7 预处理图像 32 2.8 使用仿射变换生成额外数据 33 2.8.1 旋转 34 2.8.2 平移 34 2.8.3 缩放 35 2.8.4 反射 35 2.8.5 通过仿射变换生成额外的图像 36 2.9 网络架构 36 2.9.1 VGG16迁移学习网络 38 2.9.2 InceptionV3迁移学习网络 39 2.9.3 ResNet50迁移学习网络 39 2.10 优化器和初始学习率 40 2.11 交叉验证 40 2.12 基于验证对数损失的模型检查点 40 2.13 训练过程的Python实现 41 2.14 类别分类结果 50 2.15 在测试期间进行推断 50 2.16 使用回归而非类别分类 52 2.17 使用keras sequential工具类生成器 53 2.18 总结 57 第3章 神经机器翻译 58 3.1 技术要求 59 3.2 基于规则的机器翻译 59 3.2.1 分析阶段 59 3.2.2 词汇转换阶段 60 3.2.3 生成阶段 60 3.3 统计机器学习系统 60 3.3.1 语言模型 61 3.3.2 翻译模型 63 3.4 神经机器翻译 65 3.4.1 编码器–解码器模型 65 3.4.2 使用编码器–解码器模型进行推断 66 3.5 实现序列到序列的神经机器翻译 67 3.5.1 处理输入数据 67 3.5.2 定义神经翻译机器的模型 71 3.5.3 神经翻译机器的损失函数 73 3.5.4 训练模型 73 3.5.5 构建推断模型 74 3.5.6 单词向量嵌入 78 3.5.7 嵌入层 79 3.5.8 实现基于嵌入的NMT 79 3.6 总结 84 第4章 基于GAN的时尚风格迁移 85 4.1 技术要求 85 4.2 DiscoGAN 86 4.3 CycleGAN 88 4.4 学习从手绘轮廓生成自然手提包 89 4.5 预处理图像 89 4.6 DiscoGAN的生成器 91 4.7 DiscoGAN的判别器 93 4.8 构建网络和定义损失函数 94 4.9 构建训练过程 97 4.10 GAN训练中的重要参数值 99 4.11 启动训练 100 4.12 监督生成器和判别器的损失 101 4.13 DiscoGAN生成的样例图像 103 4.14 总结 104 第5章 视频字幕应用 105 5.1 技术要求 105 5.2 视频字幕中的CNN和LSTM 106 5.3 基于序列到序列的视频字幕系统 107 5.4 视频字幕系统数据集 109 5.5 处理视频图像以创建CNN特征 110 5.6 处理视频的带标签字幕 113 5.7 构建训练集和测试集 114 5.8 构建模型 115 5.8.1 定义模型的变量 116 5.8.2 编码阶段 117 5.8.3 解码阶段 117 5.8.4 计算小批量损失 118 5.9 为字幕创建单词词汇表 118 5.10 训练模型 119 5.11 训练结果 123 5.12 对未见过的视频进行推断 124 5.12.1 推断函数 126 5.12.2 评估结果 127 5.13 总结 128 第6章 智能推荐系统 129 6.1 技术要求 129 6.2 什么是推荐系统 129 6.3 基于潜在因子分解的推荐系统 131 6.4 深度学习与潜在因子协同过滤 132 6.5 SVD++ 136 6.6 基于受限玻尔兹曼机的推荐系统 138 6.7 对比分歧 139 6.8 使用RBM进行协同过滤 140 6.9 使用RBM实现协同过滤 142 6.9.1 预处理输入 143 6.9.2 构建RBM网络进行协作过滤 144 6.9.3 训练RBM 147 6.10 使用训练好的RBM进行推断 149 6.11 总结 150 第7章 用于电影评论情感分析的移动应用程序 151 7.1 技术要求 152 7.2 使用TensorFlow mobile构建Android移动应用程序 152 7.3 Android应用中的电影评论评分 153 7.4 预处理电影评论文本 154 7.5 构建模型 156 7.6 训练模型 157 7.7 将模型冻结为protobuf格式 159 7.8 为推断创建单词到表征的字典 161 7.9 应用程序交互界面设计 162 7.10 Android应用程序的核心逻辑 164 7.11 测试移动应用 168 7.12 总结 170 第8章 提供客户服务的AI聊天机器人 171 8.1 技术要求 172 8.2 聊天机器人的架构 172 8.3 基于LSTM的序列到序列模型 173 8.4 建立序列到序列模型 174 8.5 Twitter平台上的聊天机器人 174 8.5.1 构造聊天机器人的训练数据 175 8.5.2 将文本数据转换为单词索引 175 8.5.3 替换匿名用户名 176 8.5.4 定义模型 176 8.5.5 用于训练模型的损失函数 178 8.5.6 训练模型 179 8.5.7 从模型生成输出响应 180 8.5.8 所有代码连起来 180 8.5.9 开始训练 181 8.5.10 对一些输入推特的推断结果 181 8.6 总结 182 第9章 基于增强学习的无人驾驶 183 9.1 技术要求 183 9.2 马尔科夫决策过程 184 9.3 学习Q值函数 185 9.4 深度Q学习 186 9.5 形式化损失函数 186 9.6 深度双Q学习 187 9.7 实现一个无人驾驶车的代码 189 9.8 深度Q学习中的动作离散化 189 9.9 实现深度双Q值网络 190 9.10 设计智能体 191 9.11 自动驾驶车的环境 194 9.12 将所有代码连起来 197 9.13 训练结果 202 9.14 总结 203 第10章 从深度学习的角度看CAPTCHA 204 10.1 技术要求 205 10.2 通过深度学习破解CAPTCHA 205 10.2.1 生成基本的CAPTCHA 205 10.2.2 生成用于训练CAPTCHA破解器的数据 206 10.2.3 CAPTCHA破解器的CNN架构 208 10.2.4 预处理CAPTCHA图像 208 10.2.5 将CAPTCHA字符转换为类别 209 10.2.6 数据生成器 210 10.2.7 训练CAPTCHA破解器 211 10.2.8 测试数据集的准确性 212 10.3 通过对抗学习生成CAPTCHA 214 10.3.1 优化GAN损失 215 10.3.2 生成器网络 215 10.3.3 判别器网络 216 10.3.4 训练GAN 219 10.3.5 噪声分布 220 10.3.6 数据预处理 220 10.3.7 调用训练 221 10.3.8 训练期间CAPTCHA的质量 222 10.3.9 使用训练后的生成器创建CAPTCHA 224 10.4 总结 225 ---------------------------基于深度学习的自然语言处理--------------------------- 译者序 前言 致谢 第1章引言 11自然语言处理的挑战 12神经网络和深度学习 13自然语言处理中的深度学习 14本书的覆盖面和组织结构 15本书未覆盖的内容 16术语 17数学符号 注释 第一部分有监督分类与前馈神经网络 第2章学习基础与线性模型 21有监督学习和参数化函数 22训练集、测试集和验证集 23线性模型 231二分类 232对数线性二分类 233多分类 24表示 25独热和稠密向量表示 26对数线性多分类 27训练和最优化 271损失函数 272正则化 28基于梯度的最优化 281随机梯度下降 282实例 283其他训练方法 第3章从线性模型到多层感知器 31线性模型的局限性:异或问题 32非线性输入转换 33核方法 34可训练的映射函数 第4章前馈神经网络 41一个关于大脑的比喻 42数学表示 43表达能力 44常见的非线性函数 45损失函数 46正则化与丢弃法 47相似和距离层 48嵌入层 第5章神经网络训练 51计算图的抽象概念 511前向计算 512反向计算(导数、反向传播) 513软件 514实现流程 515网络构成 52实践经验 521优化算法的选择 522初始化 523重启与集成 524梯度消失与梯度爆炸 525饱和神经元与死神经元 526随机打乱 527学习率 528minibatch 第二部分处理自然语言数据 第6章文本特征构造 61NLP分类问题中的拓扑结构 62NLP问题中的特征 621直接可观测特征 622可推断的语言学特征 623核心特征与组合特征 624n元组特征 625分布特征 第7章NLP特征的案例分析 71文本分类:语言识别 72文本分类:主题分类 73文本分类:作者归属 74上下文中的单词:词性标注 75上下文中的单词:命名实体识别 76上下文中单词的语言特征:介词词义消歧 77上下文中单词的关系:弧分解分析 第8章从文本特征到输入 81编码分类特征 811独热编码 812稠密编码(特征嵌入) 813稠密向量与独热表示 82组合稠密向量 821基于窗口的特征 822可变特征数目:连续词袋 83独热和稠密向量间的关系 84杂项 841距离与位置特征 842补齐、未登录词和词丢弃 843特征组合 844向量共享 845维度 846嵌入的词表 847网络的输出 85例子:词性标注 86例子:弧分解分析 第9章语言模型 91语言模型任务 92语言模型评估:困惑度 93语言模型的传统方法 931延伸阅读 932传统语言模型的限制 94神经语言模型 95使用语言模型进行生成 96副产品:词的表示 第10章预训练的词表示 101随机初始化 102有监督的特定任务的预训练 103无监督的预训练 104词嵌入算法 1041分布式假设和词表示 1042从神经语言模型到分布式表示 1043词语联系 1044其他算法 105上下文的选择 1051窗口方法 1052句子、段落或文档 1053句法窗口 1054多语种 1055基于字符级别和子词的表示 106处理多字单元和字变形 107分布式方法的限制 第11章使用词嵌入 111词向量的获取 112词的相似度 113词聚类 114寻找相似词 115同中选异 116短文档相似度 117词的类比 118改装和映射 119实用性和陷阱 第12章案例分析:一种用于句子意义推理的前馈结构 121自然语言推理与 SNLI数据集 122文本相似网络 第三部分特殊的结构 第13章n元语法探测器:卷积神经网络 131基础卷积池化 1311文本上的一维卷积 1312向量池化 1313变体 132其他选择:特征哈希 133层次化卷积 第14章循环神经网络:序列和栈建模 141RNN抽象描述 142RNN的训练 143RNN常见使用模式 1431接收器 1432编码器 1433传感器 144双向RNN 145堆叠RNN 146用于表示栈的RNN 147文献阅读的注意事项 第15章实际的循环神经网络结构 151作为RNN的CBOW 152简单RNN 153门结构 1531长短期记忆网络 1532门限循环单元 154其他变体 155应用到RNN的丢弃机制 第16章通过循环网络建模 161接收器 1611情感分类器 1612主谓一致语法检查 162作为特征提取器的RNN 1621词性标注 1622RNNCNN文本分类 1623弧分解依存句法分析 第17章条件生成 171RNN生成器 172条件生成(编码器解码器) 1721序列到序列模型 1722应用 1723其他条件上下文 173无监督的句子相似性 174结合注意力机制的条件生成 1741计算复杂性 1742可解释性 175自然语言处理中基于注意力机制的模型 1751机器翻译 1752形态屈折 1753句法分析 第四部分其他主题 第18章用递归神经网络对树建模 181形式化定义 182扩展和变体 183递归神经网络的训练 184一种简单的替代——线性化树 185前景 第19章结构化输出预测 191基于搜索的结构化预测 1911基于线性模型的结构化预测 1912非线性结构化预测 1913概率目标函数(CRF) 1914近似搜索 1915重排序 1916参考阅读 192贪心结构化预测 193条件生成与结构化输出预测 194实例 1941基于搜索的结构化预测:一阶依存句法分析 1942基于NeuralCRF的命名实体识别 1943基于柱搜索的NERCRF近似 第20章级联、多任务与半监督学习 201模型级联 202多任务学习 2021多任务设置下的训练 2022选择性共享 2023作为多任务学习的词嵌入预训练 2024条件生成中的多任务学习 2025作为正则的多任务学习 2026注意事项 203半监督学习 204实例 2041眼动预测与句子压缩 2042弧标注与句法分析 2043介词词义消歧与介词翻译预测 2044条件生成:多语言机器翻译、句法分析以及图像描述生成 205前景 第21章结论 211我们学到了什么 212未来的挑战 参考文献 |