[套装书]智能计算系统+模式识别（2册）
| 作者 |
| 陈云霁 李玲 李威 郭崎 杜子东 吴建鑫 |
| 丛书名 |
| 计算机类专业系统能力培养系列教材 |
| 出版社 |
| 机械工业出版社 |
| ISBN |
| 9782004162154 |
| 简要 |
| 简介 |
| 内容简介书籍计算机书籍 ---------------------------智能计算系统--------------------------- 目标是培养学生对智能计算完整软硬件技术栈（包括基础智能算法、智能计算编程框架、智能计算编程语言、智能芯片体系结构等）融会贯通的理解，成为智能计算系统（子系统）的设计者和开发者。 ---------------------------模式识别--------------------------- 介绍模式识别中的基础知识、主要模型及热门应用，使学生掌握模式识别的基本原理、实际应用以及最新研究进展，培养学生在本学科中的视野与独立解决任务的能力，为学生在模式识别的项目开发及相关科研活动打好基础。 |
| 目录 |
---------------------------智能计算系统--------------------------- 序言一 序言二 前言 第1章概述1 1.1人工智能1 1.1.1什么是人工智能1 1.1.2人工智能的发展历史1 1.1.3人工智能的主要方法4 1.2智能计算系统8 1.2.1什么是智能计算系统8 1.2.2为什么需要智能计算系统8 1.2.3智能计算系统的发展8 1.3驱动范例11 1.4本章小结13 习题13 第2章神经网络基础14 2.1从机器学习到神经网络14 2.1.1基本概念14 2.1.2线性回归15 2.1.3感知机17 2.1.4两层神经网络——多层感知机19 2.1.5深度学习（深层神经网络）20 2.1.6神经网络发展历程21 2.2神经网络训练23 2.2.1正向传播24 2.2.2反向传播25 2.3神经网络设计原则27 2.3.1网络的拓扑结构27 2.3.2激活函数27 2.3.3损失函数30 2.4过拟合与正则化32 2.4.1过拟合33 2.4.2正则化34 2.5交叉验证37 2.6本章小结39 习题39 第3章深度学习41 3.1适合图像处理的卷积神经网络41 3.1.1卷积神经网络的组成42 3.1.2卷积层43 3.1.3池化层48 3.1.4全连接层49 3.1.5softmax层50 3.1.6卷积神经网络总体结构50 3.2基于卷积神经网络的图像分类算法52 3.2.1AlexNet53 3.2.2VGG56 3.2.3Inception59 3.2.4ResNet66 3.3基于卷积神经网络的图像目标检测算法69 3.3.1评价指标69 3.3.2R?CNN系列72 3.3.3YOLO78 3.3.4SSD81 3.3.5小结83 3.4序列模型：循环神经网络83 3.4.1RNN84 3.4.2LSTM88 3.4.3GRU89 3.4.4小结90 3.5生成对抗网络91 3.5.1模型组成91 3.5.2GAN训练92 3.5.3GAN结构94 3.6驱动范例96 3.6.1基于卷积神经网络的图像风格迁移算法96 3.6.2实时图像风格迁移算法98 3.7本章小结100 习题100 第4章编程框架使用101 4.1为什么需要编程框架101 4.2编程框架概述102 4.2.1通用编程框架概述102 4.2.2TensorFlow概述102 4.3TensorFlow编程模型及基本用法103 4.3.1计算图104 4.3.2操作105 4.3.3张量106 4.3.4会话110 4.3.5变量114 4.3.6占位符116 4.3.7队列117 4.4基于TensorFlow实现深度学习预测117 4.4.1读取输入样本118 4.4.2定义基本运算单元118 4.4.3创建神经网络模型122 4.4.4计算神经网络模型输出123 4.5基于TensorFlow实现深度学习训练123 4.5.1加载数据123 4.5.2模型训练129 4.5.3模型保存135 4.5.4图像风格迁移训练的实现137 4.6本章小结139 习题139 第5章编程框架机理141 5.1TensorFlow设计原则141 5.1.1高性能141 5.1.2易开发142 5.1.3可移植142 5.2TensorFlow计算图机制142 5.2.1一切都是计算图143 5.2.2计算图本地执行150 5.2.3计算图分布式执行154 5.3TensorFlow系统实现155 5.3.1整体架构155 5.3.2计算图执行模块156 5.3.3设备抽象和管理161 5.3.4网络和通信162 5.3.5算子实现167 5.4编程框架对比169 5.4.1TensorFlow170 5.4.2PyTorch171 5.4.3MXNet171 5.4.4Caffe172 5.5本章小结172 习题172 第6章深度学习处理器原理174 6.1深度学习处理器概述174 6.1.1深度学习处理器的意义174 6.1.2深度学习处理器的发展历史175 6.1.3设计思路177 6.2目标算法分析178 6.2.1计算特征178 6.2.2访存特征181 6.3深度学习处理器DLP结构186 6.3.1指令集186 6.3.2流水线190 6.3.3运算部件190 6.3.4访存部件193 6.3.5算法到芯片的映射194 6.3.6小结195 *6.4优化设计195 6.4.1基于标量MAC的运算部件195 6.4.2稀疏化198 6.4.3低位宽199 6.5性能评价201 6.5.1性能指标201 6.5.2测试基准程序202 6.5.3影响性能的因素203 6.6其他加速器203 6.6.1GPU架构简述204 6.6.2FPGA架构简述204 6.6.3DLP与GPU、FPGA的对比205 6.7本章小结206 习题206 *第7章 深度学习处理器架构207 7.1单核深度学习处理器207 7.1.1总体架构208 7.1.2控制模块209 7.1.3运算模块212 7.1.4存储单元215 7.1.5小结215 7.2多核深度学习处理器216 7.2.1总体架构216 7.2.2Cluster架构217 7.2.3互联架构223 7.2.4小结224 7.3本章小结225 习题225 第8章 智能编程语言227 8.1为什么需要智能编程语言227 8.1.1语义鸿沟228 8.1.2硬件鸿沟230 8.1.3平台鸿沟232 8.1.4小结233 8.2智能计算系统抽象架构234 8.2.1抽象硬件架构234 8.2.2典型智能计算系统235 8.2.3控制模型236 8.2.4计算模型236 8.2.5存储模型237 8.3智能编程模型238 8.3.1异构编程模型239 8.3.2通用智能编程模型242 8.4智能编程语言基础247 8.4.1语法概述247 8.4.2数据类型248 8.4.3宏、常量与内置变量250 8.4.4I/O操作语句250 8.4.5标量计算语句252 8.4.6张量计算语句252 8.4.7控制流语句252 8.4.8串行程序示例253 8.4.9并行程序示例254 8.5智能应用编程接口255 8.5.1Kernel函数接口255 8.5.2运行时接口257 8.5.3使用示例259 8.6智能应用功能调试262 8.6.1功能调试方法262 8.6.2功能调试接口266 8.6.3功能调试工具269 8.6.4精度调试方法272 8.6.5功能调试实践272 8.7智能应用性能调优280 8.7.1性能调优方法280 8.7.2性能调优接口282 8.7.3性能调优工具286 8.7.4性能调优实践287 8.8基于智能编程语言的系统开发294 8.8.1高性能库算子开发294 8.8.2编程框架算子开发300 8.8.3系统开发与优化实践304 习题321 第9章 实验323 9.1基础实验：图像风格迁移323 9.1.1基于智能编程语言的算子实现323 9.1.2图像风格迁移的实现326 9.1.3风格迁移实验的操作步骤330 9.2拓展实验：物体检测333 9.2.1基于智能编程语言的算子实现333 9.2.2物体检测的实现337 9.3拓展练习337 附录A 计算机体系结构基础340 附录B 实验环境说明345 参考文献348 后记356 ---------------------------模式识别--------------------------- 前言 符号表 第一部分概述........................................1 第1章绪论........................................2 1.1样例:自动驾驶........................................3 1.2模式识别与机器学习........................................5 1.2.1一个典型的模式识别流程........................................5 1.2.2模式识别vs.机器学习........................................8 1.2.3评估、部署和细化........................................9 1.3本书的结构........................................9 习题........................................12 第2章数学背景知识........................................14 2.1线性代数........................................14 2.1.1内积、范数、距离和正交性........................................14 2.1.2角度与不等式........................................15 2.1.3向量投影........................................16 2.1.4矩阵基础........................................17 2.1.5矩阵乘法........................................18 2.1.6方阵的行列式与逆........................................19 2.1.7方阵的特征值、特征向量、秩和迹........................................20 2.1.8奇异值分解........................................22 2.1.9(半)正定实对称矩阵........................................22 2.2概率........................................23 2.2.1基础........................................23 2.2.2联合分布、条件分布与贝叶斯定理........................................25 2.2.3期望与方差/协方差矩阵........................................26 2.2.4不等式........................................27 2.2.5独立性与相关性........................................28 2.2.6正态分布........................................29 2.3优化与矩阵微积分........................................30 2.3.1局部极小、必要条件和矩阵微积分........................................30 2.3.2凸优化与凹优化........................................31 2.3.3约束优化和拉格朗日乘子法........................................33 2.4算法复杂度........................................34 2.5阅读材料........................................35 习题........................................35 第3章模式识别系统概述........................................39 3.1人脸识别........................................39 3.2一个简单的最近邻分类器........................................40 3.2.1训练或学习........................................40 3.2.2测试或预测........................................40 3.2.3最近邻分类器........................................41 3.2.4k-近邻........................................42 3.3丑陋的细节........................................43 3.4制定假设并化简........................................46 3.4.1设计工作环境vs.设计复杂算法........................................46 3.4.2假设与简化........................................47 3.5一种框架........................................51 3.6阅读材料........................................51 习题........................................53 第4章评估........................................55 4.1简单情形中的准确率和错误率........................................55 4.1.1训练与测试误差........................................56 4.1.2过拟合与欠拟合........................................56 4.1.3使用验证集来选择超参数........................................58 4.1.4交叉验证........................................59 4.2最小化代价/损失........................................61 4.2.1正则化........................................62 4.2.2代价矩阵........................................62 4.2.3贝叶斯决策理论........................................63 4.3不平衡问题中的评估........................................64 4.3.1单个类别内的比率........................................64 4.3.2ROC曲线下的面积........................................65 4.3.3查准率、查全率和F值........................................66 4.4我们能达到100％的准确率吗........................................68 4.4.1贝叶斯错误率........................................68 4.4.2真实标记........................................69 4.4.3偏置-方差分解........................................70 4.5对评估结果的信心........................................73 4.5.1为什么要取平均........................................73 4.5.2为什么要报告样本标准差........................................74 4.5.3比较两个分类器........................................75 4.6阅读材料........................................79 习题........................................79 第二部分与领域知识无关的特征提取........................................83 第5章主成分分析........................................84 5.1动机........................................84 5.1.1维度与内在维度........................................84 5.1.2降维........................................86 5.1.3PCA与子空间方法........................................86 5.2PCA降维到零维子空间........................................86 5.2.1想法-形式化-优化实践........................................87 5.2.2一个简单的优化........................................87 5.2.3一些注释........................................88 5.3PCA降维到一维子空间........................................88 5.3.1新的形式化........................................88 5.3.2最优性条件与化简........................................89 5.3.3与特征分解的联系........................................90 5.3.4解........................................91 5.4PCA投影到更多维度........................................91 5.5完整的PCA算法........................................92 5.6方差的分析........................................93 5.6.1从最大化方差出发的PCA........................................94 5.6.2一种更简单的推导........................................95 5.6.3我们需要多少维度呢........................................95 5.7什么时候使用或不用PCA呢........................................96 5.7.1高斯数据的PCA........................................96 5.7.2非高斯数据的PCA........................................96 5.7.3含异常点数据的PCA........................................98 5.8白化变换........................................98 5.9特征分解vs.SVD........................................98 5.10阅读材料........................................99 习题........................................99 第6章Fisher线性判别........................................103 6.1用于二分类的FLD........................................104 6.1.1想法:什么是隔得很远呢........................................104 6.1.2翻译成数学语言........................................105 6.1.3散度矩阵vs.协方差矩阵........................................107 6.1.4两种散度矩阵以及FLD的目标函数........................................108 6.1.5优化........................................108 6.1.6等等,我们有一条捷径........................................109 6.1.7二分类问题的FLD........................................109 6.1.8陷阱:要是SW不可逆呢........................................110 6.2用于多类的FLD........................................111 6.2.1稍加修改的符号和SW........................................111 6.2.2SB的候选........................................111 6.2.3三个散度矩阵的故事........................................112 6.2.4解........................................113 6.2.5找到更多投影方向........................................113 6.3阅读材料........................................113 习题........................................114 第三部分分类器与其他工具........................................119 第7章支持向量机........................................120 7.1SVM的关键思想........................................120 7.1.1简化它!简化它!简化它!........................................120 7.1.2查找最大（或较大）间隔的分类器........................................121 7.2可视化并计算间隔........................................122 7.2.1几何的可视化........................................123 7.2.2将间隔作为优化来计算........................................124 7.3最大化间隔........................................124 7.3.1形式化........................................125 7.3.2各种简化........................................125 7.4优化与求解........................................127 7.4.1拉格朗日函数与KKT条件........................................127 7.4.2SVM的对偶形式........................................128 7.4.3最优的b值与支持向量........................................129 7.4.4同时考虑原始形式与对偶形式........................................131 7.5向线性不可分问题和多类问题的扩展........................................131 7.5.1不可分问题的线性分类器........................................132 7.5.2多类SVM........................................134 7.6核SVM........................................134 7.6.1核技巧........................................135 7.6.2Mercer条件与特征映射........................................136 7.6.3流行的核函数与超参数........................................137 7.6.4SVM的复杂度、权衡及其他........................................138 7.7阅读材料........................................139 习题........................................139 第8章概率方法........................................144 8.1思考问题的概率路线........................................144 8.1.1术语........................................144 8.1.2分布与推断........................................145 8.1.3贝叶斯定理........................................145 8.2各种选择........................................146 8.2.1生成式模型vs.判别式模型........................................146 8.2.2参数化vs.非参数化........................................147 8.2.3该如何看待一个参数呢........................................148 8.3参数化估计........................................148 8.3.1最大似然........................................148 8.3.2最大后验........................................150 8.3.3贝叶斯........................................151 8.4非参数化估计........................................153 8.4.1一个一维的例子........................................153 8.4.2直方图近似中存在的问题........................................155 8.4.3让你的样本无远弗届........................................156 8.4.4核密度估计........................................157 8.4.5带宽选择........................................158 8.4.6多变量KDE........................................158 8.5做出决策........................................159 8.6阅读材料........................................159 习题........................................160 第9章距离度量与数据变换........................................163 9.1距离度量和相似度度量........................................163 9.1.1距离度量........................................164 9.1.2向量范数和度量........................................164 9.1.3`p范数和`p度量........................................165 9.1.4距离度量学习........................................167 9.1.5均值作为一种相似度度量........................................168 9.1.6幂平均核........................................170 9.2数据变换和规范化........................................171 9.2.1线性回归........................................172 9.2.2特征规范化........................................173 9.2.3数据变换........................................175 9.3阅读材料........................................177 习题........................................177 第10章信息论和决策树........................................182 10.1前缀码和霍夫曼树........................................182 10.2信息论基础........................................183 10.2.1熵和不确定性........................................184 10.2.2联合和条件熵........................................184 10.2.3互信息和相对熵........................................185 10.2.4一些不等式........................................186 10.2.5离散分布的熵........................................187 10.3连续分布的信息论........................................187 10.3.1微分熵........................................188 10.3.2多元高斯分布的熵........................................189 10.3.3高斯分布是最大熵分布........................................191 10.4机器学习和模式识别中的信息论........................................192 10.4.1最大熵........................................192 10.4.2最小交叉熵........................................193 10.4.3特征选择........................................194 10.5决策树........................................195 10.5.1异或问题及其决策树模型........................................195 10.5.2基于信息增益的结点划分........................................197 10.6阅读材料........................................198 习题........................................199 第四部分处理变化多端的数据........................................203 第11章稀疏数据和未对齐数据........................................204 11.1稀疏机器学习........................................204 11.1.1稀疏PCA........................................204 11.1.2使用`1范数诱导稀疏性........................................205 11.1.3使用过完备的字典........................................208 11.1.4其他一些相关的话题........................................210 11.2动态时间规整........................................212 11.2.1未对齐的时序数据........................................212 11.2.2思路（或准则）........................................213 11.2.3可视化和形式化........................................214 11.2.4动态规划........................................215 11.3阅读材料........................................218 习题........................................218 第12章隐马尔可夫模型........................................222 12.1时序数据与马尔可夫性质........................................222 12.1.1各种各样的时序数据和模型........................................222 12.1.2马尔可夫性质........................................224 12.1.3离散时间马尔可夫链........................................225 12.1.4隐马尔可夫模型........................................227 12.2HMM学习中的三个基本问题........................................228 12.3、ˉ和评估问题........................................229 12.3.1前向变量和算法........................................230 12.3.2后向变量和算法........................................231 12.4°、±、和解码问题........................................234 12.4.1°和独立解码的最优状态........................................234 12.4.2±、和联合解码的最优状态........................................235 12.5和HMM参数的学习........................................237 12.5.1Baum-Welch:以期望比例来更新.......................................238 12.5.2如何计算........................................238 12.6阅读材料........................................240 习题........................................241 第五部分高阶课题........................................245 第13章正态分布........................................246 13.1定义........................................246 13.1.1单变量正态分布........................................246 13.1.2多元正态分布........................................247 13.2符号和参数化形式........................................248 13.3线性运算与求和........................................249 13.3.1单变量的情形........................................249 13.3.2多变量的情形........................................250 13.4几何和马氏距离........................................251 13.5条件作用........................................252 13.6高斯分布的乘积........................................253 13.7应用Ⅰ:参数估计........................................254 13.7.1最大似然估计........................................254 13.7.2贝叶斯参数估计........................................255 13.8应用Ⅱ:卡尔曼滤波........................................256 13.8.1模型........................................256 13.8.2估计........................................257 13.9在本章中有用的数学........................................258 13.9.1高斯积分........................................258 13.9.2特征函数........................................259 13.9.3舒尔补&矩阵求逆引理........................................260 13.9.4向量和矩阵导数........................................262 习题........................................263 第14章EM算法的基本思想........................................266 14.1GMM:一个工作实例........................................266 14.1.1高斯混合模型........................................266 14.1.2基于隐变量的诠释........................................267 14.1.3假若我们能观测到隐变量,那会怎样......................................268 14.1.4我们可以模仿先知吗........................................269 14.2EM算法的非正式描述........................................270 14.3期望最大化算法........................................270 14.3.1联合非凹的不完整数据对数似然........................................271 14.3.2(可能是)凹的完整数据对数似然........................................271 14.3.3通用EM的推导........................................272 14.3.4E步和M步........................................274 14.3.5EM算法........................................275 14.3.6EM能收敛吗........................................275 14.4EM用于GMM........................................276 14.5阅读材料........................................279 习题........................................279 第15章卷积神经网络........................................281 15.1预备知识........................................281 15.1.1张量和向量化........................................282 15.1.2向量微积分和链式法则........................................283 15.2CNN概览........................................283 15.2.1结构........................................283 15.2.2前向运行........................................285 15.2.3随机梯度下降........................................285 15.2.4误差反向传播........................................286 15.3层的输入、输出和符号........................................287 15.4ReLU层........................................288 15.5卷积层........................................290 15.5.1什么是卷积........................................290 15.5.2为什么要进行卷积........................................291 15.5.3卷积作为矩阵乘法........................................293 15.5.4克罗内克积........................................295 15.5.5反向传播:更新参数........................................296 15.5.6更高维的指示矩阵........................................297 15.5.7反向传播:为前一层准备监督信号........................................298 15.5.8用卷积层实现全连接层........................................300 15.6汇合层........................................301 15.7案例分析:VGG-16网络........................................303 15.7.1VGG-Verydeep-16........................................303 15.7.2感受野........................................304 15.8CNN的亲身体验........................................305 15.9阅读材料........................................305 习题........................................305 参考文献........................................309 英文索引........................................325 中文索引........................................332 |
有问题微信扫码联系