| 作者 |
| 安东尼·D. 约瑟夫 布莱恩·尼尔森 本杰明·I. P. 鲁宾斯坦 J. D. 泰格 叶夫根尼·沃罗贝基克穆拉特·坎塔尔乔格卢 |
| 丛书名 |
| 智能科学与技术丛书 |
| 出版社 |
| 机械工业出版社 |
| ISBN |
| 9782008181020 |
| 简要 |
| 简介 |
| 内容简介书籍计算机书籍 ---------------------------对抗机器学习--------------------------- 本书由机器学习安全领域的学者撰写,针对存在安全威胁的对抗性环境,讨论如何构建健壮的机器学习系统,全面涵盖所涉及的理论和工具。全书分为四部分,分别讨论对抗机器学习的基本概念、诱发型攻击、探索性攻击和未来发展方向。书中介绍了当前最实用的工具,你将学会利用它们来监测系统安全状态并进行数据分析,从而设计出有效的对策来应对新的网络攻击;详细讨论了隐私保护机制和分类器的近似最优规避,在关于垃圾邮件和网络安全的案例研究中,深入分析了传统机器学习算法为何会被成功击破;全面概述了该领域的最新技术以及未来可能的发展方向。本书适合机器学习、计算机安全、网络安全领域的研究人员、技术人员和学生阅读。 ---------------------------对抗机器学习:机器学习系统中的攻击和防御--------------------------- 本书提供了针对对抗性机器学习的弱点,研究并开发相关操作技术这一领域的概述。回顾了机器学习的概念和方法后提出了对机器学习攻击的一般分类及处理两大类攻击、相关的防御和尝试学习的攻击技术。 |
| 目录 |
---------------------------对抗机器学习--------------------------- 译者序 致谢 符号表 第一部分对抗机器学习概述 第1章引言 11动机 12安全学习的原则性方法 13安全学习年表 14本书内容概述 第2章背景知识及符号说明 21基本表示 22统计机器学习 221数据 222假设空间 223学习模型 224监督学习 225其他学习模式 第3章安全学习框架 31学习阶段分析 32安全分析 321安全目标 322威胁模型 323安全中的机器学习应用探讨 33框架 331分类 332对抗学习博弈 333对抗能力特征 334攻击 335防御 34探索性攻击 341探索性博弈 342探索性完整性攻击 343探索性可用性攻击 344防御探索性攻击 35诱发型攻击 351诱发型博弈 352诱发型完整性攻击 353诱发型可用性攻击 354防御诱发型攻击 36重复学习博弈 37隐私保护学习 371差分隐私 372探索性和诱发型隐私攻击 373随机效用 第二部分关于机器学习的诱发型攻击 第4章攻击一个超球面学习者 41超球面检测器的诱发型攻击 411学习假设 412攻击者假设 413分析方法论 42超球面攻击描述 421取代质心 422攻击的正式描述 423攻击序列的特征 43最优无约束攻击 44对攻击施加时间限制 441可变质量的堆叠块 442替代配方 443最优松弛解 45使用数据替换进行重新训练的攻击 451平均输出和随机输出替换策略 452最近输出替换策略 46受限制的攻击者 461贪婪最佳攻击 462混合数据攻击 463扩展 47总结 第5章可用性攻击案例研究:SpamBayes 51SpamBayes垃圾邮件过滤器 511SpamBayes的训练算法 512SpamBayes的预测 513SpamBayes的模型 52SpamBayes的威胁模型 521攻击者目标 522攻击者知识 523训练模型 524污染假设 53对SpamBayes学习者的\诱发型攻击 531诱发型可用性攻击 532诱发型完整性攻击——伪垃圾邮件 54拒绝负面影响防御 55使用SpamBayes进行实验 551实验方法 552字典攻击结果 553集中攻击结果 554伪垃圾邮件攻击实验 555RONI结果 56总结 第6章完整性攻击案例研究:主成分分析检测器 61PCA方法用于流量异常检测 611流量矩阵和大规模异常 612用于异常检测的子空间方法 62腐蚀PCA子空间 621威胁模型 622无信息垃圾流量选择 623局部信息垃圾流量选择 624全局信息垃圾流量选择 625温水煮青蛙式攻击 63腐蚀抵御检测器 631直觉 632PCAGRID方法 633鲁棒的拉普拉斯阈值 64实证评估 641准备 642识别易受攻击流 643攻击评估 644ANTIDOTE评估 645温水煮青蛙式毒化攻击实证评估 65总结 第三部分关于机器学习的探索性攻击 第7章用于SVM学习的隐私保护机制 71隐私泄露案例研究 711马萨诸塞州员工健康记录 712AOL搜索查询日志 713Netflix奖 714Twitter昵称的去匿名化 715全基因组关联研究 716广告微目标 717经验教训 72问题定义:隐私保护学习 721差分隐私 722可用性 723差分隐私的历史研究方向 73支持向量机:简单介绍 731平移不变核 732算法的稳定性 74基于输出干扰的差分隐私 75基于目标函数干扰的差分隐私 76无限维特征空间 77最优差分隐私的界限 771上界 772下界 78总结 第8章分类器的近似最优规避 81近似最优规避的特征 811对抗成本 812近似最优规避 813搜索的术语 814乘法最优性与加法最优性 815凸诱导性分类器族 82l1成本凸类的规避 821对于凸X+f的IMAC搜索 822对于凸X-f的IMAC学习 83一般lp成本的规避 831凸正集 832凸负集 84总结 841近似最优规避中的开放问题 842规避标准的替代 843现实世界的规避 第四部分对抗机器学习的未来方向 第9章对抗机器学习的挑战 91讨论和开放性问题 911对抗博弈的未探索组件 912防御技术的发展 92回顾开放性问题 93结束语 附录A学习和超几何背景知识 附录B超球面攻击的完整证明 附录CSpamBayes分析 附录D近似最优规避的完整 证明 术语表 参考文献 ---------------------------对抗机器学习:机器学习系统中的攻击和防御--------------------------- 译者序 前言 致谢 作者简介 译者简介 第1章 引言1 第2章 机器学习预备知识5 2.1 监督学习5 2.1.1 回归学习6 2.1.2 分类学习7 2.1.3 PAC可学习性9 2.1.4 对抗环境下的监督学习9 2.2 无监督学习10 2.2.1 聚类11 2.2.2 主成分分析11 2.2.3 矩阵填充12 2.2.4 对抗环境下的无监督学习13 2.3 强化学习15 2.3.1 对抗环境下的强化学习17 2.4 参考文献注释17 第3章 对机器学习的攻击类型19 3.1 攻击时机20 3.2 攻击者可以利用的信息22 3.3 攻击目标23 3.4 参考文献注释24 第4章 决策时攻击26 4.1 对机器学习模型的规避攻击示例26 4.1.1 对异常检测的攻击:多态混合27 4.1.2 对PDF恶意软件分类器的攻击28 4.2 决策时攻击的建模30 4.3 白盒决策时攻击31 4.3.1 对二元分类器的攻击:对抗性分类器规避31 4.3.2 对多类分类器的决策时攻击38 4.3.3 对异常检测器的决策时攻击40 4.3.4 对聚类模型的决策时攻击40 4.3.5 对回归模型的决策时攻击41 4.3.6 对强化学习的决策时攻击44 4.4 黑盒决策时攻击45 4.4.1 对黑盒攻击的分类法46 4.4.2 建模攻击者信息获取48 4.4.3 使用近似模型的攻击50 4.5 参考文献注释51 第5章 决策时攻击的防御53 5.1 使监督学习对决策时攻击更坚固53 5.2 最优规避鲁棒性分类56 5.2.1 最优规避鲁棒的稀疏SVM56 5.2.2 应对自由范围攻击的规避鲁棒SVM60 5.2.3 应对受限攻击的规避鲁棒SVM62 5.2.4 无限制特征空间上的规避鲁棒分类63 5.2.5 对抗缺失特征的鲁棒性64 5.3 使分类器对决策时攻击近似坚固66 5.3.1 松弛方法66 5.3.2 通用防御:迭代再训练68 5.4 通过特征级保护的规避鲁棒性69 5.5 决策随机化70 5.5.1 模型70 5.5.2 最优随机化的分类操作72 5.6 规避鲁棒的回归74 5.7 参考文献注释75 第6章 数据投毒攻击77 6.1 建模投毒攻击78 6.2 对二元分类的投毒攻击79 6.2.1 标签翻转攻击79 6.2.2 对核SVM的中毒数据插入攻击81 6.3 对无监督学习的投毒攻击84 6.3.1 对聚类的投毒攻击84 6.3.2 对异常检测的投毒攻击86 6.4 对矩阵填充的投毒攻击87 6.4.1 攻击模型87 6.4.2 交替最小化的攻击89 6.4.3 核范数最小化的攻击91 6.4.4 模仿普通用户行为92 6.5 投毒攻击的通用框架94 6.6 黑盒投毒攻击96 6.7 参考文献注释98 第7章 数据投毒的防御100 7.1 通过数据二次采样的鲁棒学习100 7.2 通过离群点去除的鲁棒学习101 7.3 通过修剪优化的鲁棒学习104 7.4 鲁棒的矩阵分解107 7.4.1 无噪子空间恢复107 7.4.2 处理噪声108 7.4.3 高效的鲁棒子空间恢复109 7.5 修剪优化问题的高效算法110 7.6 参考文献注释111 第8章 深度学习的攻击和防御113 8.1 神经网络模型114 8.2 对深度神经网络的攻击:对抗样本115 8.2.1 l2范数攻击116 8.2.2 l∞范数攻击119 8.2.3 l0范数攻击121 8.2.4 物理世界中的攻击122 8.2.5 黑盒攻击123 8.3 使深度学习对对抗样本鲁棒123 8.3.1 鲁棒优化124 8.3.2 再训练127 8.3.3 蒸馏127 8.4 参考文献注释128 第9章 未来之路131 9.1 超出鲁棒优化的范围131 9.2 不完全信息132 9.3 预测的置信度133 9.4 随机化133 9.5 多个学习器134 9.6 模型和验证134 参考文献136 索引146 |