人工智能安全
| 作者 |
| 方滨兴 |
| 丛书名 |
| 人工智能出版工程 |
| 出版社 |
| 电子工业出版社 |
| ISBN |
| 9787121389917 |
| 简要 |
| 简介 |
| 内容简介 本书在简要介绍人工智能发展历程、世界各国人工智能战略规划之后，重点围绕人工智能安全主题，提出人工智能安全体系架构，讨论了人工智能助力安全、人工智能内生安全、人工智能衍生安全等相关内容，并深入研究了人工智能安全伦理准则。本书还详细分析了人工智能行为体及其可能引发的安全问题，提出了人工智能保险箍的解决方案，并给出了人工智能行为体的安全评估与检测方法。本书最后还探讨了人工智能的前沿技术，以及人工智能安全的未来发展趋势。本书适合人工智能及安全领域的研究人员、管理人员以及广大爱好者阅读。 |
| 目录 |
| 第1章人工智能技术发展概述 11人工智能的研究方向及起源 111人工智能的研究方向 112人工智能起源 12人工智能发展的三次高峰 121人工智能第一次高峰 122人工智能第二次高峰 123人工智能第三次高峰 13人工智能的三个学术流派 131符号主义 132连接主义 133行为主义 134关于三个学术流派的评论 14人工智能第三次发展高峰的技术推手 141深度学习的贡献 142软件框架成为人工智能应用的推手 143解决不同软硬件的适配 144算力大幅提升的贡献 145大数据的贡献 146移动互联网与传感器的贡献 15人工智能带来的巨大冲击 151人工智能对经济的冲击 152人工智能对社会的冲击 153人工智能对人类思维的冲击 154人工智能对教育与就业的影响 155人工智能对隐私的冲击 16本章小结 参考文献 第2章世界各国人工智能发展战略规划 21美国人工智能发展战略 211美国人工智能发展职能机构 212美国人工智能发展战略 213美国制订人工智能发展计划 214美国人工智能监管政策 22欧盟及英国人工智能发展战略 221欧盟及英国的人工智能战略 222欧盟人工智能发展计划 223欧盟及英国的人工智能伦理原则 224欧盟及英国人工智能立法及监管 23其他一些国家人工智能发展战略 231日本人工智能发展战略 232俄罗斯人工智能发展战略规划 233韩国、新加坡、加拿大、印度等国的人工智能战略 24我国人工智能发展战略 241我国人工智能发展的总体要求 242我国人工智能发展的主要任务 243我国人工智能产业发展的资源配置 244我国人工智能发展的保障措施 245我国人工智能发展的组织保障 246我国人工智能人才培养政策 25国内外人工智能标准研究 251国际人工智能标准研究 252中国人工智能标准研究 26本章小结 参考文献 第3章人工智能安全概述 31人工智能与安全的辩证关系 32人工智能安全架构与分类 321人工智能安全体系架构 322人工智能助力安全 323人工智能内生安全 324人工智能衍生安全 33人工智能安全所处位置及外部关联 331人工智能安全性、可靠性和可控性的关系 332人工智能安全与法律、政策和标准的关系 333人工智能安全与伦理之间的关系 334人工智能安全评测与防控 34本章小结 参考文献 第4章人工智能助力安全 41人工智能助力安全概述 42人工智能助力防御 421物理智能安防监控 422军用机器人 423智能入侵检测 424恶意代码检测与分类 425基于知识图谱的威胁猎杀 426用户实体行为分析 427垃圾邮件检测 43人工智能助力攻击 431自动化网络攻击 432助力于网络攻击，提升网络攻击效率 433助力于有害信息的传播 434助力于虚假信息内容的制作 435智能恶意代码 436神经网络后门 437对抗机器学习 438智能工具被用于恶意攻击 439助力自主武器研发 44本章安全小结 参考文献 第5章人工智能的内生安全 51数据安全 511数据集质量影响人工智能内生安全 512数据投毒可人为地导致人工智能算法出错 513对抗样本成为人工智能内生安全的新关注点 52框架安全 53算法安全 531算法的可解释性 532对抗样本体现出人工智能算法缺乏可解释性 54模型安全 541模型存储和管理的安全 542开源模型被攻击 55运行安全 551客观原因导致的运行安全问题 552主观原因导致的运行安全问题 56本章小结 参考文献 第6章人工智能衍生安全问题 61人工智能系统失误而引发的安全事故 611自动驾驶汽车失效 612智能机器人失效 613智能音箱失效 614人工智能系统“失控” 615会话人工智能的偏激言论 616医疗人工智能的危险治疗意见 62人工智能武器研发可能引发国际军备竞赛 621各国人工智能武器化发展情况 622人工智能武器军备竞赛带来的风险 63人们对人工智能技术失控的担忧 64人工智能行为体失控三要素 641人工智能行为体具有行为能力以及破坏力 642人工智能行为体具有不可解释的决策能力 643人工智能行为体具有进化能力，可进化成自主系统 65预防人工智能技术失控的举措 651人机协作国际规范 652阿西洛马人工智能原则 653自我终结机制防范系统性失控风险 66本章小结 参考文献 第7章人工智能行为体 71人工智能行为体的定义 72人工智能行为体类型1——传统型 721工业机器人 722专用服务机器人 723家用型机器人 73人工智能行为体类型2——自动驾驶的交通工具 731自动驾驶简介 732自动驾驶汽车 733人工智能无人机 734无人驾驶船舶 74人工智能行为体类型3——人工智能武器 741人工智能武器简介 742“杀人蜂” 武器 743炮塔型AI战斗机器人 744人形战斗机器人 75人工智能行为体类型4——类人机器人 751Jules机器人 752Bina48机器人 753Sophia机器人 76人工智能行为体的特性 761人工智能行为体的移动特性 762人工智能行为体的决策特性 763人工智能行为体的自主特性 77本章小结 参考文献 第8章人工智能行为体保险箍 81体系架构 82基本功能 821远程控制组件 822能源控制组件 823宿主交互组件 824数据记录组件 83安全机制 831设备安全 832数据安全 833运行安全 84安全围栏 841工作过程 842移动范围限制 843速度与距离监控 844输出功率与力约束 845安全策略 85增强功能 851内置传感器 852人的识别 853“黑AIA”识别 86防控中心 861态势感知 862指挥控制 863应急处置 864专家研判 87生态环境 871准入制度 872标准规范 873生态基础 88本章小结 参考文献 第9章人工智能行为体的安全评估与检测 91人工智能行为体的安全管理概述 911从术语的角度感受个人助理机器人的安全要素 912个人助理机器人的风险评估要求 913个人助理机器人的安全要求 914个人助理机器人的功能安全 92人工智能行为体安全评估和检测的目标 921动能安全：对AIA动能的评估 922决策安全：对决策系统安全的评估 923自主安全：对AIA自主能力失控风险的评估 93人工智能行为体安全评估的方法与指标 931动能安全评估 932决策安全评估 933自主安全评估 934安全评估过程 94人工智能行为体检测能力与检测方法 941针对AIA动能的检测方法 942针对AIA决策机制的检测方法 943针对AIA自主能力的检测方法 95人工智能行为体的检测流程 951针对AIA动能的检测流程 952针对AIA决策机制的检测流程 953针对AIA自主能力的检测流程 96本章小结 参考文献 第10章人工智能安全伦理准则 101人工智能技术引发的伦理问题 1011人权问题 1012伦理地位问题 1013责任伦理问题 1014风险问题 102人工智能技术发展的伦理准则 1021各国政府及社团组织关于人工智能技术发展的伦理准则 1022国际组织关于人工智能技术发展的伦理准则 1023企业和高等院校关于人工智能技术发展的伦理准则 103人工智能行为体的伦理决策 1031人工智能行为体的伦理决策能力 1032人工智能行为体的伦理决策设计 1033人工智能行为体的伦理决策考量 104人工智能行为体的责任归咎 1041责任主体 1042责任分配 1043无人驾驶汽车的责任追究 105小结 参考文献 第11章人工智能前沿技术 111学术前沿 1111强化学习 1112迁移学习 1113联邦学习 1114分布式机器学习 1115表示学习 1116元学习 1117可解释的人工智能 1118对抗训练 1119人工智能芯片 11110技术前沿安全挑战 112应用前沿 1121计算机视觉 1122自然语言处理 1123智能语音 1124智能驾驶 1125拟人和仿生 1126智能攻防 1127应用前沿安全挑战 113交叉领域 1131人工智能与互联网 1132人工智能和工业40 1133人工智能和医学生物 1134人工智能和军事 1135人工智能和商业模式 1136人工智能和人文社会 1137交叉领域安全挑战 114本章小结 参考文献 第12章人工智能安全的未来展望 121人工智能内生安全的未来展望 1211数据是否会制约人工智能内生安全 1212对抗样本是否会出现在实际应用场景中 1213是否存在安全的智能模型 1214人工智能执行过程是否安全 122人工智能衍生安全的未来展望 1221人工智能武器化 1222人工智能滥用导致安全隐患 1223人工智能是否会危害人类 123人工智能安全相关的未来焦点 1231警惕人工智能算法成为下一个被卡脖子的核心技术 1232如何看待人工智能自主发明物的专利性问题 1233人工智能对人的影响 1234人工智能挑起的欲望 1235超人工智能是否会危害人类 124人工智能的安全可控之路 1241建立保护人类的法律规范和规章制度 1242确立人类优先与安全优先的原则 1243谨慎承认智能机器人的法律主体资格 1244充分尊重社会公众的知情权 1245人工智能的安全评估与检测 1246人工智能安全可控需要社会各界共同的努力 125本章小结 |
有问题微信扫码联系