新書推薦:

《
吃对一日三餐 远离阿尔茨海默病
》
售價:HK$
63.8

《
安娜·卡列尼娜 全2册 插图珍藏版
》
售價:HK$
393.8

《
布鲁克林有棵树(纽约公共图书馆20世纪重要的著作之一)
》
售價:HK$
76.8

《
影响清帝国命运的十张面孔
》
售價:HK$
85.8

《
不缩水女士:如何面对肥胖恐惧
》
售價:HK$
71.5

《
城市轨道交通车辆构造 活页式教材
》
售價:HK$
44.0

《
好风景
》
售價:HK$
47.1

《
鱼缸实验:焦虑爱好者的生存指南
》
售價:HK$
61.6
|
編輯推薦: |
以理论知识为主,附以实战案例。帮助学生全面了解人工智能安全知识。包含内生安全、应用安全、赋能安全。所有实战案例都给出对应的理论知识,并提供源代码和步骤。配套提供电子课件、习题答案、教学大纲、源代码、知识点视频、实践视频。
|
內容簡介: |
本书是高等院校网络空间安全、人工智能、计算机等专业的普及性教材,旨在帮助学生全面了解人工智能安全知识并进行实践。全书共11章,分别为:人工智能安全概述、生成对抗网络攻击与防护、数据投毒攻击与防护、对抗样本攻击与防护、后门攻击与防护、隐私攻击与防护、预训练攻击与防护、伪造攻击与防护、人工智能模型的攻击与防护、模型窃取与防护、大语言模型安全。本书提供各章对应的Python编程实践源代码,读者可以通过提供的网盘下载链接获取。
|
關於作者: |
李剑,北京邮电大学教授,博士生导师。一直从事人工智能、网络空间安全、信息安全、量子密码、计算机软件等方面的研究。北京市思政教学名师。在国内外期刊发表论文300余篇,其中SCI检索论文100篇余篇;出版信息安全方面教材10余本,其中包括《信息安全概论》、《人工智能安全:原理与实践》等国家 级规划教材和北京市精品教材。承担过多项国家自然科学基金、北京市自然基金等项目;参与多项国家863、973等项目。目前是中国互联网协会反恶意软件技术组组长,中国密码学会高级会员,中国计算机学会高级会员,中国人工智能学会高级会员。《信息安全研究》期刊编委。
|
目錄:
|
前言第1章人工智能安全概述11人工智能安全的引入12人工智能安全的概念13人工智能安全的架构、风险及应对方法131人工智能安全架构132人工智能安全风险133人工智能安全风险的应对方法14人工智能安全现状与治理15本书的使用方法16思考题第2章生成对抗网络攻击与防护21生成对抗网络概述22生成对抗网络的基本原理与改进模型221基本原理222改进模型23生成对抗网络攻击的基础知识231问题定义232攻击原理233攻击分类24实践案例:基于生成对抗网络的sin曲线样本模拟241实践概述242实践环境243实践步骤244实践核心代码245实践结果25实践案例:基于对抗性攻击无数据替代训练的模型窃取251实践概述252实践环境253实践步骤254实践核心代码255实践结果26生成对抗网络攻击的防护261针对恶意样本生成的防护262针对模型窃取攻击的防护27实践案例:基于DenseNet对真实人脸和StyleGAN生成的虚假人脸进行识别271实践概述272实践环境273实践步骤274实践核心代码275实践结果28思考题第3章数据投毒攻击与防护31数据投毒攻击概述32数据投毒攻击的原理321数据投毒攻击形式322数据投毒攻击优化公式323数据投毒攻击过程324实现数据投毒攻击的方法33实践案例:基于卷积神经网络的数据投毒攻击331实践概述332实践环境333实践步骤334实践核心代码335实践结果34数据投毒防护341数据清洗342鲁棒性训练343异常检测344多模型验证35实践案例:基于卷积神经网络的数据投毒防护351实践概述352实践环境353实践步骤354实践核心代码355实践结果36思考题第4章对抗样本攻击与防护41对抗样本攻击概述42对抗样本攻击的基础知识421问题定义422攻击分类43对抗样本攻击算法431基于梯度的攻击432基于优化的攻击433基于迁移的攻击434基于查询的攻击44实践案例:MNIST手写数字识别441实践概述442实践环境443实践步骤444实践核心代码445实践结果45对抗样本攻击防护451数据层面452模型层面46思考题第5章后门攻击与防护51后门攻击概述511定义及背景512相关研究发展52后门攻击的基础知识521后门攻击的原理522后门攻击的分类523常见的后门攻击方法53实践案例:基于BadNets模型的后门攻击531实践概述532实践环境533实践步骤534实践核心代码535实践结果54后门攻击的防护541后门攻击的预防措施542常见的检测方法55思考题第6章隐私攻击与防护61隐私攻击概述611人工智能中的隐私问题612隐私问题的重要性613隐私问题的分类62隐私攻击的原理621模型反演622成员推理623模型窃取63实践案例:基于梯度下降法的模型逆向攻击631实践概述632实践环境633实践步骤634实践核心代码635实践结果64隐私攻击防护641数据预处理阶段的隐私保护642模型训练阶段的隐私保护65思考题第7章预训练攻击与防护71预训练攻击概述711预训练攻击的定义与分类712预训练攻击的背景713攻击场景与应用领域72预训练攻击的原理721预训练模型的固有脆弱性722数据污染与隐蔽攻击机制723参数空间操纵与漏洞传播724漏洞传播的生态级影响73预训练攻击防护731数据层面的防护机制732模型参数的安全加固733训练框架的安全重构734动态防护与运行时监控74实践案例:针对Transformer模型的后门攻击741实践概述742实践环境743实践步骤744实践核心代码745实践结果75实践案例:针对Transformer模型的后门攻击防护751实践概述752实践环境753实践步骤754实践核心代码755实践结果76思考题第8章伪造攻击与防护81伪造攻击概述811深度伪造技术的定义与发展812应用场景813社会影响82伪造攻击的原理821图像视频伪造822语音伪造83实践案例:基于深度伪造技术的人脸伪造831实践概述832实践环境833实践步骤834实践核心代码835实践结果84实践案例:基于Tacotron2的语音合成841实践概述842实践环境843实践步骤844实践核心代码845实践结果85伪造攻击防护851图像视频伪造检测852语音伪造检测853基于多模态的检测方法86实践案例:基于逆扩散的伪造溯源861实践概述862实践环境863实践步骤864实践核心代码865实践结果87思考题第9章人工智能模型的攻击与防护91模型攻击概述92模型攻击的原理921对抗攻击的原理922模型反演攻击的原理923模型窃取攻击的原理924数据毒化攻击的原理925数据提取攻击的原理926成员推理攻击的原理927属性推理攻击的原理93实践案例:基于面部识别模型的模型反演攻击931实践概述932实践环境933实践步骤934实践结果94实践案例:基于影子模型的成员推理攻击941实践概述942实践环境943实践步骤944实践结果95实践案例:基于神经网络的属性推理攻击951实践概述952实践环境953实践步骤954实践结果96模型攻击防护961对抗训练962输入检查与消毒963模型结构防护964查询控制防护965联邦学习966数字水印97思考题第10章模型窃取与防护101模型窃取概述102模型属性窃取算法1021基于元学习的模型窃取攻击1022线性分类器模型窃取攻击1023基于生成对抗网络的模型窃取攻击1024决策边界窃取攻击103模型功能窃取算法1031基于雅可比矩阵的模型窃取1032基于深度学习的模型窃取1033基于强化学习的模型窃取1034基于主动学习的模型窃取104实践案例:黑盒环境下的模型窃取攻击1041实践概述1042实践环境1043实践步骤1044实践核心代码1045实践结果105模型窃取防护1051限制查询访问1052输出混淆与噪声添加1053模型水印与指纹1054提高模型鲁棒性106思考题第11章大语言模型安全111大语言模型安全概述112大语言模型的攻击类型113大语言模型的伦理与合规1131偏见和公平问题1132隐私和安全1133问责制和透明度1134促进社会利益和人类价值观114实践案例:CyberSecEval大语言模型安全评估1141实践概述1142实践环境1143实践步骤1144实践核心代码1145实践结果115大语言模型的安全防护机制116思考题参考文献
|
內容試閱:
|
随着人工智能(Artificial Intelligence,AI)时代的到来,世界各国都在争相发展人工智能技术与应用。人工智能是引领全球科学技术革命和产业升级换代的战略性技术,正在重塑着人们对国家安全、经济发展与社会稳定的理解。然而,在提高人们生活质量和提升企业效率的同时,人工智能技术也为网络攻击者带来了便利,为原本错综复杂的信息网络环境提出了新的挑战。传统的信息安全方法已经不足以应对这些新风险,需要专门针对人工智能安全,研究新的安全技术,建立新的管理策略,以保障信息系统的正常运行。我国对人工智能安全非常重视。2024年9月,全国网络安全标准化技术委员会发布了《人工智能安全治理框架》(简称《框架》)10版,《框架》以鼓励人工智能创新发展为第一要务,以有效防范、化解人工智能安全风险为出发点和落脚点,提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理原则。根据相关资料显示,截止到2025年4月,我国已有624所普通高校开设了人工智能专业,241所高校开设了智能科学与技术专业,300余所高校开设了网络空间安全或信息安全专业。由此可见,在高等教育层面,国家对于人工智能和网络安全非常重视。当前,我国虽然有许多高校开设了网络空间安全或人工智能相关的专业,但是与人工智能安全相关的教材却相对较少。本书主要从帮助学生进行人工智能安全方面的理论学习角度出发,通过在理论学习的同时添加部分Python编程实践的方式,帮助学生了解人工智能安全知识。全书共11章,分别为:人工智能安全概述、生成对抗网络攻击与防护、数据投毒攻击与防护、对抗样本攻击与防护、后门攻击与防护、隐私攻击与防护、预训练攻击与防护、伪造攻击与防护、人工智能模型的攻击与防护、模型窃取与防护、大语言模型安全。本书由李剑、吕昕晨、郑家民主编。感谢我的学生郭永跃、付安棋、梁成、赵梓涵、张德俊、胡昀昊、王乃乐、张春晖、李舒雅、代睿祺、王卓、车凡庭、范茜文;感谢北京邮电大学网络空间安全学院的南国顺和郝杰老师,他们对本书的写作给予了极大的支持与帮助。参与本书编写和审阅工作的还有孟玲玉、李胜斌、孟祥梅,这里一并表示感谢。本书在撰写和出版过程中得到了国家自然科学基金(NoU1636106、No61472048)、北京邮电大学2024年本科教育教学改革项目“人工智能安全实践实训平台设计与实现(No2024YB34)”、2024年北京邮电大学优秀实验教学案例建设项目“人工智能安全实验(No2024025)”、2024年北京邮电大学“十四五”规划教材建设项目(No108)、北京邮电大学2025年本科教育教学改革项目立项资助(No2025ZD12)的资助。本书是北京邮电大学“国家人工智能产教融合创新平台”的研究成果。本书的出版得到了中国电子商会数字教育专业委员会的支持。本书得到启明星辰信息技术集团股份有限公司产学合作协同育人项目“人工智能安全课程建设研究”的支持。2025年6月5日,本书的撰写方法和相关课程“人工智能安全实践课程与教材建设”获得了中国互联网协会颁发的“中国网络安全优秀案例奖”。由于作者水平有限,书中疏漏与不妥之处在所难免,恳请广大同行和读者指导和斧正。
|
|