华为AI安全（2018）

●文章摘要：

本文档是由华为技术有限公司发布的AI安全白皮书。本白皮书主要目的是探讨AI自身的安全，确保AI模型和数据的完整性与保密性，使其在不同的业务场景下，不会轻易地被攻击者影响而改变判断结果或泄露数据。不同于传统的系统安全漏洞，机器学习系统存在安全漏洞的根因是其工作原理极为复杂，缺乏可解释性。华为致力于AI安全的研究，旨在提供一个令用户放心的AI应用安全环境，为华为AI使能构建智能世界的新时代愿景与使命做出贡献。为了应对AI安全的新挑战，本白皮书提出了将AI系统部署到业务场景中所需要的三个层次的防御手段：攻防安全，对已知攻击设计有针对性的防御机制；模型安全，通过模型验证等手段提升模型健壮性；架构安全，在部署AI的业务中设计不同的安全机制保证业务安全。

●关键词：

AI；安全；攻防安全；模型安全；架构安全

●作者简介：

华为技术有限公司（2018年）

●文章来源：

摘编自网络

●文章目录：

一、迈向智能社会

二、AI安全面临五大挑战

三、AI安全典型攻击方式

1、闪避攻击

2、药饵攻击

3、后门攻击

4、模型窃取攻击

四、AI安全防御手段

1、AI安全攻防

2、AI模型安全

3、AI业务的安全结构

五、携手共建安全的智慧未来

●文章内容：