●文章摘要：
⼈⼯智能（AI）是⼈类发展新领域，深刻改变⼈类⽣产、⽣活⽅式，给世界带来前所未有发展机遇，也带来前所未遇⻛险挑战。为落实《全球⼈⼯智能治理倡议》，遵循“以⼈为本、智能向善”的发展⽅向，以推动各国政府、⾏业企业、机构组织、社会公众等各⽅以及国际社会，就⼈⼯智能安全治理达成共识、协调⼀致，有效防范应对⼈⼯智能安全⻛险，在国家互联⽹信息办公室的指导下，全国⽹络安全标准化技术委员会组织国家计算机⽹络应急技术处理协调中⼼等专业机构、科研院所、⾏业企业，持续跟踪⻛险变化，梳理调整⻛险分类，研究探索⻛险分级⽅法，动态调整更新防范治理措施，分别于2024年和2025年连续两年制定并发布了《⼈⼯智能安全治理框架》1.0版和《⼈⼯智能安全治理框架》2.0版，旨在推动增进⼈⼯智能安全治理共识，促进协同共治、普惠共享。
●关键词：
人工智能（AI）；AI安全治理框架；AI安全风险；AI安全治理措施；AI研发与应用的安全指引
●作者简介：
全国网络安全标准化技术委员会：委员会是在网络安全技术专业领域内，从事网络安全标准化工作的技术工作组织。其主要工作范围包括：网络安全技术、机制、服务、管理、评估等领域的标准化技术工作。
国家计算机⽹络应急技术处理协调中⼼：是中国计算机网络应急处理体系中的牵头单位，按照“积极预防、及时发现、快速响应、力保恢复”的方针，开展互联网网络安全事件的预防、发现、预警和协调处置等工作，运行和管理国家信息安全漏洞共享平台（CNVD），维护公共互联网安全，保障关键信息基础设施的安全运行。
●文章来源：
摘编自国家互联⽹信息办公室网站
●文章目录：
|
《人工智能安全治理框架》1.0版 |
《人工智能安全治理框架》2.0版 |
|
1、人工智能安全治理原则 |
1、人工智能安全治理原则 |
|
2、人工智能安全治理框架构成 |
2、人工智能安全治理框架构成 |
|
3、人工智能安全风险分类 3.1 人工智能内生安全风险 3.2 人工智能应用安全风险 |
3、人工智能安全风险分类 3.1 人工智能技术内生安全风险 3.2 人工智能技术应用安全风险 3.3 人工智能应用衍生安全风险 |
|
4、技术应对措施 4.1 针对人工智能内生安全风险 4.2 针对人工智能应用安全风险 |
4、技术应对措施 4.1 技术内生安全风险应对措施 4.2 技术应用安全风险应对措施 4.5 应用衍生安全风险应对措施 |
|
5、综合治理措施 |
5、综合治理措施 （共包括14项措施） |
|
6、人工智能安全开发应用指引 6.1 模型算法研发者安全开发指引 6.2 人工智能服务提供者安全指引 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 |
6、人工智能研发与应用的安全指引 6.1 模型算法研发的安全开发指引 6.2 应用建设部署的安全指引 6.3 应用运行管理的安全指引 6.4 应用访问使用的安全指引 |
|
|
附件 1：人工职能安全风险的分级原则 附件 2：可信人工职能基本准则 附件 3：术语 |
●文章内容：
1.89MB
