5 月 19 日，在 2026 年中国网络文明大会人工智能赋能网络文明建设分论坛上，全国网络安全标准化技术委员会发布了《人工智能应用伦理安全指引 1.0》。这份文件编号为 TC260-005，由全国网络安全标准化技术委员会发布。
这不是一份面向某个单一产品的操作手册。它更像是给 AI 应用相关方划出一套基本边界：开发者、服务提供者和使用者都要考虑 AI 带来的伦理安全影响，而不是等问题发生以后再补救。
为什么现在发布这份指引
生成式人工智能、智能体等技术正在进入更多工作和生活场景。AI 能写文档、做客服、辅助决策，也能参与内容分发、知识生产和公共服务。便利是明显的，风险也不难看到。
《指引》在摘要中提到，人工智能应用在深刻改变社会运行和个人生活方式的同时，也带来了伦理安全挑战。文件希望从安全影响角度出发，引导相关方在开发和使用 AI 时更稳妥地处理人与技术、社会和自然之间的关系。
说得直白一点，AI 应用不能只问“能不能做”，还要问“该不该这样做”“出了问题谁负责”“用户有没有被清楚告知”。这些问题过去常被放在产品上线之后讨论，现在被提前放到了应用设计和服务提供阶段。
文件关注哪些风险
《指引》列出了人工智能应用可能带来的多类伦理安全影响，包括人类主导权、公共秩序、个体认知、社会分化、生命健康、基本权益和可持续生态等方面。
其中一个重点是人类主导权。文件提醒，如果对 AI 应用关键节点的监督、干预和纠偏不足，技术行为可能超出人类预设和可控范围，进而影响社会运行和治理过程中的主体地位。
另一个现实问题是公平。AI 系统可能在不同群体间产生差异化影响，放大偏见与歧视，造成结构性不利后果。文件特别提到，应关注特殊群体与弱势群体权益，避免技术应用加剧不公平。
隐私和个人权益也被放在显眼位置。AI 应用往往依赖大量数据，涉及个人信息、敏感信息、行为记录和内容生成。文件要求尊重人的隐私权益，避免突破合理预期的隐私边界。
九项原则：从“智能向善”落到具体要求
《指引》提出的伦理安全原则包括增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信、敏捷共治和普惠共享。
这些表述听起来比较宏观，但文件并没有停留在口号层面。比如“公开透明”对应的是告知、可感知、可理解和可追溯；“可控可信”对应的是人类控制机制、应急处置与人工干预机制；“合理控制风险”则要求审慎开展可能对国家安全、公共安全、生命健康产生重大影响的 AI 应用。
这说明一个变化：AI 治理正在从原则倡议走向流程要求。企业不能只在发布会上说自己重视安全，还需要在研发、上线、运营和反馈环节留下可检查的安排。
开发者要做什么
对应用开发者，《指引》提出了较多前置要求。开发前要识别伦理安全需求，关注应用是否适合使用 AI，避免单纯为了技术展示而上 AI。
文件还要求开发者理性认识 AI 的技术能力边界，正确看待“幻觉”等问题。对缺乏依据或者存在不确定性的输出，应给出必要管控和提示说明。
在数据、算法和模型设计环节，安全可信、公平公正、隐私保护、机会均等这些要求都要嵌入进去。面向未成年人、老年人、残障人士等群体的应用，还应做专门设计，包括安全提示、透明标识和风险防护。
服务提供者不能把 AI 当成“黑箱服务”
对服务提供者，《指引》强调全生命周期跟踪审查。提供产品或应用时，应选择符合伦理影响规范的目标，及时提示可能风险，避免对使用者造成误导。
文件特别提到，在涉及国家安全、社会公共利益、组织和个人重大生命财产安全时，人工智能宜仅承担辅助决策作用，不应成为直接决策依据。
这句话很关键。它意味着在高风险场景里，AI 可以提高效率，但不能替代责任主体。最后做决定的人和机构，仍然需要对结果负责。
隐私保护方面，服务提供者应尽量减少对使用者隐私和敏感个人信息的处理，遵循合法、正当、必要和最小化原则。若收集用户数据用于训练模型或改进服务，也应持续提示收集状态，并显著告知关闭方式。
普通使用者也有责任
《指引》没有把责任只压给企业和开发团队。对使用者，文件提出应正确认识 AI，增强对虚假、错误和误导性内容的识别能力，也要理解技术相关的伦理安全风险和决策安全风险。
文件还提醒用户适度使用 AI，不应过度依赖或过度沉迷，更不应把 AI 当作替代真实生活和真实交往的工具。使用 AI 时，也要尊重他人权益，不能借助 AI 进行误导、骚扰、操纵，不能利用 AI 生成和传播侵权、违法内容。
这部分看似普通，但很实际。随着 AI 工具越来越容易使用，很多风险并不来自复杂技术，而来自日常使用中的随手生成、随手传播和随手滥用。
起草单位覆盖高校、研究机构和企业
文件前言显示，《指引》起草单位包括清华大学、中国电子技术标准化研究院、上海交通大学、四川大学、北京科技大学、阿里巴巴集团、华为技术有限公司、北京深度求索人工智能基础技术研究有限公司等。
从起草单位构成看，这份文件并非只从监管视角出发，也纳入了高校、标准化机构和产业公司的经验。AI 应用伦理安全本身也不是单靠某一方能解决的问题。模型开发、产品设计、服务运营、用户教育和行业治理都要参与进来。
这份文件意味着什么
《人工智能应用伦理安全指引 1.0》不是法律条文，也不是产品认证清单。但它释放出的信号很清楚：AI 应用的评价标准正在变宽。除了功能、性能、成本和体验，伦理安全会成为越来越重要的一项。
对企业来说，这意味着 AI 产品从立项开始就要考虑风险评估、用户告知、人工干预、数据最小化和追责机制。对用户来说，也意味着使用 AI 不能停留在“好不好用”，还要学会判断输出是否可靠、场景是否合适、自己的数据是否安全。
AI 技术还会继续往前走。真正难的地方，是让它在更多场景里被使用，同时不把人的判断、权利和责任一起交出去。《指引》的价值，正在于把这件事提前说清楚。
相关链接：TC260-005 《人工智能应用伦理安全指引1.0》pdf 全文下载