AI 能读什么、用什么、写什么,必须先有边界
本系列为艾拓先锋长河老师2026年5月联想ITIL 5内训课程教学心得分享,共五篇,本文为第四篇。
AI 数字员工真正进入 IT 运维后,知识库和数据访问会成为安全合规的关键区域。
这次联想 ITIL 5 Foundation 内训课程中,有位负责知识库建设的同事在课间和我做了深入交流。我们谈到,AI 智能体开始大量使用知识库以后,知识库的结构、格式和维护方式都会变化,比如 Markdown 或半结构化内容,可能比传统碎片化记录更适合 AI 理解上下文。从安全合规角度看,他问了另一个问题:长河老师,AI 能读什么,能引用什么,能生成什么,能写回什么?如果这个边界不清,知识库就不只是效率工具,也可能变成风险入口。
过去知识库主要给人用。人有权限体系,有岗位职责,也有经验判断。一个工程师看到某篇文档,知道它是否适用于当前系统,知道哪些步骤需要请示,知道哪些内容不能外传。AI 不会天然具备这些组织常识——它读取知识时,如果权限边界过宽,可能接触到不该接触的敏感信息;如果上下文缺失,可能把特定场景的知识泛化到错误场景;如果写回机制没有审核,可能把不成熟的总结沉淀成正式知识。所以知识库进入 AI 时代后,风险至少有三类:读取风险(AI 是否能访问敏感知识,不同智能体是否应该有不同知识范围);引用风险(AI 是否引用了过期知识、未审核知识或不适用的内容);写入风险(AI 自动生成的知识条目是否经过人工审核,是否标注了来源、适用范围和版本,是否可能污染正式知识库)。
教室里座无虚席,管理层带着真实问题来上课,这让知识管理的讨论格外有分量。治理回应首先是分级分类:知识库不应该是对所有智能体开放的大仓库,不同知识要有分类,不同数据要有敏感级别,不同智能体要有访问范围。面向服务台的 AI,可以访问常见问题和服务请求知识;面向运维的 AI,可以访问相应系统的操作指引;涉及核心配置、安全策略、敏感数据的内容,则必须有更严格权限。其次是引用约束:AI 生成建议时,最好能够说明依据来自哪里,至少在关键运维和重大事件场景中,不能让 AI 给出没有来源的建议,人类审核者需要知道它参考了哪些知识、这些知识是否仍然有效。再次是写回审核:AI 可以根据工单、日志、复盘材料生成候选知识条目,但不能直接把所有内容写入正式库,人类专家要审核准确性、适用范围、敏感信息和表达边界,通过审核的内容才能进入正式知识库并带上版本和责任信息。
我自己写过《ITIL 4 服务管理认证考试指南》,也深度参与了官方《ITIL 基础第 5 版》的翻译工作,所以对知识的结构化和传播一直很敏感。给学员看的知识,要准确、清晰、易理解;给 AI 使用的知识,还要加上权限、版本、来源、适用范围和审核机制。这不是把知识管理变复杂,而是因为知识的使用者变了。人可以通过经验弥补文档不足,AI 则需要更清楚的边界;人看见敏感内容会受到组织纪律约束,AI 则必须通过系统权限和规则约束。从 SOP 到 Skill 的提炼,也有同样的安全合规要求:SOP 中有些步骤适合自动化,有些步骤必须人工确认,有些动作需要更高权限。把 SOP 提炼成 Skill 时,不能只看能不能执行,还要看谁能调用、在什么条件下调用、调用后日志如何保留、权限如何收回。
这次联想课堂让我再次确认,AI 时代的知识管理不能只追求"让 AI 更聪明",还要追求"让 AI 在正确边界内聪明"。ITIL 第 5 版把知识管理、AI 治理和数字化产品服务生命周期放在一起讨论,非常有现实意义——它提醒我们,知识库不是后台资料库,而是数字员工行动的基础设施。基础设施如果没有边界,AI 的效率越高,风险传播也越快。对先进 IT 组织来说,知识库改造不能只问"格式适不适合 AI",还要问"权限适不适合 AI",这两个问题必须一起回答。
|