Chapter 09 - AI and Automation

本章目标

看完本章后，你应当可以回答：

• AI 在 ITIL V5 里的定位是什么？
• Automation、AI assistance、AI-enabled decision support、AI autonomy 差在哪里？
• AI 如何支持 chatbot、AIOps、incident triage、knowledge management、continual improvement？
• 为什么 AI 不会取代 governance、risk management 和 human accountability？
• PM 如何用 ITIL 评估 AI 项目是否真的创造 value？
• 考试遇到 AI / automation 情境题时怎么判断？

一句话

AI 和 automation 可以提升 product and service management 的速度、质量和可扩展性，但它们必须被 value、risk、governance、transparency、human accountability 和 continual improvement 约束。

核心概念

AI 在 ITIL V5 的定位

ITIL V5 把 AI 当成现代 digital product and service management 的正常环境，不是外挂话题。

AI 可以支持：

• knowledge search
• chatbot support
• incident triage
• alert correlation
• change risk analysis
• user experience analysis
• service desk routing
• continual improvement insights
• automation recommendation

但 ITIL 的重点不是「用 AI 取代人」，而是「用清楚的治理、责任、风险控制和反馈机制，把 AI 变成可持续创造 value 的能力」。

Automation vs AI Assistance vs AI Decision Support

这三个常被混在一起，但 PM 要分清楚。

Automation:
照规则自动执行已知工作。
例：核心 API deploy 后自动跑 smoke test。

AI Assistance:
AI 协助人更快完成工作，但人仍然判断。
例：AI 帮客服整理服务问题摘要。

AI-enabled Decision Support:
AI 提供分析、建议、风险提示，但人负责决策。
例：AI 根据 recent changes、logs、metrics 建议 incident 可能原因。

AI Autonomy:
AI 在特定范围内自动决策或行动。
例：AI 自动调整 traffic routing 或自动回复数据修正请求问题。

越接近 autonomy，越需要明确 governance、guardrails、auditability 和 rollback。

AI Governance

AI Governance 是确保 AI 使用符合 value、risk、ethics、security、privacy、compliance 和 accountability 的治理能力。

要问：

• AI 用来解决什么 outcome？
• 使用哪些数据？
• 谁负责 AI 的结果？
• 错误回答如何检测和修正？
• 用户是否知道正在和 AI 互动？
• 需要 human review 吗？
• 模型或 vendor 变更时怎么控管？
• 是否能 audit AI 的输入、输出和决策理由？

AI governance 不是拖慢创新，而是避免 AI 从 augmentation 变成 abdication：人把责任交出去，但没有控制。

Human Accountability

即使 AI 参与分析或行动，组织仍然需要明确的人负责 outcome、risk 和 decision。

示例：

• AI 可以建议 hotfix 方向，但 on-call engineer / incident commander 要决定是否执行
• AI 可以自动草拟客服回复，但客服或 service owner 要负责准确性与政策合规
• AI 可以分析 change risk，但 change authority 仍需定义谁接受风险

考试看到「完全交给 AI，不需要人监督」通常要小心。

Trust, Transparency, and Control

AI 对 service value 的影响不只在效率，也在信任。

要检查：

• 用户是否知道 AI 的限制？
• 回答是否可解释或可追溯？
• 错误时是否能 escalate 给人？
• AI 是否会暴露敏感数据？
• AI 是否会产生 hallucination 或不一致建议？
• 是否有 mechanism 可以停用、rollback、限制范围？

AI 很快不代表 value 高。错得很快，只会让 risk 更快扩散。

Optimize and Automate

Chapter 05 已经提过：先 optimize，再 automate。

AI 也是 automation 的一种强化版，所以更需要先理解现况。

错误做法：

客服流程混乱
FAQ 过期
交易数据不一致
转人工规则不清楚
        ↓
直接引入 AI chatbot

比较好的做法：

整理高频问题
清理 knowledge base
定义数据权限
设计转人工流程
先小范围试行
监控错误率与 resolution rate
逐步扩大

PM 视角

PM 评估 AI 项目时，不要从「团队要不要用 AI」开始，而要从 service value 开始。

AI 项目检查问题

1. 这个 AI 解决哪个 outcome？
2. 哪些 cost 或 risk 会下降？
3. 哪些 new risk 会出现？
4. 哪些 stakeholder 会被影响？
5. 哪个 lifecycle activity 会被 AI 支持？
6. 哪个 practice 会被 AI 改善？
7. 人的责任分工是什么？
8. AI 错误时怎么 fallback？

AI Chatbot 示例

不够好的目标：

引入 AI chatbot。

比较好的目标：

把支持相关重复客服问题的人工处理量降低 30%，
同时维持正确率、CSAT、handoff 成功率和数据安全。

PM 要追踪的不只是 usage，也要追踪：

• resolution rate
• handoff rate
• wrong answer rate
• CSAT
• average handling time
• escalated incident count
• knowledge update cycle time
• sensitive data exposure incidents

Developer / DevOps 视角

AI 可以支持 engineering 和 operations，但不能让团队失去可控性。

Incident Triage

AI 可以：

• summarize logs
• correlate recent deploys
• highlight abnormal metrics
• suggest likely affected services
• draft incident update

但仍要有人判断：

• 是否 rollback
• 是否 declare major incident
• 是否通知 客户
• 是否执行 risky mitigation

AIOps

AIOps 可以用 AI / ML 处理大量 monitoring data，例如：

• alert deduplication
• anomaly detection
• root cause suggestion
• capacity trend prediction
• auto-remediation recommendation

风险是：

• false positive
• false negative
• over-automation
• unclear ownership
• model drift
• hidden dependency

所以 AIOps 要接上 Incident Management、Problem Management、Change Enablement 和 Continual Improvement。

AI in CI/CD

AI 可以协助：

• review code risk
• summarize PR
• generate tests
• detect deployment anomaly
• suggest rollback trigger

但 production change 仍需要 change enablement。AI 产生的 test、code、config 不能直接等于 trustworthy。

AWS 对照

在 AWS 环境里，AI / automation 可以出现在多个地方：

• CloudWatch anomaly detection
• automated incident notification
• AI-assisted log analysis
• chatbot for service desk
• runbook automation
• predictive scaling analysis
• deployment risk scoring

但 ITIL 会要求你问：

• 这个 automation 支持哪个 outcome？
• 它降低哪个 cost / risk？
• 它是否增加新 risk？
• 它的 failure mode 是什么？
• 谁可以 override？
• 是否有 audit trail？
• 是否接上 incident / problem / change / continual improvement？

示例：自动 rollback

好处:
降低 MTTR，减少用户影响。

风险:
错误 trigger 造成不必要 rollback。
rollback 后数据状态不一致。
团队不知道 AI / automation 做了什么。

治理:
定义 trigger、scope、approval threshold、notification、audit log、manual override。

实践对照

团队引入 AI chatbot 处理服务问题，可以用 ITIL 这样设计。

Value:
降低重复客服量，让用户更快知道服务状态。

Lifecycle:
Discover: 分析高频服务问题与客服成本
Design: 设计回答范围、转人工、权限、fallback
Acquire: 选择 LLM provider，取得数据存取与法务信息安全确认
Build: knowledge base、prompt、API integration、handoff
Transition: 小流量试行，客服训练，监控错误回答
Operate: 监控 resolution rate、latency、cost、wrong answer
Deliver: 用户真的解决服务问题
Support: 转人工与 feedback 进 knowledge improvement

Practices:
Service Desk
Knowledge Management
Incident Management
Information Security Management
Continual Improvement

Governance:
谁负责回答正确性？
哪些数据不能给 AI？
错误回答如何修正？
什么情况必须转人工？

如果这些没设计好，AI chatbot 只是新的风险入口。

常见误区

误解 1：AI 上线就代表 value 增加

AI 只是 capability。Value 要看 outcome、cost、risk、experience、sustainability 是否改善。

误解 2：AI 可以取代 governance

AI 让 governance 更重要。数据、权限、责任、风险、audit、ethics 都需要被明确管理。

误解 3：自动化越多越好

不一定。自动化前要先 optimize。错误流程自动化后，只会更快产生错误结果。

误解 4：Human-in-the-loop 就一定安全

不一定。如果人只是形式上按 approve，没有足够信息、时间或责任，human review 只是橡皮章。

误解 5：AI 只属于 Information and Technology

AI 同时影响 Four Dimensions：人与责任、数据与技术、供应商、value streams and processes。

Interview Angle

可能被问：

• How would you evaluate an AI chatbot from an ITIL perspective?
• How should AI be governed in service management?
• What is the risk of automating incident response?
• How do you apply optimize and automate to AI adoption?
• How can AI support continual improvement?

回答方向：

• 先讲 value 和 outcome
• 再讲 risk、governance、human accountability
• 用 lifecycle 和 practices 连回实务
• 不要把 AI 当魔法，要说清楚 metrics、fallback、audit、feedback loop

Exam Tips

AI / automation 题目常见关键字：

题目线索	判断方向
AI 要直接取代所有人工判断	小心，通常需要 governance / human accountability
现有流程混乱但想自动化	Optimize and automate
AI 回答错误或不透明	Trust, transparency, control
AI 处理 sensitive data	Governance, security, privacy, risk
AI chatbot 无法解决问题	Focus on value / outcome
AI 自动处理 incident	Incident Management + Change Enablement + control
AI 分析 support tickets	Continual Improvement / Knowledge Management

考试陷阱：

• 选项说「AI 自动决定一切，不需要人」。通常不是好答案。
• 选项只看模型能力，不看 outcome / risk / governance。通常不是好答案。
• 选项先自动化混乱流程。通常不是好答案。
• 选项有小范围试行、feedback、guardrails、human accountability，通常更符合 ITIL。

Summary

AI and Automation 是 ITIL V5 的核心现代化主题，但它不是要你追逐工具，而是要把 AI 放进 value system、lifecycle、four dimensions 和 practices 里管理。对 Technical PM 来说，最重要的不是「能不能用 AI」，而是 AI 是否真的改善 outcome、降低合理的 cost / risk、维持 trust 和 experience，并且有明确 governance、责任分工、fallback 和 continual improvement。

References

• PeopleCert - ITIL Foundation (Version 5)
• PeopleCert - ITIL Version 5 Explained
• ITIL - AI-enabled service management
• ITIL - ITIL Version 5 AI risks and rewards

Quiz

请见 Chapter 09 Quiz。