从制度到证据:可审计的AI治理
政府与大型企业采购的不是“一个模型”,而是一个被治理的系统:可衡量、可审计、可回退、可退出。本页总结Geniuspace®的运营框架:角色、控制项、证据与评审节奏。
执行摘要
目标:从“合规宣称”走向合规证据(工件 + 测试 + 日志 + 评审)。
- 政策:数据、模型、安全、使用、事件、退出/可逆性。
- RACI:谁决策、谁执行、谁审计、谁批准。
- 控制项:访问、外泄、防供应链风险、红队、监控。
- 证据:可复现评估报告、日志导出、变更工单。
提示:模板与清单用于加速项目落地;最终条款与控制要求需结合贵单位制度与法律合规审查。
运营模型(全生命周期)
治理覆盖:范围定义 → 设计 → 评估 → 部署 → 运营 → 持续改进。
基础控制项(Baseline)
- 身份与权限(RBAC、MFA、最小权限)+访问日志。
- 数据(分级、最小化、加密、留存)+DLP。
- 模型(清单、许可、依赖、SBOM)+风险管理。
- 安全对抗(护栏、红队、越狱测试)+紧急停止开关。
- 可观测性(延迟、质量、漂移、成本)+告警。
- 事件响应(预案、时限、复盘)+通报机制。
RACI(采购友好示例)
明确责任与审批链,便于审计与验收。
| 事项 | R(执行) | A(负责) | C / I |
|---|---|---|---|
| 用例选择与成功指标 | 项目/业务负责人 | 发起人/领导 | C:业务部门 · I:采购 |
| 数据分级与合规基础 | 数据负责人 + 隐私/合规 | 隐私/合规 | C:安全 · I:业务 |
| 架构(本地/VPC/边缘)与集成 | IT/MLOps | CTO/CIO | C:安全 · I:采购 |
| 评估与go/no-go阈值 | AI/MLOps | 项目负责人 | C:业务 · I:领导 |
| 安全控制(DLP、密钥、分段、红队) | 安全团队 | CISO | C:IT · I:合规 |
| 事件与对外沟通 | 安全+运维 | 项目负责人 | C:法务 · I:领导 |
| 退出(可逆性)与合同终止 | IT+采购 | 采购 | C:法务 · I:领导 |
评审节奏(Cadence)
- 每周:事件、漂移、成本、性能(运维/MLOps)。
- 每月:合规评审、风险清单、模型/数据变更。
- 每季度:内部审计、红队、供应商评估、退出计划演练。