AI 治理与法规

欧盟 AI 法案——风险分级监管：

不可接受风险（禁止）：
  - 社会信用评分系统
  - 实时远程生物识别（公共场所）
  - 操纵人类行为的 AI 系统

高风险（严格监管）：
  - 关键基础设施 AI
  - 教育和就业决策 AI
  - 执法和司法 AI
  - 要求：风险评估、数据治理、透明度、人类监督

有限风险（透明义务）：
  - 聊天机器人：必须告知用户正在与 AI 交互
  - 深度伪造：必须标注为 AI 生成
  - 情感识别：必须告知用户

最低风险（基本无限制）：
  - AI 垃圾邮件过滤
  - AI 辅助游戏

中国 AI 法规体系：

1. 《生成式人工智能服务管理暂行办法》（2023.8）
   - 生成内容不得违反法律法规
   - 服务提供者需承担内容生产者责任
   - 需进行算法备案
   - 用户实名制
   - 不得生成歧视性内容

2. 《互联网信息服务算法推荐管理规定》（2022.3）
   - 算法透明度
   - 用户可选择关闭推荐
   - 不得利用算法实施不正当竞争

3. 《互联网信息服务深度合成管理规定》（2023.1）
   - 深度合成内容需标注
   - 不得用于制作虚假信息
   - 服务提供者需承担主体责任

4. 《数据安全法》《个人信息保护法》
   - AI 训练数据的合规使用
   - 个人信息的收集和处理

在中国提供 AI 服务的合规清单：

□ 算法备案：向网信办备案算法信息
□ 安全评估：上线前进行安全评估
□ 内容审核：建立内容审核机制
□ 数据合规：训练数据合法来源证明
□ 用户告知：告知用户正在使用 AI 服务
□ 标识标注：AI 生成内容需标注
□ 投诉渠道：建立用户投诉处理机制
□ 日志留存：保存服务日志不少于 6 个月

NIST AI RMF 四大功能：

1. GOVERN（治理）
   - 建立 AI 治理政策和流程
   - 明确责任分工
   - 风险容忍度设定

2. MAP（映射）
   - 识别 AI 系统的运行环境
   - 识别潜在风险和影响
   - 利益相关方分析

3. MEASURE（度量）
   - 量化和评估风险
   - 测试和验证
   - 持续监控

4. MANAGE（管理）
   - 风险缓解措施
   - 应急预案
   - 持续改进

AI 开发生命周期中的治理检查点：

1. 立项阶段
   □ 是否进行了 AI 影响评估？
   □ 是否有非 AI 的替代方案？
   □ 数据使用是否合规？

2. 开发阶段
   □ 训练数据是否经过偏见审计？
   □ 模型是否经过安全评估？
   □ 是否进行了红队测试？

3. 部署阶段
   □ 是否建立了人类监督机制？
   □ 是否有应急预案？
   □ 用户是否被充分告知？

4. 运营阶段
   □ 是否有持续监控？
   □ 用户投诉渠道是否畅通？
   □ 是否定期审计？