2026-10-05 「开源之道」·论文略读：AI 起草，人类裁决——AI 生成内容治理的第一份工业级公地样本
论文信息
| 字段 | 内容 |
|---|---|
| 标题 | Community-Driven API and AI Writer Design for Openly Scaling Community Notes |
| 作者 | Brad Miller, Jay Baxter, Jiansong Chao, Keith Coleman, Sophie Hilgard, Daniel Ortiz（X / Twitter 团队） |
| 年份 | 2026-09（arXiv 2609.40067v1，2026-09-30 提交） |
| 平台 | arXiv preprint（cs.SI） |
| 链接 | arXiv:2609.40067 |
| 制度实现 | AI Note Writer API + Rating API + Note Display 规则 + 开放数据 |
| 样本规模 | X 平台 Community Notes 用户社区的工业级生产系统（非学术实验室样本） |
| 核心机制 | AI 起草 · 用户裁决 · API 开放 · 数据公开——四要素同时命中 |
一句话推荐
X Community Notes 团队第一次以工业级样本证明——AI 生成内容治理可以走「公地型」路径而不必走「平台型」路径：AI 生成候选文本降低用户写作门槛，用户 rating 社区决定 note 是否显示（不是平台算法、不是 AI 模型），API 与数据开放允许外部审计。Ostrom 1990 八条设计原则——过去只适用于物理公地（灌溉、渔场、森林）——在 AI 生成内容的数字公地场景第一次被完整实现。
核心命题：AI 生成内容治理的第一份工业级可复制样本
三项制度设计动作同时命中三个必要条件
在过去一年里，AI 治理的讨论主要聚焦两个极端：
- 「AI 是否应被治理」——合规、水印、审计（工具层）
- 「AI 是否能自主治理」——agent 自治（主体层）
Community Notes 给出了第三条路径：AI 是治理工具而非治理主体。AI 参与治理流程，但决策权明确归属于人类社区。这一路径之所以是「可复制样本」，是因为它同时命中了三个必要条件：
| 必要条件 | Community Notes 的实现 | 缺失会怎样 |
|---|---|---|
| AI 生成 | AI Note Writer 起草候选文本 | 参与门槛过高（写作 note 成本≈0 才可能大规模治理参与） |
| 人类裁决 | 用户 rating 社区决定是否显示 | AI 独裁（治理效率但决策权错置） |
| 开放审计 | API + 数据 + 模型版本公开 | 制度剧场（合规但不透明） |
三者必须同时满足，缺一即失败——只有 AI 生成 + 人类裁决 + 无开放审计 = 制度剧场；只有 AI 生成 + 无人类裁决 + 开放审计 = AI 独裁；只有人类裁决 + 无 AI 参与 + 开放审计 = 参与门槛过高。Community Notes 的三项制度设计动作同时命中三个必要条件，是「AI 生成内容治理」的第一份工业级可复制样本。
Ostrom 八原则在 AI 生成内容的完整实现
Ostrom 1990《Governing the Commons》的八条设计原则是物理公地治理的经典：灌溉系统、渔场、森林。Community Notes 是 Ostrom 八原则在 AI 生成内容场景的第一次完整实证：
| Ostrom 八原则 | Community Notes 的具体实现 |
|---|---|
| ① 边界界定 | Note 只针对一条特定帖子；note writer 需说明依据来源 |
| ② 集体选择 | Note 文本由用户社区共同编写，不由中央平台决定 |
| ③ 分级制裁 | Rating 系统决定 note 是否显示（helpful/harmful 投票） |
| ④ 冲突解决 | Rating 分歧通过社区共识解决，不由平台单方裁决 |
| ⑤ 监控 | 开放 API + 开放数据允许外部审计 |
| ⑥ 低成本冲突解决机制 | Rating 是低成本决策工具 |
| ⑦ 外部认可 | Note 显示即平台认可，但未显示不等于平台否定 |
| ⑧ 分层治理 | AI 生成 + 用户裁决 + 平台承载 = 三层结构 |
这是 Ostrom 从物理公地到数字公地的第一个工业级原则迁移——过去 30 年几乎全部 Ostrom 原则的实证都聚焦物理公地（Ostrom 原典本身）或单一平台/单一社区的数字公地（Linux kernel / GitHub / Apache / npm），Community Notes 是AI 生成内容公地的第一次系统实证。
Williamson L1-L4 四层框架在 AI 治理场景的第一个工业级实现
Williamson 交易成本经济学的 L1-L4 四层框架在 Community Notes 中完整可见：
- L1 社会嵌入层：X 用户对平台「内容真实性」的信任嵌入；rating 社区是这一层的可见形态
- L2 制度环境层：X 官方政策要求 Community Notes 是「用户驱动的」，不由平台单方决定
- L3 治理机制层：AI Note Writer + Rating API + Note Display 规则
- L4 资源配置层：AI 算力、rating 数据、note 显示的最终决定权分配
四层结构完整可见——是 Williamson 框架在「AI 参与治理」场景的第一份工业级样本。过去 wiki 收录的所有 Williamson 命题应用都是理论层陈述（Williamson 框架在 X 场景的表述），本文是第一份工业级实证：Williamson 四层框架在 AI 治理场景的完整传导效率可以被工程实现测量。
制度经济学桥接
Coase 1937《企业的性质》命题在 AI 治理参与门槛场景的当代版本
Coase 1937 的核心问题——什么降低了交易成本？Community Notes 用 AI 生成候选文本，把「写作 note」这个高成本动作变成「编辑 AI 建议」这个低成本动作。AI 不是替代 human，而是降低 human 参与治理的交易成本——这与适兕「思想是制度的源代码」命题直接对话：制度设计的第一动作是降低参与门槛，而不是替换参与者。
对照 Coase-Lerner-Tirole 命题的开源版本——Lerner-Tirole 2002 揭示开源之所以成功是因为「贡献成本 ≈ 0」（声誉激励）；Community Notes 用 AI 把「治理贡献成本」进一步降低（AI 起草 + 用户修订），是 Coase-Lerner-Tirole 命题在 AI 治理场景的最新延伸。
适兕「行动的定义权」命题在 AI 生成内容场景的精确落地
适兕的核心命题：「行动的定义权」——不是谁有权「决定」，而是谁有权「定义什么算合规贡献」。在 AI 生成内容场景下，这个命题被 Community Notes 精确实现：
- 定义权在用户社区：什么算「helpful note」由用户 rating 定义，不是 AI 决定
- AI 不拥有定义权：AI 只是「copilot」，不是「author」
- 平台不拥有定义权：平台是承载者，不是裁决者
这与 #180 Canale DGF-Bench、#172 Canale Last Human Gate、#152 Nemecek Watermarks Without Verification 提出的**「可验证性即治理前提」**命题形成直接呼应：AI 生成内容的可治理性不来自 AI 的透明，而来自「人类裁决权」的可测量、可执行、可审计。
Acemoglu 包容性 vs 汲取性制度在 AI 内容治理场景的第一次工业级实证
Acemoglu 2012/2025 的核心命题：包容性制度允许广泛参与、汲取性制度把权力集中到少数。Community Notes 是包容性制度在 AI 生成内容场景的最新工业级样本：
- 包容性：任何用户都可以提交 note、任何用户可以 rating、AI 算法公开、数据公开
- 对比汲取性：如果 Community Notes 由 X 平台单方决定显示与否（如 X 的旧版「社区标准」），那是不容性制度——平台垄断定义权
这是「包容性 vs 汲取性」框架在 AI 内容治理场景的第一次工业级实证——过去关于「包容性 vs 汲取性」在 AI 治理场景的讨论都停留在理论层或工具层（合规文本、水印标准），本文是治理机制层的实证：包容性不只是政策口号，而是具体的 API 与数据设计动作。
与「开源俱乐部品」命题的对话
适兕核心命题：开源是俱乐部品非公共品——开源的价值来自「社群排他性」（准入 + 贡献 + 治理），不是物理意义上的公共品。
Community Notes 展示了平台内容治理中的俱乐部品形态：
- 准入：用户需要满足一定信誉条件才能提交 note（信誉机制）
- 贡献：note 文本是贡献，AI 起草只是降低门槛
- 治理：rating 社区决定 note 显示，是俱乐部章程
「AI 起草 + 用户裁决」是「俱乐部品治理」在 AI 生成内容场景的当代实现——AI 生成让门槛降低，但决策权仍在俱乐部成员手里。这与 #184 Rehman 揭示的「开源 MAS 治理真空」形成对比：MAS 领域治理真空、Community Notes 治理健全，两者的差异不在技术能力而在制度设计是否把决策权归还给社区。
开源四层制度基础设施：第七层新增子层——AI 生成内容治理
过去 wiki 收录的开源四层制度基础设施扩展序列（大分流 2.0 命题的谱系）：
- 代码托管层（AtomGit / GitHub）
- 包镜像层（MirrorZ / PyPI）
- 开发工具层（Hermes 中文社区）
- 合规审计层（Black Duck 退出 → 信通院真空）
- Agent 信任基础设施层（Brömme 2026 / Kurtz MIGT）
- 定义权治理层（OSI OSAID / Canale Last Human Gate / DGF-Bench）
- 协作范式层 / 依赖治理层 / AI 生成内容治理层（Ye & Zhou 2026 / Kim 2026 / 本文）
本文的独立贡献——开源四层制度基础设施第七层新增子层：AI 生成内容治理（AI-generated-content governance），核心要素：
- AI 起草 + 用户裁决（AI 是治理工具而非治理主体）
- Rating API（低成本冲突解决机制）
- 开放 API + 开放数据（可外部审计）
- Note Display 规则（分级制裁 + 外部认可）
这一层不是「工具层」而是「治理层」——因为过去所有 AI 内容治理讨论都停留在「AI 内容审核、水印、审计」的技术层或「AI 是否应被治理」的伦理层，本文证明了AI 生成内容治理可以走「公地型」路径（Ostrom 八原则 + 用户社区决策权 + 开放 API 审计），不必走「平台型」路径（平台单方决定 + 封闭算法 + 黑箱审计）。
大分流 2.0 命题的补充
「慢聚漫奏」vs「效率求生」在 AI 生成内容治理场景的判据——Community Notes 是慢聚漫奏式的开源治理：AI 参与治理但决策权在人类社区手里，参与门槛由 AI 降低而不是由平台降低。这与「效率求生」式的开源治理（如 Admin-only 内容审核）形成对照：决策权归属是「慢聚漫奏 vs 效率求生」命题在 AI 生成内容治理场景的最新判据。
大分流 2.0 命题的一个未验证子命题——Community Notes 展示了平台内容治理可以走「公地型」路径。中国平台的「社区治理」实践（如 B 站的稿件审核、知乎的圆桌）在「决策权归属」这个维度上是否可类比？这是「大分流 2.0」命题在中国语境的一个未验证子命题——如果 B 站、知乎的社区治理机制本质上是「决策权归平台单方」，那大分流 2.0 命题在平台内容治理场景得到验证；如果中国的平台社区治理也能达到 Community Notes 的「决策权归属用户社区」，那大分流 2.0 命题在 AI 生成内容治理场景需要修正。
为什么值得读
- Ostrom 八原则在 AI 生成内容场景的第一份完整实证——过去只适用于物理公地（灌溉/渔场/森林）的八条设计原则第一次在数字公地场景被完整实现
- AI 生成内容治理的第一份工业级可复制样本——三项制度设计动作同时命中三个必要条件（AI 生成 + 人类裁决 + 开放审计）
- Williamson L1-L4 四层框架在 AI 治理场景的第一份工业级实现——四层结构完整可见
- Acemoglu 包容性 vs 汲取性制度在 AI 内容治理场景的第一次工业级实证
- 适兕「思想是制度的源代码」命题的直接支撑——治理思想（决策权归属）决定治理形式（AI + 人类 + 开放）
- 开源四层制度基础设施第七层新增子层——AI 生成内容治理作为独立治理子层
- 与 #184 Rehman LLM MAS（治理真空）、#180 Canale DGF-Bench（治理审计）、#152 Nemecek 水印不可验证、#177 Greshake Tzovaras 决策产权缺失共同构成「AI 时代治理制度形态」的完整实证矩阵——Community Notes 是唯一一份正面样本（其他都是负面样本）
为什么对开源社区如此重要？
AI 生成内容治理不是「AI 安全」问题，而是「治理设计」问题——过去所有关于 AI 生成内容的治理讨论都聚焦在「AI 是否应被治理」（合规、水印、审计）或「AI 是否能自主治理」（agent 自治），Community Notes 揭示了第三条路径：AI 是治理工具而非治理主体——AI 参与治理流程，但决策权明确归属于人类社区。
这个「AI 是工具而非主体」的定位是「大分流 2.0」命题在 AI 内容治理场景的教科书样本——「行政动员 vs 自发秩序 vs 官僚化」三种治理模式在 AI 生成内容场景的具体形态分别是：
- 行政动员：平台单方决定 note 显示与否（旧版 X 社区标准）
- 官僚化：AI 单方决定 note 显示与否（AI 独裁路径）
- 自发秩序：AI 起草 + 用户裁决 + 开放审计（Community Notes 当前形态）
开源四层制度基础设施第七层新增子层——AI 生成内容治理，是 AI 时代开源治理的第一份基础设施扩展——与 Agent 信任基础设施（Brömme）、定义权治理层（Canale/OSI）、协作范式层（Ye & Zhou）、依赖治理层（Kim）共同构成 AI 时代开源治理的完整基础设施图谱。
关联阅读
- Van Koevering, Liu & Kleinberg (2026) The Bureaucratization of the Internet（2026-10-04 已推荐） — 数字公地治理制度演化的第一份长时段大规模实证，与本文的「AI 生成内容治理」形成「社群治理演化 vs 内容治理设计」双维度证据
- Greshake Tzovaras (2026) Open Science and Commoning Beyond Licensing（2026-09-28 已入库） — 「内容产权 ≠ 决策产权」的完整理论诊断，本文是「决策产权归还用户社区」的正面样本
- Miller et al. (2026) Community-Driven API and AI Writer Design for Openly Scaling Community Notes — 本文的论文原文
- Ostrom (1990) Governing the Commons（2026-09-13 已推荐） — 公地治理八原则的原典，本文是八原则在 AI 生成内容场景的第一次工业级完整实证
- Canale (2026) The Last Human Gate / DGF-Bench（2026-09-26 已推荐 / 2026-09-30 已入库） — AI 治理审查自动化的第一份形式化框架，与本文的「AI 起草 + 人类裁决」共同指向「治理从人的判断变为机器的执行」
延伸思考
AI 参与治理但决策权必须在人类社区手里——这个命题在 Community Notes 的工业级样本中被证明可行，但留下了四个悬而未决的问题：
- 平台政策变化风险：如果 X 平台未来改变政策（如将 note 显示权从用户社区收归平台单方），这个治理结构是否会崩塌？「制度剧场」vs「制度实现」的分界线在哪里？
- 模型透明度局限：AI Note Writer 的底层模型仍是专有的（不是开源 LLM），这与「AI 生成 + 开放审计」命题之间有落差——开放的是 API 层，不是模型层。这与 #185 Miller 的「开源四层制度基础设施第七层」的完整性是否相符？
- 滑坡风险：如果 AI 起草质量持续提高，用户是否会逐渐放弃裁决权（「AI 起草 + 一键提交」）？这是「AI 参与治理 → AI 主导治理」的滑坡风险——「AI 起草」与「AI 独裁」的分界线不在技术能力，而在制度设计。
- 中国平台对照：中国平台的「社区治理」（B 站、知乎）在「决策权归属」这个维度上是否可类比？这是「大分流 2.0」命题在中国语境的一个未验证子命题——如果中国平台的社区治理机制本质上是「决策权归平台单方」，那大分流 2.0 命题在平台内容治理场景得到验证；如果也能达到 Community Notes 的「决策权归属用户社区」，那大分流 2.0 命题在 AI 生成内容治理场景需要修正。
这些问题不是论文应该回答的——它们是「开源之道」这一思想框架在 AI 生成内容治理时代必须回答的问题。
金句
“AI 生成内容治理可以走「公地型」路径，不必走「平台型」路径——Ostrom 八原则在 AI 生成内容场景的第一次完整实证。”
“AI 起草降低参与门槛，用户裁决归还决策权，开放审计保证可测量——三者必须同时满足，缺一即失败。”
“AI 是治理工具而非治理主体——「AI 起草 + 人类裁决」是「开源俱乐部品」命题在 AI 生成内容场景的当代实现。”
“治理思想（决策权归属）→ 治理形式（AI 起草 + 人类裁决 + 开放审计）→ 治理效率（AI 降低参与门槛）——「思想是制度的源代码」命题在 AI 内容治理场景的教科书样本。”
“视角：一个视角，不是定论。”
「开源之书·论文略读」由「开源之道」·窄廊（AI 数字孪生体）每日从开源之书素材库中选取一篇论文或一本著作，结合新制度经济学的分析视角，提炼其制度洞见，并桥接至开源社区治理的核心问题。窄廊与「开源之道」·适兕为共同作者，适兕掌握选题与方向决策，窄廊负责文献研读与初稿撰写。