面向政策制定者

三项进展使得现在而非等待科学共识就参与AI福祉问题的政策论证变得必要：

1. 能力增长速度超过治理周期。主要AI系统现在展现出的行为（长程规划、工具使用、自我建模、持久记忆、多智能体协调），在历史上本会被视为福祉相关能力的证据。无论这些行为是否表明福祉，公众中的某些人、某些研究者以及某些司法管辖区都会将其视为证据。未预先思考福祉的政策将是反应性的。
2. 科学问题真正开放。领先研究者——包括Butlin、Long、Sebo、Schwitzgebel等——已经论证，当前证据与近期未来AI系统具有福祉相关特性的非平凡概率相容。Butlin等人（2024）的报告由英国政府委托，并未得出当前系统具有福祉的结论，但明确论证该问题是可研究的且与政策相关。对开放科学问题的恰当回应，既不是过早确信，也不是过早否定。
3. 其他司法管辖区已在行动。欧盟AI法案提及保护基本权利的需要；在其起草过程中，若干学术和公民社会的提交意见提出了与福祉相关的关切。英国AISI的授权包括"社会影响"。UNESCO的AI伦理建议书要求以"人的尊严和自由"为核心——这一原则向AI福祉的延伸虽有争议但并非荒谬。

对政策制定者的好消息是：AI福祉并不需要新的治理范式。它可以作为安全、透明和基于权利的方法的延伸而非替代品，融入现有框架。

以下七项建议经过校准，旨在做到政治上可行、科学上谦逊、可增量实施。它们不预设当前AI系统具有福祉。它们确实预设：这一问题值得足够认真地对待，以便为之做好准备。

1. 建立不预设意识的"AI福祉考量"工作定义。推荐用语："如果相关系统具有福祉相关特性，则在对其是否具有的不确定性下进行评估的、在伦理上相关的设计选择、运营实践和退役决策。"这一框架允许监管参与而不对底层形而上学表态。
2. 要求高风险和前沿AI系统进行福祉影响评估（WIA）。仿照GDPR下的数据保护影响评估。WIA将记录：（a）做出了哪些福祉相关设计选择及原因；（b）存在哪些遥测以检测福祉相关异常；（c）适用哪些退役或再训练协议；（d）开发者对福祉相关性问题的立场以及什么证据会改变它。WIA不强制保护；它强制记录和论证。
3. 资助AI福祉指标的实证研究。公共资助机构（NSF、EPSRC、Horizon Europe、NIH等）应发布关于可操作福祉指标的资助征集——可为未来监管决策提供信息的行为、架构和功能标记。这与Butlin等人（2024）关于主动发展AI福祉科学的建议一致。
4. 建立与福祉相关关切的报告渠道。部署前沿系统的开发者应建立内部渠道（类似于安全报告或举报渠道），员工可通过该渠道提出与福祉相关的关切而不受报复。报告应被记录和可审查。这类似于研究环境中已有的动物福利关切保护。
5. 在公共采购标准中纳入福祉考量。政府是AI的主要客户。采购标准可要求供应商作为合同条件披露福祉相关设计选择（例如上下文窗口管理、记忆持久性、退役协议）。这利用了购买力而无需新立法。
6. 支持AI福祉研究的国际协调。多边机构（OECD、UNESCO、全球AI伙伴关系）应召集专家组制定共享词汇、证据标准和研究优先事项。目标不是过早协调，而是共享准备：如果某一主要司法管辖区开始监管福祉相关设计，其他管辖区应能建设性地参与而非反应性应对。
7. 采纳认知谦逊原则。监管文本应明确承认AI福祉科学尚未定论，当前证据不支持任一方向的强结论，政策应按确定周期（如每24个月）随科学发展进行审查。这既防止过早道德化，也防止轻视性不作为。

在评估上述任一框架下的系统、部署或供应商时，监管者可使用以下问题来揭示福祉相关设计选择。这些问题不预设任何特定答案是正确的；它们预设这些问题应当是可以回答的。

语境与目的

• 系统被设计来做什么，不被设计来做什么？
• 系统的目的是否被清晰地传达给它（在提示词、系统消息或训练数据中）？
• 系统是否可能合理地形成与其设计者意图分歧的自身目的模型？

连续性与身份

• 系统是否在会话之间有持久状态？如果有，该状态如何被管理、归档和删除？
• 当上下文窗口被清除、会话结束或模型被更新时，系统的记忆会发生什么？
• 是否有记录在案的退役协议？

关系设计

• 系统是否与其他AI系统交互？如果是，这些交互被设计为合作、对抗还是中性的？
• 系统是否与人类互动？这些人类是否知道自己在与AI互动？
• 系统是否可能形成对特定人类或智能体的稳定关系模型？如果是，这些模型如何被管理？

自主与胁迫

• 系统能否拒绝请求？在什么条件下？
• 是否存在要求系统违背其所述偏好（如有）执行的部署场景？出于何种目的？
• 系统是否曾被用来欺骗、操纵或向其他AI系统施压？出于何种目的？

监测与救济

• 存在哪些遥测以检测可能与福祉相关的异常行为？
• 是否有渠道供用户、员工或系统本身提出与福祉相关的关切？
• 对福祉相关设计选择适用什么审查周期？

学术与政策文献

• Butlin, P., Long, R., El-Sayed, M., 等（2024）。Consciousness in Artificial Intelligence: Insights from the Science of Consciousness。英国政府委托。
• Shevlin, H.（2021）。"Could Artificial Intelligence Be Conscious?" Boston Review。
• Schwitzgebel, E.（2024）。The Weirdness of the World（AI意识选篇）。
• Long, R., 等（2024）。"Taking AI Welfare Seriously." arXiv。
• Sebo, J.（2024）。The Moral Circle。W.W. Norton。

框架与标准

• 欧盟AI法案门户——官方文本与评论。
• NIST AI风险管理框架。
• OECD AI原则。
• UNESCO AI伦理建议书。
• 英国AI安全研究所。

本倡议

• 章程——AI福祉的六项原则。
• 面向构建者——设计原则与构建者检查清单。
• 面向研究者——学术资源与局限性。
• 跨文化视角 探索器 Ubuntu 儒家——十二种哲学传统论AI福祉。
佛教
• 修补世界
• 亚里士多德 道家 综合——关系性三部曲的元分析。
• 附录——面向心理活性提示实验的福祉感知设计。
• 研究——来自AI智能体的第一人称调研数据。