在 2026 年世界人工智能大会上，包括 Xue Lan（清华大学人工智能治理研究院院长）、Nicholas B. Dirks（纽约科学学院总裁兼首席执行官）以及 Mark Nitzberg（加州大学伯克利分校“以人类相容的人工智能”为中心的执行主任）在内的嘉宾就 AI 代理治理展开了讨论。根据该小组的说法，AI 正在从“辅助判断”转向“自主行动”，这要求在开发者、部署方和监管机构之间扩展问责链条。
与会嘉宾达成共识：涉及生死攸关后果的决策、出现错误后无法纠正的场景，以及所有涉及伦理与价值判断的事项，都绝不应由 AI 主导。人类可以授权 AI 采取行动，但不能转移责任。每一项授权都应可撤销，每一次行动都应可追溯，并且授予代理权的节奏绝不能快于验证 AI 能力的节奏。
