以下为亚马逊数据科学家Sarthak Gupta的客座文章，仅代表作者个人观点。

作者注：本文以个人身份撰写，所述观察来自外部交流，而非本人工作内容（本人工作不涉及代理式AI）。

当外部审计师首次要求财务团队讲解涉及财务数据的代理式AI系统的控制环境时，一个有趣的现象会发生：这项AI投资究竟是纪律还是装饰，将一目了然。

今年，通过行业会议、财务领导同行圆桌、供应商演示以及与试图明确立场的内部审计团队交流，我持续观察着企业中代理式AI的采购周期。在财务组织中，围绕代理式AI的讨论几乎完全聚焦于生产力，而几乎不涉及审计就绪性。

这种状况将无法通过审计周期的考验。

多数CFO尚未察觉的控制缺口

当代理式AI被用于起草差异分析评论、提出会计分录建议、汇总管理层报告的利益相关者输入，或制定成为财务报告一部分的预测时，它已不仅是生产力工具，而是财务报告流程的组成部分。这引出一个具体问题：该系统内部及围绕其运行的内部控制是什么？

据我所知，多数企业目前的诚实回答是“我们正在摸索”。这一姿态在未来六个月内尚可辩护，但到2027年，它将成为审计发现项。

原因在于，审计师对于用于财务报告但未正式归类为IT一般控制或应用控制的AI工具，缺乏清晰的分类。他们会选择对审计事务所风险暴露最大的类别，这意味着作为部署方，贵组织必须自行防御。部署方承担这一防御责任。

缺口显现之处

在与财务团队的交流中，我观察到三种模式正在浮现。单独来看，它们并非灾难性，但累积起来会形成风险。

  1. ROI计算基于错误的基准。AI供应商和内部倡导者声称的生产力提升，仅基于“AI前人工流程 vs. AI后流程”的对比。然而，财务领导者需要知道，同样的价值（或其中的80%）是否无法通过流程再造、更简单的自动化或工作流工具以更低成本实现。我尚未看到任何提案包含这一对比基准——缺乏它，“AI节省了X小时”的说法几乎总会被“自动化本可捕获其中80%”的简单事实所削弱。
  2. 资本化处理靠猜测。代理式AI部署是否属于ASC 350-40下的可资本化资产，还是持续推理成本仅为运营费用？如果模型本身更新，是否构成内部使用软件开发？与我讨论此话题的大多数财务团队都在猜测，且往往在不同业务线间不一致。补救的成本（及审计发现）将远超当前收益。
  3. 内部控制尚未跟上自主决策。SOX 404要求管理层评估财务报告内部控制的有效性。当AI代理生成管理层报告中的差异分析评论时，控制是什么？是传递的提示词？还是随时间监控代理输出的审阅者的签字？如果你无法指出文档化、可测试的控制，就存在缺口。这些并非理论担忧，而是四大审计师在2027年将提出的问题，并附有文档请求。

银行CFO曾经历过类似情况。美联储2011年的SR 11-7指引实际上迫使银行将重要模型视为受治理资产，要求记录用途、由未参与构建的独立验证者进行验证、持续监控绩效，并在模型失败时明确责任。该框架并不光鲜，但审查人员已对其审计超过十年，并经历了多个监管周期。多数非银行企业缺乏类似的AI系统与财务报告工作流整合的基线。

我并非主张全盘采纳SR 11-7，但其原则具有持久性，借鉴这些原则的财务领导者将在问题落到自己桌上时处于更有利的位置。

在下次AI资本审批前，提出这些问题

对于已批准或即将批准代理式AI计划的CFO，以下三个问题值得在下一个预算周期前提出：

  1. 审计追踪是什么？你能否重建代理所做的任何决策，识别其依据的数据，并生成经得起推敲的文档？“我们有聊天记录”并非答案。聊天记录不像控制文档那样构成审计证据。
  2. 谁拥有模型？不是供应商，不是AI团队，而是组织内部某个具体的人，负责在模型出现意外行为时进行解释。如果此人不存在，系统便无所有者。
  3. 验证节奏如何？正如银行信用风险模型每年重新验证一样，做出重要决策的AI系统需要独立于部署团队的定期审查。如果唯一的审查是“出问题才看”，那你正承担着未定价的风险。

框架很重要。我并非建议CFO放缓AI投资。生产力提升是真实的，竞争压力是真实的，无论财务领导者是否规划，技术都将嵌入财务工作流。但对话需要转变。

CFO的职责不是将AI作为能力来评估，而是将其作为财务报告环境中受控、文档化、可辩护的组成部分来评估。这是两种不同的评估，而它们之间的差距正是重大缺陷发现所在。能力是供应商销售的，审计防御是CFO继承的。到2028年，那些显得审慎的财务领导者，是首先将代理式AI视为控制问题、其次才是生产力问题的人。技术将进步，但审计对话不会自行改善。