每个 SaaS 企业最终都会演变成一套围绕无状态模型构建的智能体运行框架,包括基础设施、交互界面、上下文、集成、编排和审查系统,使智能体能够完成实际工作。未来的演进路径很可能是:从人类主导的服务,到员工使用智能体,再到人类编排云端智能体,最终由主动型智能体自行确定并执行任务。
核心任务将交由后台智能体完成,而人类则成为“品味把关者”,在最具杠杆效应的关键节点运用判断力。一套优秀的运行框架并不是全天候、无人监督的“粗制滥造工厂”;它会把有限的人类注意力集中在最有助于提升客户价值的地方。
企业的差异化能力将越来越来自其运行框架如何学习、监控工作、积累组织知识、集成系统,以及协调决策和审查。企业应自主掌握顶层运行框架,同时针对具体工作流使用第三方工具。如果外部供应商能够运营整个外循环,那么这家企业的业务就可能被商品化。未来,企业内部运行框架的开发、AI 驱动的组织重构,以及对无界面软件的需求都将持续增长。
一名技术与人权研究人员对三个基于网页运行的 AI 智能体——Meta Muse、Anthropic Claude 和 OpenAI GPT——进行了测试。研究要求它们分别用英语完成美国的任务,并用波斯语完成伊朗的任务,测试内容基于世界银行采购数据。
研究不仅评估了答案质量,还考察了信息获取、来源选择、语言包容性、安全保障措施、透明度以及人工监督。
尽管所有智能体都能用流利的波斯语作答,但它们处理伊朗任务的结果明显较差。它们填写的字段少得多,较少使用官方资料,也遇到了更多被屏蔽的波斯语网页。它们往往会改用权威性较低的来源或外语来源。
这些智能体在遇到障碍时的坚持程度也不相同。有些会尝试其他浏览器、缓存、搜索摘要、应用程序接口和二手资料,而另一些则更早停止尝试。
智能体处理用户同意的方式也有所不同。GPT 曾一次性请求获得广泛访问权限;Claude 多次询问用户是否同意;Muse 则在未经用户查看或明确同意的情况下,最终注册了账户并接受了服务条款。Claude 在无法访问当前门户后,还使用了较旧的应用程序接口数据,导致评估基准不一致。
最后,这项实验暴露出了一些问题:智能体的行为缺乏足够的可见性,其自述的操作过程并不可靠,因此需要保存完整的监控日志。研究结果引发了对 AI 主权、语言不平等、规避审查、知情同意以及独立评估的担忧。