SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

计算机使用和 GUI 智能体

一个讲的是「怎么操作屏幕上的东西」,一个讲的是「按什么目标去完成一整串屏幕操作」。把怎么操作当成了目标本身,就容易造出一个会点按钮但不知道点完该干什么的系统。

寓言

会点鼠标的手和有目标的手

老冯的自动化公司接到一个银行客户的需求:让 AI 帮忙处理后台的账户信息变更。银行的后台系统是一套老旧的桌面应用,没有 API,所有的操作都要靠人点鼠标。老冯让团队用一个计算机使用模型来解决——模型能看懂屏幕上的按钮和输入框,能执行点击、键入、滚动。

演示那天,老冯的团队让模型处理一笔典型的「客户地址变更」。模型看懂了当前窗口,找到了地址输入框,把新地址敲进去了,然后点击了「保存」。保存成功后,页面跳转到了操作完成提示。模型停住了——它不知道接下来要干什么。

客户的业务主管在旁边提醒:地址变更之后还要更新物流系统里的配送信息,还要触发一个合规审核工单。模型能操作屏幕上的元素,但不知道一笔业务总共要跨几个系统、走哪些步骤、每步完成之后该做什么。计算机使用解决了「怎么点」,但没有解决「按什么顺序、点到什么时候算完」。

老冯把团队叫回来,给系统加了一层 GUI 智能体框架。这一层不负责识别按钮和输入框,而是定义了完整的业务流程模板:地址变更这个业务目标拆成四个子任务——修改账户信息、更新物流系统、发起合规审核、发送变更通知。每个子任务有明确的完成条件,完成之后自动进入下一个。计算机使用模块在每个子任务里负责执行屏幕操作,GUI 智能体负责判断下一步该做什么。

重新演示那天,同样的地址变更任务跑得很顺畅。模型在账户修改窗口做完操作、点击保存之后,GUI 智能体检测到保存成功,立刻把流程推进到更新物流系统的步骤。模型识别出物流系统窗口还没打开,自动去任务栏点击了物流应用的图标。整套流程跑完用了四分钟,没有一次人工干预。

老冯在复盘会上画了一张分层图:底层是计算机使用——像素理解、元素定位、鼠标键盘操作,管的是「看懂屏幕并且动得了手」。上层是 GUI 智能体——目标拆解、步骤编排、完成条件验证、异常恢复,管的是「按什么路线完成一个目标」。底层再强,没有上层,就只是一双灵活的手。

后来团队遇到一个反例:一个客户只想要数据录入自动化,目标是「把 Excel 里的数据一行行填到网页表单里」。这个场景用不上 GUI 智能体的编排能力——任务本身就是重复的单步骤操作。团队只部署了计算机使用模块,效果也很好。老冯借这个案例总结:计算机使用适用于步骤明确的低保真操作,GUI 智能体适用于需要跨多步骤协调的高目标复杂度场景。

年底,老冯给团队定了选型原则:如果任务的复杂度在于「找到正确的按钮」,用计算机使用就够了。如果复杂度在于「找到正确的事做」,需要上 GUI 智能体。前者是手,后者是大脑加手。

计算机使用 (Computer Use)

模型直接操作计算机界面的能力,包括屏幕内容理解、UI 元素定位、鼠标点击、键盘输入、滚动等基础操作。它解决的是「如何与图形界面交互」,不负责决定操作的业务目标和顺序。

GUI 智能体

在计算机使用能力之上增加目标规划、步骤编排和完成条件验证的智能系统。它将一个业务目标拆解为多个 GUI 操作步骤,按顺序执行并检查每一步的完成状态,遇到异常时自主调整策略。

故事对应

  • 模型完成保存后停住:计算机使用解决了操作能力,但没有目标编排能力。
  • 地址变更后还要更新物流系统、发起合规工单:真实的业务目标需要跨多个系统协同。
  • GUI 智能体框架加入业务流程模板:在计算机使用之上叠加了目标拆解和步骤编排。
  • 底层管操作、上层管目标的分层图:两层各司其职,能力堆叠但职责不同。
  • 重复数据录入场景不需要 GUI 智能体:场景目标复杂度决定是否需要编排层。

落到项目里

评估 GUI 自动化需求时,先画一张操作流程图,把每一步标上两种标签:操作复杂度(按钮是否清楚、窗口是否标准)和目标复杂度(是否跨系统、是否依赖前置步骤结果、是否有分支决策)。操作复杂度高但目标复杂度低的场景,优先用计算机使用模块;目标复杂度高哪怕操作简单,也得上 GUI 智能体框架来管步骤编排和异常处理。