AI Agent 是甚么？它和普通聊天机械人有甚么分别？

01 / 人工智能

分界不是语气，而是行动循环

OpenAI 的实务指南把 while loop 视为核心；没有回馈循环的长 prompt，仍可能只是一个包装精美的聊天框。

你可能见过那种 demo：Agent 自己开十个页面，最后叮一声交功课。画面很爽，但我第一个想问的是——中间有没有一步其实已经走歪？

所以一个只会读取航班资料的 Agent，风险同一个可以改 CRM、发退款电邮的 Agent，根本不是同一件事。介面看起来可能只差一个按钮，后果却差一条街。

02 / 人工智能

工具令文字开始改变世界

查日历只是读取；发电邮、退款、改资料库则会产生外部后果。模型一旦可用工具，错误不再停留在一句错话，而可被放大成一串正确执行的错误动作。

Agent 能力不是「更聪明」一条轴，而是推理能力乘上权限范围。

在香港做生意，最怕不是慢一分钟，而是错误动作已经寄出去、改落系统，先发现原来收件人不是那个人。

香港公司常见的误会是先问『可不可以全自动？』。我会反过来问：哪一步最适合交给机械做，哪一步一定要留返人手？这个问题比较不 glamorous，但通常更省钱。

03 / 人工智能

最少人谈的是停止能力

展示片段通常强调 Agent 自己完成十步，却很少展示它何时应该停。可靠系统要有最大步数、成本上限、重复侦测、低信心退出、权限边界和人手批准。

没有 exit condition，所谓自主可能只是可以更长时间地偏离目标。

我会先畀它读，不急住畀它写；先畀它草拟，不急住畀它发。少一点炫技，多一点可回头。

示范片段总爱展示 Agent 自己走完十步，却少有画面告诉你它在第 3 步怀疑资料过期时会怎样。可靠设计要有最大步数、成本上限、重复侦测、低信心退出和清楚的权限边界。

04 / 人工智能

记忆会把一次错误带到下一次

Agent 为了跨步工作，会保存状态、工具结果和中间判断。若它把暂时推测写成已确认事实，之后每一步都会建立在错误地基上。

好的 trace 不只是工程师除错纪录，也是一张责任地图：哪个决定由模型提出、哪个工具执行、哪个人批准。

05 / 人工智能

不是每个流程都需要自主

步骤固定、规则清楚、例外很少的工作，用普通自动化更便宜、更快、更易测试。Agent 适合步骤难以预先列全、需要非结构化判断、又能以工具结果校正的任务。

若只是想令产品看起来有 AI，自主性通常会变成昂贵装饰。

06 / 人工智能

一个简单判断表

问四件事：它有没有明确目标？能否选择下一步？

能否透过工具读写外部系统？会否根据结果改变计划？

四项愈多，愈接近 Agent。然后再问第五项：错一步时谁可以看见并叫停？

这一项才决定它是否值得上线。

自主程度其实可以逐格调整

Agent 并非只有「全自动」和「不是 Agent」两种。它可以自行读取但写入前批准；可以自行拟定计划但每个外部动作确认；可以只在低风险范围自动执行。

权限、步数、金额、资料敏感度和可逆性都可成为不同闸门。好的产品不是追求最多自主，而是把自主放在错误可回复、结果可观察的地方。

人类批准也可能只是装饰

如果批准画面只显示「允许工具执行」，没有展示收件人、金额、差异或依据，人会在重复提示中习惯按确认。真正有效的 human-in-the-loop 要把最可能出错的资讯放到决策点，并容许修改而不是只有接受或取消。

监督不是多一个按钮，而是让人有足够上下文作出不同决定。

07 / 人工智能

Agent 的难度其实像乘数，不是加法：模型判断能力乘上工具权限，再乘上它可以连续走几多步。

所以一个只会读取航班资料的 Agent，风险同一个可以改 CRM、发退款电邮的 Agent，根本不是同一件事。介面看起来可能只差一个按钮，后果却差一条街。

香港公司常见的误会是先问『可不可以全自动？』。我会反过来问：哪一步最适合交给机械做，哪一步一定要留返人手？这个问题比较不 glamorous，但通常更省钱。

08 / 人工智能

最容易忽略的是停止能力

示范片段总爱展示 Agent 自己走完十步，却少有画面告诉你它在第 3 步怀疑资料过期时会怎样。可靠设计要有最大步数、成本上限、重复侦测、低信心退出和清楚的权限边界。

没有 exit condition，自主只代表它可以用更长时间偏离原本目标。

09 / 人工智能

读者最常问