基础Agent架构初筛
Agentic AI和传统LLM应用,本质区别在哪
考察候选人对Agentic AI核心特征的理解,以及在实际场景中判断是否该引入Agent的能力
#Agentic AI#自主决策#Agent边界#LLM应用
情景对话
大J
Agentic AI这个词现在到处都是,你怎么理解它和普通LLM应用的区别?
小Y
核心区别在于「决策权在谁手上」。
普通LLM应用是用户说一句,LLM回一句,每次交互都是独立的,控制权始终在用户。Agentic AI不一样——你给它一个目标,它自己拆解步骤、调用工具、观察结果、调整计划,可以连续做很多步才回来问你。
打个比方,普通LLM应用像一个很聪明的客服,你问什么它答什么;Agentic AI更像一个有授权的助理,你说「帮我把这份报告整理成PPT发给张总」,它会自己去读文件、写内容、发邮件,中间不需要你每步确认。
大J
那这种「自主决策」体现在技术层面是什么?
小Y
主要是三个东西:循环、工具、状态。
循环是指LLM的输出不是终点,而是下一个动作的输入——Thought产生Action,Action产生Observation,Observation再触发新的Thought,这个loop可以转很多圈。普通应用没有这个循环,输出就结束了。
工具是指Agent可以主动调用外部能力——搜索、代码执行、API、数据库。普通LLM只能基于训练数据回答,触达不到实时信息和外部系统。
状态是指Agent在多步执行中能记住「我已经做了什么、现在知道什么、下一步该干什么」。普通应用每次请求都是无状态的。
大J
有人说所有AI应用都应该往Agentic方向做,你同意吗?
小Y
不同意,而且我觉得这是个常见的陷阱。
Agentic带来的不只是能力,还有复杂度和风险。自主决策意味着错误也会自主传播——一个早期判断错了,后面十步都建在错误基础上,最后给你一个很「自信」的错误结果。普通LLM应用每次只答一步,出错了人立刻能看到纠正。
我的判断标准是:任务是否有「动态分支」——即执行路径依赖中间结果的变化。如果任务流程是固定的,用deterministic pipeline就够了,更快更可靠;只有当任务需要根据实时反馈做灵活决策时,Agentic才值得引入。
坦白说我一开始也走过弯路,把一个客服问题分类的需求做成Agent,结果又慢又难调试,最后发现用一个分类Prompt加规则路由就完全够用。
大J
说说你觉得最适合和最不适合用Agentic方式的场景。
小Y
最适合的是「探索性任务」——事先不知道需要几步,每步结果会影响下一步怎么走。比如:代码审查+修复(发现问题才知道改什么)、竞品分析(搜到什么才决定深挖哪个方向)、复杂数据分析(查完第一张表才知道要关联哪张)。
最不适合的是两类:一是「高风险且不可逆的操作」,比如生产环境数据库写入、金融交易执行,Agent自主决策的容错空间太小,必须有human-in-the-loop;二是「流程完全固定的任务」,比如把用户输入的地址格式化成标准格式,这用Agentic根本是杀鸡用牛刀。
大J
Human-in-the-loop你提到了,怎么决定在哪个环节插入人工确认?
小Y
我用两个维度来判断:操作的「可逆性」和「影响范围」。
可逆性高、影响范围小的操作,可以让Agent自主执行,事后review就够了——比如草稿生成、内部数据查询。可逆性低或影响范围大的,必须在执行前插入确认点——比如发送外部邮件、修改客户数据、触发支付。
具体实现上,我们会在Agent的执行计划生成后、正式执行前,展示一个「意图摘要」给人看:「我接下来要做X、Y、Z,是否确认?」。这样人不需要跟着每一步,只在关键决策点介入,效率和安全性都有。
核心概念
LLM的输出不是终点而是起点——Thought触发Action,Action产生Observation,Observation再驱动下一轮Thought。这个循环赋予了Agent自主推进任务的能力。
普通LLM应用中控制权在用户,每次交互独立;Agentic AI将部分决策权委托给模型,允许它在授权范围内自主选择路径和工具。
自主决策的副作用是错误会沿执行链扩散。早期一个错误判断会让后续步骤都建立在错误前提上,最终产生「高置信度的错误结果」。这是引入Agent必须正视的风险。
在可逆性低或影响范围大的操作前插入人工确认点。不是每步都确认,而是在「意图→执行」的关键节点让人介入,平衡效率和安全。
评分维度
延伸追问
几个方向:设置「断路器」在关键步骤做输出验证再继续;对Agent的执行深度设上限(最多N步);把高风险操作放到执行链末尾,减少错误传播链路;以及在执行前生成计划、让人review,把错误拦在执行之前。
适合:理解患者描述的症状并结构化(自然语言→结构化信息)、聚合多份检查报告生成摘要、检索相关诊疗指南辅助判断。不适合:直接给出诊断结论(不可逆且高风险)、调整用药方案——这类必须有医生作为human-in-the-loop,Agent只能做信息整合和辅助呈现,不能做最终决策。
可以理解为一个授权梯度:最低是「单次问答」(无自主性);中间是「多步但有固定流程」(有限自主性);再往上是「动态规划+工具调用」(中度自主);最高是「多Agent协作+自我修正」(高自主)。实际工程里不是非A即B,要根据任务的不确定性程度选择合适的自主性水平,不是越高越好。