基础Agent架构初筛

Agentic AI和传统LLM应用,本质区别在哪

考察候选人对Agentic AI核心特征的理解,以及在实际场景中判断是否该引入Agent的能力

#Agentic AI#自主决策#Agent边界#LLM应用

情景对话

大J
大J
Agentic AI这个词现在到处都是,你怎么理解它和普通LLM应用的区别?
小Y
小Y
核心区别在于「决策权在谁手上」。 普通LLM应用是用户说一句,LLM回一句,每次交互都是独立的,控制权始终在用户。Agentic AI不一样——你给它一个目标,它自己拆解步骤、调用工具、观察结果、调整计划,可以连续做很多步才回来问你。 打个比方,普通LLM应用像一个很聪明的客服,你问什么它答什么;Agentic AI更像一个有授权的助理,你说「帮我把这份报告整理成PPT发给张总」,它会自己去读文件、写内容、发邮件,中间不需要你每步确认。
大J
大J
那这种「自主决策」体现在技术层面是什么?
小Y
小Y
主要是三个东西:循环、工具、状态。 循环是指LLM的输出不是终点,而是下一个动作的输入——Thought产生Action,Action产生Observation,Observation再触发新的Thought,这个loop可以转很多圈。普通应用没有这个循环,输出就结束了。 工具是指Agent可以主动调用外部能力——搜索、代码执行、API、数据库。普通LLM只能基于训练数据回答,触达不到实时信息和外部系统。 状态是指Agent在多步执行中能记住「我已经做了什么、现在知道什么、下一步该干什么」。普通应用每次请求都是无状态的。
大J
大J
有人说所有AI应用都应该往Agentic方向做,你同意吗?
小Y
小Y
不同意,而且我觉得这是个常见的陷阱。 Agentic带来的不只是能力,还有复杂度和风险。自主决策意味着错误也会自主传播——一个早期判断错了,后面十步都建在错误基础上,最后给你一个很「自信」的错误结果。普通LLM应用每次只答一步,出错了人立刻能看到纠正。 我的判断标准是:任务是否有「动态分支」——即执行路径依赖中间结果的变化。如果任务流程是固定的,用deterministic pipeline就够了,更快更可靠;只有当任务需要根据实时反馈做灵活决策时,Agentic才值得引入。 坦白说我一开始也走过弯路,把一个客服问题分类的需求做成Agent,结果又慢又难调试,最后发现用一个分类Prompt加规则路由就完全够用。
大J
大J
说说你觉得最适合和最不适合用Agentic方式的场景。
小Y
小Y
最适合的是「探索性任务」——事先不知道需要几步,每步结果会影响下一步怎么走。比如:代码审查+修复(发现问题才知道改什么)、竞品分析(搜到什么才决定深挖哪个方向)、复杂数据分析(查完第一张表才知道要关联哪张)。 最不适合的是两类:一是「高风险且不可逆的操作」,比如生产环境数据库写入、金融交易执行,Agent自主决策的容错空间太小,必须有human-in-the-loop;二是「流程完全固定的任务」,比如把用户输入的地址格式化成标准格式,这用Agentic根本是杀鸡用牛刀。
大J
大J
Human-in-the-loop你提到了,怎么决定在哪个环节插入人工确认?
小Y
小Y
我用两个维度来判断:操作的「可逆性」和「影响范围」。 可逆性高、影响范围小的操作,可以让Agent自主执行,事后review就够了——比如草稿生成、内部数据查询。可逆性低或影响范围大的,必须在执行前插入确认点——比如发送外部邮件、修改客户数据、触发支付。 具体实现上,我们会在Agent的执行计划生成后、正式执行前,展示一个「意图摘要」给人看:「我接下来要做X、Y、Z,是否确认?」。这样人不需要跟着每一步,只在关键决策点介入,效率和安全性都有。

核心概念

评分维度

延伸追问