Agentic AI(代理型 AI)代表了人工智能从“被动回答”向“主动执行”的跨越。

传统的生成式 AI 就像一台极其聪明的打字机:你输入一个指令(Prompt),它生成一段文字或图片,然后任务就结束了。而 Agentic AI 扮演的是一个“数字员工”的角色。你只需要给它设定一个宏大的目标(例如:“分析我们三大竞争对手的 Q1 财报,对比他们的毛利率,并生成一份带图表的分析报告”),它就能自主接管后续的一切。

它会自己把任务拆解成多个步骤,自己决定调用哪些工具(比如打开浏览器搜索、运行 Python 代码抓取数据、使用计算器),并在执行过程中自我检查和纠错,直到最终完成你交付的目标。

AI 是如何从“只会接话”的文本模型,进化成具备规划、使用工具和反思能力的智能代理的:

核心变化:不再是“一问一答”,而是“思考 — 行动 — 观察 — 反思”的无限循环(Agentic Loop)。

为什么它对底层硬件(内存与算力)的需求呈爆炸式增长?

Penguin Solutions (PENG) 这样的基础设施提供商之所以能迎来业绩大爆发,正是因为 Agentic AI 的工作方式对底层硬件提出了极其苛刻的要求,远超传统的 ChatGPT 式对话应用:

1. 算力消耗:从“单次推理”到“持续循环”

普通 AI 只在你按下回车键时消耗一次算力(推理)。而代理型 AI 为了完成一个复杂任务,可能需要在后台自己跟自己进行几十次甚至上百次的对话。它在不断地制定计划、调用 API、验证结果。这意味着 GPU 不能再是间歇性工作,而是需要维持长时间的持续高负载满载运行

2. 内存吞吐:极其庞大的“上下文记忆”需求

这是 Agentic AI 最大的硬件瓶颈之一。为了保证在执行复杂的多步骤任务时“不忘初心”,AI 必须将以下所有信息全部保留在它的“工作记忆”(Context Window)中:

  • 你的原始目标
  • 它自己制定的多步计划
  • 刚才浏览器抓取回来的几万字网页内容
  • 前三次尝试失败的错误代码(为了避免重犯)

根据美股投资网,要把如此庞大的数据瞬间吞吐并喂给 GPU 进行计算,需要海量的、带宽极高的 HBM(高带宽内存)。一旦内存容量不够或传输速度跟不上,AI 就会“断片”或陷入死循环。

3. 多模型协同(并发处理)

高级的代理系统通常不是单一模型在孤军奋战。它们往往有一个“大脑”模型负责指挥,并同时唤醒多个“专家”小模型(比如一个专门看图,一个专门写代码,一个专门做数学计算)。这种多节点并发的数据交互,要求数据中心内部的网络通信延迟必须极低,这正是高端 AI 服务器和高速网络交换机(比如昨天暴涨的 Coherent 所在的光模块领域)大显身手的地方。

简单来说,如果传统 AI 是一辆短途冲刺的跑车,那 Agentic AI 就是一辆需要拉着重载货物进行跨国拉力赛的重卡——它不仅需要更强劲的引擎(算力),还需要大得多的油箱和极其坚固的底盘(内存和基础设施)。

Fullscreen Image