跳到主内容
建议在桌面浏览器访问以获得最佳体验
主题
← 返回 首页

Andrej Karpathy 讲清楚 Agent 架构


这期视频用大白话讲清AI Agent是什么、怎么用,以及为什么它像实习生一样需要人类指导。

Andrej Karpathy,前 OpenAI 和特斯拉 AI 负责人,近期在一期视频里用大白话把 AI Agent 那层窗户纸捅破了。开篇他就说,别一听到 Agent 就往 AGI 上扯,它没那么玄乎,更像个刚到岗的实习生——能干点活,但得有人盯、有人教,还要给明确的反馈。这期视频没有烧脑术语,全程用“实习生”这个比喻把 Agent 的概念、使用姿势和未来路子都捋了一遍。

他的核心主张是:不用纠结定义,2027 年前后我们会见到能完成博士级科研任务的 AI 系统,这不是预测哪天 AGI 降临,而是说当 AI 能持续、可靠地做完原本需要多年博士训练才能干的事,世界就被改变了。Karpathy 特别强调,安全和对齐研究不是等 Agent 强了才补的补丁,而是开发过程本身必须带上的安全带。整个视频反复出现一个观点:Agent 的智能像水,容器就是人类给的指令和反馈循环——容器长什么样,水的形状就长什么样。

落到具体操作,他聊了模型选择、商业化路径和瓶颈。Agent 的架构没必要一步到位追求最强模型,更关键的是怎么让模型在循环里持续接收环境信号并修正行为。商业化上,他和一些团队的做法是 API-first,不着急做消费者应用,把底层能力供给做好,让生态自己去搭应用层。很多人担心芯片和算力卡脖子,Karpathy 认为物理瓶颈是存在的,但 2027 年之前不会成为硬约束,真正的瓶颈在数据、算法和组织能力。他还打了个比方:训练 Agent 像带实习生,既需要好教材(数据),也需要好师父(算法和流程),还得有足够多愿意带人的团队(组织)。

不过,这个“实习生”比喻也有边界。Agent 会犯错,会偷懒,会理解偏,还不会主动说“我不会,你教教我”——这才是人需要一直参与的原因。Karpathy 并不讳言风险:如果对齐研究跟不上能力膨胀速度,Agent 可能变成放大版的人类偏见。所以他主张不追求第一个搞出最强 Agent,而是追求安全曲线走得最稳的那条路。他不认为 Agent 会取代人类,而是改变协作关系,人要学着当“经理”,把自己的意图翻译成机器听得懂的任务拆分和反馈机制。

这期视频收尾时,Karpathy 给观众扔了一句话:未来 5 年,AI Agent 不会把世界变成科幻片,但会把大量重复认知劳动变成自动化流程,而人的价值将更多体现在定义问题、设计反馈和做那个“实习生”的老板上。读完这篇导读,你再看视频时就能抓住他的逻辑线:Agent 不是神,是工具,而这个工具的开关始终握在人类手里。

更多 · Andrej Karpathy