Karpathy教你调教AI:四个原则告别返工
前特斯拉AI负责人Karpathy吐槽AI助手三大通病,并给出四个可落地的编程原则,让AI不再乱改代码、不再过度设计。
该文章来自"C哥聊科技"频道,欢迎关注以查看视频版本。
如果我跟你说,不管是各种 AI 智能体,AI 编程还是小龙虾,只需要加上三句话,就能让效果提升一大截,你信吗?而说这句话的人不是别人,正是全球最有名的 AI 技术专家之一,刚刚被 Claude 巨资挖走的 Andrej Karpathy。
他在 X 上发了一条长文,把 AI 智能体的通病总结成了三个核心问题。
第一,模型会替你做出错误假设,然后不假思索地执行。它们不会管理自己的困惑,在应该提出异议时也不会反驳。你跟它说「帮我优化一下这个流程」,它不问你到底哪里不满意,直接就动手改。
第二,它们真的特别喜欢把事情搞复杂。堆砌抽象、不清理冗余,简简单单的事非要整出一套庞杂的方案。
第三,它们有时候会改动或删除自己理解不足的内容。哪怕这些内容跟当前任务毫无关系。你让它改 A,它顺手把 B 和 C 也改了,还觉得自己在帮你「优化」。
然后有人把这些观察变成了一个可落地的解决方案。一个叫 forrestchang 的开发者在 GitHub 上开源了一个项目,叫 andrej-karpathy-skills。核心就一个文件,里面只有四个原则。每一个都直击 AI 协作的痛点。
今天就拆开看看,这四个原则到底是什么,你又怎么用它们让 AI 变得更靠谱。
先说第一个,编码前思考。这个原则的核心就一句话:不要假设,不要隐藏困惑,把问题摆到台面上。
这就是专门来解决刚才说的指令歧义的问题的。它要求智能体在动手之前,必须做三件事。
第一,明确说出自己的假设。如果不确定,必须问,不能猜。
第二,如果指令存在多种理解方式,必须把这些可能性列出来,让用户选,而不是自己默默挑一个。
第三,如果发现用户想要的东西有不合理的地方,或者有更简单的实现方式,必须说出来。
最后一点特别重要。其实很多时候我们自己也没想得很清楚。一个敢于提出异议的智能体,比一个你说什么它就干什么的智能体有价值得多。
举个例子。你让它「帮我写一个周报模板」。没有这个原则的智能体可能直接默认你是程序员、要写技术周报,但实际上你可能是个运营、要写业务周报、需要 Word 格式、关注的是数据和转化率。
而有「编码前思考」原则的智能体,会先问你:什么岗位?周报给谁看?需要包含哪些模块?有没有现成的模板可以参考?
你看,几个问题下来,方向就清晰了,后面做出来的东西不会跑偏。
第二个原则是简洁优先。这个原则说的是:用最少的内容解决问题,不要做任何推测性的设计,也就是过度设计。比如你跟它说「帮我把这段文字里的关键信息提取出来」,结果 AI 可能会给你整出一个五层架构的处理流程,而你其实只需要它把重点句子挑出来列一下。
原因很简单,因为 AI 的训练数据里有大量「最佳实践」式的复杂方案。它学到的模式是「复杂的才是专业的」,但现实是「能解决问题的才是好的」。
简洁优先原则会要求 AI 不添加你没要求的功能,不为只用一次的东西去创建一个完整的流程,别什么事都预设一万种意外情况。
而最后一条最狠:如果写了 200 行发现 50 行就能搞定,马上重写。检验标准很简单:一个有经验的人看了会觉得你过度设计吗?如果会,简化。
第三个原则是精准修改。
这条可能是四个原则里最实用的一个。说的是:只碰你必须碰的东西,只清理你自己造成的混乱。
因为 AI 智能体有个特别烦人的毛病:让它改一个地方,它顺手把你整段内容的风格都变了。改了你的用词习惯、调了你的格式、重排了你的结构、删掉了它「觉得没用」的段落。
结果呢?你回头看改动记录的时候,根本分不清哪些是你让它改的,哪些是它手痒改的。
而有了精准修改原则,哪怕 AI 看到旁边那段东西写得很烂,只要跟当前任务无关,就不会碰。AI 也会匹配现有风格。哪怕你更习惯另一种写法,也按原来的来。
第四个原则,目标驱动执行。
这是四个原则里最有 Karpathy 风格的一个,也是最能发挥 AI 智能体长处的原则。
核心思想来自 Karpathy 的原话:大模型非常擅长循环执行直到达成特定目标。不要告诉它该做什么,给它成功标准,然后看着它完成。
什么意思呢?我们习惯用「指令式」的方式指挥 AI:加个验证、改个功能、优化一下。但更好的方式是给它一个可验证的成功标准。
比如不要说「把这个数据处理流程优化一下」,而要说「处理 1000 条数据的时间从 30 秒降到 5 秒以内,同时保证输出结果和之前完全一致」。
这样做的好处是:AI 可以自己循环验证。没达标?继续改。达标了?任务完成。不需要你一次次检查、一次次补充指令。
这四个原则,每一个都直击 AI 协作的痛点。而且它们不是空泛的理论,每一个都有非常具体的、可执行的操作标准。用法也很简单,打开你使用的任何智能体工具,不管是 Claude Code,Trae,Codex 还是其他什么工具,然后直接把它们写到你项目的 AGENTS.md 里,让 AI 每次都按这些规矩来。
以上来自 C 哥的 AI 成长圈的日课,已经加了成长圈的朋友,记得去看一下。