怎样做好 AI 的挂件

这篇文章的目的是什么？

作为一名程序员，AI 正在彻底改变我的工作。Code Agent 大幅降低了编写代码的成本，也让我逐渐意识到：过去我喜欢的，是像搭乐高一样，把需求拆成模块、编写代码，再将它们组装成一个可以运行的系统。

如今，AI 越来越擅长“搭乐高”。这件事的价值开始下降，我对它的兴趣也随之减少。

这迫使我思考两个问题：

• 当原本擅长的技能逐渐被 AI 掌握，我新的兴趣和价值支点在哪里？
• 当执行能力越来越便宜，人还应该发展哪些能力？

我的判断是，人不应该把主要精力投入到与 AI 进行同质化竞争，而应该掌握那些 AI 无法独立完成、仍需由人提供，并且能够借助 AI 进一步放大的能力。

人 + AI > max(人, AI)

需要先限定讨论范围：本文所说的 AI，均指当前及可预见范围内以大语言模型（LLM）为核心的系统。对于技术路线完全不同、能力近乎全能，乃至以碳基生命为载体的假想 AI，本文不作讨论。基于这种不可验证的假设推演现实选择，缺乏实际意义。

AI 难以做什么？

当一项任务已经可以由 AI 稳定、低成本地完成，人就没必要再投入精力重复执行。更值得人关注的，是那些仍需人类提供关键判断、但可以借助 AI 显著提升效率和价值的工作。

人的思维如何从大脑和身体活动中形成，大模型的智能表现又如何从训练过程、模型结构和计算中涌现，目前都还有尚未被充分解释的部分。当然，两者的未知并不是同一种未知：大模型的结构和计算过程由人设计，而人脑则是生物演化和个体经验共同作用的结果。

所以，我把“思维如何产生”和“智能为何涌现”放进黑盒，更关心的是黑盒与现实世界连接的方式：

• 它们能够接收什么信息；
• 如何与现实世界互动；
• 如何从结果中学习；
• 能否形成跨越时间的连续性；
• 最终由谁承担行动的后果。

内部感受

人通过多种感受理解自身与外部世界：

• 外感受：视觉、听觉、触觉等外部世界信息。
• 本体感受：身体姿态、关节位置、运动和肌肉张力。
• 内感受：心率、呼吸、饥饿、疼痛、疲劳、激素和内脏状态。

这些感受并不是彼此独立的“传感器读数”。自主神经、内分泌、内脏和免疫系统共同参与身体的稳态调节，并进一步影响人的情绪、自我感、注意力和行动动机。

具身 AI 也能感知自身及环境状态，例如：

• 关节角度、速度和电机电流；
• 触觉、力和力矩；
• 电量、温度、机械磨损；
• 碰撞、打滑和姿态稳定性。

但人与 AI 的物理构成不同，这些信号对两者具有不同的意义。对 AI 而言，温度通常是一个用于触发散热、降频或停机策略的数值；对人而言，闷热不仅意味着温度升高，还可能带来烦躁、疲惫和注意力下降，进而影响情绪、判断和行为。

这种差异并不意味着 AI 无法识别情绪或模拟共情，而是意味着人与 AI 获取情境的方式不同。因此，察觉他人细微的不适、理解话外之音，以及发现尚未被明确表达的需求，仍然是 AI 时代极具价值的能力。

结果反馈

人和 AI 都能通过“预期结果”与“实际结果”之间的差异调整行为。

在工程中，AI 的目标和反馈通常需要以某种形式被表达出来，例如：

• 损失函数和奖励信号；

• 提示词与任务说明；

• 单元测试和评测集；

• 用户评分；

• 业务指标；

• 工具调用成功或失败。

测试只能覆盖已经想到的情况；用户评分会受到表达方式影响；业务指标可能忽略隐私、信任和长期影响。一个系统完全可能在指标上取得成功，却偏离人真正想要的结果。

人接收到的反馈通常更加复杂：

• 任务是否成功；

• 疼痛、疲劳、舒适或快感；

• 他人的信任、排斥和评价；

• 金钱、地位和关系变化；

• 行动是否符合自己的身份、原则与承诺；

• 数月乃至数年后才显现的长期结果。

这些反馈可能彼此冲突。一件事可以在短期内成功，却损害长期信任；可以提高收入，却违背个人原则；可以让指标上升，却使用户的真实体验变差。人需要在这些不同维度之间进行权衡，并决定哪些结果更重要。

AI 时代稀缺的不只是提高解决问题的效率，而是判断什么问题值得解决、什么结果才算成功。人的能力需要由“解题”进一步扩展到“选题、定义问题和判断价值” 。

时间连续性

大语言模型本身并不是一个具有固定性格、目标和身份的具体角色。

从技术上看，它学习的是语言序列的概率分布。在不同的提示词、上下文和采样条件下，同一个模型可以表现出不同的语言风格、价值倾向和行为模式。因此，与其说模型本身是“某个人”，不如说它提供了一个包含大量潜在表达和行为的可能性空间。

但人具有自我同一性与连续性：

• 身体连续性；

• 人际关系；

• 社会身份；

• 承诺和债务；

• 声誉；

• 未完成的长期项目；

• 行动所留下的现实结果。

这些经历不只是可以被调用的记忆，还会持续约束一个人今天和未来的选择。过去建立的信任需要维护，作出的承诺需要履行，造成的损失需要补偿，未完成的事情也会继续影响后续行动。

这有些类似虚拟偶像。虚拟偶像可以拥有形象、性格、语言习惯和持续发展的故事，但这些特征并不是技术系统自然生成后就自动成立的。它需要创作者从大量可能性中作出选择：它应该以什么方式说话，在什么问题上坚持什么，会与观众建立怎样的关系，以及哪些行为不符合它的身份。

这种选择受到创作者审美、性格、价值判断和受众期待的影响。正是这些持续的取舍，让一个原本可以呈现多种形态的系统，逐渐收敛成“这个具体的角色”。

在 AI 能够快速生成大量内容之后，真正稀缺的可能不再是某一次产出的能力，而是：谁在长期作出选择、坚持什么、承担什么，以及最终留下了怎样的作品、关系与声誉。

承担后果

人的决策会进入现实世界，并可能产生难以逆转的后果：

• 身体受伤和死亡；

• 心理痛苦；

• 收入和职业变化；

• 信任和关系损失；

• 法律处罚；

• 声誉和身份改变。

至少在现行法律制度下，人和组织可以作出承诺、授予权限、承担义务，也可以受到处罚并承担法律责任。AI 即使参与了决策和行动，通常也不被视为独立的责任主体；相关责任仍需落实到它的提供者、部署者、操作者或所属组织。

能力可以交给 AI，责任却不能因此凭空消失。

我可以做什么？

内部感受

挖掘用户需求

• 通过访谈和现场观察，了解用户的真实工作；
• 从抱怨、犹豫和临时方案中发现痛点；
• 区分用户提出的功能与背后的真实目标和顾虑。

从产品视角定义问题

• 判断问题是否真实、高频，以及用户是否愿意付出成本解决；
• 协调使用者、购买者和决策者的不同诉求；
• 选择值得解决的问题，并定义成功标准。

这对应产品经理、产品负责人和创业者的核心工作：不是接收需求，而是选择问题。

运营产品并维护长期关系

• 观察用户为什么使用或放弃产品；
• 识别业务指标与真实体验之间的偏离；
• 维护长期用户关系，并根据反馈调整产品目标。

对应的工作包括产品运营、客户成功、社区运营和大客户管理。

结果反馈

Harness Engineering

Harness Engineering 的核心，是围绕具体工作场景，为 Agent 构建环境、工具、边界、反馈与可观测性，使其能够持续执行任务、验证结果，并根据真实反馈调整行为。

• 提供上下文：让模型获得完成任务所需的信息、状态与历史记录。

• 提供行动工具：让模型能够调用软件、操作系统并影响现实环境。

• 设定行为边界：明确允许、禁止以及需要人工确认的操作。

• 建立结果反馈：自动验证操作是否成功，以及结果是否符合预期。

• 保持过程可观测：记录模型的决策、行动、结果与异常，便于定位问题。

• 构建纠错机制：发现偏差后，在可控范围内重试、修正、回退或转交人工。

Harness Engineering 构建的是一个完整闭环：获取信息 → 作出判断 → 调用工具 → 观察结果 → 验证对错 → 修正行为。

时间连续性

上下文工程

上下文工程不只是编写 Prompt，还包括系统指令、工具定义、消息历史、外部数据、任务状态和记忆检索。由于上下文容量有限，核心问题不是“把所有历史都塞进去”，而是持续选择最有价值的信息。

个人IP

AI 可以快速生成文章、图片、视频和观点，也可以模仿一个人的表达风格。但个人 IP 并不是某一次内容的质量，也不是一个经过包装的人设，而是一个人长期关注什么问题、坚持什么原则、完成过什么作品、帮助过哪些人、犯错后如何修正，最终共同构成了他在他人心中的身份。

因此，个人 IP 的核心不是持续制造内容，而是持续积累证据：

• 长期关注同一类问题；
• 形成可以辨认的判断方式；
• 将观点转化为真实作品；
• 让自己的判断接受现实检验；
• 在事实变化后公开修正观点；
• 持续履行对读者、用户和合作者的承诺；
• 通过长期互动积累关系与信任。

承担后果

投资

投资是一件必须承担后果的事情。

AI 可以收集信息、分析公司、比较估值、构建模型，也可以给出买入、持有或卖出的建议。但 AI 本身通常不需要提供资金，也不会因为判断错误而损失生活保障、错过其他机会、承受心理压力或者改变未来计划。

创业

创业也是典型的“承担后果”。AI 可以帮助创业者：

• 调研市场和竞争对手；
• 分析用户需求；
• 设计产品；
• 编写代码；
• 生成营销内容；
• 分析收入、成本和增长数据。

但创业者需要投入自己的时间、资金和声誉，还需要面对产品无人使用、资金耗尽、员工离职和客户流失等现实结果。AI 可以提出“应该转型”或“应该停止”的建议，但真正决定继续投入还是及时止损的人，仍然是创业者。