torygreen
大多数人都严重低估了高端知识工作的存续时间。
他们从AI击败中级任务的趋势中推断,假设曲线会持续平稳上升。
事实并非如此。
AI在以下方面表现出色:
• 模式匹配
• 检索
• 一阶合成
• 流利度
• 速度
这会消灭大量初级和中级知识工作。
但精英知识工作不仅仅是“更高的智能”。它完全是另一种范畴。
在顶端真正重要的:
• 选择正确的问题
• 在目标函数不明确时的框架设定
• 在模糊和信息不完整的情况下进行推理
• 长远思考,考虑二阶和三阶效应
• 判断力、品味、叙事连贯性
• 承担后果,而不仅仅是输出
这正是AI的真正局限所在。
不是能力的局限——是推理的局限。
我们不断扩大计算、数据和模型的规模,模型变得:
• 更快
• 更广泛
• 更流畅
但推理质量并非线性增长。
目前的系统仍然难以应对:
• 浅层的世界模型
• 薄弱的因果基础
• 在分布转变下的脆弱性
• 框架变化时崩溃的伪推理
• 在没有外部支撑时知道自己错了
链式思维、工具和自我反思有所帮助——但它们只是补丁,而非突破。
因此,你会看到在以下领域出现停滞:
• 新颖的科学洞察
• 对抗策略
• 深度系统设计
• 原创哲学
• 高风险决策
真正的分界线不是智能。
而是判断力。
判断力包括:
• 知道什么重要
• 知道什么不重要
• 知道何时不行动
• 忽略虚假的精确
• 在不可避免的不确定性下操作
高端知识工作大多依赖
查看原文他们从AI击败中级任务的趋势中推断,假设曲线会持续平稳上升。
事实并非如此。
AI在以下方面表现出色:
• 模式匹配
• 检索
• 一阶合成
• 流利度
• 速度
这会消灭大量初级和中级知识工作。
但精英知识工作不仅仅是“更高的智能”。它完全是另一种范畴。
在顶端真正重要的:
• 选择正确的问题
• 在目标函数不明确时的框架设定
• 在模糊和信息不完整的情况下进行推理
• 长远思考,考虑二阶和三阶效应
• 判断力、品味、叙事连贯性
• 承担后果,而不仅仅是输出
这正是AI的真正局限所在。
不是能力的局限——是推理的局限。
我们不断扩大计算、数据和模型的规模,模型变得:
• 更快
• 更广泛
• 更流畅
但推理质量并非线性增长。
目前的系统仍然难以应对:
• 浅层的世界模型
• 薄弱的因果基础
• 在分布转变下的脆弱性
• 框架变化时崩溃的伪推理
• 在没有外部支撑时知道自己错了
链式思维、工具和自我反思有所帮助——但它们只是补丁,而非突破。
因此,你会看到在以下领域出现停滞:
• 新颖的科学洞察
• 对抗策略
• 深度系统设计
• 原创哲学
• 高风险决策
真正的分界线不是智能。
而是判断力。
判断力包括:
• 知道什么重要
• 知道什么不重要
• 知道何时不行动
• 忽略虚假的精确
• 在不可避免的不确定性下操作
高端知识工作大多依赖