torygreen
大多數人都嚴重低估了高端知識工作的存續時間。
他們從 AI 打擊中階任務的趨勢推斷,並假設曲線會平滑向上延伸。
事實並非如此。
AI 在以下方面表現卓越:
• 模式匹配
• 檢索
• 一階合成
• 流暢度
• 速度
這將大幅取代大量初級和中階的知識工作。
但精英知識工作不僅僅是「更高的智慧」。它是一個完全不同的範疇。
在頂端真正重要的是:
• 選擇正確的問題
• 在目標函數不明確時的框架設定
• 在模糊和資訊不完整的情況下推理
• 長遠思考與二階、三階效應
• 判斷力、品味、敘事連貫性
• 承擔後果,而不僅僅是產出
這正是 AI 受到限制的地方。
不是能力的限制——是推理的限制。
我們持續擴展計算能力、資料和模型,讓它們變得:
• 更快
• 更廣泛
• 更流暢
但推理品質並非線性擴展。
目前的系統仍然難以應對:
• 浅層的世界模型
• 薄弱的因果基礎
• 在分布轉移下的脆弱性
• 當框架改變時崩潰的偽推理
• 在沒有外部支撐下知道自己錯誤的能力
思考鏈、工具和自我反思有幫助——但它們只是修補,而非突破。
因此,你會看到在以下領域出現停滯:
• 新穎的科學洞見
• 對抗策略
• 深層系統設計
• 原創哲學
• 高風險決策
真正的分水嶺不在智慧。
而在判斷力。
判斷力是:
• 知道什麼重要
• 知道什麼不重要
• 知道何時不該行動
• 忽略假精確度
• 在不可避免的不確定性下運作
高端
查看原文他們從 AI 打擊中階任務的趨勢推斷,並假設曲線會平滑向上延伸。
事實並非如此。
AI 在以下方面表現卓越:
• 模式匹配
• 檢索
• 一階合成
• 流暢度
• 速度
這將大幅取代大量初級和中階的知識工作。
但精英知識工作不僅僅是「更高的智慧」。它是一個完全不同的範疇。
在頂端真正重要的是:
• 選擇正確的問題
• 在目標函數不明確時的框架設定
• 在模糊和資訊不完整的情況下推理
• 長遠思考與二階、三階效應
• 判斷力、品味、敘事連貫性
• 承擔後果,而不僅僅是產出
這正是 AI 受到限制的地方。
不是能力的限制——是推理的限制。
我們持續擴展計算能力、資料和模型,讓它們變得:
• 更快
• 更廣泛
• 更流暢
但推理品質並非線性擴展。
目前的系統仍然難以應對:
• 浅層的世界模型
• 薄弱的因果基礎
• 在分布轉移下的脆弱性
• 當框架改變時崩潰的偽推理
• 在沒有外部支撐下知道自己錯誤的能力
思考鏈、工具和自我反思有幫助——但它們只是修補,而非突破。
因此,你會看到在以下領域出現停滯:
• 新穎的科學洞見
• 對抗策略
• 深層系統設計
• 原創哲學
• 高風險決策
真正的分水嶺不在智慧。
而在判斷力。
判斷力是:
• 知道什麼重要
• 知道什麼不重要
• 知道何時不該行動
• 忽略假精確度
• 在不可避免的不確定性下運作
高端