torygreen
ほとんどの人は、高度な知識労働がどれだけ長く存続するかを過小評価している。
彼らはAIが中レベルのタスクを圧倒していることから、曲線が滑らかに上昇し続けると推測している。
しかし、それは違う。
AIは次の点で驚異的だ:
• パターンマッチング
• 検索
• 一次的な合成
• 流暢さ
• 速度
これにより、ジュニアやミッドレベルの知識労働の大部分が消滅する。
しかし、エリートの知識労働は単に「より知性が高い」だけではない。それはまったく異なる領域だ。
トップレベルで実際に重要なのは:
• 正しい問題を選ぶこと
• 目的関数が不明確なときのフレーミング
• 曖昧さや不完全な情報のもとでの推論
• 長期的な視野での思考と二次・三次的な効果
• 判断力、嗜好、物語の一貫性
• 結果に責任を持つこと、単なるアウトプットだけではない
ここにAIの真の限界がある。
能力の限界ではなく、推論の限界だ。
私たちは計算能力やデータ、モデルを拡大し続けているが:
• より高速に
• より広範に
• より流暢に
しかし、推論の質は線形に拡大しない。
現行のシステムは依然として苦戦している:
• 浅い世界モデル
• 弱い因果関係の基盤
• 分布シフトに対する脆弱性
• フレームが変わると崩れる擬似推論
• 外部の支援なしに誤りを認識できない
思考の連鎖、ツール、自省は役立つが、それは一時的な対策であり、突破
原文表示彼らはAIが中レベルのタスクを圧倒していることから、曲線が滑らかに上昇し続けると推測している。
しかし、それは違う。
AIは次の点で驚異的だ:
• パターンマッチング
• 検索
• 一次的な合成
• 流暢さ
• 速度
これにより、ジュニアやミッドレベルの知識労働の大部分が消滅する。
しかし、エリートの知識労働は単に「より知性が高い」だけではない。それはまったく異なる領域だ。
トップレベルで実際に重要なのは:
• 正しい問題を選ぶこと
• 目的関数が不明確なときのフレーミング
• 曖昧さや不完全な情報のもとでの推論
• 長期的な視野での思考と二次・三次的な効果
• 判断力、嗜好、物語の一貫性
• 結果に責任を持つこと、単なるアウトプットだけではない
ここにAIの真の限界がある。
能力の限界ではなく、推論の限界だ。
私たちは計算能力やデータ、モデルを拡大し続けているが:
• より高速に
• より広範に
• より流暢に
しかし、推論の質は線形に拡大しない。
現行のシステムは依然として苦戦している:
• 浅い世界モデル
• 弱い因果関係の基盤
• 分布シフトに対する脆弱性
• フレームが変わると崩れる擬似推論
• 外部の支援なしに誤りを認識できない
思考の連鎖、ツール、自省は役立つが、それは一時的な対策であり、突破