全部栏目
递归语言模型 —— Alex Zhang(MIT 博士)
Recursive Language Models — Alex Zhang, MIT PhD
LSLatent Space@LatentSpacePod完整字幕
中文
内容摘要:MIT 博士生 Alex Zhang 讲解递归语言模型:唯一工具是代码、上下文放进文件系统、模型经子代理调用自身。他估算 OpenAI 数学突破运行烧掉约 4000 万美元 token,在亲眼见过 reward hacking 后不信任内核榜单,并认为真正的缺口是让前沿模型稳定完成一个月的连续工作——这是 harness 问题,不是智力问题。
核心要点(3条)
核心要点(3条)
- 1把上下文卸载到文件系统、让代码成为通用工具,长任务上能自然泛化。
- 2专家引导的 AI 胜过裸 AI 输出:唯一进前十的人类方案在真实系统里真能跑。
- 3让模型输出校准过的概率;群体智能只留给搜索型问题,别浪费 token。