全部栏目
Uber 的 AI 基础设施,从内部看
Uber's AI infra, from the inside
TPThe Pragmatic Engineer完整字幕
中文
内容摘要:Uber 杰出工程师 Uday Kiran Medisetty 带屏拆解二十多个内部系统:单一模型网关在每次请求上跑五个微调守卫模型、MCP 网关、编译成 CLI 的技能 monorepo、100+ 节点类型的 context graph 作为智能体默认接地层、后台智能体 Minion 已产出 15% 的生产 PR(人工 review 仍全覆盖)、capture-replay 回归与自愈 CI。核心论点:AI 时代的杠杆来自 AI 之前十年的平台化基建。
核心要点(3条)
核心要点(3条)
- 1所有模型请求过单一网关,五个微调守卫模型执行策略、计费与审计——治理走中央卡点。
- 2100+ 节点类型的 context graph 为每个智能体回答接地,质量上升、成本与延迟下降。
- 3后台智能体产出 15% 的生产 PR,但人工 review 仍全覆盖——绿色通道要等多年风险分回测后才开放。