谁在喂养 GPU?走进 AI 隐藏的 300 亿美元存储层

买到 GPU，并不等于已经建成能够运行的 AI 服务。VAST Data 创始人 Renen Hallak 在访谈中把技术栈分为电力、硬件、基础设施、模型和应用五层。他所在的基础设施层负责存储、网络、数据库以及计算资源协调，让其他层能够协同工作。

因此，“AI 工厂”也不必然意味着每家企业都要拥有实体数据中心。Hallak 同时讨论企业控制的环境和云端部署安排。贯穿这些安排的目标，是掌握组织如何使用自身数据与智能能力，而不是规定一种唯一的资产所有权模式。

这是一家供应商对市场扩张的解释。它揭示了模型 API 之下容易被忽略的工作；至于行业增长预测和对竞争架构的评价，仍应视为创始人的论述，而非独立性能测试结论。

Hallak 将 VAST 的起点追溯到存储系统里的取舍：性能、价格、韧性、规模与易用性，很难同时兼得。他提出的架构思路，是让计算节点与共享数据层分离，使不同机器能够访问底层数据和元数据。

他把这种设计与 shared-nothing 系统对比：后者将数据分布在各节点，跨节点工作可能需要额外协调。在他的解释中，AI 工作负载扩大后，这类协调成本会更加突出。值得追问的是，工作负载的各部分需要哪些数据，为取得这些数据又必须进行什么传输或协调。

访谈并未证明所有 shared-nothing 数据库都存在某个通用节点数上限，分离计算与存储也不意味着网络不再重要。Hallak 正在为公司面向的工作负载论证一种设计选择；客户仍需结合自身访问模式与运维约束评估其实际表现。

30:21，主持人追问：采用这套平台，是否就要把企业所有数据都搬到 VAST？Hallak 的回答是，通常先服务一个新的 AI 应用；组织认为初次部署确实有用后，才会逐步扩大其可访问的数据范围。

他列出的兼容接口包括存储侧的 S3、文件系统和块设备，数据库侧的 SQL，以及流式处理侧的 Kafka。他所描述的桥梁，是让旧应用与新的智能体工作负载并行运行，而不是要求客户立刻全面替换原有系统。

主持人也提出数据重力和单一供应商依赖的问题。Hallak 以标准接口回应，认为客户可以迁出。但“接口允许迁出”与“迁出没有成本”是两件事：接口本身无法说明数据规模、应用依赖、所需时间和运维工作。

Hallak 刻意把训练概括得很简单：大量 GPU 读取大量数据，并定期保存检查点。重点是大规模快速访问，以及故障后不必从头再来的恢复能力。

推理则面对正在等待回答的人。33:55，他转向低延迟、跨地域部署、韧性与安全。他强调的是运维差异：训练中断会拖慢工作，而推理中断可能直接让面向用户的服务不可用。

多个模型和智能体加入后，还会出现更多选择。编程任务可能适合一个模型，价值较低的任务可能应该使用更便宜的模型；敏感信息也可能只允许进入特定环境。因此，可用性与路由开始成为数据系统的职责，而不仅是把文件读取速度提高。

35:43，Hallak 描述了一项超出“选哪个模型”的优化：把请求发给已经加载该模型、并缓存相关上下文的 GPU。同一个逻辑请求，因状态所在位置不同，可能产生不同的运行成本。

他将最近的对话上下文、较长期的记忆和检索联系起来。系统需要管理原始输入、生成结果、模型权重与上下文，并在任务需要时取回更早的信息。“给 GPU 喂数据”因而从批量传输，扩展为协调多种状态。

权限让问题进一步复杂化。如果信息曾用于微调，组织还需要考虑后续模型交互可能透露什么。访谈指出了这个治理问题，但没有证明只要记录训练输入，就能阻止一切潜在泄露。

Hallak 从现有身份认证和授权机制说起，包括目录身份和访问控制列表。他表示，这些策略可以通过部署智能体的人或其他智能体延伸到智能体身上，再通过角色与属性权限进行更细的区分。

管理范围不只是哪条记录可以读取。39:10，讨论还涉及允许调用哪些工具、可以与谁通信。持久化的流式通信记录可以被平台查询，将可观测性与跨地域策略执行联系起来。

物理 AI 进一步提高了后果的严重程度：一个动作可能伤害现实世界，而不仅是泄露文档。Hallak 希望基础设施处于数据路径中，能够干预，而非事后汇报。这是他提出的职责和产品方向，不等于已经解决通用机器人或车辆安全。

Data Enclave 的讨论始于两种相互牵制的顾虑。模型厂商希望保护专有权重，企业则可能无法将敏感数据发送到模型提供方的环境。Hallak 提出的办法是在企业本地或受控的虚拟私有云里运行推理，同时加密模型权重。

他描述了保密执行所需的硬件支持，以及数据经过网络、内存和 GPU 时的保护。基础设施还必须知道模型属于谁、谁可以访问、在哪里应该阻止访问。在他的解释中，进展来自生态系统集成，而非突然发明一种全新的密码学原语。

这些描述界定的是设计希望建立的信任边界。访谈中“无人能看到企业信息”的绝对保证属于供应商主张，不能替代对具体部署的威胁模型、证明机制、配置和合同保证的检查。值得理解的是它试图同时解决的两方保密问题，而不是无条件的安全承诺。

面对“需求能否支撑基础设施热潮”的问题，Hallak 描述了客户反复上调存储计划的情况。他说，一家 AI 云客户最初讨论未来三年约 500 PB 的需求，后来又增加了 2 EB。他预计还会继续增长，但这仍是预测。

他认为瓶颈在物理世界：土地、电力、芯片，以及建设产能所需的时间。他也谈到基础设施支出早于回报时的融资缺口，认为身处生态中的公司更了解需求，因此可能愿意提供流动性。

这些轶事说明的是这家供应商声称看到的情况，不能独立证明全行业利用率，也不能消除融资风险。Hallak 自己承认未来可能出现波折；他对增长速度再延续五到十年的判断，取决于 AI 实现他所期待的能力。

谈到 NeoCloud 运营商，Hallak 列出电力、硬件和资金渠道，然后特别强调建设能力。急需算力的客户，可能选择已有可用产能的运营商，而不是等到明年共同建成项目。

他认为，反复部署会积累实践知识，便宜的融资本身并不能带来这种能力。这回应了“大型云厂商资本成本更低，因此必然胜出”的观点。不过，这仍是他对竞争的解释，不是哪些公司将存活的既定答案。

主权 AI 的讨论又带来一个区分：司法管辖上的控制，不等于每一层都由本国生产。一个国家可能希望基础设施位于境内，却无法自行制造芯片或开发全部软件。Hallak 将其描述为自己看到的动机，而非完整的政策处方。

Hallak 借鉴早期计算时代，论证基础设施软件可能获得可观价值。但对于模型层最终处于什么位置，他没有同样确定的回答；主持人也指出，模型厂商与应用公司正在进入彼此的领域。

Nvidia 在访谈中同时是投资者和重要技术伙伴。Hallak 描述了大量联合工程工作，同时表示关系并不排他，VAST 也与 AMD 等公司合作。这些是录制时对合作关系的陈述，不是本次重新核实的合作公告。

其中的张力值得保留：深度参与一个占主导地位的生态，可能加快产品开发；保留替代选择又关系到独立性。访谈里的历史类比和合作描述，都无法最终确定未来利润会集中到哪里。

最具体的管理建议出现在访谈接近结尾处。Hallak 将提速描述为一个反复循环：找到限制因素、移除它，再找下一个。作为 CEO，他并不会自动知道每一个约束在哪里；实际执行工作的人往往更清楚。

因此，他倾向于保持直接沟通，并让员工能够不受恐惧地提出问题。坏消息需要清楚、频繁地传递，而不是在层层汇报中被缓和，或淹没在自我庆祝里。

访谈最终转向 AI 与社会的宏大猜想。采用前面的运维经验，并不需要先相信这些未来图景：识别真正拖慢系统的因素，听取最接近问题的人，再检查改动后什么成了新的瓶颈。即使行业长期走向不确定，这仍是可以执行的做法。