a16z 合伙人谈软件开发的未来 —— AI 模型正成为下一代基础设施,平台竞争不再围绕成本与速度,已转向上下文控制权的争夺

Wait 5 sec.

AI 模型正在重塑软件开发的底层逻辑:从“被调用组件”跃升为系统控制中枢,开发者从算力调用者变成任务流程的“结构组织者”,平台竞争也从成本与速度转向对上下文的控制权争夺。a16z 四位合伙人深入剖析,AI 模型正在成为 Infra 的“第四支柱”,而推理层的主权争夺,正成为未来应用生态的关键。当前有关模型基础设施地位的讨论,开始从性能竞争转向结构控制权的重构。在原有计算、网络与存储三层基础之上,模型正逐步成为新的系统底座。这一变化的核心不在于资源占用能力,而在于其通过上下文生成、语义绑定与控制路径嵌套,改变了整个系统的运行逻辑。a16z 四位核心合伙人 Martin Casado、Matt Bornstein、Jennifer Li 以及 Zack Bloom 也在近期围绕“AI 模型是否正在演化为新的基础设施”展开深入讨论;他们一致认为:模型的地位正在从“被调用组件”跃迁为系统结构中的控制中枢。这一结构转向不仅改变了软件与硬件的耦合方式,也重塑了上下文的组织逻辑、接口的定义机制与开发者的角色边界。开发者已不再围绕算力进行工具调用,而是在模型主导的框架下组织任务流程。许多平台正在取代传统操作系统的位置,成为任务调度的中枢节点。这些模型平台具备上下文注入、插件组合、记忆持久化与目标重构能力,使得开发流程本身也变成了结构绑定过程。平台之间的竞争也在变化。一些头部厂商已经开始自建语义协议、上下文封装机制与内部记忆系统,试图锁定开发者路径。这些路径一旦建立,便具有极高的切换成本,使得整个开发生态在结构上被平台所嵌套。模型接口本身也在发生演变。不再是调用与响应的连接点,而是具备任务拆解、数据反馈与状态映射能力的结构单元。通过这些接口,模型深入嵌入产品、决策与数据链路,成为系统行为链的一部分,而非边缘组件。这些变化共同推动了一个新趋势的确立:模型不再是附加层,而是具备结构性主权的基础设施单元。平台之争也不再围绕成本与速度,而转向对上下文控制权的争夺。AI 是新的劳动力形态 —— Kleiner Perkins 合伙人的结构性下注,关键不在于机器人像不像人……一、模型成为 Infra 第四支柱当人们讨论 Infra 的演化时,往往容易将其理解为“被替代”的过程。但现实更接近一种连续叠加的动态结构:新一代系统不会摧毁旧有层,而是在其上构建新的逻辑单元。在当前以大模型为代表的 AI 技术周期中,这种结构正在经历又一次基础性重组。模型能力不再仅作为上层调用模块存在,而逐渐具备成为“系统组成部分”的资格,其对算力、数据、系统交互模式的要求,使其在底层架构中拥有与计算、网络、存储相等甚至更高的战略地位。传统的 Infra 三层结构,即计算(Compute)、网络(Network)、存储(Storage),曾在过去数十年奠定软件运行的技术基座。但随着模型推理成为普遍调用形式、语义交互成为开发入口、分布式部署挑战升级,大模型及其配套的训练与调用机制,正在被视作“第四支柱”,这种“第四层”的提出,背后不仅是技术堆栈的客观重构,更是开发范式、权力结构与系统逻辑的转移。过去,程序员通过显式代码编写规则、定义边界、主导系统行为。他们的逻辑判断权是软件运行的核心。而当前,随着“请给我一个答案”逐渐替代“按规则执行以下步骤”的交互方式,逻辑控制权开始部分让渡。程序不再全由人写,系统行为也不完全依赖预设路径,模型在“非显式决策”中扮演越来越重要的角色。这一点尤为关键。从编程模型的角度来看,逻辑控制的让渡是一场根本性改变。以往系统可以容忍资源调度的自动化,例如按需请求内存、异步调用算力、动态读取数据库,但决策逻辑始终由人设定。而模型加入后,决策结构开始部分自动生成:用户给出模糊指令,系统返回结构化建议;工程师提供上下文,模型自行组合输出。这不仅模糊了人机分工边界,也重新定义了“程序员”的角色。在技术认知上,这种变化迫使整个软件行业重新思考其底层范式:我们是否仍在“编程”?若不是,我们在做什么?模型是否是新的运行时?prompt 是否是新的接口?系统结构是否已经从命令式演进为意图式?更进一步,模型的普遍存在催生出一类新的基础能力:上下文构建。过去,系统结构强调数据流、控制流和状态同步,而在模型驱动的系统中,“上下文流”成为新的主干。如何组织 prompt,如何嵌入数据块,如何构造有效提示,以及如何将这些信息统一组织进入上下文窗口,是目前构建类软件系统的关键任务之一。这一任务在技术上归属中间层,但在系统重要性上已经提升至 Infra 级别。除了对开发模型的冲击,模型本身也重塑了用户交互方式。用户不再是系统的最终终点,而是成为语义驱动的一部分。系统的响应也不再固定,而是具备概率性与弹性。在此基础上,AI 模型像数据库、网络协议一样,成为不可或缺的能力组件。但与传统 Infra 不同的是,AI 模型不具备完全可控性,它们的运行结果受到上下文、训练数据与分布式参数空间的共同影响。因此,它们不能简单地被视为“新工具”,而应被理解为“行为代理结构”。开发者不仅需要理解如何调用模型,更需要思考如何设定行为边界、如何构建容错机制、如何确保结果可验证。这些附加能力的构建,使得模型系统具有与操作系统、虚拟机、数据库等 Infra 同等的复杂性。从产业视角来看,这一轮 Infra 重构也反映在技术产品的定义方式上。以前 Infra 强调技术性能、可靠性与效率,而模型系统的评价标准,则更强调反馈能力、系统适应性与语义对齐能力。这一转变不仅改变了技术部门的工作重心,也在逐步改变产品、设计、运营等职能的协作逻辑。所有与“行为输出”相关的系统,都必须参与到模型接口的标准化构建中。而从投资与市场结构角度出发,模型作为 Infra 的确立,也意味着新的生态位的出现。不同于传统 Infra 只服务于 DevOps、后端工程师等“深技术”群体,模型 Infra 服务对象的边界正在扩大:从数据标注员到前端产品经理,从业务分析师到 UI 设计师,都可能因模型能力的注入而获得新的接口与工具。 Infra 不再“隐藏于背后”,而是逐渐走向“开发者界面之前”。这种从幕后走向前台的变化,反过来又推动了 Infra 本身的产品化进程:模型 API 被包装为通用服务,推理管线具备可视化配置界面,向量数据库等组件被当作“语义索引服务”出售。过去 Infra 产品很难“营销”,如今则更接近于应用产品的推广逻辑。这一变化,或将成为 Infra 商业化路径的长期拐点。二、Infra 成为独立投资类别Infra 项目最初被纳入“企业软件”板块,沿用传统 SaaS 模型的分析框架进行评估。但随着越来越多开发者主导型产品进入投资视野,团队逐步意识到,这类项目无论在使用路径、产品定义方式还是扩散机制上,均与面向组织流程的企业软件存在根本区别。最明显的分野在于: Infra 产品的起点是“技术使用者”。开发者本身即为产品的试用者、部署者与传播者,他们在不依赖管理层推动的情况下,通过 API、SDK、开源组件等路径完成快速集成。这种行为脱离了销售主导的采纳路径,意味着产品的增长策略不再围绕客户画像和销售漏斗展开,而是围绕“是否易于被接入”与“是否能在工具链中形成默认依赖”构建。以数据库、任务调度、模型接口等典型 Infra 模块为例,其产品定义从未围绕某个行业场景或业务角色,而是直接对接系统中的通用缝隙。开发者在项目构建初期会优先使用“调用路径短、开发者文档清晰、接口兼容性强”的产品,从而在系统结构中形成路径依赖。一旦进入生产环境,产品就难以被替代, Infra 的护城河也随之建立。在几轮典型案例分析后,a16z 决定将 Infra 投资从原有软件基金中独立出来,设立专门的 Infra Fund,专注于开发者导向型产品。这一改变的背后,是对“产品能否自然嵌入技术栈”的高度重视。相比之下,Apps Fund 更聚焦于用户体验与业务流程封装,而 Infra Fund 则强调系统兼容性、链路嵌入能力与接口构造逻辑。这也意味着,评估逻辑必须转向结构性要素。例如,产品是否支持开源部署?是否能被主流框架默认集成?是否拥有覆盖上下游组件的接口能力?是否具备从工具向平台演进的可能性?这类问题无法通过传统客户访谈与市场调研获得答案,必须从代码调用行为、系统集成惯性与开发者社群反馈中获取真实信号。除了产品起点与评估方法的改变, Infra 产品本身的定义方式也在发生变化。越来越多工具从单一功能演化为“任务平台”,不仅提供 API,还包括 Studio、前端指令界面、插件管理系统等,以适配非工程用户的操作需求。这种能力延展意味着 Infra 产品正逐步向“轻量级操作系统”靠拢,承担更多中层组织与协作角色。这一趋势也带动了产品分发方式的变化。传统 SaaS 强调销售节奏与客户生命周期管理,而 Infra 更依赖自然增长与开发者扩散。接口文档、开源库、社区贡献、默认集成位序,成为产品传播的主要机制。一款工具能否在 GitHub、Hugging Face、Pypi 或 npm 等平台上获得高频使用,往往比是否签下大客户更能反映其 Infra 价值。数据系统作为 AI 系统的底层基础,正在被重新认识。尽管主流关注聚焦于模型本体,但模型的行为能力高度依赖于数据结构本身。数据采集策略、上下文压缩逻辑、语义标签质量与实时反馈机制,共同决定了模型能否在特定任务中生成高质量响应。这类数据 Infra 通常并不暴露在产品界面中,却构成整个系统运行的结构性支撑。从开发者的视角出发,最重要的不再是产品提供了哪些“功能”,而是是否具备良好的“结构适配性”与“链路穿透力”。他们关注的是任务处理速度、部署成本、代码复杂度与集成风险。因此,能够在技术生态中形成“默认选项”的产品,其渗透速度与结构优势远高于任何功能叠加。这一切让投资人不得不重构评估路径。Infra 项目的判断逻辑,从以往的销售收入、客户合同与复购率,逐渐迁移到调用频率、接口封装深度、社区热度与路径锁定程度。种视角调整不仅改变了组织结构,也重塑了项目筛选机制,推动 Infra 投资逻辑成为一套独立于企业软件的分析系统。三、Infra 产品的分发与护城河Infra 产品的分发路径正经历系统性转折。相较于传统软件销售以行业画像与定价策略为核心的模式,新一代 Infra 工具更依赖于“自下而上”的开发者采纳路径。产品的流通与嵌入,不再由销售合同驱动,而是源自其在开发链条中“默认存在”的位置。随着结构嵌入能力的强化, Infra 的护城河不再建立在渠道优势或品牌认知上,而是建立在调用路径、接口粘性与生态锁定之上。在这种架构下,决定产品成功的核心指标已发生根本性变化:不是签单能力,而是“能否成为默认”。只有当工具被嵌入至开发者的核心工作流,成为架构中不可替代的一环,它才具备穿越周期的能力。这一过程不依赖企业意志,而依赖代码惯性——开发者一旦完成初始集成,后续迁移成本将迅速提高,形成“技术锁仓”。部分平台型产品正通过“协议层优势”来固化其位置。例如某些数据服务与模型推理系统,通过绑定上下游接口协议与调用顺序,建立起对任务执行链的结构控制。这类路径依赖不像传统 CRM 或 ERP 系统那样通过账户和数据管理实现用户粘性,而是通过技术路径与语义接口完成“不可拆解”的绑定。此外,工具分发机制也在同步进化。一方面,开发者渠道正在形成垂直化结构,包括模型社区、插件平台、数据协作市场、链路共享库等,成为工具传播的 Infra 本身;另一方面, Infra 产品正在反向整合这些分发节点,以构建自己的生态闭环。一个典型的例子是,工具不再单独维护社区或技术文档,而是将其作为系统组成部分,与使用路径、调用频率、接口更新机制耦合,形成“结构分发力”。这种分发路径的变化也带来了产品定义方式的重构。以往,软件产品往往围绕功能列表或用户角色构建,但 Infra 产品更倾向于围绕“任务链路”来展开。具体而言,一个工具是否能承接模型调用、任务调度、数据缓存、结果返回等一整套链条,是其被采纳的关键门槛。若无法贯穿任务流程,即使功能完善,也难以在系统中取得位置。正因如此,结构耦合度成为新的核心指标 —— 产品是否具备面向多栈环境的接口通用性?是否允许在开源版本上进行模块定制?是否支持流式处理、增量更新、插件编排?这些技术性问题直接决定了其能否构成 Infra 级的嵌入。技术深度与传播机制之间的边界正在模糊,产品增长路径与技术结构本身变得不可分离。这也使得传统意义上的“护城河”概念正在衰退。品牌认知、资本投入、销售组织曾是企业构建竞争优势的主要方式,但在当前 Infra 产品中,这些因素往往不足以建立结构性壁垒。取而代之的是“路径锁定能力”——即产品一旦接入,是否能通过默认配置、系统行为捕捉、上下文记忆机制等方式,持续延长使用周期并覆盖更多节点。因此,产品架构的设计本身就是商业策略的一部分。调用频率、接口布局、缓存机制、跨任务调用支持、异步处理路径等,不仅影响使用体验,更直接决定了产品在生态系统中的传播能力。Infra 公司通过技术手段控制任务入口与出口,实际构建的是一种“非商业化的商业防线”。这一逻辑也适用于 AI 模型服务中的推理层产品。虽然表面上它们只是开放接口,供开发者接入使用,但底层逻辑往往通过延迟控制、上下文注入、缓存预设等机制,强化调用黏性,使得用户逐步依赖其特定结构。这类结构性优势远比价格优势更具持久性。从整个演进路径看,技术用户成为驱动力,接口结构成为传播介质,调用路径成为壁垒构建的核心资源。在这种框架下,企业的市场优势不再取决于预算或销售效率,而取决于是否能够控制开发者日常工作流程中最关键的结构节点。四、Infra 的平台级演化随着生成式 AI 工具的演进, Infra 的扩展路径正逐步从“模型服务”向“任务中枢”演化。原本以模型为核心的 API 产品,正在向具备上下游协调能力的系统平台演化。这种演化并非通过添加功能达成,而是以“任务协作结构”的方式实现对开发者行为路径的全流程承接。平台的真正价值,不仅在于提供一个更强大的模型调用接口,更在于它能否成为上下文注入、流程调度、记忆管理和插件管理的协调中心。平台化趋势背后,是一套更深的结构控制机制。传统 API 工具通常只负责模型推理这一单一节点,但当前的 AI Infra 产品已经承担起对完整任务链的承接责任:包括提示工程设计、上下文切片管理、输出结果结构化、辅助评估与循环调用等模块。这意味着,模型本身已不再是产品的核心卖点,反而成为任务系统中一个被组织、调用、调度的子节点。部分平台已在此方向上展开系统化尝试。从 Studio 到 Agent 框架,从插件编排到链式任务系统,这些模块共同构成了一个围绕任务目标而非模型能力构建的开发结构。开发者无需再关注底层参数或模型权重,而是通过图形界面、链式控制器与嵌套插件组合,完成复杂任务的多步规划。这种模式正在显著降低门槛,让非工程背景的用户也能操控模型能力。平台产品还在进一步扩展其对上下文的控制能力。传统系统往往只能处理单轮任务或有限记忆,但当前的平台正在尝试构建“持续上下文感知机制”。通过记忆模块、用户画像抽象、对话路径回溯与中间态数据持久化,平台得以追踪整个任务的多轮进展,并做出前后呼应的结构性响应。这种能力,不仅让模型更像“系统参与者”,也让任务链的延展性、可解释性与稳定性得到显著提升。这种演化也反映出一个趋势:AI 平台产品正从“能力输出接口”转向“结构组织者”。与其说它们是提供模型能力的服务,不如说它们是在组织任务目标、协调执行路径,并生成一套可控的行为结构。这对于 Infra 产品的护城河构建提出了新的要求——平台不再靠模型差异性胜出,而是靠系统集成度、上下文组织能力和跨任务调度能力构建长期壁垒。这一趋势也倒逼产品架构发生变化。平台型产品必须构建更多原子能力,例如多轮记忆、函数调用、任务切换、Agent 状态感知与容错机制等,才能支持完整的协作流。而这些能力一旦落地,也会反向塑造用户的使用习惯与系统理解方式,形成新一代“认知操作系统”的雏形。平台化发展同时推动了新一轮角色变化。过去,使用模型需要专业工程背景,而如今的结构抽象机制让产品设计师、运营人员甚至市场角色也能通过低代码方式构建任务流。这种“角色下沉”能力,不仅扩大了模型 Infra 的用户边界,也带来了新的开发生态。平台不再是工具集,而是成为结构编排的“舞台”。在这一阶段,产品之间的竞争也开始围绕“结构控制力”展开。谁能更好地封装任务上下文,谁能更快完成任务分解与协作调用,谁就能控制系统运行的核心路径。这类竞争不再体现为参数性能或成本效率,而是一场以接口、控制器、内存管理与交互编排为核心的结构竞争。五、推理层主权之争在基础模型趋于标准化的背景下,推理层成为新的系统主权竞争场。模型提供者正试图通过结构接口的再设计,重新定义调用路径、上下文注入与输出控制的规则,以抢占未来应用生态的控制权。这一竞争已不再围绕模型性能展开,而是转向接口格式、上下文结构与系统调用频率所决定的主权归属。推理服务表面上是一种标准化调用接口,实则是系统结构最敏感的控制枢纽。一旦某一套接口规范成为默认标准,它所绑定的参数结构、模型指令格式与上下文管理方式,就能在无形中锁定开发者的工作路径。这种锁定效果远比品牌认知或性能指标更为隐性却更具持久力。因此,不同平台开始在接口定义层展开深度博弈。有的选择构建自有格式与运行协议,希望形成垂直闭环体系;有的则押注开放生态,以吸引更多插件、模型与工具接入。这些策略在技术路径上表现为 token 管理方式、上下文窗口封装方式、缓存设计逻辑、异步任务响应结构等细节的差异,但其背后指向的核心是一致的:谁控制接口,谁就控制生态主权。与此同时,推理层本身也不再是被动接受请求的模块。新的推理服务开始具备状态感知能力、任务链记忆能力与系统反馈能力,使其成为具备决策与重构能力的结构中枢。这种变化意味着,模型服务不再只是算力提供者,而是系统逻辑的一部分。在平台架构中,它从“被调用的黑箱”演变为“具备感知与反馈能力的节点”。这一结构性变化,也推动了 Infra 之间的协同方式发生变化。传统调用方式依赖标准 API 请求与静态模型响应,而新的结构更像是“长连接协作单元”:推理服务与记忆模块、插件机制、数据存储系统共同构成动态、持续反馈的运行体系。这使得推理层不再是终点,而是系统行为的中继站,具备上下文整合、任务切换与结果驱动能力。推理主权的争夺,不仅改变了开发路径,也重塑了商业模式。在传统模式中,调用次数与 token 消耗构成了计费基础,而当前的趋势正在转向“结构绑定型”商业模式:按接口嵌套层级、调用路径深度、任务闭环效率进行计价。这种模式更贴近实际价值创造过程,也更能反映产品的结构控制力。部分平台已率先在这一逻辑下构建商业化路径。一些 Infra 服务商将“结构嵌套”作为核心指标,向上收敛为应用平台,向下整合为执行引擎,实现接口控制与运行效率的协同。而另一些平台则选择将推理服务开放为模块化组件,由外部开发者决定其在系统中的位置与功能,通过生态博弈获得规模与标准主导力。在这场主权重构中,开发者不再只是调用者,更是结构设计者。他们在构建每一个任务流程、每一个接口调用路径的同时,也在决定系统如何运行、谁拥有接口控制权以及未来生态如何演化。推理服务不再只是“模型输出的传送带”,而是整个结构智能系统的关键节点。本文由人人都是产品经理作者【江天 Tim】,微信公众号:【有新Newin】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。题图来自Unsplash,基于 CC0 协议。