Software engineering at a proprietary trading company: Optiver

自营交易公司的软件工程：Optiver 构建更好的AI模型比降低延迟更受关注，拥有从应用程序到定制硬件的完整技术栈，与大多数科技公司的激励机制截然不同，以及更多内容 开始之前：我将于9月15日在纽约LDX3纽约大会上发表主题演讲，进行签书活动，并与与会者交流。会议的重点是在快速变化时代的工程领导力。查看完整议程并获取门票。如果你在附近——希望在那里见到你！ 《务实工程师》从暑假归来。我们以对交易行业的深入探讨，以及在一家没有外部客户、但一个不幸的软件错误就可能毁掉整个公司的公司工作时遇到的工程挑战，作为回归的开始。 在科技招聘中，自营交易公司设定了特别高的门槛，通常提供与大型科技公司相当甚至更高的薪酬，处于市场顶端。这是因为对于这些做市商来说，成功的关键在于获得相对于竞争对手的竞争优势。如今，这种竞争优势包括优于竞争对手的软件。 软件工程师往往对交易公司知之甚少——本文旨在改变这一现状。交易公司构建定制的硬件栈，并拥有比大多数工作场所更大的平台工程团队。对于软件工程师来说，这是一个薪酬丰厚、涉及全栈（从硬件到软件）工作和工程挑战的利基领域，因此我们决定深入探讨这个有趣的领域。 为了了解更多信息，《务实工程师》采访了领先的自营交易公司Optiver。该公司总部位于阿姆斯特丹，在美国和全球也有庞大的工程团队。我们会见了工程师和工程领导者，深入了解现代交易业务中工程是如何运作的，以下人员提供了见解： - Alex Itkin：Optiver美国首席技术官 - Pat Cooney：全球平台工程主管 - David Gross：期权技术负责人 感谢Optiver的所有人参与本次报告，该报告揭示了在纳秒级时间都至关重要的环境中软件工程是如何进行的。在本文中，我们探讨了一个与大多数初创公司和大型科技公司不同的软件工程环境。例如： - 没有外部客户。通常，公司有消费者客户（B2C）、企业客户（B2B）或两者兼有。但像Optiver这样的交易公司并非如此，它们自己的业务就是客户。这是一个不同的现实：没有外部截止日期和相关压力，但个人改进的动力受到高度重视。 - 延迟：“头号敌人”。Optiver几乎每一个重大工程决策都是为了最小化延迟——即请求与响应之间的时间。这种方法贯穿于整个软件栈和内核级工作。这就是Optiver自行制造硬件的原因。 - 如今，延迟是基础，AI模型正在成为差异化因素。通过比竞争对手更低的延迟来获得套利机会以赚取无风险利润的日子已经一去不复返。相反，信息模型正在成为差异化因素：慢速模型配以快速触发器发送信号执行交易，以及运行在网络边缘的快速模型实时做出交易决策。 - 被一个几乎摧毁业务的错误所困扰。在交易公司中，有一个警示故事：同行公司Knight Capital在一次高频交易系统中的单一错误导致4.4亿美元损失后几乎破产。 - 不同的激励机制。企业被激励快速行动，但为了避免市场上潜在的金融灾难，对谨慎有很高的要求。这种对风险的谨慎态度与追求速度相结合，在科技行业中显得相当独特。 在这篇深度报告中，我们将涵盖： - 交易与对冲基金概述。交易公司的类别、高频交易（HFT）、大量的机器学习和数学，以及AI实验室挖角HFT人才 - 工程组织。交易特定角色如何协作、平台工程、“构建并拥有”文化等。 - 软件技术栈。三层技术栈、语言和工具、CI/CD栈和数据层。 - 硬件工程、FPGA和硅片。延迟演进、定制FPGA、定制硬件、AMD硬件合作等。 - 网络与物理基础设施。物理基础设施、专用光纤和波长租赁、光缆、无线电、数据中心和托管，以及为什么AI模型比以往任何时候都重要。 - 工程实践。风险与速度、知识共享文化、测试文化、监控和事件检测、风险管理。 - Optiver的AI。AI工具栈、代理编码的未来、采用细节，以及它在实践中的样子。 - 招聘、职业发展和文化。Optiver的工程级别，从主要招聘初级人员到如今招聘经验丰富的工程师，招聘期间的竞争，以及入职反馈循环。 我们很高兴发布这份报告，包括以前从未分享过的细节。让我们开始吧！ 1. 交易与对冲基金概述 以下是“自营交易公司”世界的总结；这是像Optiver这样用自有资金交易金融资产的公司的一种称呼。以下是一些有用的心智模型，用于理解这个行业。 交易如何运作 买方/卖方 - 买方：公司投资资金并赚取回报。例如：对冲基金、资产管理公司、养老基金。 - 卖方：公司销售服务或产品，如咨询、承销、研究、执行等。这些通常是投资银行和经纪自营商。 Optiver作为自营交易公司，属于“买方”。 资金来源 根据交易的是谁的资金，主要有三种资金来源： - 投资银行为企业和机构客户提供服务，通过筹集资金、就交易提供建议并代表他们执行交易。例如：高盛、摩根大通、摩根士丹利。 - 对冲基金从外部投资者那里筹集资金并代表他们进行交易，收取管理费和业绩费。例如：Citadel、Millennium、Two Sigma、Bridgewater。 - 自营交易公司只交易自己的资本，没有客户或外部资金。例如：Optiver、Jane Street、Jump Trading、DRW、Hudson River Trading。 交易时代 Optiver的美国首席技术官Alex Itkin将交易的演变描绘为迄今已展开的四个时代： - 电子化之前（1990年代之前）。交易是在嘈杂的交易大厅面对面和通过电话进行的。价格通过纸带行情和报纸分享。投资者联系经纪人下单。 - 第一波电子化（1990年代早期/中期）。金融市场转移到电脑屏幕上，但订单仍然手动输入。 - 自动化交易（1990年代末至约2015年）。计算机做与人类交易员相同的事情，但更快且规模更大。这是“机械”自动化时代，构建自动化工作流程而没有数据驱动的决策。 - 量化交易（约2015年至今）。使用机器学习模型和推理计算进行数据驱动的决策，在某些关键领域由人类决策。 每个时代都“淘汰”了市场。一些公司在自动化交易方面表现出色，但从未跨越到量化交易。根据Itkin的说法，竞争随着时间的推移变得更加激烈，而严肃参与者的数量减少了。今天，只有少数几家真正的大公司，其中一个原因是成本：对研究集群的投资——所有严肃的自营交易公司都会这样做——需要数亿美元。 Optiver概览 Optiver于2026年3月迎来40周年，公司于1986年在欧洲期权交易所成立。如今，公司拥有： - 约2,200名员工 - 约950名工程师和约1,000名交易员及研究员 - 11个办公室：阿姆斯特丹（总部）、芝加哥（美国总部）、奥斯汀、纽约（2025年）、伦敦、悉尼、上海、香港、新加坡、台北和孟买。 - 每天在100个交易所执行超过1000万笔交易 - 根据2025年财务业绩，交易收入为45亿欧元（51亿美元），利润为17亿欧元（19.5亿美元） Optiver融合了以下角色： - 做市商：通过在交易所报价金融产品的‘买入’和‘卖出’价格来提供流动性，并赚取两者之间的价差。 - 高频交易商：以极低延迟执行自动化交易策略 高频交易（HFT） 高频交易涉及以闪电般的速度下大量订单，以利用极快的市场波动。在这一领域，速度是最大的优势，实现速度显然涉及高性能计算。基本的交易循环每天运行数百万次。它由三个步骤组成： - 观察市场以获取新信息，如价格变化 - 决定信息的含义以及正确的交易 - 在竞争对手之前向交易所发送交易 在交易中，时机至关重要，对于某些类型的交易，甚至纳秒都很重要。Optiver最快的交易系统运行在亚纳秒级别，其中测量噪声本身就是一个挑战。软件、硬件和物理都参与其中，还包括数据中心之间的微波和短波链路，以及定制制造的芯片。 我们在下面的“硬件工程”部分深入探讨这一点。 然而，在这个细分领域，超低延迟本身已不再是竞争护城河。随着竞争对手不断优化其系统性能，焦点已转向交易策略的微调。如今，Optiver在构建更好模型上的投资远多于降低延迟。更多内容请参见下面的“网络和物理基础设施”部分。 HFT的演进速度比其他行业更快。盈利策略不会持久，机会转瞬即逝，创新是常态。在这种环境下，像AI这样的工具相对容易实施，因为像Optiver这样的交易公司已经习惯了日常业务环境的变化。更多关于此主题的内容请参见“Optiver与AI”部分。 大量的机器学习与数学 机器学习和数学在量化交易中扮演着重要角色。Optiver的很大一部分业务是期权买卖，其定价依赖于布莱克-斯科尔斯模型等数学定理。交易员、量化分析师，甚至构建期权定价策略的软件工程师都必须理解该问题领域的数学。 随着时间的推移，机器学习正变得比数学模型更重要，但值得记住的是，交易并非纯粹的机器学习追求。 AI基础设施提供商深度参与其中。NVIDIA、Groq和Cerebras正积极争取交易公司，因为它们在GPU上花费巨大。例如，参见Hudson River Trading在NVIDIA GTC会议上讨论Blackwell部署，或Jump Trading成为首批部署下一代Vera Rubin系统的公司之一。高频交易公司有非常清晰的GPU变现路径，并在硬件上投入巨资，因此NVIDIA和其他供应商热衷于与它们合作。 AI实验室挖角交易人才 一个新趋势是像Anthropic和OpenAI这样的AI实验室从自营交易公司招募人才，这打破了AI实验室主要从大型科技公司招聘的假设。AI实验室寻求交易领域人才的原因有几个： - 基础设施专长。像Optiver这样的自营交易公司花费了数十年时间运营自己的数据中心，并在共置设施中部署本地硬件。 - 定制高性能硬件。自营交易公司也经常构建自己的硬件，其内核栈实现了极低延迟。这是AI实验室所追求的人才！ - 技能组合。顶尖大学计算机科学专业毕业生薪酬最高的去向往往是自营交易公司，为杰出人才提供市场顶级的薪酬。然而，除了自营交易公司招聘的特定大学外，新毕业生或整个行业对这些公司的了解往往很少。 2. 工程组织 Optiver技术的两个时代 Optiver的历史可以看作两个不同的时代： - 区域系统（“自我解锁”：1986-2020）：内部系统和平台为满足本地需求而构建，例如为某个市场提供支持。专为美国、欧洲或亚洲构建的系统很常见。 - 全球平台（“为整个公司构建”：2020年至今）：Optiver最近开始构建新系统，以在其平台上全球运作。这种全球关注也是公司大力投资平台工程部门的原因。全球化推动大约在2023年开始，其势头一直在增长。 旧的“自我解锁”方法（本地团队构建他们需要的任何东西）的好处是使他们能够快速行动，不被依赖所阻碍。但这导致了碎片化和重复，随着时间的推移，缺点变得更加明显： - 碎片化：不同团队使用不同的技术、框架和基础设施 - 重复：业务不同部分的团队独立构建相同或非常相似的服务 Optiver平台工程负责人Pat Cooney的职业轨迹反映了向全球平台的转变：在2010年代中期，当业务按地区划分时，他是Optiver欧洲的首席技术官，并在2025年该方法被取代时被任命为平台工程负责人。 Optiver的持续集成（CI）方法也在演变。此前，公司有多个区域CI服务，但从2025年开始，它开始重建其CI系统，有两个新目标： - 为规模构建：创建一个能够跨区域扩展并经受时间考验的CI系统 - 从任何区域使用：标准化部署管道，使在一个位置构建的代码可以在任何地方无缝运行 角色如何协作 在Optiver，技术角色主要有三个领域： - 工程：构建并拥有整个交易平台栈 - 研究：定量科学家，构建模型和预测信号，以创建和改进交易算法。通常，他们的背景是数学、物理、经济学和统计学 - 交易：定量交易员，观察实时市场，根据情况调整交易系统参数，并构建工具以自动化决策 实际上，这些领域之间的界限是模糊的。是的，人们做他们被雇佣的工作，但也很常见看到研究人员卷起袖子参与实施交易策略，或软件工程师进行研究。 角色之间的跨职能协作非常普遍。例如，在开发市场信号和相关交易策略时，工程师、研究人员和交易员在大多数（如果不是全部）项目上进行合作是正常的。 端到端所有权加上自主权是理所当然的。工程师在如何完成任务方面拥有自主权，他们从想法阶段到实施阶段拥有并解决问题。交易方面的指导有限，由工程师找到正确的解决方案。 在许多方面，这种软件工程方法与初创公司非常相似：软件工程师得到的指导有限，但拥有很大的自主权。要在科技初创公司取得成功，工程师通常需要理解业务，同时擅长构建生产就绪的软件。在Optiver也是如此，理解业务意味着理解市场。 平台工程 在Optiver的全球化平台工作于2023年左右正式开始之前，各地区的工作重复： - 相同核心逻辑的多种实现 - 每个地区都有自己的系统、框架和基础设施 - 本地团队在“自我解困”的文化中构建他们需要的任何东西 但这一切都已改变。全球平台工作的一个明显标志是任命了Optiver首位全球首席技术官Lance Braunstein，他带着扩大平台的使命加入。 Optiver的950名工程师中约有30-40%从事平台工作。相比之下，其他大型科技公司更典型的比例是15-20%的工程师专门从事平台工作。 在全球平台建立之前，对开发体验摩擦的容忍度要高得多；新工程师可能需要花费数周时间检出代码库并让构建系统工作。这种心态已经改变，平台团队强调用户同理心，减少工程师旅程中的摩擦，例如为他们的软件设置构建管道。 现在，平台开始重新设想自己为AI而建。随着代理在Optiver的激增，用户既有人类也有自动化系统。这一转变的目标是使人们能够将工作分解为工作流并编排代理。平台团队今年早些时候启动了两个用于代理工作的项目： - AI网关：为Optiver工程师提供模型访问权限 - MCP托管平台：使工程师能够通过代理轻松访问内部系统和工具 交易团队的组织方式 Optiver的交易团队有三个角色： - 交易员制定策略并做出风险决策 - 研究员和定量分析师（“宽客”）构建假设、定价模型并进行评估 - 工程师构建生产系统 实际上，这些角色有重叠。这在AI时代之前就是如此，但随着AI的采用，似乎正在加速。大多数交易员和宽客拥有STEM背景，但没有近期生产编码经验。AI使具有定量思维的人能够通过代理自动化工作流并实施策略。 交易团队按资产类别和策略组织。例如（资产类别以斜体表示）： - 一个大型团队专注于期权等广泛领域 - 一个团队专注于现金市场，并为交易所交易基金（ETF）和股票构建策略。 - 一个团队专注于机器学习（ML）和现金市场的交易。 在较大的团队中，有横向和纵向的子团队。横向团队应对影响任何交易台面的挑战；例如，定价是一个横向团队，因为无论是大豆还是指数基金定价，其底层机制都是相同的。 纵向团队类似于其他公司的“老虎团队”、加速器和项目团队。他们专注于与某个地点（如美国、阿姆斯特丹、孟买或悉尼）的几个不同交易台相关的短期目标。 每个团队都有交易或研究负责人和技术负责人，他们确定团队要开展的工作。总体方向由合伙人结构设定，类似于投资银行，但合伙人不一定负责团队。在Optiver，合伙人是由负责整体战略的高级人员组成的群体。 无论资产类别或纵向如何，每个交易团队都构建一个包含四个组成部分的交易循环版本。 - 获取市场相关信息 - 收集信号以确定执行哪些交易 - 执行策略（向市场发送订单） - 通过反馈回路进行干预，使交易员能够监控系统。 “构建并拥有”文化 Optiver 实行所有权文化，其原则是最优秀的工程师将工作视为己任，并深切关心 Optiver 的系统、决策和结果。领导者希望工程师像公司 CEO 一样对待自己的项目，并负责设计、构建、发布、交付或支持。不存在将工作扔给 QA 团队的概念。 Optiver 的所有权模式： - 交易员和工程师共同定义问题。工程师设计、构建、测试、部署并监控解决方案。每天有数百个生产变更。 - 架构决策的设计评审。当工程师的项目涉及技术栈的架构变更时，工程师负责向团队提供多个选项及其优缺点以供咨询。目标是共享信息和知识，并做出决策。 Optiver 推动新员工和实习生发展所有权意识。从第一天起，工程师就拥有自己负责的内容，并在导师支持下被分配一个真实项目。生产代码变更是对新员工的期望。一年内，新员工成为其领域的资深人员，并指导下一位工程师。这在 Optiver 的入职材料中明确强调： 所有权也融入了面试过程，明确询问解决问题、权衡取舍和实施的问题。 案例研究：期权组织 Optiver 以期权交易起家。“Optiver”一词实际上是荷兰语中“期权”和“交易员”的组合词，因此期权团队是运营中最发达的部分之一，工程师分布在多个地点，这并不令人意外。该组织由纵向和横向团队组成。 期权组织负责的技术系统之一是“回撤”系统。当 Optiver 交易期权时，该交易本身会改变下一个报价的价格。回撤系统必须重新定价整个期权曲面（即与刚交易的期权相关的所有期权）。这被称为“回撤”。 以标普期权为例，期权曲面可能包含数千个需要更新的期权。十年前，回撤过程需要数秒；现在，通过技术栈每一层的优化，已缩短至纳秒级。 回撤速度很重要，因为一旦交易发生，一切都会改变：原始报价变得过时，交易员需要在任何人利用之前从交易所移除买价。更快的公司可以利用他人的过时价格，导致对抗性的市场动态。 横向与纵向团队结构 纵向团队专注于与本地交易台相关的具体战术问题，注重即时影响。但他们不是短期或临时团队，即使他们处理短期问题。他们有权端到端解决当前最重要的问题。另一方面，横向团队服务于大多数交易台，时间跨度更长，因为他们处理跨领域问题，如定价、市场连接或自动交易。 3. 软件技术栈 基本交易循环与三层技术栈 Optiver 的大多数交易软件应用程序或服务（简称“应用”）可以简化为基本交易循环。进行交易的交易所是外部世界的一部分，从中提取信号： 信号 这是信息收集阶段，服务收集市场数据（如价格和订单簿信息），并运行各种数据计算，如定价算法和机器学习管道。这些信号可供决定如何交易的策略应用程序/服务使用。 策略 一个交易策略通常专注于某一特定类别的资产和交易，许多不同的策略会同时运行。策略决定了交易什么以及如何交易，但并不执行交易；那是下一步的事情。 所有策略都被一个风险管理系统所包围，该系统可以阻止交易并停止单个策略。为了有效，它需要对多个策略的综合风险水平有一个更广泛的视角。 风险机制可以包括人工监督，交易员调整策略参数，以及自动化监控，检查应用程序是否在预期参数内输出订单，无论算法想要什么。后一种方法在需要比人类反应速度更快的低延迟策略中至关重要。 执行 执行步骤涉及在交易所执行交易。有一个严格的“关注点分离”原则，执行步骤只允许执行交易。不允许在那里运行额外的逻辑。 超低延迟循环 在一些纳秒级延迟至关重要的做市用例中，这个过程的大部分可能在一个芯片（FPGA或ASIC）内运行，其中策略部分可以通过对所有预期输入模式的预计算响应进行记忆化。然后将其烧录到硬件中，以最小化从市场信息到达至发出交易订单之间的延迟。 技术栈的三层 所有实现交易循环的应用程序都位于多层内部平台之上： - 基础基础设施层：你在大多数科技公司能看到的东西（CI/CD流水线、k8s、Kafka、Postgres等），但他们也在定制自己的技术栈。他们运行自己的数据中心，拥有定制硬件、定制Linux内核、定制CI工具和数据库。 - 领域特定基础设施包含核心交易特定服务，如交易数据字典、证券元数据和交易记账系统。 从历史上看，当团队优先考虑快速独立行动而不是避免重复时，这些基础设施大部分在每个本地办公室层面重复。近年来，一个集中式平台团队已开始整合这些工作。 大约30-40%的工程人力分配给平台团队。这种对平台的投资水平超出了你在典型科技公司中所见的。这种情况可能还会持续一段时间，因为他们专注于改善开发体验、整合重复功能，并迎合其技术栈的特定需求。 语言和工具 概览： Optiver的语言选择对于金融机构来说相当标准：C++用于低延迟应用，Python用于建模、原型设计和内部工具工作。 然而，仔细观察Optiver对Python生态系统的贡献，可以发现这种语言不仅仅是一种原型设计工具： - optiver-asyncpg：Optiver对专注于性能的Python异步Postgres库的分支 - vulcan-py：Optiver自己的Python依赖管理器，允许对间接依赖进行更细粒度的控制 - opti-napalm：Optiver对用于自动化和模拟各种网络设备的库的分支 Optiver的内部工具也有严格的性能要求，因为交易员使用内部仪表板和工具来做出时间敏感的交易决策。避免交易员和工程师之间为了用C++重新实现而进行的交接可以节省时间，并使非工程师能够直接解决他们的问题，符合“自我解锁”的精神。 Rust开始在研究工具和服务编排中扮演重要角色，这可能是由性能要求驱动的。有趣的是，Rust被用于Python等领域，而不是取代C++，鉴于其对性能的关注，后者本应是显而易见的。这很可能是因为Optiver在低延迟C++生态系统上数十年的投资，其与现有内部硬件的深度集成，以及能够直接用C++控制内存分配等事情。 其他在一些小众用例中使用的语言包括： - C# 用于构建数据密集型、面向交易者的图形用户界面， - VHDL 和 SystemVerilog 用于 FPGA 开发。 CI/CD 技术栈 Optiver 构建的许多软件都与定制硬件、定制 Linux 内核交互，并且需要可预测的计算性能，以便在性能测试中获得可预测的结果。这些都是 CI/CD 技术栈必须在其内运行的约束条件。 Optiver 的 CI/CD 运行在裸机机器上，安装了定制硬件，进行了适当的操作系统调整，并具有清晰理解的性能概况。有趣的是，这意味着 Optiver 需要像为生产系统规划容量一样，提前为其 CI/CD 集群规划容量。这很棘手，因为 AI 编码工具开始增加普通工程师每天进行的构建次数。 他们选择了 GitHub Actions 作为他们的 CI 平台，以获得与 GitHub 的无缝开发体验。不幸的是，Actions 不提供整体系统级指标，如队列时间和利用率，而这些是规划 CI 集群容量的关键信息。因此，他们不得不通过 GitHub webhooks 在 GitHub Actions 管道之上构建一个定制的可观测性层。 数据 在数据库和存储系统方面，Optiver 是 Kafka、Postgres 和 Databricks 的大量用户（公司围绕这些构建了整个数据平台）。 一些有趣的细节显示了 Postgres 的作用： - 他们为 Postgres 贡献了一种新的时间戳类型，允许以纳秒精度表示时间戳。很少有 Postgres 应用程序关心纳秒级精度，而且这并非“开箱即用”的功能。 - 他们基于 Postgres 的预写日志构建了自己内部版本的 NOTIFY - LISTEN 机制，称为“PG Feed”。这用于向客户端分发高扇出、对延迟敏感的消息，如定价和配置数据，而使用 Kafka 之类的东西可能涉及额外的磁盘读写，这意味着不必要的延迟。 Optiver 通常选择行业标准工具，但会大力调整以适应其特定的性能需求。没有多少这种规模的技术公司会调整 Postgres 或 GitHub Actions，更不用说 Linux 内核了！