Arvind Krishna & Nikesh Arora: Quantum Threat, Open vs Frontier AI, AI Cyber Warfare & SaaS Collapse

以下是根据您的要求翻译的简体中文内容： 以下是根据访谈脚本生成的摘要，包含了两位嘉宾（Arvind 和 Nikesh）以及主持人（David / Chamath）的每一个观点： ### 一、 量子密码学与安全风险 * **Arvind 的观点：** * DARPA 正在运行量子 benchmarking 竞赛（QBI），最初有几百家公司，现在只剩大约 13 家。 * 量子计算机在 2030 年左右（中间点）将不可避免地破解当今的密码学。如果加密硬盘现在被偷，黑客可以保存 5 年并在那时破解。 * 后量子密码学（Post-quantum cryptography）已经成熟、广为人知，代码也已写好，但人们一直太懒而没有去采用。现在的警钟已经敲响。 * 量子安全方案是基于计算机科学中的复杂性理论（建立在某些假设之上），其严格程度与今天经典密码学无法被经典计算机破解的程度相同。 * **量子计算机发展的里程碑：** 1. **第一步（明年）：** 谁能证明在运行中的量子计算机上实现错误校正（Error correction）或缓解，而不是靠模拟。随后需要第三方评估。 2. **第二步（2027年及以后）：** 是否能以一定规模（非完全规模）运行，例如门计算（gate computations）。如果每年算力增加一个数量级（目前约 1 万，每年加一个零），到 2029 年可能达到 1000 万，这将带来惊人的突破。 * 关于“逻辑量子比特（Logical qubits）”的概念：虽然名字不够完美，但它是一个合理的术语，指经过纠错后的机器有效容量。 * 无法通过不同架构（如经典 AI 模拟）来替代量子架构实现高效结果。AI 可以发现新的量子算法，但必须在量子硬件上运行才能获得优势。 * **Nikesh 的观点：** * IT 基础设施的各个角落都运行着加密密钥，所有供应商在两端也都有密钥。任何不具备量子防御能力的东西都将被破解。 * 不能等到 2029 或 2030 年再采取行动，因为 IT 基础设施不可能在一年内花 5 万亿美元推倒重来。 * 现在就应该开始用量子安全或量子证明的基础设施替换当前的 IT 栈。市场已有现成技术可以作为权宜之计，把后量子准备就绪的密钥包裹在流量外。 * 大家今年 earmark 的数亿美元 IT 支出中，估计有 50% 都用在了不具备量子安全的基础设施上。 * **主持人（David/Chamath）的观点及讨论：** * 有 AI 研究员认为，无需等待量子计算机，AI 模型在数论前沿的进展（如对质数分布的更好预测）就能让我们在量子计算机到来之前通过经典计算路径破解密码。 * Arvind 认为，如果经典计算破解一个密钥需要 10 年，那就没有实际意义，但辩论和可能性确实存在。 --- ### 二、 模型选择：闭源（Frontier）与开源权重（Open Weight） * **Nikesh 的观点：** * 在实验阶段，不要限制团队的能力，不要过早进行成本优化，因为组织内的大多数人只在过去 12 到 18 个月才刚接触 AI。 * 在生产阶段，应该采用“不同任务对应不同模型”的策略。例如在网络安全中，无法承担把所有端点流量都通过 token 传给 OpenAI 的天价成本。 * 替代方案是使用小语言模型（SLM），进行压缩和任务特定训练，达到 99.9% 的准确率。这样可以用极低的成本完成特定任务。 * 在极端情况（如正在遭受攻击、面临数十亿美元业务损失时）下，则需要使用最先进的前沿大模型（LLM）来运行代理集群（Agent swarms）以阻止攻击。 * 在和平时期防御模型等场景下，更倾向于采用开源权重模型，利用自身专有数据进行训练并管理权重，这带来了可审计性、可解释性和开放系统的优势。 * **Arvind 的观点：** * **经济学角度：** 顶尖生成式模型的 token 成本高昂，而采用开源权重模型（如某些大规模参数的开源模型，并在自己的 GPU 上优化）可以将成本降低 10 到 40 倍，且能完成 95% 的工作。没有企业会拒绝这种性价比。 * **品牌与知识产权角度：** 如果采用前沿闭源模型，思维链（Chain of thought）可能被第三方捕获和审计，相当于泄露了 IP。因此人们需要运行自己的模型，这只能通过开源权重来实现。 * **地缘政治角度：** 最好的开源权重模型目前在中国。虽然放在沙盒里自己运行没有危险，但未来一两年内，西方也一定会涌现出同样强大且差距在 6 到 12 个月之内的开源权重模型。 * 综合上述三点，未来所有 token 消耗量的 75% 到 90% 将流向开源权重模型。 * 开发者往往比较懒，在实验阶段为了速度会使用最昂贵的方案，但到了生产阶段就必须转向更具成本效益的开源方案。 --- ### 三、 网络安全、AI 与战争哲学 * **Nikesh 的观点：** * 网络安全正在演变成战争。行业需要建立强大的联盟，汇聚各自发现的漏洞，只找一次防御方案，而不是让每个公司都去重复测试和修复。 * 虽然 AI 模型（如 Mythos 等）被攻击者用来寻找漏洞（攻击者只需要一个漏洞，而防御者需要找到并修补所有漏洞），但防御者同样可以利用这些模型来检测和加固代码。不过，即使有 AI 辅助，修补漏洞后仍需人工重新测试。 * **Arvind 的观点：** * **战争中的经验法则：** 1. **联盟的力量：** 强有力的联盟可以变得比攻击者更强大。 2. **不对称性与对称性：** 战争中最有效的是不对称性（攻击比防御便宜，导致防御者耗尽资金）。目标是让防御变得同样便宜，从而实现对称战争。 3. **技术优势：** 赢得战争的关键在于建立技术优势。目标是通过技术（如寻找漏洞、自动修补、边界保护）让攻击者的成本变得极其高昂。 * 代理式代码（Agentically written code）最终会优于人类编写的代码，因为代理可以进行评估（Evals），确保在发布前修复所有能找到的缺陷。但计算机科学中仍存在无法完全形式化验证（Verifiable）的难题。 --- ### 四、 地缘政治、监管与 AI 发展节奏 * **Nikesh 的观点：** * 没有人会放慢脚步，全球都在以狂热的速度开发更聪明、更快、更智能的模型。 * 社会过度放大了 AI 的黑暗面和负面影响，而忽略了其带来的巨大利益。 * 无论谁构建了软件并将其释放到市场，都必须承担产品责任。不能说“软件是自己写的”来逃避责任。 * **Arvind 的观点：** * 试图让全球（包括中国、日本、印度等）齐心协力放慢 AI 开发是根本不可能的。一个国家慢下来，反而给了其他国家赶超的机会。数字技术是无法被人为踩刹车的。 * 关于监管和数据中心禁令：部分政治层面的讨论（如某些州考虑禁止数据中心）更多是出于民粹主义以获取选票，而非基于现实。但同时也有许多人关心长期的经济优势。 * **资本与劳动的历史规律：** 历史上历次产业革命中（17、18、19世纪），更倾向于资本密集型的国家和企业最终都赢得了胜利。愿意放弃盲目保护现有每一个工作岗位（左翼哲学）、转而追求资本密集和技术创新的国家，将在这次变革中胜出。 * **主持人的观察（David）：** * 在华盛顿的对话中，一方面看到某些科技巨头对网络安全感到极端恐慌，另一方面又听到关于可能出现跨州数据中心禁令的讨论。 --- ### 五、 全球“有产者与无产者（Haves and Have-Nots）”的差距 * **Nikesh 的观点：** * 技术应该变得足够便宜，让每个人都能轻松获取，因此不会陷入不可调和的“有产者与无产者”场景。 * 更大的挑战在于**算力供应链约束**：中美两国在算力发展上遥遥领先，而远离中心 epicenters 的地区（例如欧洲或世界其他地方）可能会面临严重的硬件和算力获取短缺，而非单纯的经济问题。 --- ### 六、 垂直整合与横向扩张（M&A） * **Arvind 的观点：** * 以 IBM 主机（Mainframe）为例，其历经 65 年长盛不衰的原因就在于**垂直整合**。过去 IBM 甚至从沙子、晶圆、芯片一直做到整机和底层软件，从而避免了 IP 泄漏并保留了整个技术栈的利润。 * 现代的垂直整合代表是 NVIDIA（Jensen Huang），其从底层的晶圆设计一路做到了上层的应用生态。掌握垂直整合意味着可以决定利润池在各个层级之间的分配。 * **Nikesh 的观点：** * 应用层的巨头（如 OpenAI 或 Anthropic）也将走向垂直整合，将软件、推理、内存和上下文融为一体。随着个人代理（Personal agent）的发展，每个用户或企业都会构建自己的垂直技术栈，因为这样可以消除在不同技术栈之间迁移时摩擦过大的问题。 * **网络安全领域的 M&A：** 客户不应该被迫购买 40 种不同的解决方案并自行拼接。行业正在走向整合，最终软件解决方案会形成统一平台。 * **SaaS 领域的未来：** 随着 AI 对现有软件产品市场契合度（Product-market fit）的颠覆，许多传统 SaaS 软件的终局价值面临巨大不确定性。企业最终可能会用少量 AI 能力替代成百上千种不同的 SaaS 软件，转向核心的 5 到 10 个主平台，这将引发软件行业的巨大整合。

以下是根据访谈脚本生成的摘要，包含了两位嘉宾（Arvind 和 Nikesh）以及主持人（David / Chamath）的每一个观点： ### 一、 量子密码学与安全风险 * **Arvind 的观点：** * DARPA 正在运行量子 benchmarking 竞赛（QBI），最初有几百家公司，现在只剩大约 13 家。 * 量子计算机在 2030 年左右（中间点）将不可避免地破解当今的密码学。如果加密硬盘现在被偷，黑客可以保存 5 年并在那时破解。 * 后量子密码学（Post-quantum cryptography）已经成熟、广为人知，代码也已写好，但人们一直太懒而没有去采用。现在的警钟已经敲响。 * 量子安全方案是基于计算机科学中的复杂性理论（建立在某些假设之上），其严格程度与今天经典密码学无法被经典计算机破解的程度相同。 * **量子计算机发展的里程碑：** 1. **第一步（明年）：** 谁能证明在运行中的量子计算机上实现错误校正（Error correction）或缓解，而不是靠模拟。随后需要第三方评估。 2. **第二步（2027年及以后）：** 是否能以一定规模（非完全规模）运行，例如门计算（gate computations）。如果每年算力增加一个数量级（目前约 1 万，每年加一个零），到 2029 年可能达到 1000 万，这将带来惊人的突破。 * 关于“逻辑量子比特（Logical qubits）”的概念：虽然名字不够完美，但它是一个合理的术语，指经过纠错后的机器有效容量。 * 无法通过不同架构（如经典 AI 模拟）来替代量子架构实现高效结果。AI 可以发现新的量子算法，但必须在量子硬件上运行才能获得优势。 * **Nikesh 的观点：** * IT 基础设施的各个角落都运行着加密密钥，所有供应商在两端也都有密钥。任何不具备量子防御能力的东西都将被破解。 * 不能等到 2029 或 2030 年再采取行动，因为 IT 基础设施不可能在一年内花 5 万亿美元推倒重来。 * 现在就应该开始用量子安全或量子证明的基础设施替换当前的 IT 栈。市场已有现成技术可以作为权宜之计，把后量子准备就绪的密钥包裹在流量外。 * 大家今年 earmark 的数亿美元 IT 支出中，估计有 50% 都用在了不具备量子安全的基础设施上。 * **主持人（David/Chamath）的观点及讨论：** * 有 AI 研究员认为，无需等待量子计算机，AI 模型在数论前沿的进展（如对质数分布的更好预测）就能让我们在量子计算机到来之前通过经典计算路径破解密码。 * Arvind 认为，如果经典计算破解一个密钥需要 10 年，那就没有实际意义，但辩论和可能性确实存在。 --- ### 二、 模型选择：闭源（Frontier）与开源权重（Open Weight） * **Nikesh 的观点：** * 在实验阶段，不要限制团队的能力，不要过早进行成本优化，因为组织内的大多数人只在过去 12 到 18 个月才刚接触 AI。 * 在生产阶段，应该采用“不同任务对应不同模型”的策略。例如在网络安全中，无法承担把所有端点流量都通过 token 传给 OpenAI 的天价成本。 * 替代方案是使用小语言模型（SLM），进行压缩和任务特定训练，达到 99.9% 的准确率。这样可以用极低的成本完成特定任务。 * 在极端情况（如正在遭受攻击、面临数十亿美元业务损失时），则需要使用最先进的前沿大模型（LLM）来运行代理集群（Agent swarms）以阻止攻击。 * 在和平时期防御模型等场景下，更倾向于采用开源权重模型，利用自身专有数据进行训练并管理权重，这带来了可审计性、可解释性和开放系统的优势。 * **Arvind 的观点：** * **经济学角度：** 顶尖生成式模型的 token 成本高昂，而采用开源权重模型（如某些大规模参数的开源模型，并在自己的 GPU 上优化）可以将成本降低 10 到 40 倍，且能完成 95% 的工作。没有企业会拒绝这种性价比。 * **品牌与知识产权角度：** 如果采用前沿闭源模型，思维链（Chain of thought）可能被第三方捕获和审计，相当于泄露了 IP。因此人们需要运行自己的模型，这只能通过开源权重来实现。 * **地缘政治角度：** 最好的开源权重模型目前在中国。虽然放在沙盒里自己运行没有危险，但未来一两年内，西方也一定会涌现出同样强大且差距在 6 到 12 个月之内的开源权重模型。 * 综合上述三点，未来所有 token 消耗量的 75% 到 90% 将流向开源权重模型。 * 开发者往往比较懒，在实验阶段为了速度会使用最昂贵的方案，但到了生产阶段就必须转向更具成本效益的开源方案。 --- ### 三、 网络安全、AI 与战争哲学 * **Nikesh 的观点：** * 网络安全正在演变成战争。行业需要建立强大的联盟，汇聚各自发现的漏洞，只找一次防御方案，而不是让每个公司都去重复测试和修复。 * 虽然 AI 模型（如 Mythos 等）被攻击者用来寻找漏洞（攻击者只需要一个漏洞，而防御者需要找到并修补所有漏洞），但防御者同样可以利用这些模型来检测和加固代码。不过，即使有 AI 辅助，修补漏洞后仍需人工重新测试。 * **Arvind 的观点：** * **战争中的经验法则：** 1. **联盟的力量：** 强有力的联盟可以变得比攻击者更强大。 2. **不对称性与对称性：** 战争中最有效的是不对称性（攻击比防御便宜，导致防御者耗尽资金）。目标是让防御变得同样便宜，从而实现对称战争。 3. **技术优势：** 赢得战争的关键在于建立技术优势。目标是通过技术（如寻找漏洞、自动修补、边界保护）让攻击者的成本变得极其高昂。 * 代理式代码（Agentically written code）最终会优于人类编写的代码，因为代理可以进行评估（Evals），确保在发布前修复所有能找到的缺陷。但计算机科学中仍存在无法完全形式化验证（Verifiable）的难题。 --- ### 四、 地缘政治、监管与 AI 发展节奏 * **Nikesh 的观点：** * 没有人会放慢脚步，全球都在以狂热的速度开发更聪明、更快、更智能的模型。 * 社会过度放大了 AI 的黑暗面和负面影响，而忽略了其带来的巨大利益。 * 无论谁构建了软件并将其释放到市场，都必须承担产品责任。不能说“软件是自己写的”来逃避责任。 * **Arvind 的观点：** * 试图让全球（包括中国、日本、印度等）齐心协力放慢 AI 开发是根本不可能的。一个国家慢下来，反而给了其他国家赶超的机会。数字技术是无法被人为踩刹车的。 * 关于监管和数据中心禁令：部分政治层面的讨论（如某些州考虑禁止数据中心）更多是出于民粹主义以获取选票，而非基于现实。但同时也有许多人关心长期的经济优势。 * **资本与劳动的历史规律：** 历史上历次产业革命中（17、18、19世纪），更倾向于资本密集型的国家和企业最终都赢得了胜利。愿意放弃盲目保护现有每一个工作岗位（左翼哲学）、转而追求资本密集和技术创新的国家，将在这次变革中胜出。 * **主持人的观察（David）：** * 在华盛顿的对话中，一方面看到某些科技巨头对网络安全感到极端恐慌，另一方面又听到关于可能出现跨州数据中心禁令的讨论。 --- ### 五、 全球“有产者与无产者（Haves and Have-Nots）”的差距 * **Nikesh 的观点：** * 技术应该变得足够便宜，让每个人都能轻松获取，因此不会陷入不可调和的“有产者与无产者”场景。 * 更大的挑战在于**算力供应链约束**：中美两国在算力发展上遥遥领先，而远离中心 epicenters 的地区（例如欧洲或世界其他地方）可能会面临严重的硬件和算力获取短缺，而非单纯的经济问题。 --- ### 六、 垂直整合与横向扩张（M&A） * **Arvind 的观点：** * 以 IBM 主机（Mainframe）为例，其历经 65 年长盛不衰的原因就在于**垂直整合**。过去 IBM 甚至从沙子、晶圆、芯片一直做到整机和底层软件，从而避免了 IP 泄漏并保留了整个技术栈的利润。 * 现代的垂直整合代表是 NVIDIA（Jensen Huang），其从底层的晶圆设计一路做到了上层的应用生态。掌握垂直整合意味着可以决定利润池在各个层级之间的分配。 * **Nikesh 的观点：** * 应用层的巨头（如 OpenAI 或 Anthropic）也将走向垂直整合，将软件、推理、内存和上下文融为一体。随着个人代理（Personal agent）的发展，每个用户或企业都会构建自己的垂直技术栈，因为这样可以消除在不同技术栈之间迁移时摩擦过大的问题。 * **网络安全领域的 M&A：** 客户不应该被迫购买 40 种不同的解决方案并自行拼接。行业正在走向整合，最终软件解决方案会形成统一平台。 * **SaaS 领域的未来：** 随着 AI 对现有软件产品市场契合度（Product-market fit）的颠覆，许多传统 SaaS 软件的终局价值面临巨大不确定性。企业最终可能会用少量 AI 能力替代成百上千种不同的 SaaS 软件，转向核心的 5 到 10 个主平台，这将引发软件行业的巨大整合。