本书旨在成为大模型在各行各业落地应用的“百科全书”,专为对大模型感兴趣的从业者和企业管理者量身打造。本书结合了实地调研和多元视角,不仅对大模型进行了技术分析,还从商业、产品、行业等多个角度进行了应用探讨。全书共5章:第 1 章介绍了大模型的训练过程和核心技术;第 2 章分析了大模型对软件行业的影响,通过具体案例展示了软件公司如何适应大模型需求;第 3、4 章分别从产品和行业角度出发,讨论了大模型如何改变产品升级流程和工作流程,以及它对各行各业的具体影响;第 5 章展望了大模型的未来,预测了它将如何改变我们的世界。本书由互联网企业的大模型产品经理、公有云服务的战略规划专家、活跃于中美两国的大模型投资者和从业者,以及专注于行业应用的大模型创业公司共同参与创作。本书将为从业者提供如何选择合适的大模型产品,以及大模型将如何影响其所在行业的深入分析。对于企业管理者,本书将探讨企业如何有效实施大模型应用,以及如何调整现有业务流程以适应 AI 技术的变革,帮助读者更快地接受大模型技术,并提前规划 AI 转型策略。
周默:长期专注于中美科技公司分析与投资,与其他几位作者一起创立了“共识粉碎机”公众号与社群。他曾在微软和腾讯担任产品与战略投资相关职务,随后在对冲基金Prime Capital负责全球科技股的投资工作。丁宇:某互联网公司前战略总监,负责云服务和AI业务的战略规划。他不仅具备深厚的软件行业和AI技术理论基础,还亲身参与了多个产品从创立到成熟的完整发展过程。加入互联网公司之前,丁宇在麦肯锡咨询公司工作,参与了许多国内外传统企业的信息化转型项目。赵毓佳:人工智能产品和落地领域的专家,目前担任微软MSAI的产品经理。她拥有国际化的视野和丰富的客户对接经验,对AI产品规划中的技术细节和挑战有深入的理解,曾参与多个海内外大模型项目的落地实施,并积极协助国内大模型公司解决技术和产品相关问题。Andy Liu:具有丰富的一线大型模型实战经验,以及多年的数字化转型、战略咨询和投资研究背景。他对大模型相关的算法、硬件、通信互联等领域均有深入的认识。
第 1 章 什么是大模型 / 1
1.1 从单节点模型开始 / 2
1.2 大模型的养成 / 4
1.3 大模型的核心能力 / 5
1.4 大模型的构建 / 6
1.5 大模型需要的基础设施 / 7
1.6 大模型的“不可能三角” / 10
番外篇 OpenAI 为何成功 / 14
番外篇 CUDA 壁垒是怎样形成的 / 23
第 2 章 软件在大模型时代还有没有价值 / 31
2.1 历次科技变革,改变了谁 / 32
2.2 大模型变革下的四类 SaaS 企业 / 35
2.2.1 人调用软件 / 35
2.2.2 软件梳理流程 / 41
2.2.3 翻译工具 / 44
2.2.4 大模型调用软件 / 45
番外篇 GPU IaaS 业务拉开云加速序幕 / 46
2.3 大模型与 DevOps(可观测性) / 48
2.3.1 可观测性的实现原理及关键环节 / 49
2.3.2 大模型如何与可观测性结合 / 50
2.3.3 针对大模型搭建可观测性平台 / 52
2.4 大模型改变数据库 / 53
2.4.1 大模型如何改变数据库交互 / 53
2.4.2 大模型是否能改变数据库底层 / 54
2.4.3 数据仓库与数据湖如何支持大模型训练 / 56
2.4.4 大模型的应用取决于成本 / 57
2.4.5 向量数据库 / 57
2.4.6 大模型可被用于 ETL 工作 / 61
2.5 大模型改变网络安全 / 62
2.5.1 大模型在不同网络安全场景中的应用 / 62
2.5.2 现有网络安全企业的大模型应用情况 / 64
2.5.3 微软 Security Copilot 的优点和缺点 / 65
2.5.4 大模型数据交互安全 / 65
2.5.5 AI Native 网络安全公司出现了吗 / 66
2.6 大模型与 RAG / 66
2.6.1 RAG 的技术难点 / 67
2.6.2 RAG 是个系统,单点突破难做差异化 / 69
2.6.3 RAG 需求爆发得非常快 / 70
2.6.4 相对微调,RAG 技术更具优势 / 72
2.6.5 RAG 的评测 / 73
2.6.6 混合搜索与技术栈选择 / 74
2.6.7 RAG 的商业化与进入市场策略 / 76
2.6.8 金融领域的 RAG 应用 / 78
2.7 大模型改变办公与销售管理软件 / 79
2.7.1 大模型如何影响办公类产品 / 79
2.7.2 大模型如何影响会议类产品 / 79
2.7.3 大模型如何影响协同产品 / 81
2.7.4 大模型如何影响销售管理工具 / 81
番外篇 数据基础设施(Data Infra):大模型决战前夜 / 83
第 3 章 大模型将改变产品生态 / 94
3.1 大模型与产品设计 / 95
3.1.1 大模型 AI 产品的设计流程 / 95
3.1.2 大模型 AI 产品的设计准则 / 99
案例 Microsoft 365 Copilot 的产品设计 / 104
3.2 大模型与产品销售和营销 / 109
案例 卫瓴科技如何通过大模型赋能销售和营销 / 111
案例 Salesforce 的大模型赋能销售解决方案 / 118
3.3 大模型与组织变革 / 126
3.3.1 AI 时代的组织进化展望 / 126
3.3.2 个人与组织价值创造逻辑的差异 / 127
3.3.3 组织协作的“假象”与“理想” / 128
3.3.4 AI 在组织协作中应用的可能性 / 130
3.3.5 技术路径与商业实践探索 / 131
案例 腾讯如何搭建适合自己的大模型 / 134
第 4 章 大模型将改变更多行业 / 144
4.1 大模型改变客服和电销 / 145
4.1.1 大模型改变了客服 / 145
4.1.2 将大模型应用在电销上难度大 / 147
4.1.3 如何交付大模型客服 / 148
4.1.4 大模型客服如何选择模型 / 149
4.1.5 客户眼中的大模型客服与落地仍然有预期差 / 150
4.2 大模型改变教育 / 150
4.2.1 成熟 AI 教育公司的启示 / 151
4.2.2 大模型对教育场景的重塑 / 152
4.2.3 大模型如何影响教育创业和教育事业 / 155
4.2.4 大模型教育如何看待 / 选择大模型 / 157
4.3 大模型改变设计 / 158
4.3.1 大模型应用在不同的设计场景 / 159
4.3.2 大模型对设计的提效 / 161
4.3.3 现有的设计软件如何应对大模型 / 162
4.3.4 大模型设计在 To B 场景的落地 / 163
4.4 大模型改变游戏 / 164
4.4.1 AI NPC 在玩法层面的落地 / 164
4.4.2 AI NPC 在局部留存 / 商业化上更容易落地 / 165
4.4.3 AI 在游戏的技术层面落地难点 / 166
4.4.4 游戏公司使用 AI 工具的情况 / 167
4.4.5 大模型在游戏引擎中落地的方向 / 168
4.4.6 大模型在 VR 中的落地情况 / 171
4.5 大模型改变广告 / 171
4.5.1 广告创业公司的观点 / 171
4.5.2 广告平台方的观点 / 173
4.5.3 广告主的观点 / 175
4.5.4 生成式广告 / 175
4.6 大模型改变推荐系统 / 176
4.6.1 大模型在推荐系统现有环节的应用 / 176
4.6.2 大模型在广告 / 电商推荐系统中的应用 / 177
4.6.3 大模型在搜索推荐系统中的应用 / 177
4.6.4 大模型在内容推荐系统中的应用(以 Meta 为例) / 180
4.7 大模型改变传统工业 / 180
4.7.1 大模型在传统工业中的应用处于初级阶段 / 181
4.7.2 小模型在传统工业中的应用广泛 / 182
4.7.3 大模型在传统工业应用的难点 / 183
4.7.4 大模型在传统工业应用的方法 / 185
案例 头部 AI 咨询公司 C3.ai / 187
案例 难以被 AI 颠覆的艾斯本科技 (Aspen Tech) / 206
第 5 章 对大模型未来的思考 / 220
5.1 大模型未来三年的几个假设 / 221
5.1.1 开始摘低垂果实(2024 年) / 221
5.1.2 AI 带来的实际经济影响(2024 年) / 223
5.1.3 GPT-5 会成为更标准落地的分水岭(2025 年) / 225
5.1.4 面向消费者(To C)领域的预期(2025 年) / 226
5.1.5 AI 或许可以替代高阶的职能(2026 年) / 227
5.1.6 工业领域会看到很多多模态实践(2026 年) / 228
5.1.7 基建与电力可能比 GPU 更稀缺(2024—2026 年) / 228
5.2 大模型技术面临的挑战 / 229
5.2.1 数据 / 229
5.2.2 计算资源 / 230
5.2.3 安全和合规 / 231
5.3 大模型就像贪吃蛇与俄罗斯方块 / 232
5.3.1 贪吃蛇与俄罗斯方块 / 232
5.3.2 贪吃蛇也没有秘密 / 234
5.3.3 中国的方块与美国的方块 / 234
5.3.4 模型与应用公司的下一步 / 235
5.3.5 Sora 如何改变世界 / 237
5.3.6 我们在 1.0,即将进入 2.0 / 238
5.4 GPT-4 Turbo 带来的行业进化 / 239
5.4.1 GPT-4 Turbo 带来的成本下降 / 240
5.4.2 GPT-4 Turbo 长下文带来的变化 / 240
5.4.3 低代码工具及 GPTs / 241
5.4.4 OpenAI 的官方 RAG 工具 / 242
5.5 GPT-4o 带来的行业进化 / 243
5.5.1 GPT-4o 如何降低延迟 / 244
5.5.2 GPT-4o 的实时互动机制 / 245
5.5.3 GPT-4o 为什么要用到 RTC / 247