AI Engineering Building Applications Audiobook

AI工程构建应用程序有声书

《AI 工程:利用基础模型构建应用》—— Chip Huyen 全本有声书

如何将人工智能令人印象深刻的能力转化为人们真正能够使用的应用?在 《AI 工程:利用基础模型构建应用》中,Chip Huyen 探讨了围绕现有 AI 模型构建软件所涉及的决策、技术和权衡。

 

语言模型的发展史:(3:09 - 3:32) 什么是语言模型?(统计基础):(3:33 - 5:06) Token 和词表:(5:07 - 7:51) 自回归模型与生成式 AI:(7:52 - 10:11) 自监督学习与扩展:(10:12 - 18:10) 基础模型(语言模型 + 多模态):(18:11 - 27:03) 基础模型的常见使用场景:(27:04 - 52:01) AI 应用规划与指标:(52:02 - 1:01:58) AI 工程技术栈:(1:01:59 - 1:10:43) 训练数据整理(Common Crawl 与质量):(1:10:44 - 1:14:32) 特定领域模型:(1:14:33 - 1:32:09) 有监督微调(SFT):(1:32:10 - 1:51:06) 评估基础模型的挑战:(1:51:07 - 1:59:53) 精确评估(功能正确性与相似性):(1:59:54 - 2:03:51) 嵌入向量与 AI 评测:(2:03:52 - 2:15:19) 评估框架(能力与指标):(2:15:20 - 2:31:57) 开放式任务评估流程:(2:31:58 - 2:37:02) 提示工程简介:(2:37:03 - 2:43:21) 防御性提示工程(越狱/注入):(2:43:22 - 2:49:42) 微调数据处理:(2:49:43 - 3:37:55) 推理 API 与性能指标(延迟/吞吐量):(3:37:56 - 3:40:29) 推理优化技术:(3:40:30 - 3:47:07) 精确缓存与语义缓存:(3:47:08 - 3:47:41) 智能体模式(循环/动作):(3:47:42 - 3:49:42) 监控、可观测性与反馈数据:(3:49:43 - 结束)

 

这本有声书从一个动人的想法出发,以实用视角引导听众构建一个可用的系统,帮助他们理解那些必须提供超越令人印象深刻的演示之外的价值的应用背后的工程思维。

基础模型为开发者、创业者和组织开辟了新的可能性。团队不再需要从头开始训练每个模型,而是可以利用模型提供商和开源发布中已有的能力进行构建。Huyen 探讨了这一转变对应用开发意味着什么,并将 AI 工程呈现为一个具有自身挑战的学科。重点在于理解可用的选择,并挑选适合您所要解决的问题的方法。

本书介绍了 AI 应用领域,并解释了这项工作与传统机器学习工程的关系。这一区别为来自软件开发、数据科学或技术产品领域的听众提供了有用的背景。构建一个应用不仅仅是选择一个强大的模型,还需要考虑该模型如何融入更大的用户体验、用户期望,以及最终系统将如何被评估和维护。

评估受到了特别关注。生成式系统可以产生开放式答案,这使得质量评估比简单的对错测试更难。Huyen 探讨了评估方法、基准测试、指标以及将 AI 模型作为评测者的用法。这些话题鼓励人们以更慎重的方式来评估进展:在决定一个应用有所改进之前,开发者需要能够定义并衡量其预期用途中真正重要特性的有效方法。

听众还将接触到将基础模型适配于特定任务的方法。内容包括提示工程、检索增强生成、智能体、微调和数据集工程。这些主题共同概述了影响系统行为并为其提供所需信息的不同方式。它们的部分价值在于相互比较。了解几种方法有助于开发者思考:所提出的解决方案是解决了实际的局限性,还是仅仅给本就充满不确定性的过程增加了复杂性。

讨论还延伸到推理效率、应用架构和用户反馈。当一项实验发展成为人们所依赖的服务时,成本和响应时间就会成为重要的考量因素。监控和反馈有助于将工程决策与实际使用联系起来。对于正在规划项目的听众,这些主题提醒人们,围绕模型的体验与模型生成令人信服的答案的能力同样值得关注。

本书的一个吸引人的方面是它对如何权衡选择的关注。AI 领域提供了海量的模型、数据集、工具和应用模式,但丰富性也可能让决策变得更加困难。Huyen 提出了一个循序渐进的开发框架,从更简单的方法开始,并在适当的时候考虑更复杂的可选方案。这种视角可以帮助听众整理问题、识别理解上的空白,并以更明确的目标开展实验。

有声书形式让这些内容可以在远离屏幕的地方使用。可以在通勤途中收听,走路时重温某个主题,或者利用某一章节为更专注的学习环节做准备。技术概念可能需要暂停、做笔记并返回参考资料。音频可以作为实际工作的得力助手,帮助听众在将想法应用于自己的项目中之前,先吸收更宏观的逻辑。

本书由 《设计机器学习系统》的作者撰写,《AI 工程》将特别吸引软件工程师、机器学习从业者以及探索基础模型应用的技术爱好者。与工程团队密切合作的产品负责人也可能会发现其专业术语和开发视角十分实用。它为更仔细地思考需求、讨论替代方案,以及理解一个充满前景的原型为何在满足用户预期之前仍需大量工作提供了素材。

对于任何希望系统地了解 AI 应用是如何构建的人来说,这本有声书都提供了一份内容丰富的学习资源。其核心魅力在于技术可能性与实际工程判断之间的联系。无论您是在探索初步概念,还是在重新审视现有系统,《AI 工程》都会引导您对质量、适配性、效率和部署提出深入思考的问题。探索一种基于基础模型的专业构建方法——并更清晰地理解塑造实用 AI 产品所涉及的决策。

 

返回博客