AI Engineering Building Applications Audiobook

AIエンジニアリング:アプリケーション構築のオーディオブック

AIエンジニアリング:基盤モデルによるアプリケーション構築 — チップ・フエン著 オーディオブック全編

人工知能の目覚ましい能力を、人々が実際に利用できるアプリケーションにどのように変えるのでしょうか。『AIエンジニアリング:基盤モデルによるアプリケーション構築』では、チップ・フエンが、既存のAIモデルを基盤とするソフトウェアを構築する際に伴う意思決定、手法、トレードオフについて解説します。

 

言語モデルの歴史:(3:09 - 3:32) 言語モデルとは何か(統計的基盤):(3:33 - 5:06) トークンと語彙:(5:07 - 7:51) 自己回帰モデルと生成AI:(7:52 - 10:11) 自己教師あり学習とスケーリング:(10:12 - 18:10) 基盤モデル(言語モデル+マルチモーダル):(18:11 - 27:03) 基盤モデルの一般的なユースケース:(27:04 - 52:01) AIアプリケーションと評価指標の計画:(52:02 - 1:01:58) AIエンジニアリングのスタック:(1:01:59 - 1:10:43) 学習データのキュレーション(コモンクロールと品質):(1:10:44 - 1:14:32) 特定ドメイン向けモデル:(1:14:33 - 1:32:09) 教師ありファインチューニング(SFT):(1:32:10 - 1:51:06) 基盤モデルの評価における課題:(1:51:07 - 1:59:53) 正確な評価(機能的な正確さと類似性):(1:59:54 - 2:03:51) 埋め込みとAIによる評価:(2:03:52 - 2:15:19) 評価フレームワーク(能力と評価指標):(2:15:20 - 2:31:57) オープンエンドなタスクの評価プロセス:(2:31:58 - 2:37:02) プロンプトエンジニアリング入門:(2:37:03 - 2:43:21) 防御的なプロンプトエンジニアリング(ジェイルブレイク/インジェクション):(2:43:22 - 2:49:42) ファインチューニングのためのデータ処理:(2:49:43 - 3:37:55) 推論APIとパフォーマンス指標(レイテンシ/スループット):(3:37:56 - 3:40:29) 推論の最適化手法:(3:40:30 - 3:47:07) 完全一致と意味的なキャッシュ:(3:47:08 - 3:47:41) エージェンティックなパターン(ループ/アクション):(3:47:42 - 3:49:42) モニタリング、オブザーバビリティ、フィードバックデータ:(3:49:43 - 終了)

 

このオーディオブックでは、魅力的なアイデアを実際のシステムへと進めるための実践的な視点を提供し、単に目覚ましいデモンストレーションにとどまらない価値を生み出すアプリケーションの背後にあるエンジニアリング思考を理解できるよう支援します。

基盤モデルは、開発者、起業家、組織に新たな可能性をもたらしました。すべてのモデルをゼロから学習させる代わりに、モデルプロバイダーやオープンリリースですでに利用できる機能を活用できます。フエンは、この変化がアプリケーション開発に何を意味するのかを探り、AIエンジニアリングを独自の課題を持つ一分野として提示します。重要なのは、利用可能な選択肢を理解し、解決しようとしている問題に適したアプローチを選ぶことです。

本書ではAIアプリケーションの全体像を紹介し、この取り組みが従来の機械学習エンジニアリングとどのように関連するかを解説します。この違いを知ることは、ソフトウェア開発、データサイエンス、技術的なプロダクト開発といった分野の経験を持つリスナーにとって有用な背景知識となります。アプリケーションを構築するには、強力なモデルを選ぶだけでは不十分です。そのモデルがより大きなユーザー体験にどのように組み込まれるのか、ユーザーが何を期待しているのか、そして完成したシステムがどのように評価・運用されるのかを考慮する必要があります。

評価については特に詳しく取り上げます。生成システムはオープンエンドな回答を生成できるため、単純な正誤テストで判断するよりも品質の評価は難しくなります。フエンは、評価手法、ベンチマーク、評価指標、そしてAIモデルを評価者として活用する方法について解説します。これらのテーマは、進捗をより慎重に評価する姿勢を促します。アプリケーションが改善したと判断する前に、開発者は、その用途にとって重要な特性を定義し、測定するための実用的な方法を確立する必要があります。

また、基盤モデルを特定のタスクに適応させる方法についても解説します。プロンプトエンジニアリング、検索拡張生成、エージェント、ファインチューニング、データセットエンジニアリングが含まれます。これらのテーマを合わせて学ぶことで、システムの挙動に影響を与え、必要な情報を提供するさまざまな方法がわかります。それぞれの価値を理解するには、比較が役立ちます。複数のアプローチを知ることで、提案された解決策が実際の制約に対処するのか、それともすでに不確実なプロセスに複雑さを加えるだけなのかを判断できるようになります。

さらに、推論の効率性、アプリケーションアーキテクチャ、ユーザーフィードバックについても解説します。実験が人々が依存するサービスへと発展すると、コストと応答時間は重要な検討事項となります。モニタリングとフィードバックは、エンジニアリング上の意思決定と実際の利用を結びつけるのに役立ちます。プロジェクトを計画しているリスナーにとって、これらのテーマは、モデルを囲むユーザー体験が、説得力のある回答を生成するモデルの能力と同じくらい注意を払うべきものであることを思い出させてくれます。

本書の魅力的な側面の一つは、選択肢をどのように検討していくかに焦点を当てている点です。AI分野にはモデル、データセット、ツール、アプリケーションパターンが豊富に存在しますが、選択肢が多すぎるとかえって意思決定が難しくなることがあります。フエンは、より単純な手法から始め、必要に応じてより高度な選択肢を検討するという、段階的に開発を進めるための枠組みを提示します。この視点を持つことで、リスナーは疑問を整理し、理解の不足に気づき、より明確な目的を持って実験に取り組めるようになります。

オーディオブック形式なら、画面から離れてこの内容を学ぶことができます。通勤中に聴いたり、歩きながら特定のテーマを復習したり、ある章を聴いてより集中した学習の準備をしたりできます。技術的な概念については、一時停止してメモを取り、補足資料に戻ることで理解を深められるでしょう。音声は実務の有用な伴走者となり、アイデアを自分のプロジェクトに適用する前に、より広い論理を吸収するのに役立ちます。

『Designing Machine Learning Systems』の著者による本書、『AIエンジニアリング』は、ソフトウェアエンジニア、機械学習の実務者、基盤モデルのアプリケーションを探索する技術に関心のある開発者にとって特に興味深い内容です。エンジニアリングチームと密接に連携するプロダクトリーダーにとっても、その語彙や開発の視点が役立つでしょう。要件についてより慎重に考え、代替案を議論し、有望なプロトタイプであってもユーザーの期待に応えるまでにかなりの作業が必要になる理由を理解するための材料を提供します。

AIアプリケーションがどのように構築されるのかについて体系的に理解したい人にとって、このオーディオブックは充実した学習リソースです。その最大の魅力は、技術的な可能性と実践的なエンジニアリング判断を結びつけている点にあります。初期のコンセプトを検討している場合でも、既存のシステムを見直している場合でも、『AIエンジニアリング』は、品質、適応、効率、デプロイについて思慮深い問いを投げかけます。基盤モデルを使って構築するための、知識に基づいたアプローチを見つけ、有用なAI製品を形づくる意思決定についてより明確に理解しましょう。

 

ブログに戻る