LLM 串接所有服務 - LangChain 原型到產品全面開發

張海立 , 曹士圯 , 郭祖龍 編著

  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-1
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-2
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-3
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-4
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-5
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-6
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-7
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-8
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-9
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-10
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-11
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-12
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-13
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-14
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-15
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-16
  • LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-17
LLM 串接所有服務 - LangChain 原型到產品全面開發-preview-1

買這商品的人也買了...

商品描述

【本書要點】

LangChain生態系統概覽

☆環境準備

☆角色扮演寫作實戰

☆多媒體資源的摘要實戰

☆文件導向的對話機器人實戰

☆自然語言交流的搜尋引擎實戰

☆快速建構互動式LangChain應用原型

☆使用生態工具加速LangChain應用程式開發

LangChain, LlamaIndex, AutoGen比較

 

【內容簡介】

本書分9章,第1章介紹LangChain的生態系統設定,並解析一個官方生產級應用Chat LangChain,幫助讀者初步認識該生態系統。第2章介紹Ollama的使用和llama2-chinese模型的部署,第3章到第6章結合應用場景深入講解LangChain的核心模組及LCEL語法和Runnable Sequence中的可用元件,包括第3章角色扮演寫作實戰,講解Model I/O三元組概念和應用。第4章探討如何使用LangChain處理多媒體資源中的文字內容。第5章講解Retriever模組機制和應用,以及檢索增強生成的流程及元件。第6章詳述利用Agent和思考鏈構建自然語言處理搜尋引擎,並介紹Callback模組。第7章介紹如何使用StreamlitChainlit框架快速轉化為本地和雲端應用。第8章深入講解LangSmithLangServeTemplates&CLI三個關鍵工具,LangSmith用於監控LangChain應用,LangServe用於將應用部署至API,提高可存取性和性能,Templates&CLI用於快速啟動專案。第9章分析比較LangChainLlamaIndexAutoGen框架,探討LangChain Hub的應用場景和通用人工智慧的認知架構發展。

作者簡介

張海立

網路暱稱:滄海九粟

馭勢科技雲平臺研發總監,中國資訊通信研究院「汽車雲工作組」首批專家,目前專注的領域是無人駕駛運維平臺的標準化和智慧化研究。同時作為開源愛好者和佈道師,長期關注和致力於雲原生與前沿互聯網技術的推廣,現擔任KubeSphere用戶委員會上海站站長,也是CNCF OpenFunction 項目管委會成員。曾就職於英特爾亞太研發有限公司,擔任高級研發經理和架構師。

 

曹士圯

網路暱稱:萬千十一

前全棧資料科學家,關注大資料分析、建模及架構等;現為獨立AI工程師,聚焦於大語言模型智慧體的發展及行業應用,同時關注各類大語言模型的端側部署推理應用。資料玩家、工具狂魔,開源愛好者,樂於寫作和分享。

 

郭祖龍

馭勢科技雲平臺研發經理。關注雲原生可觀測性、loT相關技術、流式計算等。I人丈夫,新晉奶爸,熱愛運動,喜歡旅行。

目錄大綱

第1章 LangChain 生態系統概覽

1.1 LangChain 生態系統的版面設定

1.1.1 LangChain 軟體套件的組織方式

1.1.2 LangChain 核心功能模組概覽

1.2 從Chat LangChain 應用看生態實踐

1.2.1 讀取和載入私域資料

1.2.2 資料前置處理及儲存

1.2.3 基於使用者問題的資料檢索

1.2.4 基於檢索內容的應答生成

1.2.5 提供附帶中間結果的流式輸出

1.2.6 思維鏈的服務化和應用化

1.2.7 追逐生產環境的調研鏈和指標

 

第2章 環境準備

2.1 在VS Code 中開啟並使用Jupyter Notebook

2.2 透過python-dotenv 隱式載入環境變數

2.3 使用Ollama 載入大型語言模型

 

第3章 角色扮演寫作實戰

3.1 場景程式範例

3.2 場景程式解析

3.3 Model I/O 三元組

3.3.1 Prompt 模組

3.3.2 Model 模組

3.3.3 Output Parser 模組

3.4 LCEL 語法解析:基礎語法和介面

3.4.1 Runnable 物件的標準介面

3.4.2 Runnable 物件的輸入和輸出

3.4.3 Runnable 物件的動態參數綁定

3.4.4 審查鏈路結構和提示詞

3.5 Runnable Sequence 的基座:Model I/O 三元組物件

 

第4章 多媒體資源的摘要實戰

4.1 場景程式範例

4.2 場景程式解析

4.3 Document 的載入與處理

4.3.1 文件載入器

4.3.2 文件轉換器

4.3.3 文字分割器

4.4 3 種核心文件處理策略

4.4.1 Stuff 策略:直接合併

4.4.2 MapReduce 策略:分而治之

4.4.3 Refine 策略:循序迭代

4.5 LCEL 語法解析:RunnableLambda 和RunnableMap

4.5.1 RunnableLambda

4.5.2 RunnableMap

 

第5章 文件導向的對話機器人實戰

5.1 場景程式範例

5.2 場景程式解析

5.3 RAG 簡介

5.3.1 什麼是RAG

5.3.2 RAG 的工作原理

5.4 LangChain 中的RAG 實現

5.5 Retriever 模組的實用演算法概覽

5.5.1 檢索器融合

5.5.2 上下文壓縮

5.5.3 自組織查詢

5.5.4 時間戳記權重

5.5.5 父文件回溯

5.5.6 多維度回溯

5.5.7 多角度查詢

5.6 Indexing API 簡介

5.6.1 刪除模式

5.6.2 使用場景和方式

5.7 Chain 模組和Memory 模組

5.7.1 透過Retrieval QA Chain 實現文件問答

5.7.2 透過Conversational Retrieval QA Chain 實現階段文件問答

5.7.3 透過Memory 模組為對話過程保駕護航

5.8 長上下文記憶系統的建構

5.8.1 階段記憶系統

5.8.2 語義記憶系統

5.8.3 生成式Agent 系統

5.8.4 長上下文記憶系統的建構要點

5.9 LCEL 語法解析:RunnablePassthrough

5.10 Runnable Sequence 的資料連接:Retriever 物件

 

第6章 自然語言交流的搜尋引擎實戰

6.1 場景程式範例

6.2 場景程式解析

6.3 Agent 簡介

6.3.1 Agent 和Chain 的區別

6.3.2 Agent 的思維鏈

6.4 Agent 的工具箱

6.5 OpenAI 導向的Agent 實現

6.6 Callback 回呼系統簡介

6.7 Callback 和verbose 的關係

6.8 LCEL 語法解析:RunnableBranch 和鏈路異常回退機制

6.8.1 RunnableBranch

6.8.2 鏈路異常回退機制

6.9 Runnable Sequence 的擴充:外部工具的連線

6.10 LangGraph:以圖的方式建構Agent

 

第7章 快速建構互動式LangChain 應用原型

7.1 Streamlit 及免費雲端服務「全家桶」

7.1.1 環境準備

7.1.2 極簡開發

7.1.3 即時互動

7.1.4 雲端部署

7.2 使用Chainlit 快速建構互動式文件對話機器人

7.2.1 環境準備

7.2.2 簡單範例

7.2.3 互動式文件對話機器人

 

第8章 使用生態工具加速LangChain 應用程式開發

8.1 LangSmith:全面監控LangChain 應用

8.1.1 追蹤LangChain 應用

8.1.2 資料集與評估

8.1.3 LangChain Hub

8.2 LangServe:將LangChain 應用部署至Web API

8.2.1 快速開始

8.2.2 原理詳解

8.3 Templates & CLI:從範本和腳手架快速啟動

8.3.1 LangChain Templates

8.3.2 LangChain CLI 命令列工具

8.3.3 最佳化升級

 

第9章 我們的「大世界」

9.1 大型語言模型應用程式開發框架的「你我他」

9.1.1 三大框架的簡介

9.1.2 三大框架的特性

9.1.3 三大框架的對比

9.2 從LangChain Hub 看提示詞的豐富應用場景

9.2.1 場景寫作

9.2.2 資訊總結

9.2.3 資訊提取

9.2.4 程式分析和評審

9.2.5 提示最佳化

9.2.6 RAG

9.2.7 自然語言SQL 查詢

9.2.8 評價評分

9.2.9 合成資料生成

9.2.10 思維鏈

9.3 淺談通用人工智慧的認知架構的發展