大模型应用开发：核心技术与领域实践

作者简介

推荐阅读

A.4 大语言模型

A.3 预训练语言模型

A.2 神经网络语言模型

A.1 统计语言模型

附录 大模型的发展阶段

10.4 本章小结

10.3.4 个人中心功能

10.3.3 智能翻译功能

10.3.2 批阅纠错功能

10.3.1 写作润色功能

10.3 功能实现

10.2.2 模块设计

10.2.1 系统总体设计

10.2 业务逻辑

10.1 应用概述

第10章 智能助写平台实践

9.6 本章小结

9.5.3 可视化评估结果

9.5.2 启动评估任务

9.5.1 配置评估任务

9.5 模型评估

9.4 部署验证

9.3.3 直接偏好优化

9.3.2 有监督微调

9.3.1 增量预训练

9.3 增量预训练与微调

9.2.4 模型评测数据集

9.2.3 直接偏好优化数据集

9.2.2 有监督微调数据集

9.2.1 增量预训练数据集

9.2 医疗数据集构建

9.1 应用概述

第9章 医疗领域应用实践

8.5 本章小结

8.4 部署验证

8.3.4 微调前后的对话问答对比

8.3.3 法律大模型指令问答评估

8.3.2 指令微调工具编写

8.3.1 法律指令数据集预处理

8.3 指令微调

8.2.4 微调前后的对话问答对比

8.2.3 模型微调框架的参数配置

8.2.2 对话微调工具编写

8.2.1 法律对话数据预处理

8.2 对话数据微调

8.1 应用概述

第8章 法律领域应用实践

7.5 本章小结

7.4.3 基于LangChain的问答实践

7.4.2 知识库构建

7.4.1 功能设置

7.4 应用开发

7.3.4 学科知识处理

7.3.3 学科知识数据集

7.3.2 学科知识图谱构建流程

7.3.1 大模型与知识图谱

7.3 学科知识图谱

7.2.2 项目参数配置

7.2.1 开发环境搭建

7.2 环境构建

7.1 应用概述

第7章 学科知识问答实践

6.5 本章小结

6.4 应用部署

6.3.3 第三方工具调用

6.3.2 提示优化

6.3.1 实现多轮对话系统

6.3 应用开发

6.2.2 开源模型下载

6.2.1 开发环境搭建

6.2 环境构建

6.1 应用概述

第6章 智能客服问答实践

5.5 本章小结

5.4.4 生成

5.4.3 增强

5.4.2 检索

5.4.1 知识解析

5.4 应用实践

5.3 环境构建

5.2 RAG流程

5.1 应用概述

第5章 RAG实践

4.4 本章小结

4.3 语音交互插件开发

4.2.2 基于AutoGen的插件开发

4.2.1 基于ChatGPT的插件开发

4.2 天气查询插件开发

4.1.3 通用插件调用流程

4.1.2 LangChain插件

4.1.1 ChatGPT插件

4.1 应用概述

第4章 插件应用开发实践

3.5 本章小结

3.4.2 模型运行测试

3.4.1 模型环境搭建

3.4 大模型部署

3.3.4 大模型评估方法

3.3.3 大模型评估数据集

3.3.2 大模型评估任务

3.3.1 大模型评估概述

3.3 大模型评估

3.2.3 混合精度训练

3.2.2 训练容错

3.2.1 并行训练

3.2 大模型训练技术

3.1.2 推理加速策略

3.1.1 解码优化算法

3.1 推理优化技术

第3章 大模型技术拓展

2.6 本章小结

2.5.2 提示设计开发

2.5.1 提示工程开发流程

2.5 提示工程

2.4.3 RLHF

2.4.2 偏好模型

2.4.1 反馈

2.4 对齐优化

2.3.2 调优策略

2.3.1 指令微调数据集

2.3 模型微调

2.2.9 基于Transformer的大模型架构选择

2.2.8 优化器

2.2.7 激活函数

2.2.6 规范化

2.2.5 位置编码

2.2.4 词向量

2.2.3 注意力机制

2.2.2 编码器与解码器

2.2.1 Transformer模型概述

2.2 Transformer模型

2.1.3 对齐优化

2.1.2 模型微调

2.1.1 预训练语言模型

2.1 大模型构建流程

第2章 大模型核心技术

1.5 本章小结

1.4.5 自我学习

1.4.4 可信任性及可解释性

1.4.3 端侧应用

1.4.2 AI Agent

1.4.1 多模态能力

1.4 大模型的发展趋势

1.3.4 难以监督

1.3.3 选择错误目标

1.3.2 安全伦理

1.3.1 机器幻觉

1.3 大模型存在的问题

1.2.3 大模型的应用情况

1.2.2 国内的大模型

1.2.1 国外的大模型

1.2 大模型的应用现状

1.1 大模型的概念

第1章 大模型概述

前言

内容简介

版权信息

封面

封面

版权信息

内容简介

前言

第1章 大模型概述

1.1 大模型的概念

1.2 大模型的应用现状

1.2.1 国外的大模型

1.2.2 国内的大模型

1.2.3 大模型的应用情况

1.3 大模型存在的问题

1.3.1 机器幻觉

1.3.2 安全伦理

1.3.3 选择错误目标

1.3.4 难以监督

1.4 大模型的发展趋势

1.4.1 多模态能力

1.4.2 AI Agent

1.4.3 端侧应用

1.4.4 可信任性及可解释性

1.4.5 自我学习

1.5 本章小结

第2章 大模型核心技术

2.1 大模型构建流程

2.1.1 预训练语言模型

2.1.2 模型微调

2.1.3 对齐优化

2.2 Transformer模型

2.2.1 Transformer模型概述

2.2.2 编码器与解码器

2.2.3 注意力机制

2.2.4 词向量

2.2.5 位置编码

2.2.6 规范化

2.2.7 激活函数

2.2.8 优化器

2.2.9 基于Transformer的大模型架构选择

2.3 模型微调

2.3.1 指令微调数据集

2.3.2 调优策略

2.4 对齐优化

2.4.1 反馈

2.4.2 偏好模型

2.4.3 RLHF

2.5 提示工程

2.5.1 提示工程开发流程

2.5.2 提示设计开发

2.6 本章小结

第3章 大模型技术拓展

3.1 推理优化技术

3.1.1 解码优化算法

3.1.2 推理加速策略

3.2 大模型训练技术

3.2.1 并行训练

3.2.2 训练容错

3.2.3 混合精度训练

3.3 大模型评估

3.3.1 大模型评估概述

3.3.2 大模型评估任务

3.3.3 大模型评估数据集

3.3.4 大模型评估方法

3.4 大模型部署

3.4.1 模型环境搭建

3.4.2 模型运行测试

3.5 本章小结

第4章 插件应用开发实践

4.1 应用概述

4.1.1 ChatGPT插件

4.1.2 LangChain插件

4.1.3 通用插件调用流程

4.2 天气查询插件开发

4.2.1 基于ChatGPT的插件开发

4.2.2 基于AutoGen的插件开发

4.3 语音交互插件开发

4.4 本章小结

第5章 RAG实践

5.1 应用概述

5.2 RAG流程

5.3 环境构建

5.4 应用实践

5.4.1 知识解析

5.4.2 检索

5.4.3 增强

5.4.4 生成

5.5 本章小结

第6章 智能客服问答实践

6.1 应用概述

6.2 环境构建

6.2.1 开发环境搭建

6.2.2 开源模型下载

6.3 应用开发

6.3.1 实现多轮对话系统

6.3.2 提示优化

6.3.3 第三方工具调用

6.4 应用部署

6.5 本章小结

第7章 学科知识问答实践

7.1 应用概述

7.2 环境构建

7.2.1 开发环境搭建

7.2.2 项目参数配置

7.3 学科知识图谱

7.3.1 大模型与知识图谱

7.3.2 学科知识图谱构建流程

7.3.3 学科知识数据集

7.3.4 学科知识处理

7.4 应用开发

7.4.1 功能设置

7.4.2 知识库构建

7.4.3 基于LangChain的问答实践

7.5 本章小结

第8章 法律领域应用实践

8.1 应用概述

8.2 对话数据微调

8.2.1 法律对话数据预处理

8.2.2 对话微调工具编写

8.2.3 模型微调框架的参数配置

8.2.4 微调前后的对话问答对比

8.3 指令微调

8.3.1 法律指令数据集预处理

8.3.2 指令微调工具编写

8.3.3 法律大模型指令问答评估

8.3.4 微调前后的对话问答对比

8.4 部署验证

8.5 本章小结

第9章 医疗领域应用实践

9.1 应用概述

9.2 医疗数据集构建

9.2.1 增量预训练数据集

9.2.2 有监督微调数据集

9.2.3 直接偏好优化数据集

9.2.4 模型评测数据集

9.3 增量预训练与微调

9.3.1 增量预训练

9.3.2 有监督微调

9.3.3 直接偏好优化

9.4 部署验证

9.5 模型评估

9.5.1 配置评估任务

9.5.2 启动评估任务

9.5.3 可视化评估结果

9.6 本章小结

第10章 智能助写平台实践

10.1 应用概述

10.2 业务逻辑

10.2.1 系统总体设计

10.2.2 模块设计

10.3 功能实现

10.3.1 写作润色功能

10.3.2 批阅纠错功能

10.3.3 智能翻译功能

10.3.4 个人中心功能

10.4 本章小结

附录 大模型的发展阶段

A.1 统计语言模型

A.2 神经网络语言模型

A.3 预训练语言模型

A.4 大语言模型

推荐阅读

作者简介