AI大模型应用开发（技术）-8

《AI大模型应用开发》

【课程背景】

2021年ChatGPT横空出世，打开了人工智能发展大门，AGI（通用人工智能）时代来临。经过3年的发展，国内外互联网类企业和传统企业大厂都已经进入了AI大模型的应用探索。目前AI大模型百花齐放，各家公司纷纷发布了自己的大模型产品。基础模型的发展已经成熟，应用开始发力，AI大模型的实际应用路径逐渐清晰，最佳实践公司已经开始了将AI大模型融入到业务中。头部IT软件，已经将AI大模型能力集成到自己的软件中，如微软将大模型集成到Windows中，金山公司将AI大模型能力融入到了WPS中，一些实用性的探索，也在很多企业开始。

基本的模型平台可以满足基础的应用需求，但更强大、更复杂的应用就需要编程来解决，本课程详细讲述了如何调用大模型接口来是业务具备智能，如何通过代码开发，来实现RAG、Agent功能，实现将大模型能力与企业业务进行结合，实现智能化的业务辅助系统，实现流程自动化、业务智能化。

【课程收益】

培训完结后，学员能够：

了解AI大模型和人工智能的发展情况

了解AI大模型的能力和适用场景

了解AI大模型常用平台和工具

了解人工智能、深度学习、大模型的技术

掌握使用程序调用AI大模型接口的能力

掌握提示词的编写技巧和使用技巧

掌握llamaindex等RAG平台的使用

了解RAG相关的知识处理技术

掌握langchain等开源平台的使用

掌握业务系统与AI大模型的接口对接技术

了解AI大模型微调技术

掌握AI大模型本地化部署相关技术

了解AI大模型运行环境相关内容

【课程对象】企业技术人员、业务人员

【课程时长】6天 (6小时/天）

【课程特点】密切结合案例，贴近实际应用，培训完即可应用与工作；工具可用，使用平台工具皆国内可用。

【课程大纲】

人工智能和大模型技术基础和开发准备

人工智能和大模型的技术发展

AI大模型的智能应用案例展示和介绍

AI大模型的革命性能力介绍

AI大模型的应用情况和前景介绍

人工智能的发展历史

机器学习、深度学习的技术理论

AI大模型的技术发展介绍

主流大模型的发展情况和应用

RAG、Agents、FunctionCalling、微调等概念简介

大模型应用的前景和挑战

AI实操入门

主流平台接口接入方式介绍（阿里、百度为主实操，OpenAI介绍）

阿里灵积平台介绍和申请

百度千帆平台介绍和申请

国内大模型API聚合平台介绍和申请（可使用OpenAI）

编写第一个接口调用程序

零码等编程助手介绍与安装

编程助手代码编写介绍与演示

实践：完成接口申请，并完成第一个大模型访问程序

大模型调用开发

AI大模型接口调用基础

各平台Playground使用介绍和体验

模型和token等基本概念介绍

env配置文件使用介绍与实操

URL调用方式介绍和演练

大模型API参数详细介绍

API函数调用方式介绍和演练

大模型调用高级应用

API调用Json格式返回输出

流式调用和批量调用使用演练

多模态大模型音频功能调用

多模态大模型翻译功能调用

多模态大模型图像功能调用

通过大模型实现Function Calling

实践：完成大模型各类调用功能

提示词工程和编程应用

Prompt提示词工程

使用大模型的最基础能力培养

经典提示词体验

如何写出好的提示词（调优）--开发流程

提示工程简介

什么是提示工程

为什么需要提示工程

提示工程的作用和效果

提示工程的语言

结构化提示词主要构成部分

角色定义及使用价值

指示：任务的详细描述

上下文：更准确的回复

例子：更好的避免歧义

输入：清晰的输入可以让AI更好理解

输出：定义自己想要的输出格式

提示词高级开发应用

在提示词中使用流程，指明大模型思考模式

记录提示词，支持多轮对话

加入专业知识和具体约束，使答案更准确

使用思维链，使大模型能力更强

使用自洽性，对抗幻觉

基于AI大模型的智能业务应用开发

考虑安全，防止Prompt攻击

实践：完成一个基于提示词的助手

基于 Langchain 的应用开发（一）

Langchain 框架简介

Langchain 框架架构

Langchain 基本模块

Langchain 基本应用场景

Langchain 框架的输入输出(I/O)

Langchain进行模型封装

Langchain实现多轮对话

Langchain进行Prompts封装

输出解析器 Output Parser 进行结构化输出

通过Langchain实现Function Calling

实操：Lnagchain 框架（I/O）案例

Langchain 框架中的检索增强生成(RAG)

检索增强生成(RAG)介绍

索引、检索和生成

文档和文档加载器

TextLoader、WebBaseLoader 和 pypdfLoader

分割器和 RecursiveCharacterTextSplitter

嵌入模型

向量存储库

检索器

基于 Langchain 的应用开发（二）

Langchain 框架中的记忆(Memory)

记忆（Memory）的概念

BaseChatMessageHistory 接口及其子类

RunnableWithMessageHistory

基于 Langchain 的聊天机器人

实操：通过Memory实现多轮交互

LangChain 框架的链和表达式语言 LCEL

Langchain 框架中的链（Chain）

Langchain 表达式语言 LCEL

LCEL 中的 RunnableLambda

LCEL 中的 RunnableSequence

LCEL 中的 RunnableParallel

LCEL 中的 RunnablePassthrough

LCEL 中的 RunnableBranch

实操：通过LCEL实现简单流程

Langchain 框架中的智能体(Agent)

AI Agent 介绍

Langchain 中的 AI Agent 实现方式

LangGraph 库介绍

LangGraph 中的图

LangGraph 中的状态

LangGraph 中的节点

LangGraph 中的边

Langchain 中的工具

ReAct 方法

实操：Langchain 框架 AI 智能体案例

大模型私有化部署

使用 Ollama 本地部署大模型

Ollma 简介

Ollma 安装

Ollma 部署案例

量化技术

量化技术基本原理

常见的量化技术

模型量化的影响和选择

模型微调

模型微调原理

模型微调技术

Adapter Tuning

Prefix Tuning

Prompt tuning

P-Tuning

LoRA

QLoRA

使用 LlamaFactory 微调模型

Dify本地部署实现智能体