AI大模型应用开发（技术）-2

《AI大模型应用开发》

【课程背景】

2021年ChatGPT横空出世，打开了人工智能发展大门，AGI（通用人工智能）时代来临。经过3年的发展，国内外互联网类企业和传统企业大厂都已经进入了AI大模型的应用探索。目前AI大模型百花齐放，各家公司纷纷发布了自己的大模型产品。基础模型的发展已经成熟，应用开始发力，AI大模型的实际应用路径逐渐清晰，最佳实践公司已经开始了将AI大模型融入到业务中。头部IT软件，已经将AI大模型能力集成到自己的软件中，如微软将大模型集成到Windows中，金山公司将AI大模型能力融入到了WPS中，一些实用性的探索，也在很多企业开始。

基本的模型平台可以满足基础的应用需求，但更强大、更复杂的应用就需要编程来解决，本课程详细讲述了如何调用大模型接口来是业务具备智能，如何通过代码开发，来实现RAG、Agent功能，实现将大模型能力与企业业务进行结合，实现智能化的业务辅助系统，实现流程自动化、业务智能化。

【课程收益】

培训完结后，学员能够：

了解AI大模型和人工智能的发展情况

了解AI大模型的能力和适用场景

了解AI大模型常用平台和工具

了解人工智能、深度学习、大模型的技术

掌握使用程序调用AI大模型接口的能力

掌握提示词的编写技巧和使用技巧

掌握llamaindex等RAG平台的使用

了解RAG相关的知识处理技术

了解langchain等开源平台的使用

掌握业务系统与AI大模型的接口对接技术

了解AI大模型微调技术

掌握AI大模型本地化部署相关技术

了解AI大模型运行环境相关内容

【课程对象】企业技术人员、业务人员

【课程时长】2天 (6小时/天）

【课程特点】密切结合案例，贴近实际应用，培训完即可应用与工作；工具可用，使用平台工具皆国内可用。

【课程大纲】

人工智能和大模型的技术发展

AI大模型的智能应用案例展示和介绍

AI大模型的革命性能力介绍

AI大模型的应用情况和前景介绍

人工智能的发展历史

机器学习技术和典型算法介绍

深度学习、神经网络技术及训练过程介绍

机器视觉、卷积神经网络及典型算法介绍

自然语言处理、循环神经网络及典型算法介绍

AI大模型的技术发展情况及典型算法介绍

主流大模型的发展情况和应用

RAG、Agents、FunctionCalling、微调等概念简介

讨论：大模型应用的前景和挑战

AI技术开发入门

国内、外主流大模型介绍和申请使用

主流平台接口接入方式介绍（阿里、百度为主实操，OpenAI介绍）

阿里灵积平台介绍和申请

百度千帆平台介绍和申请

国内大模型API聚合平台介绍和申请（可使用OpenAI）

编程调用AI大模型平台演示

零码等编程助手介绍与安装

编程助手代码编写介绍与演示

Dify、Langchain、llamaIndex等相关平台介绍讨论：业务系统与大模型对接的发展前景

Prompt提示词工程--大模型应用基础

使用大模型的最基础能力培养

经典提示词体验

如何写出好的提示词（调优）--开发流程

结构化提示词主要构成部分

角色定义及使用价值

指示：任务的详细描述

上下文：更准确的回复

例子：更好的避免歧义

输入：清晰的输入可以让AI更好理解

输出：定义自己想要的输出格式

流程：大模型工作的思路

使用思维链，使大模型能力更强

基于AI大模型的智能业务应用开发

考虑安全，防止Prompt攻击

实践：完成一个基于提示词的助手

AI大模型RAG技术搭建企业专业知识服务体系

RAG概念与必要性介绍

利用RAG技术搭建专业知识专家案例演示

向量和向量检索介绍

向量数据库和知识图谱产品和应用场景介绍

使用AI大模型RAG技术搭建智能服务系统演练

知识向量化处理方式和技巧

不同文件类型知识处理方式及演练

私有化部署RAG产品方案介绍及演示

AI大模型微调技术及应用场景介绍

AI大模型微调和RAG技术应用选择

实践：基于平台动手搭建一个应用

基于AI大模型Agents技术建立智能业务系统--未来的起点

AI大模型与业务结合的几种方案介绍

基于智能体（Agents）的智能应用案例展示

主流Agents平台介绍

基于Agents平台建立企业知识库实操

建立基于知识库的初步专业助理实操

Agents平台接口介绍

利用平台公开接口搭建智能助力实操

Agents自定义接口能力介绍

Agents平台流程功能及应用介绍

结合流程完善智能助理功能实操

Agents平台数据库能力介绍

带有数据采集和处理功能的专业助理升级实操

私有化搭建Agents平台方案和需求介绍

基于私有化方案建设智能业务平台方案介绍

实践：基于公开平台的个人助理实现

大模型深度使用相关技术介绍

使用 Ollama 本地部署大模型

Ollma 简介

Ollma 安装

Ollma 部署案例

私有化部署大模型的硬件需求方案

量化技术

量化技术基本原理

常见的量化技术

模型量化的影响和选择

模型微调

模型微调原理

模型微调技术

Adapter Tuning

Prefix Tuning

Prompt tuning

P-Tuning

LoRA

QLoRA

使用 LlamaFactory 微调模型