AI大模型应用开发介绍-5

《AI大模型应用开发介绍》

【课程背景】

2021年ChatGPT横空出世，打开了人工智能发展大门，AGI（通用人工智能）时代来临。经过3年的发展，国内外互联网类企业和传统企业大厂都已经进入了AI大模型的应用探索。目前AI大模型百花齐放，各家公司纷纷发布了自己的大模型产品。基础模型的发展已经成熟，应用开始发力，AI大模型的实际应用路径逐渐清晰，最佳实践公司已经开始了将AI大模型融入到业务中。头部IT软件，已经将AI大模型能力集成到自己的软件中，如微软将大模型集成到Windows中，金山公司将AI大模型能力融入到了WPS中，一些实用性的探索，也在很多企业开始。

基本的模型平台可以满足基础的应用需求，但更强大、更复杂的应用就需要编程来解决，本课程详细讲述了如何调用大模型接口来是业务具备智能，如何通过代码开发，来实现RAG、Agent功能，实现将大模型能力与企业业务进行结合，实现智能化的业务辅助系统，实现流程自动化、业务智能化。

【课程收益】

培训完结后，学员能够：

了解AI大模型和人工智能的发展情况

了解AI大模型的能力和适用场景

了解AI大模型常用平台和工具

了解人工智能、深度学习、大模型的技术

掌握使用程序调用AI大模型接口的能力

掌握提示词的编写技巧和使用技巧

掌握llamaindex等RAG平台的使用

了解RAG相关的知识处理技术

掌握langchain等开源平台的使用

掌握业务系统与AI大模型的接口对接技术

了解AI大模型微调技术

掌握AI大模型本地化部署相关技术

了解AI大模型运行环境相关内容

【课程对象】企业技术人员、业务人员

【课程时长】6天 (6小时/天）

【课程特点】密切结合案例，贴近实际应用，培训完即可应用与工作；工具可用，使用平台工具皆国内可用。

【课程大纲】

人工智能和大模型技术发展基础

人工智能和大模型的技术发展

AI大模型的智能应用案例展示和介绍

AI大模型的革命性能力介绍

AI大模型的应用情况和前景介绍

人工智能的发展历史

人工智能的发展历史

机器学习技术和典型算法介绍

深度学习、神经网络技术及训练过程介绍

机器视觉、卷积神经网络及典型算法介绍

自然语言处理、循环神经网络及典型算法介绍

AI大模型的技术发展情况及典型算法介绍

主流大模型的发展情况和应用

RAG、Agents、FunctionCalling、微调等概念简介

大模型应用的前景和挑战

AI实操入门

主流平台接口接入方式介绍（阿里、百度为主实操，OpenAI介绍）

阿里灵积平台介绍和申请

百度千帆平台介绍和申请

国内大模型API聚合平台介绍和申请（可使用OpenAI）

实践：注册各平台进行使用体验

提示词工程和编程应用

Prompt提示词工程

使用大模型的最基础能力培养

经典提示词体验

如何写出好的提示词（调优）--开发流程

提示工程简介

什么是提示工程

为什么需要提示工程

提示工程的作用和效果

提示工程的语言

结构化提示词主要构成部分

角色定义及使用价值

指示：任务的详细描述

上下文：更准确的回复

例子：更好的避免歧义

输入：清晰的输入可以让AI更好理解

输出：定义自己想要的输出格式

提示词使用练习：信息汇总小助手

提示词高级开发应用介绍

在提示词中使用流程，指明大模型思考模式

记录提示词，支持多轮对话的实现介绍

加入专业知识和具体约束，使答案更准确

使用思维链，使大模型能力更强

使用自洽性，对抗幻觉

考虑安全，防止Prompt攻击

实践：完成一个基于提示词的助手

RAG技术应用和Agent技术入门

AI大模型RAG技术搭建企业专业知识服务体系

RAG概念与必要性介绍

利用RAG技术搭建专业知识专家案例演示

向量和向量检索介绍

向量数据库的原理和主要产品介绍

知识图谱原理介绍和主要产品介绍

使用AI大模型RAG技术搭建智能服务系统演练

内容向量化原理介绍

内容向量化处理方式和注意要点

不同文件类型知识处理方式及注意事项

可以私有化部署的RAG产品介绍

私有化部署RAG产品演示

私有化部署RAG产品功能演示使用

实践：基于平台动手搭建一个应用

Agent技术介绍及平台使用入门

Agent技术功能及应用场景介绍

基于智能体（Agents）的智能应用案例展示

主流Agents平台介绍

Agent平台流程、接口、数据库、知识库等介绍

实操：尝试搭建私有助手

基于AI大模型Agents技术建立智能业务系统--未来的起点

基于Agents平台建立企业知识库实操

建立基于知识库的复杂助理实操

利用平台公开接口搭建智能助力演示实操

Agents自定义接口能力介绍

Agents自定义接口使用演示

Agents平台流程功能及应用介绍

结合流程完善智能助理功能实操

Agents平台数据库能力介绍

带有数据采集和处理功能的专业助理升级实操

AI大模型智能Sql技术介绍以及Agent场景应用

多维表格功能和应用场景介绍和演示

Agent平台结合多维表建设智能业务介绍

私有化搭建Agent平台的主要系统介绍

私有化搭建Agent平台演示和功能演示

私有化搭建Agents平台方案和需求介绍

Langchain产品介绍和应用场景介绍

基于私有化方案建设智能业务平台方案介绍

实践：基于公开平台的个人助理实现

大模型深度使用相关技术介绍

使用 Ollama 本地部署大模型

Ollma 简介

Ollma 安装

Ollma 部署案例

私有化部署大模型的硬件需求方案

实操：私有化部署一个小模型

量化技术

量化技术基本原理

常见的量化技术

模型量化的影响和选择

模型微调

AI大模型微调技术及应用场景介绍

AI大模型模型微调原理

AI大模型微调技术介绍

Adapter Tuning

Prefix Tuning

Prompt tuning

P-Tuning

LoRA

QLoRA

使用 LlamaFactory 微调模型演示