Python、知识图谱与深度学习培训_8天

Python、知识图谱与深度学习培训

【课程时长】

8天（6小时/天）

【课程简介】

人工智能的浪潮正在席卷全球，各种培训课程应运而生，但真正能让学员系统、全面掌握知识点，并且能学以致用的实战课程并不多见。本课程包含基于python的数据分析、深度学习、知识图谱和的重要概念及常用算法（决策树、关联规则、聚类、贝叶斯网络、神经网络、支持向量机、隐马尔科夫模型、遗传算法、CNN、RNN、GAN等），以及人工智能领域当前的热点。通过8天的系统学习、案例讲解和动手实践，让学员能初步迈入机器学习、深度学习和知识图谱的知识殿堂。

【课程收益】

掌握Python开发技能；

掌握深度学习工具：TensorFlow、Keras、pytorch等；

掌握基于python的数据分析知识；

掌握数据挖掘与机器学习进阶知识；

掌握深度学习的理论与实践；

掌握知识图谱基本知识；

为学员的后续项目应用提供针对性的建议。

【课程特点】

本课程力图理论结合实践，强调从零开始，重视动手实践；课程内容以原理讲解为根本，以应用落地为目标。课程通过大量形象的比喻和手算示例来解释复杂的机器学习理论，既能将原理充分讲懂讲透，也避免了繁复而枯燥的公式推导。

【课程对象】

计算机相关专业本科；或理工科本科，且至少熟悉一门编程语言。

【主讲专家】

叶梓，博士、高级工程师。2005年上海交通大学计算机专业博士毕业，主研方向为数据挖掘、机器学习、人工智能等。现为某大型上市软件企业的人工智能团队技术负责人。曾主持设计并搭建上海市卫计委卫生大数据平台、无锡市卫生大数据平台，在大数据、人工智能应用等方面有着丰富的工程实践经验。先后在SCI或EI期刊上发表论文4篇，在中文核心期刊上发表论文近20篇，并被百度学术收录。2011年获中国医院协会科技创新一等奖。

【学员基础】

具备初步的IT基础知识

【课程大纲】（培训内容可根据客户需求调整）

时间

内容

案例实践与练习

Day1上午

基于python的实验环境

实验环境搭建

anaconda包的安装

pip install的技巧

通过anaconda配置多个环境

Jupyter Notebook的使用

绘图工具包matplotlib

opencv的安装

Tensorflow的安装

Pytorch的安装

paddlepaddle的安装

案例实践：

python安装

opencv安装与验证

Tensorflow安装与验证

Pytorch安装与验证

paddlepaddle安装与验证

Day1下午

Python基础

Python开发概述

Python的基本语法

引入外部包

常用的数据结构

定义函数

Python中的面向对象编程

文件读写

访问数据库

数据预处理

数据清理

规范化

模糊集

粗糙集

无标签时：PCA

有标签时：Fisher线性判别

数据压缩（DFT、小波变换）

回归与时序分析

线性回归

非线性回归

logistics回归

案例实践：

PCA的实验

DFT的实验

回归的实验

Day2上午

基于python的数据分析

决策树模型

分类和预测

熵减过程与贪心法

ID3

C4.5

其他改进方法

决策树剪枝

聚类

监督学习与无监督学习

K-means与k-medoids

层次的方法

基于密度的方法

基于网格的方法

孤立点分析

案例实践：

决策树的实验

鸢尾花数据的聚类

手肘法分析NBA球队的最佳聚类个数

各种聚类方式的图形化展示

Day2下午

基于python实现的经典算法

关联规则

频繁项集

支持度与置信度

提升度

Apriori性质

连接与剪枝

性能评价指标（5）

精确率；

P、R与F1

ROC与AUC

对数损失

泛化性能评价：k折验证验证

案例实践：

超市购物篮——关联规则分析

朴素贝叶斯案例：皮马印第安人患糖尿病的风险

Day3上午

知识图谱概念

知识图谱综述

自然语言处理概念回顾

知识表示与知识抽取

面向非结构化的数据知识抽取

实体消歧与链接

图数据库介绍

实体对齐方法

知识融合

知识推理、搜索与知识问答

早期知识图谱概念

知识推理

本体推理方法

本体推理工具

语义搜索

RDF与RDFS

OWL与OWL2

SPARQL

实践：

Neo4j的安装

知识推理模型

Day3下午

知识图谱存储

知识图谱存储

知识存储模型

图数据库选型

Neo4j开发环境部署

Neo4j-可视化操作

Neo4j-CQL语法基础

Neo4j-完整案例操作实战

Neo4j系统管理

Python与Neo4j的集成

实践：

Neo4j的安装

Neo4j的基本操作

基于Neo4j的查询

Python与Neo4j的集成

Day4上午

知识图谱自动抽取

知识图谱自动抽取

面向文本的知识抽取

DeepDive关系抽取实践

开放域关系抽取

实体消歧与链接

知识规则挖掘

知识图谱表示学习

基于DL的知识图谱自动抽取

基于深度学习的实体识别

基于深度学习的属性链接

实践：

基于百科数据的知识抽取

知识抽取的DL模型

Day4下午

KBQA完整体系

KBQA完整体系

知识问答系统

知识问答系统基本流程

知识问答系统主流方法

开源的问答系统

基于知识图谱问答系统

综合案例

完整的基于KG的问答系统（KBQA）

Day5上午

深度学习基础

BP神经网络

人工神经元及感知机模型

Sigmoid激活函数

前向神经网络的架构

梯度下降

误差反向传播详解

支持向量机

“双螺旋”问题

基本模型与惩罚项

求解对偶问题

核函数：映射到高维

从二分类到多分类

用于连续值预测的支持向量机

案例实践：

皮马印第安人糖尿病风险：验证多种模型

绘制ROC并计算AUC

手算神经网络BP算法

只用numpy，手推BPNN

Day5下午

深度学习基础与CNN

深度学习基础

连接主义的兴衰

深度学习与神经网络的区别与联系

目标函数与激励函数

学习步长

权重初始化

权重衰减（Weight Decay）

梯度下降的方法：Adagrad \ RMSprop \ Adam

避免过适应

图像分类CNN

图像分类概述

AlexNet与ZF-Net

卷积层的误差反向传播

池化层的误差反向传播

VGG（5层变为5组）

迁移学习

GoogLenet和Inception模块

模型退化与ResNet

DenseNet（充分利用特征）

最新的efficientnet

案例实践：

SVM实现人脸识别应用

通过深度BP网络实现手写数字的识别

各种梯度下降方法的实战效果

Batch normalization的实战效果

案例实践：

VGG各层的可视化展现

迁移学习：识别猫和狗

Resnet用于图像分类

Day6上午

目标检测

二阶段目标检测

目标检测项目介绍

R-CNN

SPPNET（全图卷积、SPP层）

Fast-RCNN（多任务）

Faster-RCNN（RPN）

R-FCN

一阶段目标检测（2）

SSD

YOLO-v1（一切都是回归）

YOLO -v2（9000）

YOLO -v3（多尺度）

YOLO -v4

YOLO -v5

案例实践：

基于Faster-RCNN的通用目标检测示例

改造成“血细胞识别”系统

Day6下午

图像分割与NLP初步

图像分割（3）

全卷积网络（FCN）

上采样的三种实现方式

膨胀卷积

CRF

DeepLab V1~V3

自然语言处理初步（2）

语言模型

Bi-Gram与N-Gram

机械分词与统计分词

词性标注

命名实体识别

情感分析；

案例实践：

基于YOLO v3的通用目标快速检测示例

基于YOLO v3的视频检测

基于YOLO v5的目标检测

DeepLab的示例

Day7上午

RNN与W2V

循环神经网络（1）

RNN基本原理

LSTM、GRU

双向循环神经网络

编码器与解码器结构

seq2seq模型

Attention

NIC模型

词向量（3）

W2V:CBOW

W2V:skip-gram

W2V:Hierachical Softmax

W2V:Negative Sampling

案例实践：

股票交易数据的预测；

藏头诗生成；

《绝代双骄》中，谁和小鱼儿最相似？

SnowNLP：褒义的中性词

Word2vec代码解读

Day7下午

预训练模型基础

Transformer

所有你需要的仅仅是“注意力”

Transformer中的block

自注意力机制

多头注意力

位置编码（抛弃RNN）

Batch Norm与Layer Norm

解码器的构造

BERT

BERT整体架构

Masked-LM

Next Sentence Prediction

改造下游任务

WordPiece作为输入

哪些改进起作用？

案例实践：

手推Transformer

BERT代码解读

BERT下游任务的改造

Day8上午

GPT、GAN

GPT

“独角兽”的威力

GPT的内部架构

基于Transformer的改造

自注意力机制的改进

GPT的应用场景

最新的GPT-3

GAN

生成对抗网络（GAN）

KL散度与JS散度

改进的GAN：DCGAN

加上约束：infoGAN

根本上解决：Wasserstein GAN

案例实践：

实现一个对话机器人

让GPT写一篇散文

案例实践：

计算机想象的数字

特朗普的孩子

Day8下午

强化学习

强化学习初步

agent的属性

马尔科夫奖励/决策过程

exploration and exploitation

状态行为值函数

Bellman期望方程

最优策略

策略迭代与价值迭代

蒙特卡洛

时序差分法

深度强化学习

值函数的参数化表示

值函数的估计过程

深度学习与强化学习的结合

基础的DQN 方法

Double DQN

Prioritized Replay

Dueling Network

案例实践：

格子世界

机器人走迷宫

谷底的小车

倒立摆

笨鸟先飞：DQN

【授课环境】

讲课环境要能上网