AI大模型开发V2第四阶段机器学习概述本文配套讲义下载链接如下https://download.csdn.net/download/weixin_46411355/93235948文章目录AI大模型开发V2第四阶段机器学习概述本文配套讲义下载链接如下机器学习概述人工智能三大概念【知道】人工智能【知道】机器学习【知道】深度学习【知道】三者之间的关系【了解】学习方式【了解】基于规则的学习【了解】基于模型的学习人工智能应用领域和发展史【了解】应用领域【了解】发展史【知道】机器学习发展三要素常见术语【掌握】样本特征标签/目标值【掌握】数据集划分算法分类【掌握】有监督学习【掌握】分类【掌握】回归【熟悉】无监督学习【了解】半监督学习【了解】强化学习总结【知道】机器学习的建模流程特征工程【知道】特征工程【理解】特征提取【理解】特征预处理【了解】特征降维【了解】特征选择【了解】特征组合【掌握】模型拟合问题【实操】机器学习开发环境作业机器学习概述人工智能三大概念学习目标1.知道ALMLDL是什么2.了解AL、ML、DL之间的关系3.知道自动学习和规则编程的区别【知道】人工智能Artificial Intelligence 人工智能AI is the field that studies the synthesis and analysis of computational agents that act intelligentlyAI is to use computers to analog and instead of human brain释义 - 仿智 像人一样机器智能的综合与分析机器模拟人类释义是一个系统像人那样思考 像人那样理性思考释义是一个系统像人那样活动 像人那样合理系统【知道】机器学习Machine Learning 释义机器学习Field of study that gives computers the ability to learn without being explicitly programmed释义让机器自动学习而不是基于规则的编程不依赖特定规则编程人类识别车根据车的特征归纳出车的规律来了一个新的图片判断预测是否是车机器学习识别车: 从数据中获取规律来了一个新的数据产生一个新的预测【知道】深度学习深度学习(DL, Deep Learning) : 也叫深度神经网络大脑仿生设计一层一层的神经元模拟万事万物【知道】三者之间的关系机器学习是实现人工智能的一种途径深度学习是机器学习的一种方法【了解】学习方式【了解】基于规则的学习•基于规则的预测 程序员根据经验利用手工的if-else方式进行预测但是有好多问题 无法明确的写下规则此时我们无法使用规则学习的方式来解决这一类问题比如图像和语音识别自然语言处理举例我们尝试通过基于规则的学习方式让计算机识别大象下图中的大象千差万别 有的是实物有的是雕塑有的是画我们无法通过创建一套规则的方式让计算机准确识别下面每一头大象 此时我们需要一种新的方法来解决这类问题。【了解】基于模型的学习基于模型的学习就是通过编写机器学习算法让机器自己学习从历史数据中获得经验、训练模型案例巩固比如房价预测数据如下图我们可以使用一条直线尽可能多的通过这些点不通过的点尽量分布在直线的两侧利用这条直线所表示的线性关系我们就可以预测房价。直线可以写成yaxb若a,b已知我们就能够预测房价。机器学习中a,b称为参数yaxb称为模型。通常a,b未知是我们需要求解的量。人工智能应用领域和发展史学习目标1.了解机器学习的应用领域2.了解机器学习的发展史【了解】应用领域用户分析社交网络、影评、商品评论搜素引擎网页、图片、规频、新闻、学术、地图信息推荐新闻、商品、游戏、书籍图片识别人像、用品、劢物、交通工具机器翻译、摘要生成 … …生物信息学习 … … 多模态 AR/VR【了解】发展史1956年夏季以麦卡赛、明斯基、罗切斯特和申农等为首的一批有远见卓识的年轻科学家在一起聚会共同研究和探讨用机器模拟智能的一系列有关问题并首次提出了“人工智能”这一术语它标志着“人工智能”这门新兴学科的正式诞生。1956 年被认为是人工智能元年1950-1970符号主义流派专家系统占主导地位1950图灵设计国际象棋程序1962IBM Arthur Samuel 的跳棋程序战胜人类高手人工智能第一次浪潮1980-2000统计主义流派主要用统计模型解决问题1993Vapnik提出SVM1997IBM 深蓝战胜卡斯帕罗夫人工智能第二次浪潮2010-2017神经网络、深度学习流派2012AlexNet深度学习的开山之作2016Google AlphaGO 战胜李世石人工智能第三次浪潮2017-至今大规模预训练模型2017年自然语言处理NLP的Transformer框架出现2018年Bert和GPT的出现2022年chatGPT的出现进入到大规模模型AIGC发展的阶段【知道】机器学习发展三要素数据、算法、算力三要素相互作用是AI发展的基石CPU负责调度任务、计算任务等主要适合I\O密集型的任务GPU更加适合矩阵运算主要适合计算密集型任务TPUTensor专门针对神经网络训练设计一款处理器常见术语学习目标1.知道样本是什么2.知道特征是什么3.知道标签/目标值是什么4.理解数据集划分的方法【掌握】样本特征标签/目标值样本(sample) 一行数据就是一个样本多个样本组成数据集有时一条样本被叫成一条记录特征(feature) 一列数据一个特征有时也被称为属性标签/目标(label/target) 模型要预测的那一列数据。本场景是就业薪资就业薪资 与 培训学科、作业考试、学历、工作经验、工作地点 5个特征有关系特征如何理解重点特征是从数据中抽取出来的对结果预测有用的信息 eg:房价预测、车图片识别【掌握】数据集划分数据集可划分两部分训练集、测试集 比例8 : 27 : 3训练集(training set) 用来训练模型model的数据集测试集(testing set)用来测试模型的数据集算法分类学习目标1.知道有监督学习是什么2.知道无监督学习是什么3.知道半监督学习是什么4.了解强化学习是什么5.能掌握监督学习、无监督学习的数学表示【掌握】有监督学习定义输入数据是由输入特征值和目标值所组成即输入的训练数据有标签的数据集需要人工标注数据【掌握】分类目标值标签值是不连续的分类种类二分类、多分类任务、【掌握】回归目标值标签值是连续的【熟悉】无监督学习定义输入数据没有被标记即样本数据类别未知没有标签根据样本间的相似性对样本集聚类以发现事物内部 结构及相互关系。数据集不需要标注数据无监督学习特点1训练数据无标签2 根据样本间的相似性对样本集进行聚类发现事物内部结构及相互关系【了解】半监督学习工作原理1 让专家标注少量数据利用已经标记的数据也就是带有类标签训练出一个模型2 再利用该模型去套用未标记的数据3 通过询问领域专家分类结果与模型分类结果做对比从而对模型做进一步改善和提高半监督学习方式可大幅降低标记成本【了解】强化学习1 强化学习Reinforcement Learning机器学习的一个重要分支2 应用场景里程碑AlphaGo围棋、各类游戏、对抗比赛、无人驾驶场景3 基本原理基本原理通过构建四个要素agent环境状态行动奖励agent根据环境状态进行行动获得最多的累计奖励。。小孩子学走路​ (1) 小孩就是agent他试图通过采取行即行走来操纵环境地面​ (2) 并且从一个状态转变到另一个状态即他走的每一步​ (3) 当他完成任务的子任务即走了几步时孩子得到奖励给巧克力吃​ (4) 并且当他不能走路时就不会给巧克力。总结【知道】机器学习的建模流程特征工程学习目标1.知道特征工程是什么2.理解特征提取的作用3.理解特征预处理的作用4.了解特征降维、特征选择、特征组合【知道】特征工程从数据集角度来看 一列一列的数据为特征。从模型训练角度来看 对预测结果有用的属性为特征特征工程是利用专业背景知识和技巧处理数据让机器学习算法效果最好。这个过程就是特征工程Coming up with features is difficult, time-consuming, requires expert knowledge. “Applied machine learning” is basically feature engineering. ”释义特征工程是困难、耗时、需要专业知识。应用机器学习基础就是特征工程【理解】数据和特征决定了机器学习的上限而模型和算法只是逼近这个上限而已。【理解】特征提取从原始数据中提取与任务相关的特征构成特征向量对于文本、图片这种非行列形式的数据行列形式转换一旦转换成行列形式一列就是特征【理解】特征预处理特征对模型产生影响因量纲问题有些特征对模型影响大、有些影响小将不同的单位的特征数据转换成同一个范围内使训练数据中不同特征对模型产生较为一致的影响【了解】特征降维将原始数据的维度降低叫做特征降维会丢失部分信息。降维就需要保证数据的主要信息要保留下来原始数据会发生变化不需要了解数据本身是什么含义它保留了最主要的信息【了解】特征选择原始数据特征很多但是对任务相关是其中一个特征集合子集。从特征中选择出一些重要特征选择就需要根据一些指标来选择特征选择不会改变原来的数据【了解】特征组合把多个的特征合并成一个特征。通过加法、乘法等方法将特征值合并【掌握】模型拟合问题学习目标1.知道拟合是什么2.理解过拟合、欠拟合是什么3.知道过拟合、欠拟合出现的原因4.理解泛化是什么拟合用来表示模型对样本点的拟合情况欠拟合模型在训练集上表现很差、在测试集表现也很差原因模型过于简单过拟合模型在训练集上表现很好、在测试集表现很差原因模型太过于复杂、数据不纯、训练数据太少泛化模型在新数据集非训练数据上的表现好坏的能力奥卡姆剃刀原则给定两个具有相同泛化误差的模型较简单的模型比较复杂的模型更可取【实操】机器学习开发环境基于Python的 scikit-learn 库简单高效的数据挖掘和数据分析工具可供大家使用可在各种环境中重复使用建立在NumPySciPy和matplotlib上开源可商业使用-获取BSD许可证pip install scikit-learn作业1.完成机器学习概述部分的思维导图2.说明有监督学习和无监督学习的各自的特点及区别3.说明下机器学习的建模流程4.谈一下你对特征工程的理解5.说下模型拟合问题及产生的原因6.安装机器学习部分的开发环境