向AI转型的程序员都关注了这个号????????????
大数据挖掘DT机器学习 公众号： datayx
1.机器学习 （Machine Learning, ML)
1.1 概念：多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。
1.2 学科定位：人工智能(Artificial Intelligence, AI）的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。
1.3 定义：探究和开发一系列算法来如何使计算机不需要通过外部明显的指示，而可以自己通过数据来学习，建模，并且利用建好的模型和新的输入来进行预测的学科。
Arthur Samuel (1959): 一门不需要通过外部程序指示而让计算机有能力自我学习的学科
Langley（1996) ： “机器学习是一门人工智能的科学，该领域的主要研究对象是人工智能，特别是如何在经验学习中改善具体算法的性能”
Tom Michell (1997): “机器学习是对能通过经验自动改进的计算机算法的研究”
1.4： 学习：针对经验E (experience) 和一系列的任务 T (tasks) 和一定表现的衡量P，如果随之经验E的积累，针对定义好的任务T可以提高表现P，就说计算机具有学习能力
例子： 下棋，语音识别，自动驾驶汽车等
2. 机器学习的应用：语音识别，自动驾驶， 语言翻译，计算机视觉，推荐系统，无人机，识别垃圾邮件
3. 举例子： 人脸识别，无人驾驶汽车，电商推荐系统
1. 基本概念：训练集，测试集，特征值，监督学习，非监督学习，半监督学习，分类，回归
2. 概念学习：人类学习概念：鸟，车，计算机
定义：概念学习是指从有关某个布尔函数的输入输出训练样例中推断出该布尔函数
3. 例子：学习 “享受运动" 这一概念：
小明进行水上运动，是否享受运动取决于很多因素
样例
天气
温度
湿度
风力
水温
预报
享受运动
普通
一样
一样
变化
变化
天气：晴，阴，雨 温度：暖，冷湿度：普通，大 风力：强，弱水温：暖，冷预报：一样，变化享受运动：是，否
概念定义在实例(instance)集合之上，这个集合表示为X。（X：所有可能的日子，每个日子的值由 天气，温度，湿度，风力，水温，预报6个属性表示。
待学习的概念或目标函数成为目标概念（target concept), 记做c。
c(x) = 1, 当享受运动时， c(x) = 0 当不享受运动时，c(x)也可叫做y
x: 每一个实例
X: 样例, 所有实例的集合
学习目标：f: X -> Y
4. 训练集(training set/data)/训练样例（training examples): 用来进行训练，也就是产生模型或者算法的数据集
测试集(testing set/data)/测试样例 (testing examples)：用来专门进行测试已经学习好的模型或者算法的数据集
特征向量(features/feature vector)：属性的集合，通常用一个向量来表示，附属于一个实例
标记(label): c(x), 实例类别的标记
正例(positive example)
反例(negative example)
5. 例子：研究美国硅谷房价
影响房价的两个重要因素：面积(平方米），学区（评分1-10）
样例
面积（平方米）
学区
房价 （1000$)
100
1000
120
1300
60
800
80
1100
95
850
6. 分类 (classification): 目标标记为类别型数据(category)
回归(regression): 目标标记为连续性数值 (continuous numeric value)
7. 例子：研究肿瘤良性，恶性于尺寸，颜色的关系
特征值：肿瘤尺寸，颜色
标记：良性/恶性
有监督学习(supervised learning)： 训练集有类别标记(class label)
无监督学习(unsupervised learning)： 无类别标记(class label)
半监督学习（semi-supervised learning)：有类别标记的训练集 + 无标记的训练集
8. 机器学习步骤框架
8.1 把数据拆分为训练集和测试集
8.2 用训练集和训练集的特征向量来训练算法
8.2 用学习来的算法运用在测试集上来评估算法 （可能要涉及到调整参数（parameter tuning), 用验证集（validation set）
100 天： 训练集
10天：测试集 （不知道是否 ” 享受运动“， 知道6个属性，来预测每一天是否享受运动）
-----------------------------------------------------------------
1.机器学习：计算机模拟人类学习行为，获取新的知识或技能，并重新组织已有的知识结构使之不断改善自身。
计算机从数据中学习出规律和模式，以应用在新数据上做预测任务。
2.学习现象：
语言，文字的认知识别
图像，场景，自然物体的认知识别；
规则：eg:下雨天要带伞；
智能：复杂的推理，判断能力：好人或者坏人？真诚或者虚伪？
数据-------学习------------知识{认知，推理，决策，识别}
3. 学术上的描述：对于给定的任务T，在合理的性能度量方案P的前提下，某计算机程序可以自主学习任务T的经验E，随着提供合适的，优质，大量的经验E，该程序对于任务T的性能逐步提高。
机器学习的对象：
任务Task ，T，一个或者多个；
经验Experience，E;
性能Performance,P
学习=在某项任务上总结与积攒经验；
例子：下棋
任务T：下棋
性能目标P：击败对手的百分比；
训练经验E：和自己对弈；看棋谱学习；
机器学习是人工智能的一个分支。是人工智能实现的一个手段。
高等数学：导数/梯度 Taylor展开 凸函数
概率论：古典概率 贝叶斯公式 常见概率分布
4.机器学习分类：
监督学习：分类预测，回归分析；-------用户点击，购买预测，房价预测；
无监督学习：聚类，关联规则；--------邮件新闻聚类；
4.1 监督学习：特征1+特征2+...+特征n------目标
身高+发长+抽烟--------性别
4.2 无监督学习：
特征1+特征2+...+特征n--------聚类1，聚类2
4.3 增强式学习/RL
Agent感知环境，做出动作，根据奖惩状态/feedback做出调整和选择；
离散型，连续型，监督型，无监督；
6.高等数学基础：
6.1 夹逼定理
6.2 导数和二阶导数；
6.3 泰勒展开式；
6.4 方向导数，梯度；
6.5 凸函数；
1.古典概率；
2.贝叶斯公式；
3.常见概率分布；
很多人萦绕着这么一个问题，“机器学习/深度学习要怎么学呢？（怎么入门，又怎么进一步掌握？）”。关于这个问题其实并没有一个标准答案，有的人可能适合自底向上的学，也就是先从理论和数学开始，然后是算法实现，最后再通过一些项目去解决生活中的实际问题；有的人则可能适合自顶向下的学，也就是在弄清楚什么是机器学习及为什么学机器学习后，先确定一个系统性的用机器学习来解决实际问题的程序，然后找到一个合适的工具，接着再在各种数据集上做练习以不断加强自己的实践能力与巩固对算法的理解。而这份文档是希望能从纷繁众多的学习资料里为你整理出一个头绪。最后想借用Quora上一份对“I’m very interested in deep learning. How can I get hired?”问题的回答来作为这份学习建议的开场白：
“Deep learning (Neural nets)/Machine learning is an ART. ART can never be mastered unless it is practiced. So instead of just learning about them , start exploring them by implementing one. there are outnumbered tutorials on net. choose either lib based implementation such as convnet or torch7 or caffe etc. or try implementing fully from scratch( this way u understand internal structures and linkages of algo better) .
Start off with small dataset instead of aiming on high .
Start off by minimal architecture.
U will learn a lot this way u gain confidence. then you can project yourself to the companies by posting link of ur github repository of machine /deep learning implementations. this will help u in the long run… “
—Good Luck
这是最基础也是最重要的一个阶段，借用台大的林轩田教授总结的几句话，在这个阶段我们要注重思考与理解这么几个问题：
1.什么是机器学习？
What is machine learning
机器学习是从数据(data)中学习获取某一方面表现(performance measure)的增进。
2.什么时候机器可以学习（机器学习能为我们做什么）？
When can machines learn
那么何时考虑使用机器学习，通常需要满足以下三个前提：
1）存在有待学习的隐含模式(underlying pattern)。
2）该模式无法/难以通过程序实现(no programmable definition)。(when human cannot program the system manually, when human cannot define the solution easily, when needing rapid decisions that humans cannot do, when needing to be user-oriented in a massive scale)比如辨认某个事物，靠人的脑力用程序把辨识规则详细写出来，可能很难做到。
y=f(x)y=f(x)，xx是输入样本，yy是输出的预测值，这个f()f()未可知，正是需要机器来学的。
3）该模式存在足够多的数据(data)。
3.为什么机器可以学习？
Why can machines learn
假设训练数据样本和未知的测试样本来自同一的分布（这点尤为重要现有的大部分机器学习算法都从这点出发，好像迁移学习不是），并且假设空间的假设hh是有限的情况下，在训练样本N足够大，假设空间中的所有的假设都会遵循PAC准则(probably approximately correct)，确保Ein(h)≈Eout(h)Ein(h)≈Eout(h)，每一个假设函数都可以满足近似相等的性质，因此可以通过算法在这些假设空间中找一个Ein(g)≈0Ein(g)≈0的假设，同样PAC也保证了Eout(g)≈0Eout(g)≈0。存在一个未知的目标函数f，机器学习的任务是找出一个假设函数g，使得假设g和目标函数f很接近。
4.怎样让机器学习？
How can machines learn
这里考虑的就是用于机器学习的算法模型。
5.怎样让机器学得更好？
How can machines learn better
选择合适的模型、调整模型参数、防止过拟合、交叉验证、特征工程…具体问题具体分析
吴恩达教授在Coursera上开的机器学习的公开课，是一门非常好的机器学习入门课程，相信很多同学都知道，就不多说了。但值得一提的是，编程作业除了官网提供的matlab版，也有人用python实现了一遍，对于想要了解python的同学，这是个不错的实践机会：
同样是吴恩达教授开的公开课，相比Coursera上的课程难度会大一些，适合做一定程度的拔高。以下链接为课程讲义的下载：
Udacity有一个免费的，十周的机器学习课程，着重于理论与实际的应用。对深度学习感兴趣的人这会是一个全面的预备课程。
这就是一开始提到的林轩田教授在Coursera上开的课，不过现在网上已经下架了，因此给了个百度云盘的链接，可直接下载观看。个人觉得相比前两门课，在基础上讲得会更细致一些，而且全程中文讲课，听起来也相对轻松些，适合想把基础打扎实些的同学观看。
1.李航 -《统计学习方法》
2.周志华 -《机器学习》
这两本书就不用说了，相信大部分对这个领域感兴趣的人都已经人手一本了吧:)
个人觉得关键是如何使用这两本书了，先贴出一个周志华教授他自己的建议：
然后我个人的看法是不要孤立地去看这两本书，最好能结合其他资源如公开课、博客等一起去看，还有最重要的一点，一定要注重边看边实践，比如当看到某个模型时，就去网上下载一些相关的数据集和代码来学习一下。这一点做起来可能不是那么容易，因为实践难度会更高一些，也往往意味着更多时间的投入，很多时候可能只是稍微试了一下，碰到些困难，就放弃了，我这一年来的学习也存在着很多这样的情况。但如果想更深入地理解模型、算法，想做出些自己的东西，实践上的练习是绝对必不可少的。
3.其他的入门及深入书籍可参看这个链接：
其中的《Pattern Recognition And Machine Learning》一书据评“具有强烈的工程气息，可以配合stanford 大学 Andrew Ng 教授的 Machine Learning 视频教程一起来学，效果翻倍。”
1.《The Discipline of Machine Learning》
Tom Mitchell 当年为在CMU建立机器学习系给校长写的东西。
2.《A Few Useful Things to Know about Machine Learning》
Pedro Domingos教授的大道理，也许入门时很多概念还不明白，上完公开课后一定要再读一遍。
这是基于python来进行机器学习实战的一个很好的库，主要包含分类、回归、聚类、降维的常用算法及具体例程，以及模型选择、预处理这样的影响机器学习模型性能的关键处理。
这是一个开源的分布式机器学习项目，包含有MxNet、Minerva这样的灵活而又高效的深度学习库，以及Xgboost这样的大规模、分布式的通用Gradient Boosting库，值得一提的是，由于其性能和效率上的优势，Xgboost自问世起就一直是各类数据挖掘竞赛（如kaggle）的一大杀器。下图为Xgboost与另外两个boosting方法常用包的对比：
xgboost和另外两个常用包的性能对比
1.掌握机器学习的5条必由之路
传统的机器学习方法提倡从下往上学，先从理论和数学开始，然后是算法实现，最后让你去解决现实世界的问题。作者提倡的掌握机器学习的方法与传统方法相反，是从最有价值的成果部分开始。这一思路值得借鉴。
2.机器学习入门资源不完全汇总
如题，你可以从这个链接中找到更多的入门资源
3.机器学习的最佳入门学习资源
这其实是“2”的中文翻译
这也是一份很不错的入门资源的整合
有很多东西，从中挑选自己感兴趣的吧
6.机器学习与人工智能学习资源导引
7.从入门到精通是怎样一种体验
如题，更多有趣的见解也可以直接知乎一下
9.从机器学习谈起
这篇文章“以漫谈的形式介绍跟机器学习相关的所有内容，包括学科(如数据挖掘、计算机视觉等)，算法(神经网络，svm)等等”，是一篇写得不错的机器学习入门介绍
10.机器学习系列
搜索公众号添加： datayx
深度学习、机器学习、数据分析、python
长按图片，识别二维码，点关注
1. 深度学习概述深度学习是机器学习的一个分支，它通过模拟人脑神经元的工作方式，构建多层次的神经网络模型来处理复杂的数据模式。与传统机器学习方法相比，深度学习能够自动从原始数据中学习特征表示，无需过多的人工特征工程。深度学习已经在计算机视觉、自然语言处理、语音识别等领域取得了突破性进展。例如，ImageNet竞赛中深度学习模型的识别准确率已经超过人类水平，而GPT等大型语言模型则展示了深度学习在文
目录1 线性代数1.1 矩阵定义1.2 矩阵中的概念1.2.1 向量1.3 矩阵的运算1.4 矩阵的转置1.5 矩阵的逆2 微积分2.1 导数的定义2.2 偏导数2.3 方向导数2.4 梯度2.5 凸函数和凹函数3 概率统计3.1 常用统计变量3.2 常见概率分布3.3 重要概率公式1 线性代数导语:这些只是很基础的大学数学课本中的知识,如果考研的话,似乎看完这些也只是个知识点回顾,对做题并没有什么帮助.但是对于机器学习这些知识是必知必会的,要不然容易遇到看不懂!1.1 矩阵定义由 m ×
作者：黄海广机器学习，需要一定的数学基础，也需要一定的代码能力。为什么需要学习数学？机器学习从业者数学基础不扎实，只会用一些工具和框架，相当于某些武术家只会耍套路，外行人觉得很厉害，但实...
人工智能的数学基础。
书籍：Mathematical Foundations for Deep Learning作者：Mehdi Ghayoumi出版：Chapman and Hall/CRC编辑：陈萍萍的公主@一点人工一点智能01 书籍介绍《深度学习数学基础》弥合了理论数学与人工智能（AI）实际应用之间的鸿沟。本指南深入探讨驱动现代深度学习的核心数学概念，为读者提供在快速发展的人工智能领域中脱颖而出所需的工具与知识。
之前我们提过，说神经网络会很牛逼的自己学习，那这个自己学习是什么原理呢？如果用数学上的非人话就是对权重和偏置进行最优化，使输出符合学习数据，人话说就是不断的求导调整参数，让算法找到学习数据的规律。而对于这里的最优化，求导是不可缺少的一部分。1 导数基础1.1 导数的定义导数就是函数图像在某一点处的斜率，比如下图，作出函数f(x)的图像，f‘(x)表示图像切线的斜率。因此光滑图像的函数是可导的。函数
作者：小雨姑娘，康涅狄格大学，Datawhale成员这三天复现一个论文实验结果不正确，一直找不到
承接url:机器学习-数学基础02补充
未完待续！
# 机器学习的数学基础 翻译## 概述在机器学习中，数学基础是非常重要的，它涉及到统计学、线性代数、微积分等知识。对于刚入行的小白来说，掌握这些数学基础是非常必要的。在本文中，我将向你介绍如何实现“机器学习的数学基础 翻译”。## 流程首先，让我们来看一下整个事情的流程，如下表所示：```mermaidgantt title 机器学习的数学基础 翻译流程 sect
承接：数学基础01
# 机器学习数学基础机器学习是一种通过从数据中学习模式并进行预测或决策的方法。在许多机器学习算法中，数学起着至关重要的作用。了解机器学习的数学基础对于理解算法的工作原理以及如何应用它们至关重要。本文将探讨机器学习中的数学基础，并提供一些代码示例来帮助读者更好地理解。## 线性代数线性代数是机器学习中最基础的数学工具之一。它涉及向量、矩阵、向量空间等概念。在机器学习中，特征向量和参数
书籍：Mathematics for Machine Learning作者：Marc Peter Deisenroth，A. Aldo Faisal，Cheng Soon Ong出版：Cambridge University Press编辑：陈萍萍的公主@一点人工一点智能01 书籍介绍理解机器学习所需的基本数学工具包括线性代数、解析几何、矩阵分解、向量微积分、最优化、概率论和统计学。这些主题通常分
机器学习是一种通过数据和算法让机器具备自动学习能力的领域。在现代机器学习中，数学是一项必备的基础知识。掌握了正确的数学基础，我们才能更好地理解机器学习算法的原理和运作方式，并能够更加灵活地应用和修改这些算法。本文将介绍机器学习中必备的数学基础，并提供一些代码示例来帮助读者理解。## 1. 线性代数在机器学习中，线性代数是一项非常重要的数学工具。它主要用于处理多个变量之间的线性关系。我们在机
# 深度学习的数学基础深度学习作为人工智能领域的热门技术，其背后涉及了大量的数学知识。了解深度学习的数学基础，可以帮助我们更好地理解其原理和应用。本文将介绍深度学习中最常用的数学概念，并通过代码示例来展示其运用。## 线性代数在深度学习中，线性代数是一个非常重要的基础知识。矩阵乘法、向量运算等概念都是深度学习算法中经常用到的。以下是一个矩阵相乘的代码示例：```pythonimp
在电子测量中，探头作为示波器与被测电路的连接桥梁，其安全性直接关乎人身与设备的双重防护。无源探头与有源探头因结构原理的根本不同，在绝缘能力、电路保护、操作风险等维度呈现显著差异，需基于测量场景精准把握。 一、绝缘防护与耐压能力：安全设计的核心分野 绝缘性能是探头安全的第一道防线，两类探头的耐压能力差 ...
在大数据分析的学习旅程中，第六周我们正式踏入了神经网络的奇妙领域。这一周的学习不仅让我们理解了神经网络的基本结构，更通过 TensorFlow 和 Keras 工具，亲手实现了用神经网络解决分类问题的过程。下面就来详细梳理这周的学习收获。 一、神经网络基本结构：从 “仿生” 到 “计算” 的逻辑 神 ...
SkyWalking 在微服务世界里，每个服务就像一个繁忙的小摊位，服务之间的调用就像小伙伴之间传纸条。想要知道哪个摊位慢了、哪个小伙伴忙得不可开交，你就需要 SkyWalking——微服务界的“侦探大队长”，帮你全方位监控、分析和诊断系统。 本文将带你全面了解 SkyWalking，从原理、配置到 ...
如果你的网站使用的是Discuz论坛模板，用户忘记了密码并且验证邮箱出了问题，那还有没有其它办法重置用户的密码呢？答案是有的，管理员可在管理中心重置用户的密码。下面我们就来看看管理员该如何重置Discuz论坛用户的密码吧如果你的网站使用的是Discuz论坛模板，用户忘记了密码并且验证邮箱出了问题，那还有没有其它办法重置用户的密码呢？答案是有的，管理