Machine Learning Course1 Week1

Arthur Samuel在1956年就提出machine learning 训练电脑于自己下棋

课程一共四部分

supervised learning

unsupervised learning

recommender systems

reinforcement learning

Supervised learning部分还是跟AIforeveryone 里一样 讲述了应用领域

学会选用模型和算法是很关键的技能

主要算法

1. Regression algorithm

   is to predict number

   infinitely many possible outputs

   例如预测某平米数对应的市场价格

   
   

2. classification

   predict categories

   small number of possible outputs

   例如breast cancer detection

分类用的 可以是多种类别

Two or more inputs

可以加入年龄和其他多种变量去考量肿瘤的阴阳性

Unsupervised learning

监督学习是要明确输入每一条数据对应的x y， 而unsupervised learning可以自己去做聚类，clusting

Google news就是用clusting 每一天的新闻 算法识别到 同时带有panda twins zoo这三个词组聚了一个类，他就会成为当天的头条

基因表达的分类也是用聚类来实现

grouping customer也同理

Jupyter notebooks

Regression：

linear regression 线性回归

对应数据可以是横竖坐标形式也可以是table形式，如下

这里的i代表的是行数

y^是模型给出的预测结果，y是实际结果 也叫target，

f就是模型 一种函数

w，b 有时候被称为parameters 或者weights或者coefficient

为了看清wb两个变量和“平方误差损失”之间的关系 先将b=0 研究w

b=0时 J（w）是一个抛物线 最低点就是w让平方误差损失最小的值

当b不取0时 让二维的抛物线叠加第三个轴 形成了一个弧面 convex function 只有一个最优解 局部最优解就是全局最优解

左图是x作为变量时候的函数图 体现的是f(x)和y的关系

右图是w作为变量时候的函数

可以知道偏离方差和w的函数图

要做的就是找到圆心的位置

Gradient descent algorithm

如果不是线性回归 两个变量可能会出现这样的图像

Not linear regression

两个波谷 local minima

注意左边是正确做法 同时给w b赋值，右边先赋值w 再赋值b 不是常规操作

就像你在一个坡顶想要下山，环绕一圈你看哪里下降的趋势最快，粉色方框里代表的就是你选择的方向，alpha这个系数是你下降的步伐大小，叫做learning rate 一般取值0-1

当w取到目标值右边的时候，方块里这个系数就会大于零， w就会递减，找到目标w值

当w取到目标值左边的时候，斜率就变成负的了，w就会减一个负数也就是会变大，就会向右找到目标值。

当learning rate太小的时候 能行但是很慢

当learning rate太大的时候 可能会导致w值剧烈变化 容易发生震荡 无法收敛