本周补班+GRE，PCA嘛再说啦~

附录

Ref. 1 数据降维1：主成分分析法思想及原理

Ref. 2 数据降维2：PCA算法的实现及使用

发一个身份卡。

本周努力学习data analysis，本文留白~

附录

Ref. 1《出场率No.1的逻辑回归算法，是怎样“炼成”的？》

Ref. 2《逻辑回归的本质及其损失函数的推导、求解》

本周努力刷leetcode，本文留白~

附录

Ref. 1 Japson / 《浅析多项式回归与sklearn中的Pipeline》

Ref.2 Japson / 《ML/DL重要基础概念：偏差和方差》

从机器学习方法论说起

WHAT

「机器学习」就是找到一种函数f(x)并进行优化， 完成预测、分类、生成等工作。

HOW

第一步：定义一个函数集合（define a function set）
第二步：判断函数的好坏（goodness of a function）
第三步：选择最好的函数（pick the best one）

HOW 3

pick the best one?
「梯度下降」是目前机器学习、深度学习解决最优化问题的算法中，最核心、应用最广的方法。

梯度是什么

多元函数的导数(derivative)就是梯度(gradient)，分别对每个变量进行微分。梯度是向量(有方向)，其维度与参数的维度一样。梯度指向误差值增加最快的方向。

对于损失函数L，$f(x_1, x_2)$，梯度为$\nabla L = (\frac{\partial L}{\partial x_1},\frac{\partial L}{\partial x_2})$

线性回归

发一个身份卡。

数据预处理与特征工程

• 思维导图直达：https://mubu.com/doc/5rWv4i8HggF

Data PreProcessing（数据预处理）

1. 无量纲化

1. 回归模型中的指标选择

评判指标一览

• 在预测任务中，给定样例集$D = {(x_1, y_1), (x_2, y_2),…,(x_n,y_n)}$，其中$y_i$是样本$x_i$的真实的观测值，$n$表示样本数量，$f(x_i)$代表对样本$x_i$的预测值。