机器学习笔记一

摘要本周回顾了线性模型的基本概念以及训练方法并进行代码实操。从设立模型开始并进行optimization经过50轮的运行得到最终结果。abstractThis week, we reviewed the basic concepts of linear models and training methods, and conducted hands-on coding practice. We started by setting up the model and performing optimization, and after 50 rounds of running, we obtained the final results.一、线性模型线性模型是一种假设输出与输入特征之间存在线性关系的机器学习模型。就是用一条直线来拟合数据。模型的训练方法如下图所示本次的数据集为学习时长[1, 2, 3, 4, 5, 6, 7, 8, 9, 10]与考试分数[50, 55, 60, 68, 72, 75, 80, 85, 88, 95]。# X学习时长 X np.array([1, 2, 3, 4, 5, 6, 7, 8, 9, 10]) # y考试分数 y np.array([50, 55, 60, 68, 72, 75, 80, 85, 88, 95])二、训练二.1 、初始化参数根据数据集的数据分布情况可以初步推断学习时长与考试分数之间存在线性关系因此设:ywXb。初始斜率以及截距为0每次更新的步幅为0.1训练50次停止。选择MSE用于计算lossw 0.0 # 斜率初始0 b 0.0 # 截距初始0 lr 0.1 # 学习率每次更新的步长 epochs 50 # 训练 50 次二.2、训练1step将X带入到模型中得到预测值y_predy_pred w * X_norm b2step,计算loss loss np.mean((y_pred - y_norm) ** 2)3stepoptimization首先求解loss对w的偏微分及及对y-y_pred^2进行求导其中y视为常数。同理可得dbdw np.mean(2 * X_norm * (y_pred - y_norm)) db np.mean(2 * (y_pred - y_norm))进行更新w w - lr * dw b b - lr * db三实验结果经过50轮的更新得到y 4.85 × X 46.13