Linear Model

Linear Model 机器学习 为学习时间,为学习该时间能够在考试中取得的分数 在这里来为这些数据寻求一个最好的模型 线性回归 Linear Model:(hat{y}=x*w) 训练损失 (误差) MSE(Mean Squared Mean)均方误差: [ loss=(h

2021-10-08 · 3 分钟 · 500 字 · 里列昂

通过正则化避免过拟合

通过正则化避免过拟合。 深度神经网络通常拥有数万个参数,有时甚至有数百万个。这个深度神经网络带来了难以置信的自由度,意味着它们可以拟合各种各样的复杂数据集。 但是这种巨大的灵活性也使网络易于过拟合训练集。此时就需要正则化。 和正则化 可以使用正则化来约

2021-10-03 · 1 分钟 · 132 字 · 里列昂

更快的优化器

动量优化 想象一下,一个保龄球在光滑的表面上沿着平缓的坡度滚动:它开始速度很慢,在很快会获得动量,直到最终达到终极速度(如果有摩擦或空气阻力)。相比之下,常规的梯度下降法只是在斜坡上采取小的、常规的步骤,因此算法将花费更多时间到达底部 回想一下梯度下降通过直接减去权重的成本函数J

2021-09-30 · 2 分钟 · 218 字 · 里列昂

重用预训练层

用Keras进行迁移学习 假如Fashion MNIST数据集包含了8个类别,例如,除凉鞋和衬衫之外的所有类别。有人在该数据集上建立并训练的Keras模型,并获得了相当不错的性能(精度>90%)。将此模型称为模型A。现在要处理另一项任务:有凉鞋和衬衫的图像,想要训练一个二元

2021-09-28 · 1 分钟 · 58 字 · 里列昂

电影评论分类:二分类问题

IMDB数据集 它包含来自互联网电影数据库(IMDB)的50000条严重两极分化的评论 数据集被分为用于训练的25000条评论与用于测试的25000条评论 训练集和测试集都包含50%的正面评论和50%的负面评论 加载IMDB数据集 import tensorflow as tf

2021-09-27 · 8 分钟 · 1594 字 · 里列昂

抛物线法

def f(x): return x ** 3 - 2 * x + 1 # 返回函数的值 def f1(s0, s1, s2): return (((s1 ** 2 - s2 ** 3) * f(s0) + (s2 ** 2 - s0 ** 2) * f(s1) + (s0 **

2021-09-26 · 2 分钟 · 270 字 · 里列昂

深度神经网络的训练-梯度消失和梯度爆炸问题

梯度消失与梯度爆炸问题 反向传播算法的工作原理是从输出层到输入层次,并在此过程中传播误差梯度。一旦算法计算出损失函数相对于每个参数的梯度,可以使用这些梯度以梯度下降步骤来更新每个参数。 随着算法向下传播到较低层,梯度通常会越来越小。结果梯度下降更新使较低层的连接权重保持不变,训练

2021-09-26 · 1 分钟 · 193 字 · 里列昂

字典推导

构造字典 DIAL_COODES=[ # 一个承载成对数据的列表,可以直接用在字典的构造方法中 (86,'China'), (91,'India'), (1,'United States'), (62,'Indonesia&

2021-09-26 · 2 分钟 · 240 字 · 里列昂

0.618法(最优化方法)Python实现

def fun(x): return x ** 3 - 2 * x + 1 def solve(a, b, epsilon): lamd = (5 ** 0.5 - 1) / 2 delta = b - a p = a + (1 - lamd) * (b - a) q = a +

2021-09-26 · 1 分钟 · 130 字 · 里列昂

构建MLP模型、数据可视化及神经网络超参数微调

利用顺序API构建回归MLP 用回归神经网络解决加州的住房问题 用Sickit-Learn中的fetch_california_housing()函数加载数据 from sklearn.datasets import fetch_california_housing from s

2021-09-19 · 16 分钟 · 3347 字 · 里列昂