<a name="sWLov" </a 插值法定义 设函数在区间上有定义，且<br / <br / 已知在点的值<br / 若存在一简单函数使得<br / <br / 成立，就称为的插值函数，点称为插值区间，上式称为插值条件，求插值函数的方法称为 插值法 。<br / 若为次数不超过的代数多项式，即<br /…

非线性规划 飞行管理问题 在约 10，000m 高空的某边长 160km 的正方形区域内，经常有若干架飞机作水平 飞行。区域内每架飞机的位置和速度向量均由计算机记录其数据，以便进行飞行管理。 当一架欲进入该区域的飞机到达区域边缘时，记录其数据后，要立即计算并判断是否会 与区域内的飞机发生碰撞。如果会碰撞，则应…

用Python实现线性规划 使用python库中scipy中的函数linprog来求解线性规划 linprog函数中线性规划的标准形式为 $$ \min c^Tx\\ s.t\left\ \begin aligned Auq\cdot x&\le b\\ Aeq\cdot x&=beq\\ lb\le x&\…

有效的数据表示 你发现以下哪个数字顺序最容易记忆？ - 40，27，25，36，81，57，10，73，19，68 - 50，48，46，44，42，40，38，36，34，32，30，28，26，24，22，20，18，16，14 乍一看，第一个序列似乎应该更容易些，因为它要短得多。但是，如果仔细看第二个序…

拟牛顿法（Python实现） 使用拟牛顿法（BFGS和DFP），分别使用Armijo准则和Wolfe准则来求步长 求解方程 $f x 1,x 2 = x 1^2-2 ^4+ x 1-2x 2 ^2$的极小值 运行结果

共轭梯度法（Python实现） 使用共轭梯度法，分别使用Armijo准则和Wolfe准则来求步长 求解方程 $f x 1,x 2 = x 1^2-2 ^4+ x 1-2x 2 ^2$的极小值 运行结果

极值充分条件 设二元函数$f$在点$P 0 x 0,y 0 $的某邻域$U P 0 $上具有二阶连续偏导数，且$P 0$是$f$的稳定点。则当$H f P 0 $是正定矩阵时，$f$在点$P 0$处取得极小值；当$H f P 0 $是负定矩阵时，$f$在点$P 0$处取得极大值；当$H f P 0 $是不定矩…

阻尼牛顿法（Python实现） 使用牛顿方向，分别使用Armijo准则和Wolfe准则来求步长 求解方程 $f x 1,x 2 = x 1^2-2 ^4+ x 1-2x 2 ^2$的极小值 运行结果：

最速下降法（Python实现） 使用最速下降法方向，分别使用Armijo准则和Wolfe准则来求步长 求解方程 $f x 1,x 2 = x 1^2-2 ^4+ x 1-2x 2 ^2$的极小值 运行结果：

预处理输入特征 为神经网络准备数据需要将所有特征转换为数值特征，通常将其归一化等。特别是如果数据包含分类特征或文本特征，则需要将它们转换为数字。 在准备数据文件时，可以使用任何喜欢的工具（例如NumPy、pandas或Scikit-Learn）提前完成此操作。或者，可以在使用Data API加载数据 时动态地…

1. 给定函数$f x = 6+x 1+x 2 ^2+ 2-3x 1-3x 2-x 1x 2 ^2$，求在点$\hat X = -4,6 ^T$处的最速下降方向和牛顿方向 $$ f x = 6+x 1+x 2 ^2+ 2-3x 1-3x 2-x 1x 2 ^2\\ \frac \partial f \part…

梯度下降 线性模型 $\hat y =x w$来拟合学习时间$x$与考试分数$y$ $$ loss= \hat y -y ^2= x w-y ^2\to cost=\frac1N\sum^N n=1 \hat y n -y n ^2 $$ 由图可知损失函数在$w=2.0$时，取得最小值。记损失函数在$w^ $…

Linear Model 机器学习 $x$为学习时间，$y$为学习该时间能够在考试中取得的分数 在这里来为这些数据寻求一个最好的模型 线性回归 Linear Model：$\hat y =x w$ 训练损失 误差 MSE（Mean Squared Mean）均方误差： $$ loss= \hat y -y ^…

抛物线法

0.618法（最优化方法）Python实现

<div <style scoped .dataframe tbody tr th:only-of-type vertical-align: middle; .dataframe tbody tr th vertical-align: top; .dataframe thead th text-align:…

Keys of iris dataset: dict keys 'data', 'target', 'frame', 'target names', 'DESCR', 'feature names', 'filename' .. iris dataset: Iris plants dataset ------…

运行结果

这里选择将模型和loss还有数据都在GPU上，方便后续能够将大型神经网络的计算图放在GPU上来加快训练速度 运行结果 一般来数据的device= 'cuda:0' 就说明数据放在了GPU的显存上 不使用cuda 函数时，默认数据都是放在内存中由CPU进行训练