网站系统建设方案西安危机公关公司
声明
本文章基于哔哩哔哩付费课程《小白也能听懂的人工智能原理》。仅供学习记录、分享,严禁他用!!如有侵权,请联系删除
目录
一、知识引入
(一)矩阵和向量
1、向量
2、矩阵
(二)Keras框架
1、Keras实现一个神经元
2、存在的问题
二、编程实验1--向量和矩阵构建神经元
(一)编写预测模型-向量版
(二)前向传播--向量版
(三)反向传播--向量版
(四)绘图
三、编程实验2--使用Keras实现学过的神经网络模型
(一)输入数据特征维度为1,仅使用激活函数激活,区间0,1表示有毒/无毒概率的数据集
1、使用Keras搭建神经网络
2、模型训练
3、模型预测
4、绘图
(二)加入隐藏层,使得函数富有多样的单调性
1、修改为2个神经元(隐藏层),并添加输出层神经元
2、调整学习率
3、绘图
(三)两个特征维度的输入数据,简单的线性可分情况
1、指定输入数据维度2,单神经元
2、绘制三维空间图形
(四)两个特征维度的输入数据,加入隐藏层,扭曲预测曲面和分割线
1、指定输入数据维度2,修改为2个神经元(隐藏层),并添加输出层神经元
2、绘制三维空间图形
一、知识引入
(一)矩阵和向量
1、向量
用三元一次函数(z = w1x1 + w2x2 + w3x3 + b)举例,用一个向量把函数的自变量放入其中、再把权重系数放入另一个向量中、偏置项系数b也放入一个向量中。
定义向量的转置(T)
定义向量间的乘法,点乘:对应元素相乘再相加
加上偏置向量b
对于一个1000元函数来说:
向量元素的数量,也叫做维度。
输入、权重参数、偏置项都看作是向量。
2、矩阵
如果输入数据送入的是一组函数进行运算,比如加入隐藏层神经元的神经网络。
每一个函数都有一个权重系数向量和偏置系数向量
将函数的权重系数向量放在一起、偏置向量也放在一起,形成矩阵
可以把矩阵看作是:由多个向量并在一起形成的“特殊向量”。矩阵的转置,也就可以看作是对其中每一个向量的转置
再让输入x点乘权重系数矩阵。分别让输入向量x点乘第一列计算出第一个结果,再让输入向量x点乘第二列计算出第二个结果,两个计算结果组成结果向量。
再加入偏置向量b
对于多个函数,仍然可以使用z = x * wt + b表示
(二)Keras框架
就像机器学习中的高级语言,实现了对机器学习神经网络底层复杂的数学运算的封装。可以轻松地通过它提供的各种上层接口搭建模型。
1、Keras实现一个神经元
# 导入keras
from keras.models import Sequential# 创建模型
model = Sequential()
# 创建一个神经元,使用sigmoid激活函数
# units表示神经元数量,当前隐藏层神经元数量为2
model.add(Dense(units = 2, activation = 'sigmoid', input_dim = 1))
# 创建一个输出层神经元,使用sigmoid激活函数
model.add(Dense(units = 1, activation = 'sigmoid'))
# 告诉keras使用均方误差代价函数 和 随机梯度下降算法(sgd)
model.compile(loss = 'mean_squared_error',optimizer &#