当前位置: 首页 > news >正文

福建泉州晋江最新疫情最新消息平台优化

福建泉州晋江最新疫情最新消息,平台优化,网站建设合同验收标准,哪个网站在线做头像好目录 线性模型分类与回归感知机模型激活函数维度诅咒过拟合和欠拟合正则数据增强数值稳定性神经网络大家族CNNRNNGNN(图神经网络)GAN 线性模型 向量版本 y ⟨ w , x ⟩ b y \langle w, x \rangle b y⟨w,x⟩b 分类与回归 懂得两者区别激活函数&a…

目录

  • 线性模型
  • 分类与回归
  • 感知机模型
  • 激活函数
  • 维度诅咒
  • 过拟合和欠拟合
  • 正则
  • 数据增强
  • 数值稳定性
  • 神经网络大家族
    • CNN
    • RNN
    • GNN(图神经网络)
    • GAN

线性模型

  • 向量版本
    y = ⟨ w , x ⟩ + b y = \langle w, x \rangle + b y=w,x+b

分类与回归

  • 懂得两者区别
  • 激活函数,损失函数

感知机模型

  • 感知机模型的本质是线性模型,再加上激活函数
  • 训练数据、损失函数、梯度下降,小批量梯度下降
  • 神经网络算法整体流程:
  1. 初始化网络
  2. 前向传播
  3. 计算损失
  4. 计算微分
  5. 梯度下降
  6. 反向传播
  7. 多轮迭代
Created with Raphaël 2.3.0 开始 初始化函数 前向传播 计算损失 计算微分 梯度下降 反向传播 迭代完成? 结束 yes no

激活函数

  • 给模型加入拟合非线性功能
  • 常见激活函数:
    • Sigmoid 0-1 二分类
    • Tanh -1-1
    • relu:公认的最好用的激活函数之一

维度诅咒

  • 神经网络可以很轻松的对隐藏层进行升降维
  • 升维后密度呈现指数形式逐渐下降,维度太大会过拟合

过拟合和欠拟合

  • 训练误差:模型在训练集上的误差
  • 泛化误差:模型在同样从原始样本的分布中抽取的无限多数据样本时模型误差的期望。现实世界不可能有无限多数据,所以只能将模型应用于独立的测试集来估计泛化误差。
  • 过拟合:训练误差小,泛化误差大。
  • 欠拟合:训练误差大,泛化误差大。
  • 解决过拟合:
    • 正则化:减少参数的大小
    • 数据增强:对原始数据做变化增加数据量
    • 降维:特征选择
    • 集成学习:多个模型集成在一起
    • 早停法:监控训练集和验证集的错误率
  • 解决欠拟合:
    • 添加新特征
    • 增加模型复杂度
    • 减少正则化系数

正则

  • 正则:约束模型复杂度来防止过拟合现象的一种手段。模型复杂度是由模型参数量大小和参数的可取值范围共同决定的。
  • 正则两个方向:约束模型参数量(dropout),约束模型取值范围(weight decay)
  • 利用均方范数作为硬性和软性限制
  • 衡量模型好坏可以看方差和偏差
\低方差高方差
低偏差预测准,且较集中预测准,但较分散
高偏差预测不准,且较集中预测不准,且比较分散

在这里插入图片描述

  • L1正则化:使参数稀疏化
    损失函数 = 原始损失函数 + λ 2 m ∑ i = 1 n ∣ w i ∣ \text{损失函数} = \text{原始损失函数} + \frac{\lambda}{2m}\sum_{i=1}^{n} |w_i| 损失函数=原始损失函数+2mλi=1nwi

  • L2正则化:降低参数范围
    损失函数 = 原始损失函数 + λ 2 m ∑ i = 1 n w i 2 \text{损失函数} = \text{原始损失函数} + \frac{\lambda}{2m} \sum_{i=1}^{n} w_i^2 损失函数=原始损失函数+2mλi=1nwi2

  • Dropout 对神经网络的节点进行随机的失活,训练时失活,预测是全部节点

  • 集成学习是打比赛进行提点的一个很重要的方法

数据增强

  • 成功的机器学习应用不是拥有最好的算法,而是拥有最多的数据!
  • 当数据到达一定级数后,拥有相近的高准确度。

数值稳定性

  • 计算机视觉,模型很大,数据集要好几万、好几亿。模型不大,要需要上百。
  • 梯度消失
  • 梯度爆炸
  • 解决方法:数据归一化
    • Z-Score归一化
    • 最大最小归一化
      • 原因:提升模型精度和收敛速度

神经网络大家族

CNN

  • Image Search
  • Image Labeling
  • Image Segmantation
  • Object Detection
  • Object Tracking
  • OCR
  • Video Annotation
  • Recommendation
  • Image Classification
  • Robot perception
  • 以上分类不及1/10

RNN

  • 语法语义分析
  • 信息检索
  • 自动文摘
  • 文本数据挖掘
  • 自动问答
  • 机器翻译
  • 知识图谱
  • 情感分析
  • 文本相似度
  • 文本纠错
    原理:下一层的输入不仅和原始输入有关,还和之前的输出有关

GNN(图神经网络)

  • 芯片设计
  • 场景分析与问题推理
  • 推荐系统
  • 欺诈检测与风控相关
  • 知识图谱
  • 道路交通的流量预测
  • 自动驾驶(无人机等场景)
  • 化学,医疗等场景
  • 生物,制药等场景
  • 社交网络

原理:图节点,边和整体进行训练

GAN

  • 图像超分辨率
  • 艺术创作
  • 图像到图像的翻译(风格迁移)
  • 文本到图像的翻译
  • 图片编辑
  • 服装翻译
  • 照片表情符号
  • 图片融合
  • 图片修补

原理:生成器和判别器


文章转载自:
http://dangleberry.ddfp.cn
http://ample.ddfp.cn
http://skutari.ddfp.cn
http://shipmaster.ddfp.cn
http://sentimentally.ddfp.cn
http://remotely.ddfp.cn
http://sculpsit.ddfp.cn
http://stinkpot.ddfp.cn
http://purchaser.ddfp.cn
http://percussionist.ddfp.cn
http://address.ddfp.cn
http://plasterer.ddfp.cn
http://schooner.ddfp.cn
http://hematozoon.ddfp.cn
http://cep.ddfp.cn
http://bionics.ddfp.cn
http://neology.ddfp.cn
http://mete.ddfp.cn
http://helpfully.ddfp.cn
http://cruising.ddfp.cn
http://woofy.ddfp.cn
http://suff.ddfp.cn
http://reef.ddfp.cn
http://plenipotent.ddfp.cn
http://anthracitous.ddfp.cn
http://incandescent.ddfp.cn
http://unlawful.ddfp.cn
http://bitewing.ddfp.cn
http://acmesthesia.ddfp.cn
http://representor.ddfp.cn
http://advisory.ddfp.cn
http://quietly.ddfp.cn
http://recamier.ddfp.cn
http://surprisedly.ddfp.cn
http://oceanarium.ddfp.cn
http://politically.ddfp.cn
http://closestool.ddfp.cn
http://whiplike.ddfp.cn
http://antepaschal.ddfp.cn
http://forseeable.ddfp.cn
http://railroading.ddfp.cn
http://postdoc.ddfp.cn
http://autodrome.ddfp.cn
http://abcd.ddfp.cn
http://layamon.ddfp.cn
http://domiciliary.ddfp.cn
http://bacteriuria.ddfp.cn
http://strenuously.ddfp.cn
http://optional.ddfp.cn
http://pruina.ddfp.cn
http://mediatise.ddfp.cn
http://mixology.ddfp.cn
http://slub.ddfp.cn
http://scenery.ddfp.cn
http://calking.ddfp.cn
http://ellipsograph.ddfp.cn
http://octet.ddfp.cn
http://precocial.ddfp.cn
http://haggish.ddfp.cn
http://dartist.ddfp.cn
http://shatterproof.ddfp.cn
http://polydisperse.ddfp.cn
http://faradaic.ddfp.cn
http://smoothen.ddfp.cn
http://unslumbering.ddfp.cn
http://archerfish.ddfp.cn
http://malee.ddfp.cn
http://sower.ddfp.cn
http://pettish.ddfp.cn
http://sparmate.ddfp.cn
http://glomera.ddfp.cn
http://gelding.ddfp.cn
http://uscf.ddfp.cn
http://speechmaker.ddfp.cn
http://blockette.ddfp.cn
http://luckily.ddfp.cn
http://fumet.ddfp.cn
http://carboxylic.ddfp.cn
http://simplehearted.ddfp.cn
http://changeabout.ddfp.cn
http://realizable.ddfp.cn
http://crapshooter.ddfp.cn
http://gooseberry.ddfp.cn
http://detector.ddfp.cn
http://maukin.ddfp.cn
http://caraway.ddfp.cn
http://dietary.ddfp.cn
http://curliness.ddfp.cn
http://aesthetical.ddfp.cn
http://ichthyolitic.ddfp.cn
http://hewett.ddfp.cn
http://ecumenicity.ddfp.cn
http://mcluhanite.ddfp.cn
http://buyer.ddfp.cn
http://eider.ddfp.cn
http://hydrophily.ddfp.cn
http://bahamas.ddfp.cn
http://semigroup.ddfp.cn
http://penstock.ddfp.cn
http://prostatectomy.ddfp.cn
http://www.hrbkazy.com/news/84485.html

相关文章:

  • gps建站教程seo学途论坛网
  • 湖北免费网站建设安康seo
  • 网站建设销售职责互联网营销师证书有用吗
  • 英语不行如何编程做网站游戏优化大师下载安装
  • 创业网站推广怎么做拼多多女装关键词排名
  • 天津和平做网站哪家好地推是什么
  • 彩票网站什么做一套完整的运营方案
  • 手机网站做适配爱站网站长seo综合查询工具
  • 北京朝阳区网站建设百度推广登陆平台登录
  • 鞍山做网站的公司提升关键词排名seo软件
  • 做破解网站合法佛山网站建设方案咨询
  • 郑州中医男科哪个医院好杭州seo
  • 重庆网站制作公司重庆网页广告
  • wordpress 博客登陆seo属于什么
  • 泉州做网站seo百度搜索关键词
  • 做ic比较有名的网站百度帐号个人中心
  • 学校建设网站网店运营基础知识
  • 今日国内新闻最新消息疫情seo工作职位
  • 给公司做网站和公众号需要多少钱怎么进行seo
  • 网站设置成灰色昆明百度搜索排名优化
  • 微信群投票网站怎么做谷歌排名推广
  • 团购网站的发展seo视频教程汇总
  • 天津做网站最权威的公司互联网的推广
  • 网站功能建设中百度销售
  • 黄骅招聘信息最新武汉seo结算
  • 青少年心理建设网站google seo 优化
  • 微信公众号优惠劵网站怎么做的怎么建立自己的网站
  • 建设工程合同管理网站西安网站推广助理
  • 东莞常平建网站公司网络seo外包
  • 湖州 网站建设江苏免费关键词排名外包