当前位置: 首页 > news >正文

建设银行个人手机银行下载seo云优化外包

建设银行个人手机银行下载,seo云优化外包,淄博做网站多少钱,高培淇自己做的网站定点和浮点都是数值的表示(representation),它们区别在于,将整数(integer)部分和小数(fractional)部分分开的点,点在哪里。定点保留特定位数整数和小数,而浮点…

定点和浮点都是数值的表示(representation),它们区别在于,将整数(integer)部分和小数(fractional)部分分开的点,点在哪里。定点保留特定位数整数和小数,而浮点保留特定位数的有效数字(significand)和指数(exponent)

1.FP与INT

FP代表浮点运算数据格式,包括双精度FP64 单精度FP32 半精度FP16和FP8

INT代表整数数据格式,包括INT8和INT4

后面的数字越高意味着精度越高能够支持的运算复杂度也就越高 适配场景也就越广,同样对推理端的计算资源要求也就越高;

2.FP64、FP32、FP8 和INT8、INT4 

双精度FP64 :浮点数使用64位表示,提供更好的精度和动态范围。通常应用在高精度计算的场景中,对存储空间以及计算资源要求较多  通常较少使用

单精度FP32:浮点数使用32位表示,适用于大多数科学计算和通用计算任务。通常我们训练神经网络模型的时候默认使用的数据类型为单精度FP32

半精度FP16:浮点数使用16位表示。相对于FP32提供了较低的精度,按照理论来说可以跑机器学习这些任务,但是FP16会出现精度溢出和舍入误差,所以很多应用都是使用混合精度计算的也就是FP16+FP32模式

浮点数在高精度图像处理有较大优势能够使图片中更多颜色、对比度、质感和清晰度得以保留。

但INT类型速度更快

  • 第一部分为 sign 符号位 s,占 1 bit,用来表示正负号;
  • 第二部分为 exponent 指数偏移值 k,占 5 bits,用来表示其是 2 的多少次幂;
  • 第三部分是 fraction 分数值(有效数字) M,占 10 bits,用来表示该浮点数的数值大小。

固定点数INT8:固定点数使用固定的小数点位置来表示数值,可以使用定点数算法进行计算。相对于浮点数计算,算力和内存资源要求更低。


 

http://www.hrbkazy.com/news/42202.html

相关文章:

  • 软装设计理念萌新seo
  • wordpress的商城网站制作公司安卓系统优化大师
  • wordpress做视频网站百度网址安全中心怎么关闭
  • 古镇小企业网站建设哪里可以代写软文
  • 建网站昆明seo是什么及作用
  • wordpress 5.2.1英文转中文seo难不难学
  • weui wordpress模板西安seo外包公司
  • 中国电子商务研究中心seo推广服务哪家好
  • 亚洲男女做暖网站百度关键词竞价和收费的方法
  • 内蒙古响应式网站建设百度网站站长工具
  • 网络公司怎么做网站推广软文200字
  • 门户网站建设成本网店推广常用的方法
  • 上海市住房和城乡建设部网站官网优化设计的答案
  • 医疗网站怎么做优化seo案例分析
  • 做影集的网站或软件海南seo代理加盟供应商
  • 网站建设素材什么是seo是什么意思
  • 经济与政府网站建设如何快速推广一个新产品
  • 洪栾单页网站建设76人vs猛龙
  • 淘宝关键词优化技巧教程seopc流量排行榜企业
  • wordpress不同页面布局百度推广优化中心
  • 昆明网站建设wang.cd百度推广登录账号首页
  • 做房产的一般用哪个网站好外包公司
  • 深圳个人外贸网站建seo最新技巧
  • 网站后台建设360收录提交入口网址
  • 淘宝客cms网站模板下载百度搜索资源
  • 徐州网站建设服务2023重大新闻事件10条
  • 网站建设基础书本百度店铺免费入驻
  • 怎么开网站做网红阿里指数官方网站
  • 剖析材料范文哪个网站做的好做搜索引擎推广多少钱
  • 黄骅市做网站自己怎么做百度推广