当前位置: 首页 > news >正文

如何做环保管家网站关键词权重如何打造

如何做环保管家网站,关键词权重如何打造,网页模板下载网站10,南坪网站建设Word2vec Skip-gram算法的核心部分 我们做什么来计算一个词在中心词的上下文中出现的概率? 似然函数 词已知,它的上下文单词的概率 相乘。 然后所有中心词的这个相乘数 再全部相乘,希望得到最大。 目标函数(代价函数&#xff0…

Word2vec

Skip-gram算法的核心部分
我们做什么来计算一个词在中心词的上下文中出现的概率?
在这里插入图片描述

似然函数

词已知,它的上下文单词的概率 相乘
然后所有中心词的这个相乘数 再全部相乘,希望得到最大

在这里插入图片描述

目标函数(代价函数,损失函数)

平均对数似然 + 转化为极小化问题

在这里插入图片描述

最小化目标函数 J(θ) <==> 最大化预测的准确性

  • 为了简化数学和优化,每个单词都用两个向量表示:

预测函数

模型训练目的:具有相似上下文的单词,具有相似的向量。
所有上下文之间的向量最相似,这样似然函数最大,损失函数最小!

在这里插入图片描述

取幂 用于使得所有数都为正
点乘 用于计算向量相似程度。向量之间越相似,点乘结果越大。
目的:找到与中心词向量 点乘最大的词向量,得到最相似的向量。
分母 用于归一化,最终得到概率分布 => 所有词跟中心词的相似程度所构成的概率#

预测函数使用的softmax函数

在这里插入图片描述

最小化损失函数来调整词向量 -> 最大化 在中心词的上下文实际看到的词的概率

θ表示模型所有的参数,向量长度为2dV。调整θ来最大化上下文词的预测!
词库一共有V个词,每个词向量都是d维。
每个词都有上下文词向量和中心词向量。

梯度下降法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

总结:

  1. 为上下文词和中心词随机初始化一个向量
  2. 使用迭代算法逐步更新这些词向量 (梯度下降法)
  3. 可以更好的预测哪些词会出现在其他词的上下文中
http://www.hrbkazy.com/news/23002.html

相关文章:

  • 大连模板网站制作哪家好市场营销专业
  • 网站开发w亿玛酷1订制上海sem
  • 设计师网站模版网络营销的现状
  • 客厅装修效果图片大全网站排名优化价格
  • 如何做充值网站高质量内容的重要性
  • 中铁建设企业门户小红书seo排名帝搜软件
  • 政府网站必须做等保百度后台登陆入口
  • 如何做论文网站教育培训报名
  • 什么做网站的公司好互联网销售平台有哪些
  • 制作网站复杂吗网页设计模板素材图片
  • 做app网站公司名称网上怎么找客户资源
  • 专门做评测的网站有哪些seo网站seo
  • 珠海企业网站推广服务seo排名计费系统
  • 如何建网站的步骤网络推广的方法有
  • 珠海移动网站建设公司引流最好的推广方法
  • windows网站模板深圳网站seo哪家快
  • 国内做的比较好的网站电脑培训中心
  • 阿拉伯语网站怎么做百度seo排名优化如何
  • 做搜狗pc网站优化首廊坊seo网络推广
  • 河南郑州是几线城市东莞seo建站
  • 安徽服饰网站建设产品市场推广方案
  • 做效果图的网站有哪些软件有哪些如何做线上推广
  • 网站建设08keji永久免费crm客户管理系统
  • 视频解析网站百度投诉热线中心客服
  • 哪有做网站的 优帮云深圳广告投放公司
  • 长沙企业网站建设个人网站网址
  • 做网站的公司首选智投未来软件培训班
  • 小说网站要怎么做市场调研的方法
  • 关于政府网站建设的讲话台州做优化
  • 牛商网做网站的思路深圳百度推广联系方式