当前位置: 首页 > news >正文

做短租有哪些网站seo服务建议

做短租有哪些网站,seo服务建议,做的好的学校网站,网站建设需要的费用使用Transformers来使用模型 如希望使用Qwen-chat进行推理,所需要写的只是如下所示的数行代码。请确保你使用的是最新代码,并指定正确的模型名称和路径,如Qwen/Qwen-7B-Chat和Qwen/Qwen-14B-Chat 这里给出了一段代码 from transformers import AutoModelForCausalLM, Aut…

使用Transformers来使用模型

如希望使用Qwen-chat进行推理,所需要写的只是如下所示的数行代码。请确保你使用的是最新代码,并指定正确的模型名称和路径,如Qwen/Qwen-7B-ChatQwen/Qwen-14B-Chat

这里给出了一段代码

from transformers import AutoModelForCausalLM, AutoTokenizer
from transformers.generation import GenerationConfig# 可选的模型包括: "Qwen/Qwen-7B-Chat", "Qwen/Qwen-14B-Chat"
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-7B-Chat", trust_remote_code=True)# 打开bf16精度,A100、H100、RTX3060、RTX3070等显卡建议启用以节省显存
# model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen-7B-Chat", device_map="auto", trust_remote_code=True, bf16=True).eval()
# 打开fp16精度,V100、P100、T4等显卡建议启用以节省显存
# model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen-7B-Chat", device_map="auto", trust_remote_code=True, fp16=True).eval()
# 使用CPU进行推理,需要约32GB内存
# model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen-7B-Chat", device_map="cpu", trust_remote_code=True).eval()
# 默认使用自动模式,根据设备自动选择精度
model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen-7B-Chat", device_map="auto", trust_remote_code=True).eval()# 可指定不同的生成长度、top_p等相关超参
model.generation_config = GenerationConfig.from_pretrained("Qwen/Qwen-7B-Chat", trust_remote_code=True)# 第一轮对话
response, history = model.chat(tokenizer, "你好", history=None)
print(response)
# 你好!很高兴为你提供帮助。# 第二轮对话
response, history = model.chat(tokenizer, "给我讲一个年轻人奋斗创业最终取得成功的故事。", history=history)
print(response)
# 这是一个关于一个年轻人奋斗创业最终取得成功的故事。
# 故事的主人公叫李明,他来自一个普通的家庭,父母都是普通的工人。从小,李明就立下了一个目标:要成为一名成功的企业家。
# 为了实现这个目标,李明勤奋学习,考上了大学。在大学期间
http://www.hrbkazy.com/news/38763.html

相关文章:

  • 什么网站可以做批发鞋子百度产品有哪些
  • 自己做网站卖网页制作代码html制作一个网页
  • 如何优化网站导航seo服务外包
  • 网站 php java成都网多多
  • 网页设计报价表上首页的seo关键词优化
  • 网站文章防复制加版权国外免费ip地址
  • wordpress 煎蛋网插件优化疫情防控措施
  • 网站备份文件公司做个网站多少钱
  • 什么网站做免单衣服成都网络营销策划
  • 手机单页网站生成系统seo推广绩效考核指标是什么
  • 怎么更新电脑的wordpress西安seo引擎搜索优化
  • 网站在线客服软件nba今日数据
  • 我要建设一个网站网络营销的重要性与意义
  • 苏州网站设计服务百度品牌广告是什么
  • 车墩做网站公司网站seo批量查询工具
  • 新乐网站建设网站建设方案范文
  • 网站后台链接怎么做千网推软文推广平台
  • 网页设计薪资多少qq群排名优化软件官网
  • 福建建设人才市场网站自媒体平台注册
  • 佛山中小企业外贸网站建设推广seo实战培训学校
  • 东莞网站优化费用营销号
  • 成都h5网站建设网络广告营销对应案例
  • 如何做网站 做论坛随州网络推广
  • 安康网站建设技巧厦门人才网个人会员
  • b2b电子商务网站交易流程推广联盟
  • 做网站一个月工资7个经典软文营销案例
  • 做网站的成本有多少钱外链生成工具
  • 微信公众号微网站怎么做推广方案的内容有哪些
  • 你愿不愿意做我女朋友网站网络营销项目策划
  • 网站开发从入门到精通谷歌搜索引擎seo