当前位置:首页 > 大杂烩 > 正文内容

qwen2.5vl模型微调第三天,使用Swift webui生成微调命令

高老师1个月前 (09-22)大杂烩60

(1)、启动webUI,why ?网上资料太乱,很多配置启动不了,那不如直接用webui

/www/server/pyporject_evn/qwen/bin/swift web-ui --lang zh

(2)、配置训练参数

--model_type:qwen2-vl-72b-instruct

--model_id_or_path:qwen/Qwen2-VL-72B-Instruct

--template_type:qwen2-vl

--dataset:这个下拉框是用来选择SWIFT框架内置的公开数据集的。因为您要用自己的数据,留空这个选项,不要选择任何内容。

选中可用GPU:默认自动选中第一张显卡,我需要勾选8张显卡

LoRA目标模块(--lora_target_modules):ALL   指的就是模型中那些最核心的“神经元连接层”。在Transformer架构的模型里,它们通常负责注意力计算(Query, Key, Value)和前馈网络等关键任务。

(3)、点击执行的时候webui会报错记得看看服务端报错,有时候还是缺一堆依赖

扫描二维码推送至手机访问。

版权声明:本文由高久峰个人博客发布,如需转载请注明出处。

本文链接:https://blog.20230611.cn/post/907.html

分享给朋友:

“qwen2.5vl模型微调第三天,使用Swift webui生成微调命令” 的相关文章

svn自动更新到网站

svn自动更新到网站

【一】.钩子文件的设置和创建(1).打开hooks目录,可以看到有一个post-commit.tmpl文件,这是一个模板文件。复制一份,重命名为post-commit,将其用户组设为www,并设置为可执行。chown www:www post-commitchmod +x post-commit(2...

Git本地仓库学习

Git本地仓库学习

1.全局用户信息设置 git  config  --global  user.name  gaojiufeng git  config  --global  user.email  392223903...

Git从远程仓库更新文件

Git从远程仓库更新文件

 git   pull  https://git.oschina.net/392223903/learn.git   master   换为您的git地址...

c#关闭计算机的代码

c#关闭计算机的代码

    1.关机Process.Start("shutdown", "-s -t 0");    2. 注销  Proc...

c#中文简体转换繁体

c#中文简体转换繁体

private const string fantizi = "高久峰是個程序員"; private const string jiantizi = "高久峰是个程序员...

IE浏览器无法显示此页解决方案

IE浏览器无法显示此页解决方案

方案1.IE浏览器"无法显示此页"的解决办法(1).按下Win+R键打开运行,输入netsh winsock reset,回车;(2).重启即可. 方案2.IE浏览器"无法显示此页"的解决办法 (1).设置-连接-局域网设置-自动检测设置开...