这里推荐一个本地微调大模型的框架。
ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。
更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。
Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。
{dede:pagebreak/}
2029年中国能载人登上月球吗?
为什么 mac mini 的 m4 版本价格这么低呢?
导师给了1.4W要我给工作室买个主机,是整机还是自己配?
为什么中国防空反导系统才7年就从山寨到全面原创且超越了俄罗斯?
为什么游戏总是缺少 dll 文件?
请问有没有什么工具能够生成局域网的网络拓扑结构图?
如何看待 Rust 写的 PNG 解码器比 C 实现更快?
汉语是牺牲了什么,才成为世界最紧凑、最高效的语言?
QQ为什么败给微信?
如何判断鱼缸中的硝化系统是否已经成功建立?
万兆的网络速度有多大意义?
为什么要学go语言,golang的优势有哪些?
2029年中国能载人登上月球吗?
皮肤太白是种怎样的体验?
你卡过最厉害的bug是什么?
Node.js是谁发明的?