模型详细情况和参数
阿里巴巴开源的千问大模型,是2.5代的320亿参数规模大语言模型。以Apache2.0开源协议开源,意味着可以完全免费商用,协议非常友好。
Qwen2.5-32B开源了多个不同的版本,包括基座版本和指令微调的版本:
Qwen2.5-32B版本 | 版本简介 | HuggingFace开源地址 |
---|---|---|
Qwen2.5-32B | 320亿参数的基座模型 | https://huggingface.co/Qwen/Qwen2.5-32B |
Qwen2.5-32B-Instruct | 指令微调版本 | https://huggingface.co/Qwen/Qwen2.5-32B-Instruct |
Qwen2.5-32B-Instruct-AWQ | AWQ的4bit量化版本的指令微调Qwen2.5 | https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-AWQ |
Qwen2.5-32B-Instruct-GPTQ | GPTQ量化版本的指令微调Qwen2.5,包含不同的量化水平 | Int8: https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GPTQ-Int8 Int4: https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4 |
Qwen2.5-32B-Instruct-GGUF | GGUF量化格式 | https://huggingface.co/Qwen/Qwen2.5-32B-Instruct-GGUF |