模型详细情况和参数
XVERSE-13B-Chat是元象科技发布的大语言模型XVERSE-13B模型( https://www.datalearner.com/ai-models/pretrained-models/XVERSE-13B )对齐后的版本,经过对话优化之后更加适合用来做聊天应用。
XVERSE-13B-Chat是目前中文开源模型中效果最好的模型之一,也是可以免费商用授权的大模型。相比较基础版本的模型,XVERSE-13B-Chat在多个方面有了更大的提升。
XVERSE-13B-Chat的硬件资源需求如下:
模型 | 精度 | 显存占用(GB) | MMLU 准确率 |
---|---|---|---|
XVERSE-13B-Chat | BF16 / FP16 | 28.2 | 60.2 |
XVERSE-13B-Chat | INT8 | 16.8 | 60.3 |
XVERSE-13B-Chat | INT4 | 10.9 | 55.0 |
关于XVERSE-13B-Chat的评分与其它模型的比较参考: https://www.datalearner.com/ai-models/llm-evaluation