模型详细情况和参数
Deci公司开源的指令优化大模型,在DeciLM-7B模型( https://www.datalearner.com/ai-models/pretrained-models/DeciLM-7B )基础上进行LoRA微调得到。模型在DeciLM-7B基础上获得进一步的性能提升。
Model | Average | ARC | HellaSwag | MMLU | TruthfulQA | Winogrande | GSM8K |
---|---|---|---|---|---|---|---|
DecilLM-7B | 61.55 | 59.39 | 82.51 | 59.76 | 40.33 | 79.95 | 47.38 |
DecilLM-7B-instruct | 63.19 | 61.01 | 82.37 | 60.24 | 49.75 | 79.72 | 46.02 |