LLaMA Pro - 8B - LLaMA Pro - 8B

模型详细情况和参数

LLaMA Pro - 8B

模型全称
LLaMA Pro - 8B
模型简称
LLaMA Pro - 8B
模型类型
基础大模型
发布日期
2024-01-04
预训练文件大小
16.72GB
是否支持中文(中文优化)
最高支持的上下文长度
4K
模型参数数量(亿)
83.0
模型代码开源协议
Apache 2.0
预训练结果开源商用情况
Llama 2 Community License Agreement - 免费商用授权
在线演示地址
暂无
DataLearnerAI的模型介绍
基础模型
无基础模型
发布机构

LLaMA Pro - 8B 简介

LLaMA Pro - 8B是腾讯ARC实验室提出的一种大模型微调的方法。相比较传统的有监督微调方法,这个方法可以更好地解决微调的知识遗忘问题。




相比较原始的Llama2-7B,LLaMA Pro - 8B增加了13亿的参数,但是效果好很多:



欢迎大家关注DataLearner官方微信,接受最新的AI模型和技术推送

LLaMA Pro - 8B所属的领域
自然语言处理

自然语言处理

Natural Language Process

35个资源

LLaMA Pro - 8B相关的任务
问答系统

问答系统

Question Answering

35个资源