InternLM2-Base-20B - InternLM2-Base-20B
模型详细情况和参数
InternLM2-Base-20B
- 模型全称
- InternLM2-Base-20B
- 模型简称
- InternLM2-Base-20B
- 模型类型
- 基础大模型
- 发布日期
- 2024-01-17
- 预训练文件大小
- 40GB
- 是否支持中文（中文优化）
- 是
- 最高支持的上下文长度
- 200K
- 模型参数数量（亿）
- 200.0
- 模型代码开源协议
- Apache 2.0
- 预训练结果开源商用情况
- 免费商用授权 - 免费商用授权
- 模型GitHub链接
- https://github.com/InternLM/InternLM
- 模型HuggingFace链接
- https://huggingface.co/internlm/internlm2-base-20b
- 在线演示地址
- 暂无
- 基础模型
- 无基础模型
- 发布机构
InternLM2-Base-20B 简介
上海人工智能实验室最新开源的大语言模型，是InternLM系列模型的第二代，相比较第一代模型，上下文长度最长扩展到200K，综合性能上升明显。
InternLM2-Base-20B是其200亿参数的基座模型，与Yi-34B模型水平差不多，在MMLU评测上得分接近GPT-3.5。
| 评测数据集 | InternLM2-7B | InternLM2-Chat-7B | InternLM2-20B | InternLM2-Chat-20B | ChatGPT | GPT-4 |
|---|---|---|---|---|---|---|
| MMLU | 65.8 | 63.7 | 67.7 | 66.5 | 69.1 | 83.0 |
| AGIEval | 49.9 | 47.2 | 53.0 | 50.3 | 39.9 | 55.1 |
| BBH | 65.0 | 61.2 | 72.1 | 68.3 | 70.1 | 86.7 |
| GSM8K | 70.8 | 70.7 | 76.1 | 79.6 | 78.2 | 91.4 |
| MATH | 20.2 | 23.0 | 25.5 | 31.9 | 28.0 | 45.8 |
| HumanEval | 43.3 | 59.8 | 48.8 | 67.1 | 73.2 | 74.4 |
| MBPP(Sanitized) | 51.8 | 51.4 | 63.0 | 65.8 | 78.9 | 79.0 |
欢迎大家关注DataLearner官方微信，接受最新的AI模型和技术推送
InternLM2-Base-20B所属的领域
InternLM2-Base-20B相关的任务
