St

StableLM2-12B

基础大模型

StableLM2-12B

发布时间: 2024-04-08

模型参数(Parameters)
120.0
最高上下文长度(Context Length)
4K
是否支持中文
不支持
推理能力(Reasoning)

模型基本信息

最高上下文输入长度

4K tokens

最长输出结果
未披露
模型类型

基础大模型

发布时间

2024-04-08

模型预文件大小

24GB

开源和体验地址

代码开源状态
预训练权重开源
Stability AI Membership - 收费商用授权
GitHub 源码
暂无GitHub开源地址
Hugging Face
在线体验
暂无在线体验地址

官方介绍与博客

官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度
暂无数据
接口价格
输入价格:
  • 文本: 暂无数据
  • 图片: 暂无数据
  • 音频: 暂无数据
  • 视频: 暂无数据
  • Embedding: 暂无数据
输出价格:
  • 文本: 暂无数据
  • 图片: 暂无数据
  • 音频: 暂无数据
  • 视频: 暂无数据
  • Embedding: 暂无数据

输入支持的模态

文本

输入不支持

图片

输入不支持

视频

输入不支持

音频

输入不支持

Embedding(向量)

输入不支持

输出支持的模态

文本

输出不支持

图片

输出不支持

视频

输出不支持

音频

输出不支持

Embedding(向量)

输出不支持

StableLM2-12B模型在各大评测榜单的评分

发布机构

模型介绍

Stability AI最新推出了Stable LM 2系列中的120亿参数多语言语言模型。这是一款同时包含基础版本和针对指令进行微调版本的模型。该模型在英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语7种语言上进行了训练,总计使用了2万亿tokens的语料。


主要特点:

  1. 中等规模但高效:120亿参数的规模使其能够在普通硬件上高效运行(4090的24G显存勉强够用),而性能却可媲美一些大得多的模型。
  2. 多语种支持:覆盖7种主流语言,可用于多种跨语言应用场景。
  3. 指令遵从能力:指令微调版本在工具使用和函数调用等任务上表现出色,非常适合构建检索增强系统等应用。


不过需要注意的是,这个模型需要加入StabilityAI的membership会员才能商用,否则只能研究用。会员一个月20美元即可,也就是说虽然收费,但是也不算贵。


StableLM2-12B的测试结果

基准测试显示,StableLM 2 12B在常见NLP任务上的表现位居同级别模型前列,在保持较小尺寸的同时性能很是优异。其基座版本的模型比140亿参数的Qwen1.5-14B评测结果略低,但是指令优化版本的评测结果则高于Qwen1.5-14B。


下图是指令优化版本和其它模型在MT-Bench上的对比:



其指令优化版本与其它模型在其它评测对比:




更详细的评测可以参考DataLearnerAI的大模型评测排行: https://www.datalearner.com/ai-models/llm-evaluation 

关注DataLearnerAI公众号

关注DataLearnerAI微信公众号,接受最新大模型资讯

DataLearnerAI WeChat