St

StableCode-Completion-Alpha-3B-4K

编程大模型

StableCode-Completion-Alpha-3B-4K

发布时间: 2023-08-08

模型参数(Parameters)
30.0
最高上下文长度(Context Length)
4K
是否支持中文
不支持
推理能力(Reasoning)

模型基本信息

最高上下文输入长度

4K tokens

最长输出结果
未披露
模型类型

编程大模型

发布时间

2023-08-08

模型预文件大小

6.08GB

开源和体验地址

代码开源状态
预训练权重开源
Apache 2.0 - 免费商用授权
GitHub 源码
Hugging Face
在线体验
暂无在线体验地址

官方介绍与博客

官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度
暂无数据
接口价格
输入价格:
  • 文本: 暂无数据
  • 图片: 暂无数据
  • 音频: 暂无数据
  • 视频: 暂无数据
  • Embedding: 暂无数据
输出价格:
  • 文本: 暂无数据
  • 图片: 暂无数据
  • 音频: 暂无数据
  • 视频: 暂无数据
  • Embedding: 暂无数据

输入支持的模态

文本

输入不支持

图片

输入不支持

视频

输入不支持

音频

输入不支持

Embedding(向量)

输入不支持

输出支持的模态

文本

输出不支持

图片

输出不支持

视频

输出不支持

音频

输出不支持

Embedding(向量)

输出不支持

StableCode-Completion-Alpha-3B-4K模型在各大评测榜单的评分

发布机构

模型介绍

StableCode-Completion-Alpha-3B-4K 是一个具有30亿参数的仅解码器的代码补全模型,它在多种编程语言上进行了预训练,这些编程语言在stackoverflow开发者调查中名列前茅。


模型细节

  • 开发者:Stability AI
  • 模型类型:基于transformer解码器架构的自回归语言模型
  • 语言:代码
  • 库:GPT-NeoX
  • 许可证:预训练结果在Apache 2.0许可证下授权

模型架构

  • 参数:2,796,431,360
  • 隐藏大小:2560
  • 层数:32
  • 头部:32
  • 序列长度:4096

训练
StableCode-Completion-Alpha-3B-4k在bigcode/starcoder-data上预训练,上下文长度为4096,总共有3000亿tokens。


使用和限制
StableCode-Completion-Alpha-3B-4K可以独立生成新的代码补全,但建议您与BigCode和HuggingFace开发的工具一起使用StableCode-Completion-Alpha-3B-4K,以识别并(如有必要)归因于与训练代码匹配的任何输出。

关注DataLearnerAI公众号

关注DataLearnerAI微信公众号,接受最新大模型资讯

DataLearnerAI WeChat