StableCode-Instruct-Alpha-3B - StableCode-Instruct-Alpha-3B
模型详细情况和参数
StableCode-Instruct-Alpha-3B
- 模型全称
- StableCode-Instruct-Alpha-3B
- 模型简称
- StableCode-Instruct-Alpha-3B
- 模型类型
- 编程大模型
- 发布日期
- 2023-08-08
- 预训练文件大小
- 6.08GB
- 是否支持中文（中文优化）
- 否
- 最高支持的上下文长度
- 4K
- 模型参数数量（亿）
- 30.0
- 模型代码开源协议
- Apache 2.0
- 预训练结果开源商用情况
- StableCode Research License - 不可以商用
- 模型GitHub链接
- https://github.com/EleutherAI/gpt-neox
- 模型HuggingFace链接
- https://huggingface.co/stabilityai/stablecode-instruct-alpha-3b
- 在线演示地址
- 暂无
- 官方博客论文
- Announcing StableCode
- 基础模型
- 无基础模型
- 发布机构
- 评测结果
-
评测名称 评测能力方向 评测结果
StableCode-Instruct-Alpha-3B 简介
StableCode-Instruct-Alpha-3B 是一个具有30亿参数的仅解码器的指令调优代码模型，它在多种编程语言上进行了预训练，这些编程语言在stackoverflow开发者调查中名列前茅。
模型细节：
- 开发者：Stability AI
- 模型类型：基于transformer解码器架构的自回归语言模型
- 语言：代码
- 库：GPT-NeoX
- 许可证：模型检查点在StableCode Research License下授权
- 联系方式：有关模型的问题和评论，请发送电子邮件至 lm@stability.ai
模型架构：
- 参数：2,796,431,360
- 隐藏大小：2560
- 层数：32
- 头部：32
- 序列长度：4096
训练：
StableCode-Instruct-Alpha-3B 是在StableCode-Completion-Alpha-3B上进行指令微调的版本，使用代码指令数据集。
其他信息：
- 上个月的下载次数：9
- 模型大小：3.31B 参数
- 张量类型：BF16
这个模型可以按需加载到推理API上。
欢迎大家关注DataLearner官方微信，接受最新的AI模型和技术推送
