GP

GPT4All LoRA

基础大模型GPT4

GPT4All LoRA

发布时间: 2023-03-29更新于: 2023-05-20 21:31:25.406511
模型参数
70亿
上下文长度
2K
中文支持
不支持
推理能力

GPT4All LoRA 是由 Nomic AI 发布的 AI 模型,发布时间为 2023-03-29,定位为 基础大模型,参数规模约为 70亿,上下文长度为 2K,模型文件大小约 8.41MB。

数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法

GPT4All LoRA

模型基本信息

推理过程
不支持
思考模式
不支持思考模式
上下文长度
2K tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2023-03-29
模型文件大小
8.41MB
MoE架构
总参数 / 激活参数
70亿 / 不涉及
知识截止
暂无数据
GPT4All LoRA

开源和体验地址

代码开源状态
暂无数据
预训练权重开源
暂无数据
在线体验
暂无在线体验地址
GPT4All LoRA

官方介绍与博客

GPT4All LoRA

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
GPT4All LoRA

评测结果

当前尚无可展示的评测数据。

和其他模型对比

暂时没有为该模型整理的相关对比页面。

想自定义其他组合?打开对比工具

GPT4All LoRA

发布机构

GPT4All LoRA

模型解读

GPT4All LoRA是NomicAI开源的就MetaAI发布的LLaMA微调的大语言模型。GPT4All最开始训练了好几个模型,GPT4All LoRA是运行了4次Epochs之后得到的。


Nomic花了大约四天的时间、800美元的GPU成本(从Lambda Labs和Paperspace租用),包括几次失败的训练,以及500美元的OpenAI API费用,成功生成了这些模型。而本次发布的模型名为gpt4all-lora,可以在Lambda Labs DGX A100 8x 80GB上大约八个小时内完成训练,总成本为100美元。

基础模型

DataLearner 官方微信

欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送

DataLearner 官方微信二维码