GPT4All LoRA - GPT4All LoRA

模型详细情况和参数

GPT4All LoRA

模型全称
GPT4All LoRA
模型简称
GPT4All LoRA
模型类型
基础大模型
发布日期
2023-03-29
预训练文件大小
8.41MB
是否支持中文(中文优化)
最高支持的上下文长度
2K
模型参数数量(亿)
70.0
模型代码开源协议
预训练结果开源商用情况
-
在线演示地址
暂无
DataLearnerAI的模型介绍
基础模型
...
LLaMA
查看详情
发布机构

GPT4All LoRA 简介

GPT4All LoRA是NomicAI开源的就MetaAI发布的LLaMA微调的大语言模型。GPT4All最开始训练了好几个模型,GPT4All LoRA是运行了4次Epochs之后得到的。


Nomic花了大约四天的时间、800美元的GPU成本(从Lambda Labs和Paperspace租用),包括几次失败的训练,以及500美元的OpenAI API费用,成功生成了这些模型。而本次发布的模型名为gpt4all-lora,可以在Lambda Labs DGX A100 8x 80GB上大约八个小时内完成训练,总成本为100美元。

欢迎大家关注DataLearner官方微信,接受最新的AI模型和技术推送

GPT4All LoRA所属的领域
自然语言处理

自然语言处理

Natural Language Process

35个资源

GPT4All LoRA相关的任务
问答系统

问答系统

Question Answering

35个资源