GPT4All LoRA - GPT4All LoRA

模型详细情况和参数

GPT4All LoRA

模型全称
GPT4All LoRA
模型简称
GPT4All LoRA
模型类型
发布日期
2023-03-29
预训练文件大小
8.41MB
模型参数数量(亿)
70
代码是否开源
预训练结果是否开源
预训练结果商用授权情况
发布论文名(官方博客名)
GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation from GPT-3.5-Turbo
基础模型
...
LLaMA
查看详情
发布机构

GPT4All LoRA 简介

GPT4All LoRA是NomicAI开源的就MetaAI发布的LLaMA微调的大语言模型。GPT4All最开始训练了好几个模型,GPT4All LoRA是运行了4次Epochs之后得到的。


Nomic花了大约四天的时间、800美元的GPU成本(从Lambda Labs和Paperspace租用),包括几次失败的训练,以及500美元的OpenAI API费用,成功生成了这些模型。而本次发布的模型名为gpt4all-lora,可以在Lambda Labs DGX A100 8x 80GB上大约八个小时内完成训练,总成本为100美元。

欢迎大家关注DataLearner官方微信,接受最新的AI模型和技术推送

GPT4All LoRA所属的领域
自然语言处理

自然语言处理

Natural Language Process

35个资源

GPT4All LoRA相关的任务
问答系统

问答系统

Question Answering

35个资源