大模型的发展速度很快,对于需要学习部署使用大模型的人来说,显卡是一个必不可少的资源。使用公有云租用显卡对于初学者和技术验证来说成本很划算。DataLearnerAI在此推荐一个国内的合法的按分钟计费的4090显卡公有云服务提供商仙宫云,可以按分钟租用24GB显存的4090显卡公有云实例,非常具有吸引力~
如何基于PyTorch来优化大模型训练的内存(显存)使用:8种方法总结
HuggingFace开源语音识别模型Distil-Whisper,基于OpenAI的Whisper-V2模型蒸馏,速度快6倍,参数小49%!
如何对向量大模型(embedding models)进行微调?几行代码实现相关原理
【转载】全面解读ICML 2017五大研究热点 | 腾讯AI Lab独家解析
扩散模型是如何工作的:从0开始的数学原理——How diffusion models work: the math from scratch
什么时候该使用推理大模型?OpenAI官方推出推理大模型和大语言模型的最佳使用指南
OpenAI的GPT模型API接口新增的top_logprobs和logprobs参数是什么?有什么用处?为什么说这个参数可以帮助我们减轻大模型幻觉问题