PaLM 2
基础大模型Pathways Language Model 2
Pathways Language Model 2 是由 Google Research 发布的 AI 模型，发布时间为 2023-05-10，定位为 基础大模型，参数规模约为 3400亿，上下文长度为 2K，采用 不开源 许可，在 GSM8K 上取得 80.70 分。
数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法
模型基本信息
开源和体验地址
官方介绍与博客
API接口信息
评测结果
发布机构
模型解读
-----------------------------2023年5月18日更新---------------------------------
2023年5月17日，CNBC报道了PaLM2的进一步信息。它是基于3.6万亿tokens数据训练的。而PaLM第一代的训练数据只包含了0.78万亿tokens。也就是说PaLM2的训练数据中的tokens约是PaLM的5倍。同时，PaLM2的参数约3400亿，也比前一代5400亿参数规模小很多。
Google发布的第二代语言模型，提升了多语言、推理和编码的能力。
Google在2023年的I/O大会上宣布了PaLM2模型。
作为PaLM的继任者，PaLM2的发布被谷歌寄予厚望。与OpenAI类似，谷歌官方没有透露很多关于模型的技术细节，虽然发布了一个92页的技术报告，但是，正文内容仅仅27页，引用和作者14页，剩余51页都是展示大量的测试结果。而前面的27页内容中也没有过多的细节描述。尽管如此，这里面依然有几个十分重要的结论供大家参考。
简要的结论如下：
- PaLM2支持一百多种语言
- PaLM2的模型参数比PaLM更小，但是能力更强
- PaLM2与GPT-4相比很有竞争力
- PaLM2有多个版本，最小的版本可以在移动端离线使用
关于PaLM2的技术分析可以参考： https://www.datalearner.com/blog/1051683818033012
DataLearner 官方微信
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
