LLaMA2 模型快速部署

简介

LLaMA2模型是经过了更广泛和深入的训练，具有更多的标记数量和更长的上下文长度。相较于LLaMA 1，LLaMA2 接受了 2 万亿个标记的训练，并且其上下文长度是LLaMA1 的两倍。除此之外，LLaMA-2-chat 模型还经过了超过 100 万个新的人类注释的训练。LLaMA2模型的训练语料比LLaMA 1 更为丰富，多出了40%的数据。其上下文长度由之前的2048升级到4096，这使得它可以理解和生成更长的文本，为更复杂的任务提供了更好的支持。预训练数据中的语言分布，百分比大于等于 0.005%，但其中大部分数据都是英文，因此 LLaMA2 在英语用例中表现最佳。如果想要在中文场景中使用LLaMA2 进行文案策划，还需要进行中文增强训练，以使其在处理中文文本时表现更加出色。

快速部署

登录安联云控制台（https://console.an-link.com/uhost/uhost/create  )，机型选择“GPU型”，“V100S”，CPU及GPU颗数等详细配置按需选择。
最低推荐配置：10核CPU 64G内存 1颗V100S。
镜像选择“镜像市场”，镜像名称搜索“LLaMA2”,选择该镜像创建GPU云主机即可。
GPU云主机创建成功之后，登录GPU云主机。