一键在本地跑类似 ChatGPT 的方案来了！LLaMA 是 Meta 开源的大语言模型

一键在本地跑类似 ChatGPT 的方案来了！

LLaMA 是 Meta 开源的大语言模型。过去的这个周末里，现有人用 c语言做了重新封装，这样在单机上就能跑起来。昨天又有人做了 js 封装，通过 npm 就能一键下载安装！

真的是 NLP 的未来已来！

https://t.me/dps_build/56

DPS Build

一键安装 LlaMA 的工具来了！

一键安装 LLaMA 之后，在一台 M1 Macbook Air上跑起了 7B 的模型，速度还OK。大概吃了4G 内存。

这台机器有 16G 内存，8核的 M1 CPU。跑起来之后，CPU 会跑满。

具体安装步骤：

1. npm install npx (没有 npm 的同学可以先装 npm，js 的包管理工具）
2. npx dalai llama
3. npx dalai serve

它会自动安装相关的 python 包，并下载 7B 的 LLaMA 模型。…