报错信息

Access to model meta-llama/Llama-2-7b-hf is restricted. You must be authenticated to access it.

原因是 meta-llama/Llama-2-7b-hf 这个模型需要授权,需先去 huggingface.co 官网上获取授权,然后在本地使用 huggingface-cli login 输入 token 后才可正常使用。

1
2
pip install -U "huggingface_hub[cli]" # 安装huggingface-cli
huggingface-cli login

token 的获取方式为:huggingface 主页 -> Settings -> Access Tokens -> 新建一个 Read 权限的 token 即可。