标签归档:voice_talk_chatgpt

在VPS上部署voice_talk_chatgpt这个项目

项目地址:

https://github.com/Ikaros-521/voice_talk_chatgpt

作者也有提供项目演示的地址:https://huggingface.co/spaces/Ikaros521/voice_talk_chatgpt,输入你自己的openai api key就可以使用了

部署后的截图:你也可以在自己的VPS上部署和自己使用。

你需要准备什么:

1、一个VPS,完整的权限。

2、了解docker的知识,会简单的linux命令行操作,会在命令行下编辑文本文件。

现在开始:

VPS安装docker:

apt install -y apt-transport-https ca-certificates curl software-properties-common gnupg lsb-release && \
curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg && \
echo "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null && \
apt update && \
apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

第一步:克隆项目到本地

git clone https://github.com/Ikaros-521/voice_talk_chatgpt

cd voice_talk_chatgpt

第二步:将项目Docker化,建立Dockerfile文件(文件我也是利用ai帮我生成,我再调整)

nano Dockerfile

输入以下文本内容,Ctrl+x,Y 保存

# 使用官方Python基础镜像
FROM python:3.10-slim
# 设置工作目录
WORKDIR /app
# 复制项目文件到容器中
COPY . .
# 安装依赖
RUN pip install --no-cache-dir -r requirements.txt
# 暴露7860端口(根据你的应用实际使用的端口)
EXPOSE 7860
# 运行应用
CMD ["python", "app.py"]

第三步:调整配置

nano config.json
添加你的api key

到最下面,修改gradio的参数:

  "gradio": {
    "share": true,
    "host": "0.0.0.0",
    "port": 7860,
    "save_local": true
  }


nano requirements.txt
修改gradio==4.16.0,我发现4.16.0版本的gradio会因为pydante这个库出错,换到最新的gradio即可
修改为:gradio==5.35.0 使用pip install gradio==0 –break-system-packages,你会看到所有可用的gradio的版本号。

nano app.py

demo.launch(share=config.get("gradio", "share"), server_name=config.get("gradio", "host"), server_port=config.get("gradio", "port"))

第四步:制作镜像

docker build -t voice_talk_chatgpt .
注意,命令行末尾有个英文句号 .

第五步:运行容器

docker run -d --name voice_talk_chatgpt \
--restart=always \
-p 7800:7860 \
-v ./config.json:/app/config.json \
-v ./out:/app/out \
-v ./app.py:/app/app.py \
voice_talk_chatgpt

访问:http://VPS地址:7800/ 即可访问

第六步:修改app.py文件,把最新的模型加入进去。作者的项目时间比较久了,模型列表未更新。

nano app.py 修改以上模型列表。

模型列表如何获得:

curl -v https://api.openai.com/v1/models \
-H “Content-Type: application/json” \
-H “Authorization: Bearer 你的api key贴这里” |grep id

重新启动container

docker restart voice_talk_chatgpt