416 B

Raw Blame History

项目目录

项目启动

1.模型启动

终端使用 screen 进入持久线程 screen -R -S model

llama3: python3 /workspace/llama3-ch.py qwen1.5-32b: python3 /workspace/qwen32b.py

统一端口： http://192.168.68.30:10800/generate data = { 'system': prompt, 'user': prompt }

2.网页UI启动

screen -R -S QA-demo 启动脚本 conda activate QA-demo sh /workspace/LLM-HKTB/webui_hktb_qwen_local.sh