GitHub 热门项目：bilibot

GitHub项目：bilibot 仓库地址：https://github.com/linyiLYi/bilibot 星级：3138 | 作者：linyiLYi 项目描述：根据bilibili用户评论微调的本地聊天机器人。 =================================================== 自述文件内容： # 哔哩哔哩聊天机器人 由[哔哩哔哩](https://bilibili.com)用户评论训练成熟的本地聊天机器人。支持文字聊天，也可以通过 questions.txt 生成针对给定问题的语音对话。 本项目文字生成使用的基础模型为 [Qwen1.5-32B-Chat](https://huggingface.co/Qwen/Qwen1.5-32B-Chat)，借助苹果 [mlx-lm LORA 示例项目](https://github.com/ml-explore/mlx-examples/blob/main/llms/mlx_lm/LORA.md) 对基础模型进行深度训练。基于开源项目的语音生成部分[GPT-SoVITS](https://github.com/RVC-Boss/GPT-SoVITS)，问题语音来自B站用户[白菜工厂1145号员工](https://space.bilibili.com/518098961)训练的派蒙语音模型。 ### 文件结构 项目主要脚本配置在`main/`文件夹下，模型存放在`models/`文件夹下。提示词模板、问题列表存放在`text/`文件夹下。`tools/compress_model.py`对完整模型进行自行压缩，可以大幅度加快模型内容的速度。 ## 跑步指南 本项目基于Python编程语言，程序运行使用的Python版本为3.10，建议使用[Anaconda](https://www.anaconda.com)配置Python环境。以下配置过程已在macOS系统测试通过。 ### 配置环境 ```` conda 创建-n bilibot python=3.10 conda 激活 bilibot 比利博特 pip install -r 要求.txt ```` ### 模型训练与推理测试 使用控制台指令，借助 [mlx-lm](https://github.com/ml-explore/mlx-examples/blob/main/llms/mlx_lm/LORA.md) 对 Qwen1.5-32B-Chat 进行更一下： ```` python -m mlx_lm.lora --model models/Qwen1.5-32B-Chat --data data/ --train --iters 1000 --batch-size 16 --lora-layers 12 ```` 将扭矩后的`adapters`文件与基础模型合并： ```` python -m mlx_lm.fuse --model models/Qwen1.5-32B-Chat --save-path models/Qwen1.5-32B-Chat-FT --adapter-path models/Qwen1.5-32B-Chat-Adapters ```` 对合并后的模型进行求解加速： python 工具/compress_model.py 对姿势训练后的模型进行对话测试： 蟒蛇聊天.py ### 语音生成 本项目借助开源项目 [GPT-SoVITS](https://github.com/RVC-Boss/GPT-SoVITS) 进行语音生成。 首先参考 [GPT-SoVITS](https://github.com/RVC-Boss/GPT-SoVITS) 的官方指南配置环境并运行语音生成程序。 ```` conda 创建-n GPTSOVITS python=3.9 conda 激活 GPTSOVITS cd GPT-苏联 pip install -r 要求.txt 蟒蛇 webui.py ```` 运行api程序，分别使用端口9880和9881提供派蒙与林亦的语音生成服务，以下请使用GPT-SoVITS代码库完成： ```` python api.py -s SoVITS_weights/paimeng2_e110_s159940.pth -g GPT_weights/paimeng2-e10.ckpt -dr样本/Paimon/疑问—哇，这个，还有这个…刚刚和史莱姆打了一场，提出了这么多意见吗？.wav -dt "哇，这个，还有这个…刚刚和史莱姆打了一场，提出了这么多意见吗？" -dl “zh”-a 127.0.0.1 -p 9880 python api.py -s SoVITS_weights/linyi_e25_s1150.pth -g GPT_weights/linyi-e50.ckpt -dr "samples/linyi/【愤怒】你这问题太弱智了，我都不知道该从哪开始骂你。.WAV" -dt "你这问题太弱智了，我都不知道该从哪开始骂你。" -dl "zh" -a 127.0.0.1-p 9881 ```` 运行问答生成程序： ```` python start_qa_dialogue.py ```` ## 参考 1.机器学习框架MLX，来自苹果机器学习研究组：https://github.com/ml-explore/mlx 2.阿里通义千问Qwen1.5：https://qwenlm.github.io/zh/blog/qwen1.5/ 3.开源文本转语音项目GPT-SoVITS，作者[花儿不哭](https://space.bilibili.com/5760446)：https://github.com/RVC-Boss/GPT-SoVITS 4.派蒙语音模型，作者[白菜工厂1145号](https://space.bilibili.com/518098961)：[【GPT-SoVITS】30小时超大数据集测试，堆时长真的有用吗员工？](https://www.bilibili.com/video/BV1Yu4m1N79m)