GitHub 热门项目:MoA

摘要

GitHub项目:MoA 仓库地址:https://github。com/togethercomputer/MoA Stars:2897 | 作者:togethercomputer 项目描述:Together Mixture-Of-Agents (MoA) – 65。

MoA https the with python
2026-05-21 1 阅读 GitHub Trending
GitHub 项目:MoA 仓库地址:https://github.com/togethercomputer/MoA 星级:2897 | 作者:togethercomputer 项目描述:Together Mixture-Of-Agents (MoA) – 65.1% on AlpacaEval with OSS models =================================================== 自述文件内容: # 混合药剂 (MoA) [![许可证](https://img.shields.io/badge/License-Apache_2.0-green.svg)](许可证) [![arXiv](https://img.shields.io/badge/ArXiv-2406.04692-b31b1b.svg)](https://arxiv.org/abs/2406.04692) [![Discord](https://img.shields.io/badge/Discord-Together%20AI-blue?logo=discord&logoColor=white)](https://discord.com/invite/9Rk6sSeWEG) [![Twitter](https://img.shields.io/twitter/url/https/twitter.com/togethercompute.svg?style=social&label=Follow%20%40togethercompute)](https://twitter.com/togethercompute) MoA 建筑 概述 · 快速入门 · 高级示例 · 交互式 CLI 演示 · 评估 · 结果制作人员

## 概述 代理混合 (MoA) 是一种新颖的方法,它利用多个法学硕士的集体优势来提高绩效,实现最先进的结果。通过采用每层包含多个 LLM 代理的分层架构,**MoA 在 AlpacaEval 2.0 上的表现显着优于 GPT-4 Omni 的 57.5%,得分为 65.1%**,仅使用开源模型! ## 快速入门:MoA 50 LOC 要开始在您自己的应用程序中使用 MoA,请参阅“moa.py”。在这个简单的示例中,我们将使用 2 个层和 4 个 LLM。您需要: 1. 安装Together Python库:`pip install Together` 2. 获取您的 [Together API 密钥](https://api.together.xyz/settings/api-keys) 并将其导出: `export TOGETHER_API_KEY=` 3.运行python文件:`python moa.py` MoA 解释 ## 多层 MoA 示例 在前面的示例中,我们介绍了如何实现具有 2 层的 MoA(4 个 LLM 应答和一个 LLM 聚合)。然而,MoA 的优势之一是能够穿过多层以获得更好的响应。在此示例中,我们将介绍如何在“advanced-moa.py”中运行具有 3 个以上层的 MoA。 ````蟒蛇 python 高级-moa.py ```` MoA – 3 层示例 ## 交互式 CLI 演示 这个交互式 CLI 演示展示了一个简单的多轮聊天机器人,其中最终响应是从各种参考模型聚合而来的。 要运行交互式演示,请执行以下 3 个步骤: 1. 导出您的 API 密钥:`export TOGETHER_API_KEY={your_key}` 2.安装要求:`pip install -rrequirements.txt` 3. 运行脚本:`python bot.py` CLI 将提示您交互输入指令: 1. 首先在“>>>”提示处输入您的指令。 2. 系统将使用预定义的参考模型处理您的输入。 3. 它将根据这些模型的聚合输出生成响应。 4. 您可以继续对话