#MoE

智能AI None

通过自动管道搜索对 4 名专家异构专家混合进行系统探索

arXiv:2606.23739v1 Announce Type: new Abstract: We present an automated large-scale search pipeline for heterogeneous 4-

the and pipeline

2026-06-24 Yashkumar R Lukhi, Harsh Rameshbhai Moradiya, Radu Timofte, Dmitry Ignatov

智能AI None

用于结构 MoE 压缩的归因引导和覆盖最大化修剪

18304v1 Announce Type: new Abstract: Mixture-of-Experts (MoE) models scale compute efficiently, yet remain expensive to

and MoE experts

2026-06-18 Yifu Ding, Jiacheng Wang, Ge Yang, Yongcheng Jing, Jinyang Guo, Xianglong Liu, Dacheng Tao

智能AI None

MODE：MoE 多模态 LLM 的模态分解专家级混合精度量化

17118v1 Announce Type: new Abstract: Mixture-of-Experts Multimodal Large Language Models (MoE-MLLMs) offer remarkable pe

expert the MoE

2026-06-17 Yuanteng Chen, Peisong Wang, Zhilei Liu, Nanxin Zeng, Yuantian Shao, Shiqiang Lang, Tao Liu, Chuangyi Li, Qinghao Hu, Gang Li, Jing Liu, Jian Cheng

数码硬件 None

新突破！国产算力成功完成万亿级大模型全参数训练

快科技6月9日消息，据媒体报道，日前， 深圳河套学院AI训练平台项目团队联合哈尔滨工业大学（深圳）、深圳市大数据研究院、华为GTS（全球技术服务）等多家单位，围绕国产算力大模型训练开展联合攻关。仅用一个月时间，项目团队便基于昇腾910C国产

DeepSeek Pro SFT

2026-06-08 鹿角

智能AI None

DeepSeek狂吞17万亿Tokens？国产AI算力，最关键一战来了！

新智元报道 【新智元导读】 DeepSeek三模型霸占OpenRouter前十，月调用合计超17万亿tokens。Agent负载正在碾压一切基础设施。现在， 自主创新的国产生态，正在悄悄改写下一代AI基础设施的入场券。打开OpenRoute

DeepSeek MoE 万亿

2026-05-29 新智元

智能AI None

通过专家混合应对多模式学习挑战：一项调查

arXiv:2605.27431v1 Announce Type: new Abstract: Mixture-of-Experts (MoE) presents a naturally compatible and scalable fr

and MoE multimodal

2026-05-28 Liangwei Nathan Zheng, Wei Emma Zhang, Olaf Maennel, Lin Yue, Weitong Chen

智能AI None

20岁写出Transformer的人，真开源了2180亿大模型

新智元报道 【新智元导读】 刚刚，Cohere放出2180亿参数的MoE大模型Command A+，单张B200可跑，支持48种语言，还带原生引用能力。但这次发布最炸的，不在参数表上，而在那一个许可证：Apache 2。「Attention

Cohere Command MoE

2026-05-22 新智元

数码硬件 None

上游不优化我自己来！五年老卡RX 6800 XT内核魔改：MoE速度暴增至1770t/s

快科技5月13日消息， 开发者Stormrage34近日发布llama。cpp分支TurboQuant-HIP v0。0版本，通过重写矩阵乘法内核，成功将AMD RX 6800 XT显卡的MoE大模型预填充速度从上游llama。cpp主分支

AMD llama cpp

2026-05-13 红茶