用于起草交互式放射学报告的离散扩散语言模型

arXiv:2607.01436v1 公告类型：新 摘要：扩散语言模型通过双向去噪标记画布来生成文本，而不是从左到右发出标记，它已经与自回归 (AR) 生成竞争。然而，医学基础模型仍然几乎完全是自回归的。我们采用了专家混合扩散语言模型 DiffusionGemma-26B，并在医学视觉问答数据集上的相同 LoRA 配方下将其与其相同大小的 AR 兄弟 Gemma-4-26B 进行基准测试，并由冗长的法学硕士法官进行评分。 Diffusion matches or exceeds AR on all of them, and the finetuned model (3.8B active) is competitive with frontier vision-language models;它的解码速度也快了 3.5-4.4 倍。 Beyond this parity, the diffusion model offers a drafting capability AR lacks: any-order infill.由于画布是双向去噪的，放射科医生可以修复报告片段并让模型填充它们之间的文本，这是扩散固有的操作，但不是自回归的固有操作，自回归的性能较差。 This suits real reports, which are often terse or inconsistent across clinicians and institutions.