Apple 研究团队提出三模态掩码扩散模型设计空间

Apple 研究团队首次从头预训练了可处理文本、图文和音频文本的三模态掩码扩散模型。该研究在 3B 参数量、6.4T token 的规模下，于文本生成、文生图和文生音频任务上均取得强劲结果，并系统分析了多模态扩展规律、模态混合比例和噪声调度。