ANTI-AI ARCHIVE
艺术史节点 / 279 · 2024-06-17

MAR与Diffusion Loss:无需向量量化的自回归图像生成

Autoregressive Image Generation without Vector Quantization

Li, Tianhong; Tian, Yonglong; Li, He; Deng, Mingyang; He, Kaiming

导读

该论文用扩散过程描述连续词元的概率分布,将自回归建模与连续潜变量连接起来,说明自回归图像生成并不必然依赖离散量化。

原始文献#279
图1:连续词元上的Diffusion Loss及自回归条件。查看大图 ↗

图1:连续词元上的Diffusion Loss及自回归条件。 来源为v3,图像版本与论文首次公开日分别记录。

Li, Tianhong; Tian, Yonglong; Li, He; Deng, Mingyang; He, Kaiming · original paper / arXiv · 原论文图文与所引作品权利归各自权利人;研究引用不代表开放授权,转载权利待独立复核。

资料出处 · Autoregressive Image Generation without Vector Quantization ↗

档案研究说明

该论文用扩散过程描述连续词元的概率分布,将自回归建模与连续潜变量连接起来,说明自回归图像生成并不必然依赖离散量化。

ANTI-AI ARCHIVE · 修订 2026-10-03

论文研究了什么

作者用Diffusion Loss替代通常针对离散类别的交叉熵,建模每个词元的条件分布,并测试标准自回归与掩码自回归变体。扩散在这里参与局部概率建模,而不是简单替代整个序列组织。

本节依据: MAR与Diffusion Loss:无需向量量化的自回归图像生成

与生成艺术史的关系

编者解释:这使“扩散还是自回归”的二分不足以描述全部生成工具。记录混合方法有助于说明图像编码、排列顺序和抽样过程可以分别改变。

本节依据: MAR与Diffusion Loss:无需向量量化的自回归图像生成

阅读边界与版本

连续表示仍受编码器与训练数据限制;无向量量化不意味着图像信息无损保存。

本节依据: MAR与Diffusion Loss:无需向量量化的自回归图像生成

正文引用资料

MAR与Diffusion Loss:无需向量量化的自回归图像生成 ↗

核读arXiv摘要、署名和版本记录,以及原论文第2页所选图页;未全文审查证明、未复现实验。

核读arXiv摘要、署名和版本记录,以及原论文第2页所选图页;未全文审查证明、未复现实验。 正文与译文使用 AI 辅助,尚未经独立人工审校;分节引文标明依据,不代表已独立验证全部史实。

带着问题继续阅读

VAR:通过下一尺度预测进行视觉自回归生成 ↗

MAR / Diffusion Loss:对照VAR:通过下一尺度预测进行视觉自回归生成的方法、控制或评价条件。

Parti:扩展自回归模型以生成丰富图像 ↗

MAR / Diffusion Loss:对照Parti的方法、控制或评价条件。

PixArt-α:高效扩散 Transformer ↗

MAR / Diffusion Loss:对照PixArt-α的方法、控制或评价条件。

日期与版本记录

节点标注日期:2024-06-17 · 来源记录的历史日期:2024-06-17

时间线采用arXiv首次公开日,不以会议发表、模型上线或2026-10-03补录日替代。正文及图像参照v3;该版日期见原文版本记录。

以上日期属于历史事件或资料所记版本,不是本站页面的上线日期;保留原有日期精度与待核事项。

原始资料与进一步阅读

以下链接通往来源的论文、文章、机构或会议页面。外部原文的语言以来源为准。

01
MAR与Diffusion Loss:无需向量量化的自回归图像生成 ↗

Autoregressive Image Generation without Vector Quantization

https://arxiv.org/abs/2406.11838

当前引用地址

核读arXiv摘要、署名和版本记录,以及原论文第2页所选图页;未全文审查证明、未复现实验。

出处、翻译与核验状态

档案节点 #279 · 研究论文首次公开;方法、评估与制作条件

研究资料与补充出处 · 1

2022年以来重要论文补录与去重资料 · 核读arXiv摘要、署名和版本记录,以及原论文第2页所选图页;未全文审查证明、未复现实验。 · 026
原记日期: 2024-06-17
MAR与Diffusion Loss:无需向量量化的自回归图像生成 ↗
Autoregressive Image Generation without Vector Quantization

站内说明依据所列研究资料撰写,非外链全文译本;AI 辅助翻译,待独立人工审校。

已按条目所列范围核读官方资料;核读范围与待复核事项见来源说明。

引用本节点

ANTI-AI ARCHIVE. MAR与Diffusion Loss:无需向量量化的自回归图像生成. 艺术史节点 #279. https://salondesrefuses.cn/zh/art-history/349

引用具体史实时,请同时引用上方原始资料,并补充你的访问日期。本站说明不是外链全文译本。

相邻节点按时间顺序排列,不意味着二者存在直接影响或因果关系。