EN
rabbitjump.430school.net

成色18k.8.35mb菠萝UofT、UBC、MIT和复旦发布:扩散模型驱动的异常检测与生成综述

扩散模型(Diffusion Models, DMs)近年来展现出巨大的潜力,在计算机视觉和自然语言处理等诸多任务中取得了显著进展,而异常检测(Anomaly Detection, AD)作为人工智能领域的关键研究任务,在工业制造、金融风控、医疗诊断等众多实际场景中发挥着重要作用。近期,来自多伦多大学、不列颠哥伦比亚大学、麻省理工学院、悉尼大学、卡迪夫大学和复旦大学等知名机构的研究者合作完成题为 “Anomaly Detection and Generation with Diffusion Models: A Survey” 的长文综述,首次聚焦于 DMs 在异常检测与生成领域的应用。该综述系统性地梳理了图像、视频、时间序列、表格和多模态异常检测任务的最新进展并从扩散模型视角提供了全面的分类体系,结合生成式 AI 的研究动向展望了未来趋势和发展机遇,有望引导该领域的研究者和从业者。 扩散模型通过正向扩散与反向去噪的马尔可夫过程实现数据分布建模。正向过程遵循随机微分方程,逐步将数据分布转化为高斯噪声;反向过程通过神经网络学习去噪映射,渐进式恢复原始数据。其生成机制在捕捉复杂数据分布的细微差异上具有显著优势。与传统的广泛用于无监督 AD 任务的 GANs、VAE 和 Transformer 等相比,DMs 在生成样本的质量和多样性方面表现出色,在 AD 领域展示出出色潜力。 基于 DMs 的异常检测通过建模数据分布的内在结构,将异常定义为与正常数据模式的显著偏离。根据异常评分机制不同,可分为三大核心范式,如图 3 所示。 基于重构评分的方法通过扩散模型反向去噪过程重构输入样本,以重构误差作为异常分数。正常样本因符合学习到的分布,重构误差小;异常样本偏离分布,重构误差显著增大。典型应用如工业质检中,利用 U-Net 架构的扩散模型通过像素级重构误差定位异常。 基于密度的评分方法利用扩散模型对数据概率密度的估计能力,将负对数似然作为异常分数。正常样本对应高概率密度,负对数似然值低;异常样本位于低概率区域,分数超过阈值即判定为异常。 基于分数的评分方法利用数据分布的梯度信息(分数函数)量化样本与数据流形的偏离程度。正常样本位于流形表面,梯度范数小;异常样本处于低概率区域,梯度范数显著增大。 三种方法从不同维度刻画异常:重构评分基于样本空间距离,密度评分基于概率分布似然,分数评分基于流形几何梯度。实际应用中,重构方法对图像局部异常更敏感,密度方法适合时序数据全局检测,分数方法在高维非结构化数据中表现更优。 在图像异常检测(Image Anomaly Detection, IAD)领域,DMs 面临两大核心挑战:“恒等快捷方式”(Identity Shortcut)问题与高昂的计算成本。前者指模型在重构时倾向于直接复制输入中的异常区域,从而掩盖了异常;后者则源于扩散过程固有的多步迭代推理,限制了其实时应用。为应对这些挑战,综述中探讨了一系列前沿方法。例如,通过掩码重构、潜空间特征编辑或对抗性训练来打破 “恒等快捷方式”,迫使模型学习正常数据的深层分布而非简单复制。同时,为解决计算效率问题,研究者们提出了模型蒸馏、高效 ODE 求解器、潜空间扩散(Latent Diffusion Models, LDMs)以及模型稀疏化等多种加速策略。这些方法通过减少采样步数或在更低维的空间中操作,显著降低了推理时间和资源消耗,为扩散模型在工业质检、医疗影像分析等高要求的 IAD 场景中的实际部署铺平了道路。 图 4:图像异常检测方法示意图。(a)展示了基础的基于重构的方法;(b)展示了为解决 “恒等快捷方式” 问题而设计的条件式或多阶段变体方法,旨在提升对异常的敏感度。 视频异常检测(Video Anomaly Detection, VAD)的核心在于处理时序维度和复杂的运动模式,这使其比静态图像检测更具挑战性。异常可能表现为反常的动作序列或与既定模式不符的动态变化。因此,有效的 VAD 框架必须能够对时空依赖性进行建模。综述指出,先进的扩散模型通过引入光流、运动矢量或集成时空 Transformer 架构,将运动信息显式地融入到生成过程中。这种设计使模型能够学习正常事件的时空演化规律,从而敏锐地捕捉到速度、方向或加速度上的异常变化。例如,模型通过对过去帧或运动表征进行条件化,预测未来的正常帧,并将预测结果与实际观测进行比较。这种基于运动和时序上下文的建模方式,极大地提升了模型在监控、自动驾驶等动态场景中检测复杂异常事件的准确性和鲁棒性。 图 5:视频异常检测框架示意图。该框架集成了时空特征提取与运动建模,通过光流或 Transformer 等技术将运动信息融入扩散模型,以有效识别空间外观和时间演变中的异常。 时间序列异常检测(Time Series Anomaly Detection, TSAD)面临的挑战源于数据的内在时序依赖性、不规则采样和潜在的长期关联。综述归纳了扩散模型在该领域的两大主流范式:基于重构(reconstruction-based)与基于插补(imputation-based)。基于重构的方法利用扩散模型强大的生成能力来复原输入的时间序列,那些无法被精确重构、导致较大误差的数据点或片段被视为异常。而基于插补的方法则巧妙地将异常检测任务转化为一个缺失值填补问题,模型尝试填补序列中的部分数据,异常点会因其与上下文的低 “协调性” 而导致插补质量显著下降,从而被识别出来。为了有效捕捉时间序列的复杂动态,这些模型通常会集成循环神经网络(RNNs)或注意力机制(Attention),以增强对长短期依赖关系的建模能力,使其在金融欺诈检测、设备故障预警等任务中表现出色。 图 6:时间序列异常检测(TSAD)框架示意图。该图展示了基于扩散模型的两种主流 TSAD 路径:(a)基于重构的路径通过比较原始序列与重构序列的差异来计算异常分数;(b)基于插补的路径则通过评估模型对缺失值的插补质量来判断异常。 表格数据因其混合数据类型(如数值型、分类型、序数型)和普遍存在的缺失值,对异常检测构成了独特的挑战。直接应用为图像设计的扩散模型往往效果不佳。为此,该领域的研究重点在于开发专门的预处理技术和模型架构。综述中提到,扩散模型驱动的表格异常检测(Tabular Anomaly Detection, TAD)方法通常首先通过专门的嵌入层将异构数据统一到连续的表征空间。随后,经过改造的 DMs(如结合 Transformer 架构或高斯混合模型)在这一空间中学习正常数据的联合分布。在推理阶段,通过计算样本的重构损失或生成概率来识别异常。针对缺失值问题,一些方法在训练中引入掩码机制,使模型学会在存在数据缺失的情况下进行稳健的推理。这些适应性设计使得扩散模型能够有效处理金融、医疗等领域的复杂表格数据,精确识别其中的欺诈、病变等异常模式。 图 7:表格异常检测框架示意图。该框架展示了处理包含混合数据类型(如数值型、分类型)的表格数据的典型流程。数据首先经过专门的预处理和嵌入模块,然后输入到适用于表格数据的扩散模型中,最终通过计算重构损失来识别异常。 多模态异常检测(Multimodal Anomaly Detection, MAD)通过融合来自不同数据源(如图像、文本、传感器数据)的互补信息,显著提升了检测系统的准确性和鲁棒性。其核心挑战在于如何有效对齐和融合异构的模态信息。综述总结了三种主流的融合策略:早期融合在输入层即合并特征;晚期融合在决策层结合各模态的独立输出;而动态融合则能根据输入数据的上下文自适应地调整各模态的权重。协同扩散(Collaborative Diffusion)等先进框架通过构建共享的嵌入空间和动态融合模块,有效解决了模态对齐和信息不均衡的问题,在工业检测、智能监控等场景中展现了巨大潜力。 异常生成(Anomaly Generation, AG)的主要动机是解决现实世界中异常样本稀缺的根本性难题。扩散模型凭借其卓越的生成能力,可以创造出逼真且多样的合成异常。该技术以正常数据为 “种子”,通过引入文本描述、掩码或在潜空间进行特定操作等条件化引导,精确地控制生成异常的类型、位置和严重程度。这些生成的异常数据不仅可以用于扩充训练集以增强检测模型的泛化能力,还能作为 “陪练” 来系统性地评估和提升模型的鲁棒性,并为自监督学习范式提供了宝贵的训练信号。 尽管 DMs 在异常检测与生成领域取得了一定的进展,但仍面临诸多挑战。其一,计算效率。DMs 的训练和推理过程通常需要较高的计算资源和时间成本,这限制了其在实际场景中的应用,无法满足工业等应用场景下快速响应需求。其二,模型对复杂场景的适应性。在物理世界中,多模态异构数据往往具有复杂的分布和噪声,如何使 DMs 在这些复杂情况下仍能准确地检测任意可能异常,仍需进一步探索。 展望未来,该领域展现出出色应用前景和研究潜力。第一,优化 DMs 的架构和算法,提高其计算效率,使其能够在资源受限的环境中运行。开发轻量级的扩散模型,或者采用模型压缩、加速推理等技术,有望解决计算效率问题。第二,增强 DMs 对复杂场景的理解和适应能力也是关键。通过引入多模态信息、改进数据增强技术等方式,使模型能够更好地处理复杂多变的数据。第三,探索 DMs 与基础模型以及强化学习等前沿技术的结合,将为面向现实应用的异常检测与生成模型带来新的突破。 技术框架的系统性构建:首次将基于 DMs 的异常检测方法划分为基于重构、基于密度、基于分数三大评分范式,并针对图像、视频、时间序列等不同数据模态,阐述模型架构分类和最新进展。 学术研究的前瞻性展望:客观剖析当前技术瓶颈,包括扩散过程的多步计算开销、小样本场景的泛化能力不足、理论解释的缺失等;展望主要研究趋势,如与大语言模型融合实现上下文感知检测、基于元学习的快速领域适应、以及面向实时场景的高效架构设计。

成色18k.8.35mb菠萝
成色18k.8.35mb菠萝阿里2023年年报显示,阿里合伙人共有26名成员,包括马云及高管彭蕾、蔡崇信、张勇、戴珊、樊路远、方永新、蒋凡、蒋芳、蒋江伟、刘振飞、邵晓锋、宋洁、孙利军、童文红、万霖、王磊、闻佳、武卫 、吴泳铭、吴泽明、俞思瑛、俞永福、张建锋、郑俊芳、朱顺炎。作为女子1500米奥运三连冠得主、1500米和1英里世界纪录保持者以及曾经的5000米世界纪录保持者,基普耶贡已经是女子中长跑第一人。但所谓的第一人并没有让基普耶贡满足,在今年4月份钻石联赛厦门站比赛之前,她宣布将于6月底进行“破4”挑战。成色18k.8.35mb菠萝7788.gov.cm接下来,国足将参加7月份在韩国举办的东亚杯。足协宣布,原U20国足主帅久尔杰维奇担任国足的代理主帅,他将带队参加东亚杯。同时,足协接下来会寻找国足的长期主帅。歼-15T和歼-15D在去年举行的中国航展上亮相,歼-15飞鲨是我们独立自主研制的双发重型的舰载机。此前在航母辽宁舰和航母山东舰上已经进行了部署,性能非常全面,作战能力在不断提高。在去年的航展上,我们看到了起落架经过加固的歼-15T,歼-15T也就是飞鲨的弹射版本,很可能会优先在航母福建舰上进行测试。
20251207 💥 成色18k.8.35mb菠萝下半场开始不久,奥克兰城同样依靠一次角球进攻取得进球,克里斯蒂安-格雷头球破门,比分1-1扳平比分,这也是奥克兰城收获首个进球。www.zjzjzjzjzjy.gov.cn据余承东介绍,升级后的鸿蒙将带来全新的互联和智能体验,全场景体验更易用,时延更低;鸿蒙智能再进化,AI能力更开放。同时,余承东还发布了全新的鸿蒙智能体框架(HMAF)。
成色18k.8.35mb菠萝
📸 任士才记者 郭雪朋 摄
20251207 🈲 成色18k.8.35mb菠萝全国踢球的顶尖球员,就这么多人。可能30个,我往多点说50个,50个能挣到这个数的,他从小到大通过自己的努力,在足球领域里边获得了国家队的这样的资格,因为足球这样的一个比较好的市场,因为毕竟足球是世界第一大体育项目。www.zjzjzjzjzjy.gov.cn生活上当一个好爹地,杨子事业上口碑也有逆转的迹象。他在《演员请就位3》里总算是找到了自己的赛道,得到了陈凯歌导演的肯定。
成色18k.8.35mb菠萝
📸 张本莉记者 张苏京 摄
✔ 外观部分,上汽大众ID.3 GTX套件款延续了大众ID.3 GTX海外版车型设计,配备有蜂窝造型的前保险杠,细节加入黑色装饰条。相比此前已发售的上汽大众ID.3,只是在长度方面增加了5毫米,其他各项数据均保持一致。www.17cao.gov.cn
扫一扫在手机打开当前页