LCM-LoRA:通用stable diffusion 加速模块!2023.11.13顶会论文速递! ...

打印 上一主题 下一主题

主题 628|帖子 628|积分 1884

整理:AI算法与图像处理

  
欢迎关注公众号 AI算法与图像处理,获取更多干货:

  

   推荐

  
微信交流群现已有2000+从业人员交流群,欢迎进群交流学习,微信:nvshenj125

  

  
B站最新效果demo分享地址:https://space.bilibili.com/288489574

  顶会工作整理Github repo:https://github.com/DWCTOD/CVPR2023-Papers-with-Code-Demo
   论文速读

  LCM-LoRA:通用stable diffusion 加速模块
  标题: LCM-LoRA: A Universal Stable-Diffusion Acceleration Module
  论文:https://arxiv.org/pdf/2311.05556.pdf
  github:https://github.com/luosiallen/latent-consistency-model
  择要:
  埋伏同等性模型 (LCM)(Luo 等人,2023)在加速文本到图像生成任务、以最少的推理步调生成高质量图像方面取得了令人印象深刻的性能。LCM 是从预练习的埋伏扩散模型 (LDM) 中提取出来的,仅需要 ∼32 个 A100 GPU 练习小时。该陈诉进一步扩展了 LCM 在两个方面的潜力:起首,通过将 LoRA 蒸馏应用于稳定扩散模型,包罗 SD-V1.5 (Rombach et al., 2022)、SSD-1B (Segmind., 2023) 和 SDXL ( Podell 等人,2023),我们将 LCM 的范围扩展到更大的模型,内存斲丧显着减少,实现了卓越的图像生成质量。其次,我们将通过LCM蒸馏获得的LoRA参数确定为通用的稳定扩散加速模块,命名为LCM-LoRA。LCM-LoRA 无需练习即可直接插入各种stable diffusion微调模型或 LoRA,从而成为实用于各种图像生成任务的通用加速器。与之前的数值 PF-ODE 求解器如 DDIM (Song et al., 2020)、DPM-Solver (Lu et al., 2022a;b) 相比,LCM-LoRA 可以被视为插件式神经 PF-ODE 求解器 具有很强的泛化能力
  整体框架:

  

  LCM-LoRA 整体框架。通过将LoRA引入LCM的蒸馏过程,我们显着减少了蒸馏的内存开销,这使得我们可以或许在有限的资源下练习更大的模型,例如SDXL和SSD-1B。更重要的是,通过 LCM-LoRA 练习获得的 LoRA 参数(“加速向量”)可以直接与通过在特定风格数据集上微调获得的其他 LoRA 参数(“风格矢量”)相结合。无需任何练习,通过加速率向量和风格向量的线性组合获得的模型就可以或许以最少的采样步调生成特定绘画风格的图像。
  算法流程:
  

  效果展示:

  

  

  更多细节参考论文原文和GitHub项目,如果有帮助欢迎转发,感谢
   工作整理

  ICCV 2023

  Updated on : 13 Nov 2023

  total number : 0

  Improved Positional Encoding for Implicit Neural Representation based Compact Data Representation
  

  • 论文/Paper: http://arxiv.org/pdf/2311.06059
  • 代码/Code: None
  WACV 2024

  Updated on : 13 Nov 2023

  total number : 9

  Semantic-aware Video Representation for Few-shot Action Recognition
  

  • 论文/Paper: http://arxiv.org/pdf/2311.06218
  • 代码/Code: None
  MonoProb: Self-Supervised Monocular Depth Estimation with Interpretable Uncertainty
  

  • 论文/Paper: http://arxiv.org/pdf/2311.06137
  • 代码/Code: metrics.https://github.com/CEA-LIST/MonoProb
  U3DS$^3$: Unsupervised 3D Semantic Scene Segmentation
  

  • 论文/Paper: http://arxiv.org/pdf/2311.06018
  • 代码/Code: None
  A Neural Height-Map Approach for the Binocular Photometric Stereo Problem
  

  • 论文/Paper: http://arxiv.org/pdf/2311.05958
  • 代码/Code: None
  Automated Sperm Assessment Framework and Neural Network Specialized for Sperm Video Recognition
  

  • 论文/Paper: http://arxiv.org/pdf/2311.05927
  • 代码/Code: https://github.com/ftkr12/rostfine
  PolyMaX: General Dense Prediction with Mask Transformer
  

  • 论文/Paper: http://arxiv.org/pdf/2311.05770
  • 代码/Code: None
  GIPCOL: Graph-Injected Soft Prompting for Compositional Zero-Shot Learning
  

  • 论文/Paper: http://arxiv.org/pdf/2311.05729
  • 代码/Code: None
  OmniVec: Learning robust representations with cross modal sharing
  

  • 论文/Paper: http://arxiv.org/pdf/2311.05709
  • 代码/Code: None
  Layer-wise Auto-Weighting for Non-Stationary Test-Time Adaptation
  

  • 论文/Paper: http://arxiv.org/pdf/2311.05858
  • 代码/Code: https://github.com/junia3/LayerwiseTTA
  NeurIPS 2023

  Updated on : 13 Nov 2023

  total number : 1

  Learning Human Action Recognition Representations Without Real Humans
  

  • 论文/Paper: http://arxiv.org/pdf/2311.06231
  • 代码/Code: https://github.com/howardzh01/ppma
  


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

前进之路

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表