论坛pg电子游戏网站首页 综合技术论坛

【11章】stable diffusion 商业变现与绘画大模型多场景实战 -pg电子游戏网站

浏览 58 次
精华帖 (0) :: 良好帖 (0) :: 新手帖 (0) :: 隐藏帖 (0)
作者 正文
   发表时间:2024-03-11  
【11章】stable diffusion 商业变现与绘画大模型多场景实战
网盘地址:https://pan.baidu.com/s/19rqsyebvx4rqde7g4jnx1w 提取码:2p7l
腾讯微云下载地址:https://share.weiyun.com/mycgvh9c 密码:tsskv4

课程分享——【11章】stable diffusion 商业变现与绘画大模型多场景实战,附软件 ppt下载。


stable diffusion是一种基于潜在扩散模型(latent diffusion models)的文本到图像生成模型,能够根据任意文本输入生成高质量、高分辨率、高逼真的图像。

stable diffusion 技术,作为 diffusion 改进版本,通过引入隐向量空间来解决 diffusion 速度瓶颈,除了可专门用于文生图任务,还可以用于图生图、特定角色刻画,甚至是超分或者上色任务。作为一篇基础原理介绍,这里着重解析最常用的“文生图(text to image)”为主线,介绍 stable diffusion 计算思路以及分析各个重要的组成模块。

stable diffusion 的核心思想是,由于每张图片满足一定规律分布,利用文本中包含的这些分布信息作为指导,把一张纯噪声的图片逐步去噪,生成一张跟文本信息匹配的图片。它其实是一个比较组合的系统,里面包含了多个模型子模块,接下来把黑盒进行一步步拆解。stable diffusion 最直接的问题是,如何把人类输入的文字串转换成机器能理解的数字信息。这里就用到了文本编码器 text encoder(蓝色模块),可以把文字转换成计算机能理解的某种数学表示,它的输入是文字串,输出是一系列具有输入文字信息的语义向量。有了这个语义向量,就可以作为后续图片生成器 image generator(粉黄组合框)的一个控制输入,这也是 stable diffusion 技术的核心模块。图片生成器,可以分成两个子模块(粉色模块 黄色模块)来介绍。下面介绍下 stable diffusion 运行时用的主要模块:

(1) 文本编码器(蓝色模块),功能是把文字转换成计算机能理解的某种数学表示,在第三部分会介绍文本编码器是怎么训练和如何理解文字,暂时只需要了解文本编码器用的是 clip 模型,它的输入是文字串,输出是一系列包含文字信息的语义向量。

(2) 图片信息生成器(粉色模块),是 stable diffusion 和 diffusion 模型的区别所在,也是性能提升的关键,有两点区别:

① 图片信息生成器的输入输出均为低维图片向量(不是原始图片),对应上图里的粉色 44 方格。同时文本编码器的语义向量作为图片信息生成器的控制条件,把图片信息生成器输出的低维图片向量进一步输入到后续的图片解码器(黄色)生成图片。(注:原始图片的分辨率为 512512,有rgb 三通道,可以理解有 rgb 三个元素组成,分别对应红绿蓝;低维图片向量会降低到 64*64 维度)

② diffusion 模型一般都是直接生成图片,不会有中间生成低维向量的过程,需要更大计算量,在计算速度和资源利用上都比不过 stable diffusion;
 
global site tag (gtag.js) - google analytics
网站地图