2023-09-06 15:11
Stable Diffusion基础应用丨关于ControlNet的细节替换
大家好，我是每天分享AI应用的萤火君!
本文继续给大家分享 Stable Diffusion 的基础能力：ControlNet之细节替换，今天的主角是 Tile。
Tile 的原意是瓦片、瓷砖。作为 ControlNet，它会对参考图进行分块，并识别出区块内的对象。如果提示词和区块内的对象匹配，它会在不改变对象定义的情况下，生成新的细节，替换之前的细节;如果提示词和区块内的对象不匹配，它会以对象为准，降低提示词的影响。
安装ControlNet
工欲善其事必先利其器，ControlNet还是先要安装好的，已经安装好的请跳过这一步。
之前的文章已经介绍过相关安装方法，大家请点击这个链接移步过去：ControlNet 安装与基本使用方法
使用方法
这个控制网络可以用于文生图、图生图，这里以“文生图”为例。
首先选择生图大模型，填写提示词。这里选择一个真实模型：realisticVisionV51 ，提示词要和参考图相匹配。
Stable Diffusion的参数一般使用默认的就可以。注意高度、宽度使用参考图的尺寸，否则可能被裁减或者变形。
重点看下 ControlNet 的设置，上传一张要提升细节的图片，图片内容和上面的提示词是匹配的。
勾选“启用”和“完美匹配像素”。
Control Type 选择 Tile，预处理器和模型会自动加载。
注意 Tile 的预处理器有三个：
(1)tile_resample 对于内容丰富的图片生图效果较好，但是和原图的颜色偏差较大。
resample 有一个名为 Down Sampling Rate 的参数，这个参数的作用是按照比例缩小参考图，降低参考图的分辨率，然后生成图片的时候就可以产生更多的细节。
(2)tile_colorfix 保持和原图的颜色一致，但背景会比较模糊。
colorfix 有一个名为 Variation 的参数， 控制每个瓦片之间的色彩变化，值越大瓦片的色彩变化越大。
(3)tile_colorfix+sharp 保持和原图的颜色一致，同时增加锐化，让线条更清晰。
colorfix+sharp 有两个参数：
Variation 控制瓦片之间的色彩变化。
Sharpness 控制锐化程度，也就是线条的清晰程度。如果感觉生成的图片比较模糊，可以加大这个值。
控制权重：降低控制权重，可以降低 ControlNet 的约束，让 Stable Diffusion 模型发挥更大的作用。
启动、结束控制步数也可以控制细节的渲染效果，可以用不同的值试试，这里就不啰嗦了。
权重为 1 时，因为原图比较简单，出现了明显的瓦片颜色不协调问题。权重为 0.3 时模型发挥了更大的作用，色彩搭配好了很多。
控制模式对 Tile 的影响很大，以提示词为主时，生成图片会明显偏向 Stable Diffusion 模型。
用途示例
修复老照片
利用 Tile 的细节生成能力, 替换图片中模糊的细节。注意这种细节不是还原，而是生成了新的细节。
慈禧太后的老照片：
上个世纪的一位老人：
改善细节
原图片的天空、草地和森林都很模糊。通过 Tile 可以让细节更清晰。
如果一次生成得到的图片还是不够清晰，可以迭代多次试试，下边的图片就是生成了3次得到的。
完善草图
可以给线稿图、涂鸦图增加一些细节，让画面看起来完成度更高。
风格转换
Tile + 不同的模型，就会有风格转换的效果，通过增大提示词引导系数、设置控制模式为以提示词为主，可以让图片更靠近模型的风格。
真实转二次元：
机车赛博朋克：
总结
通过以上这些例子，可以看到：图片的结构及相关元素主体都没有改变，变化的只有细节。
资源下载
本系列使用的模型、插件，生成的图片，都已经上传到我整理的 Stable Diffusion 绘画资源中，后续也会持续更新，如有需要，请关/注/公/众/号：萤火遛AI(yinghuo6ai)，发消息：SD，即可获取下载地址。
扫一扫，关注作者公众号
AI探索者，分享AI前沿知识跟实用技巧
相关文章
近期文章
更多
AIGC创作者欧阳川
Kardashian
雷小军
