首页  >  教程  >  文章
2023-08-30 09:53

Stable Diffusion插件教学丨利用Segment Anything实现快速换装

在SD里面画蒙版难吗?难,可太难了。画面那么小,画笔只能用鼠标涂,工具很少,还时灵时不灵的,想要精确绘制几乎是不可能完成的任务。

在PS里面画蒙版难吗?简单,可太简单了。要快速的,可以用自动选择主题的工具;要精确的,可以用钢笔慢慢抠图。

但是呢,流程麻烦。SD去PS,图片要不停地导入导出,不能实时调整,而且关键是有人还不会PS怎么办?

对于我们大多数人来说,能在一个软件里解决的事,就绝对不开第二个软件!

秉承着这个信念,今天给大家介绍一款SD中的抠图神器——Segment Anything。

Segment Anything是一种基于深度学习算法的图像分割工具,它可以将图像当中的每一个像素分配到对应的区域当中,能够实现精准的边缘识别。与传统的分割工具相比,它的优势就在于自动检测,大大提高了分割效率。

#SAM模型分割

1、在扩展面板中使用网址安装Segment Anything   。guthub地址:https://github.com/continue-revolution/sd-webui-segment-anything

2、重启之后,可以看到安装好的Segment Anything插件,此时还需要安装SAM模型。

3、在guthub上有三个SAM模型,由大到小分别是vit_h(2.56GB)、vit_l(1.25GB)、vit_b(375MB),越大的模型效果越好,但是占用的显存越多,大家酌情而定。大部分情况下,选择vit_l就可以了。

4、我已经放在云盘里了,大家把下载好的SAM模型放在这个路径下“……\sd-webui-aki-v4\extensions\sd-webui-segment-anything\models\sam”。

5、我们来测试一下SAM模型的效果,左键点击要保留的部分打上黑点,右键点击不要的部分打上红点,双击不需要的点可以进行移除。

6、点击预览分离结果,可以看到SAM替我们分离出来的三个方案,第一个差一点;第二个分离出来了上衣,可以进行服装替换;第三个分离出来了人物,可以进行背景替换。

7、现在我想使用第二个蒙版来进行服装替换,所以我选择编号为1的蒙版。

8、点开“展开蒙版设置”,可以设定蒙版扩展量,就相当于是把蒙版扩展出一部分,让更换信息被充分包裹。这边扩展量建议30.跟着它说的做就行,然后点击发送到“重绘蒙版”。

9、这时,我们就来到了图生图中,其实刚才的图片已经进入“上传重绘蒙版”了,只是有bug我们看不见。当然,如果出现错误的话,也可以手动保存蒙版。

10、接下来就是我们的换衣步骤了。提示词输入“蓝色毛衣”,蒙版区域内容处理改为“填充”,尺寸改为和图像一致,重绘幅度为1.

8、因为蒙版区域比较大,所以AI在填写内容的过程中,有可能会出现这种和之前的手衔接不上的问题。

9、我们可以通过降低重绘幅度,或者是添加一个openpose来控制人物的身体,得到正确的姿势。

10、除了使用图生图的局部重绘以外,我们还可以使用controlnet的局部重绘功能,控制模式选择“更注重提示词”。至于具体用哪一个,大家自己试验,选效果好的就行。

#GroundingDINO模型分割

但有的时候,我们需要更精确一点的蒙版,比如人物的眼睛,或者是身上的配饰等等。

单靠SAM模型就很难得到想要的蒙版了,这个时候我们就需要使用到segment anything中的GroundingDINO了。

启用GroundingDINO,AI会自动下载模型,此时会需要用魔法,没有魔法的同学可以去我的云盘直接下载。

放到这个文件目录下“……sd-webui-aki-v4.2\extensions\sd-webui-segment-anything\models\grounding-dino”

点击启用,在检测提示词中输入“eye”,AI就可以根据语义分割帮我们自动检测出眼睛的部分,并设置好蒙版。

我们还可以通过预览箱体,来得到两只眼睛的编号,通过编号可以选择调整单一的眼睛。比如,我只想调整左边那只眼睛,我就只需要勾选1就可以了。

和刚才一样,选择我们想要修改的蒙版,上传到重绘蒙版当中。

添加提示词“闭眼”。

点击生成,可以看到图片就修改好了。

我们再来给人物换个背景试试,加载刚才生成的背景蒙版。

大模型选择 revAnimated_v122.正向提示词:简单背景、花、国画、工笔。

蒙版模式选择“重绘非蒙版内容”。

得到这张图片,头发的部分没有抠太好。

我们将它再次放入图生图中,使用tile模型做一次整体细化,除了融合人物之外,还能给人物的衣服也添加上国风元素。

生成,人物好像变得高级了一些。

来到PS,使用创成式填充修复一下头发。

完成啦。

#补充说明

如果在以上使用过程中发生错误,那么你可能需要部署一下使用环境,我们再次开启最傻瓜安装教学模式。

1.安装cuda_11.8.0_522.06_windows.exe。

2.安装VisualStudioSetup.exe,选择C++的桌面开发安装。以上步骤,我们在安装roop的时候也做过,如果安装过roop的可以跳过。

3.拷贝ninja,打开ninja文件包,把里面的内容拷贝到秋叶包根目录。

4.拷贝python,打开python文件包,把里面的内容拷贝到秋叶包根目录替换。

5.拷贝模型,SAM和GroundingDINO的模型都在这了,放到对应的文件夹即可。

6.重启,装好了,重启电脑,即可运行。

#最后

以上,就是关于segment anything插件的安装教程和使用方法讲解,这个软件最大的作用,就是帮助我们快速高效的生成蒙版,从而进行人物的换装或者图片中元素的替换。


扫一扫,关注作者公众号

stable diffusion、Blender等学习心得分享

8

相关文章