본문 바로가기
스테이블 디퓨전

레퍼런스 온리(reference_only)-컨트롤넷(controlNet)v.1.1.173-스테이블 디퓨전(stable diffusion) 기능 살펴보기

by 아키76 2023. 5. 16.

최근 컨트롤넷이 또 업데이트되었습니다. 일주일만 안 봐도 새로운 기능들이 나와 금방 방심하면 뒤처지는 게 이쪽 AI 쪽인 것 같습니다. 스테이블 디퓨전에서 가장 혁신적인 기능이라고 말할 수 있는  컨트롤넷이 또 한 번 진화를 하였는데요.  게임이나 광고등 업무에 사용하기 위해서는 일관성 있는 캐릭터나 인물이 연속해서 등장하며 다양한 포즈나 행동들을 하는 이미지들이 필요합니다. 그걸 가능하게 하는 기능이 나와서 오늘은 이 기능을 사용하는 법을 알아보도록 하겠습니다.

 

1. 설치방법

컨트롤 넷(ControlNet)은 이미 스테이블 디퓨전을 사용하시는 분이라면 깔려 있으리라 생각됩니다.

이미 업데이트하신 분들도 있겠지만 아직 안 하신 분은 현제버전인 1.1.173 번전으로 업데이트를 해야 합니다.

말이 업데이트지 사실 그냥 이미 깔린 컨트롤넷을 지우고 다시 까는 방법입니다.  이런 부분에서는 아직 친절하지 못하네요.

그럼 설명드리겠습니다. 지우는 방법은 스테이블 디퓨전이 있는 폴더로 이동합니다. 경로는 stable-diffusion-webui\extensions 이경로입니다. 익스텐션 폴더 안에 보시면 sd-webui-controlnet 이란 폴더가 있는데요.

이 폴더는 삭제합니다. 그리고 다시 설치해주어야 합니다.

 

다시 설치하는 방법은 이전글에서 많이 말씀드렸지만 상단메뉴에서 extensions 클릭 - load from 클릭 - search에서 con 만 입력해도 아래 컨트롤넷(controlnet)이 나옵니다. 정확인 이름은 sd-webui-controlnet입니다. 찾아서 인스톨(install) 버튼을 누릅니다. 그럼 "Installed into stable-diffusion-webui\extensions\sd-webui-controlnet. Use Installed tab to restart". 문구가 나오며 설치가 완료됩니다. 이후 스테이블 디퓨전을 다시 실행시키면 컨트롤넷을 사용할 수 있습니다.

 

다른기능들을 위해서 모델들도 다운받아야합니다. https://huggingface.co/lllyasviel/ControlNet-v1-1/tree/main

 

lllyasviel/ControlNet-v1-1 at main

Detected Pickle imports (3) "torch._utils._rebuild_tensor_v2", "torch.FloatStorage", "collections.OrderedDict" What is a pickle import?

huggingface.co

lsf 아이콘을 클릭해 십여종의 모델들을 다운받아 stable-diffusion-webui-master\stable-diffusion-webui-master\extensions\sd-webui-controlnet\models 이경로에 넣어주세요.

2. 사용해 보기

스테이블 디퓨전을 다시 실행시키셨다면 하단 부분에(원래 컨트롤넷이 있던 부분) 다시 생긴 컨트롤넷을 보실 수 있으실 거예요. 아래이미지처럼 1.1.173으로 말이죠

컨트롤넷 1.1.173
컨트롤넷 1.1.173

그럼 일단 이미지를 하나 생성해 봅시다.

오리지널이미지
오리지널이미지

저 같은 경우는 위와 같은 에니그림체의 캐릭터를 생성해 봤습니다. 이제 이 그림을 레퍼런스로 다른 그림을 생성해 보도록 해보겠습니다. 방법은 아래와 같습니다.

컨트롤넷_레퍼런스적용
컨트롤넷_레퍼런스적용

● 1번에 처음 생성한 이미지를 드레그엔 드롭으로 넣어줍니다. 넣어주는 방법은 저장된 이미지 폴더를 찾아 꺼내 넣어주시면 됩니다. 경로는 \stable-diffusion-webui\outputs\txt2 img-images\(오늘연월일)

 2번을 클릭해야 해당 기능이 적용됩니다. 

● 3번 레퍼런스_온리(reference_only)를 찾아 선택해 줍니다.

아래쪽에 여러 옵션들이 있지만 건드리지 말고 딱 여기까지만 해줍니다.

● 그리고 제너럴을 누르면 생성을 시작합니다. 저 같은 경우는 아홉 장을 생성해 봤습니다.

오리지널
오리지널
레퍼런스_온리_결과물

위의 그림들이 어떠신가요? 하나의 인물로 느껴지시나요?

처음 한 개 있는 그림이 최초 프롬프트를 넣어 생성한 이미지입니다. 그리고 아래 아홉 가지 그림은 처음 그림을 레퍼런스 삼아 생성한 그림들입니다. 앞가르마에 눈색과 형태, 표정 얼굴형을 따저보면 정말 같은 인물을 표현했습니다.

살사이미지보다 에니그림체에서 좀 더 적중도가 높은 표현을 해내는 것 같습니다.

 

3. 마치며

과연 실제업무에서 쓰일 수 있을지는 아직 의문입니다. 다양한 스타일도 위의 이미지들처럼 ai가 구분해 낼 수 있을까요. 앞으로 좀 더 공부하고 지켜봐야 할 부분으로 보입니다. 그리고 또한  생각보다 많은  발전이 있을 것이라 생각됩니다.

 

 

4. 사족

게임회사에서 그림 그리는 저 같은 사람들은 분명 위기인 것이 맞긴 합니다. 어린아이가 커가는걸 "하루가 다르게 큰다"라고 합니다. ai는 어떤가요? 분명 어린아이보단 빠르겠고 앞으로 더 빨라질 것이라 예상됩니다. 맛이라도 보기 위해 노력 아닌 노력으로 간간히 즐겨보고 있습니다.

업계에서 주변 원화가들을 보면 열심히 시간 쪼개서 공부하는 사람, 즐기는 사람, 관심 없는 사람, 비관하는 사람, 말로만 이야기하는 사람, 조금 알아보고 떠벌리는 사람 등 아주 다양한 반응들입니다. 어떻게 해야 할지 무엇이 맞는지 현재를 사는 우리는 미래를 알 수가 없습니다.

다만.. "지금 할 수 있는 걸 해", "해야 할 일을 해야만 해"라는 겨울왕국 2에서 울라프가 사라졌을 때 안나의 이야기처럼 계속 전진하는 것이 맞지 않은가 생각됩니다. 

 

댓글