0. 들어가며 — 우리 다 한 번쯤 해봤잖아

야, 솔직히 말해봐. 한 번쯤 해봤지?

앱에 셀카 하나 올려놓고 "고흐 스타일" 버튼 누르고,
3초 뒤에 나온 소용돌이치는 별밤 셀카 보면서 "오 이거 프사각인데?" 하고 저장했던 거.

2016년쯤 Prisma라는 앱이 터졌을 때 인스타가 온통 유화로 도배됐던 거 기억나?
그때 사람들이 다 이랬어. "이거 어떻게 하는 거지? 사람이 그려주나?"

당연히 사람이 그려주는 거 아니고, 필터도 아니야.
포토샵의 '유화 효과' 같은 거랑은 근본이 완전히 달라.

오늘은 그 스타일 변환(Neural Style Transfer)이 도대체 무슨 짓을 하는 건지,
친구한테 카페에서 설명하듯이 처음부터 끝까지 다 뜯어볼 거야.

1. 먼저, "스타일"이 대체 뭔데?

이게 제일 중요한 질문이야. 여기서 막히면 뒤에 아무것도 이해가 안 돼.

그림을 볼 때 우리는 두 가지를 동시에 봐. 근데 뇌가 너무 빨라서 구분을 못 할 뿐이야.

① 콘텐츠(Content) — "무엇이 그려져 있나"

사람 얼굴, 나무, 건물, 강아지. 객체의 정체성과 배치야.
고흐가 그리든 사진으로 찍든, 사이프러스 나무는 사이프러스 나무잖아.
이건 공간적 구조 정보라고 부를 수 있어.

② 스타일(Style) — "어떻게 칠해져 있나"

붓 터치의 굵기, 색 팔레트, 질감의 거칠기, 선의 흐름, 대비의 강도.
여기서 핵심은 이거야.

이 한 줄이 2015년 논문 하나를 만들었고, 그게 오늘날 모든 AI 그림 필터의 조상이 됐어.

2. 출발점 — 2015년, 독일에서 터진 논문 한 편

2015년 8월, 독일 튀빙겐 대학의 Leon Gatys, Alexander Ecker, Matthias Bethge 세 사람이
"A Neural Algorithm of Artistic Style"이라는 논문을 arXiv에 올렸어.

분량도 짧고, 새로운 신경망을 만든 것도 아니야.
이미 있던 VGG-19라는 이미지 분류용 신경망을 그대로 갖다 쓴 것뿐이었어.

근데 그 발상이 미쳤지. 이런 거였거든.

왜 하필 '분류' 신경망을 썼을까

이게 은근 감동 포인트야.

VGG-19는 원래 ImageNet이라는 1400만 장짜리 사진 데이터셋으로
"이건 고양이, 저건 자동차" 맞추는 훈련을 받은 모델이야.
그림 그리는 거랑은 1도 상관없어.

근데 고양이를 정확히 맞추려면 신경망이 뭘 배워야 할까?

1단계 — 선, 모서리, 색 경계 같은 아주 기초적인 패턴
2단계 — 무늬, 질감, 반복 패턴
3단계 — 눈, 코, 귀 같은 부분 형태
4단계 — "고양이 얼굴"이라는 전체 개념

즉, 신경망은 층을 올라갈수록 "디테일"을 버리고 "의미"를 챙긴다는 거야.
그리고 Gatys는 여기서 무릎을 쳤어.

"낮은 층 = 질감(스타일), 높은 층 = 의미(콘텐츠)잖아!"

3. 콘텐츠 손실 — "형태가 안 망가지게 붙잡아두기"

자, 이제 실제 계산으로 들어가보자. 어렵지 않아, 진짜로.

우리가 만들고 싶은 결과 이미지를 X라고 하자.
처음엔 X가 그냥 랜덤 노이즈야. TV 지지직 화면 같은 거.
(구현에 따라 콘텐츠 이미지를 복사해서 시작하기도 해. 이게 더 빠르고 안정적이야.)

그리고 원본 사진을 C라고 하자.

방법: 같은 층에서 뽑은 특징을 비교

X와 C를 둘 다 VGG에 통과시켜.
그리고 예를 들어 conv4_2 층에서 나온 특징 맵(feature map)을 꺼내.

L_content = (1/2) × Σ (F_X[i,j] - F_C[i,j])²

그냥 두 특징 맵의 픽셀별 차이를 제곱해서 다 더한 것이야.
중학교 수학 수준이지? 이게 진짜 전부야.

실제로 얕은 층(conv1_1)으로 콘텐츠 손실을 계산하면?
결과가 원본 사진이랑 거의 똑같이 나와. 스타일이 안 먹혀.

반대로 너무 깊은 층(conv5_2)을 쓰면?
형태가 뭉개져서 "이게 사람이었나...?" 싶은 추상화가 나와.

그래서 대부분 conv4_2를 써. 경험적으로 균형이 제일 좋거든.

4. 스타일 손실 — 그람 행렬(Gram Matrix)이라는 마법

여기가 이 글의 하이라이트야. 집중!

아까 말했지. 스타일 = 위치와 무관한 통계라고.
그럼 위치 정보를 어떻게 날려버릴까?

특징 맵의 구조부터 이해하기

어떤 conv 층을 통과하면 결과물이 이렇게 생겨.

그람 행렬: 채널끼리의 '동시 출현' 통계

그람 행렬은 이걸 계산해.

G[i][j] = Σ_k ( F[i][k] × F[j][k] )

F: 특징 맵을 (C × HW)로 펼친 행렬
i, j: 채널 번호
k: 공간 위치 (0 ~ HW-1)

말로 풀면 이래.

여기서 핵심은 k(위치)에 대해 전부 더해버린다는 거야.
더해버리는 순간 "어디서 일어났는지"는 완전히 증발해.
남는 건 "이 이미지 전체에서 어떤 패턴 조합이 얼마나 강한가"뿐.

스타일 손실 공식

E_layer = (1 / (4 × N² × M²)) × Σ (G_X[i,j] - G_S[i,j])²

L_style = Σ_layers ( w_layer × E_layer )

N: 채널 수, M: H×W, w: 층별 가중치

스타일은 여러 층을 한꺼번에 사용해.
보통 conv1_1, conv2_1, conv3_1, conv4_1, conv5_1 다섯 개를 쓰지.

왜 여러 개냐고?
얕은 층은 미세한 붓결을, 깊은 층은 큰 덩어리 패턴을 담당하거든.
다 합쳐야 "고흐다움"이 완성돼.

5. 최적화 — 이미지를 '학습'시킨다는 발상

보통 딥러닝은 모델의 가중치를 학습시키잖아.
근데 Gatys 방식은 완전히 뒤집혀 있어.

VGG의 가중치는 하나도 안 건드려. 그냥 '측정 도구'로만 써.
대신 결과 이미지 X의 모든 픽셀값이 학습 파라미터가 돼.

전체 손실 함수

L_total = α × L_content + β × L_style

그리고 이걸 최소화하는 방향으로 X를 계속 업데이트해.

for step in range(500~2000):
    features = VGG(X)
    loss = α*content_loss + β*style_loss
    gradient = ∂loss / ∂X      ← 이미지에 대한 기울기!
    X = X - learning_rate * gradient

500번쯤 반복하면 노이즈였던 X가 서서히 그림이 돼.
진짜로 화면에서 그림이 자라나는 걸 볼 수 있어. 이거 처음 보면 좀 소름 돋아.

α와 β의 비율이 전부다

앱에서 "강도" 슬라이더 움직이는 게 사실상 이 비율 조절하는 거야.

6. 문제 발생 — "한 장에 3분이요?"

Gatys 방식은 아름다웠지만 치명적인 단점이 있었어.

이미지 한 장 만드는 데 최적화를 처음부터 다시 돌려야 해.

2015년 GPU 기준으로 512px 이미지 한 장에 몇 분이 걸렸어.
실시간? 앱? 동영상? 꿈도 못 꾸지.

해결책 ① Fast Style Transfer (2016, Johnson et al.)

스탠퍼드의 Justin Johnson이 낸 아이디어가 기가 막혔어.

구조는 이래.

여기서 Perceptual Loss(지각 손실)라는 개념이 정립돼.
"픽셀이 같은가"가 아니라 "사람 눈에 비슷하게 보이는가"를 손실로 쓰는 거지.
이 개념은 이후 초해상도(Super Resolution), 이미지 복원 등 온갖 분야로 퍼져나가.

단점? 스타일 하나당 모델 하나를 학습시켜야 했어.
고흐용 모델, 뭉크용 모델, 우키요에용 모델... 앱 용량이 터지지.

해결책 ② AdaIN (2017, Huang & Belongie)

이건 진짜 우아해. 발상이 너무 단순해서 허무할 정도야.

AdaIN(x, y) = σ(y) × ( (x - μ(x)) / σ(x) ) + μ(y)

x: 콘텐츠 특징
y: 스타일 특징
μ: 채널별 평균, σ: 채널별 표준편차

해석하면 이래.

1) 콘텐츠 특징을 정규화해서 원래 통계를 지워버려
2) 거기에 스타일 이미지의 평균과 분산을 덮어씌워

7. 요즘은? 확산 모델(Diffusion)의 시대

2022년 이후 판도가 완전히 바뀌었어.
Stable Diffusion, Midjourney 같은 확산 모델이 등장하면서
"스타일 변환"이라는 개념 자체가 확장됐거든.

확산 모델의 기본 원리 (초간단 버전)

확산 모델은 이렇게 훈련돼.

1단계 (순방향): 깨끗한 이미지에 노이즈를 조금씩 계속 넣어서 완전 지지직으로 만들어.
2단계 (역방향): "이 노이즈 낀 이미지에서 노이즈만 콕 집어내봐"를 수억 번 훈련시켜.

그럼 나중엔 순수 노이즈에서 시작해서 노이즈를 걷어내는 방식으로 이미지를 생성할 수 있게 돼.

여기에 스타일을 어떻게 넣나

근데 옛날 방식이 죽은 건 아니야

실제로 모바일 앱의 실시간 카메라 필터, 영상 프레임 처리 같은 곳에선
지금도 AdaIN 계열이 현역이야. 가볍고 안정적이거든.

8. 실전에서 결과가 망하는 이유 TOP 5

이론은 알겠는데 막상 돌리면 이상하게 나오지? 흔한 원인들이야.

① 해상도 불일치

콘텐츠는 4K인데 스타일 이미지가 300px이면?
붓 터치가 상대적으로 너무 작아져서 지저분한 노이즈처럼 보여.

해결: 두 이미지의 "패턴 스케일"을 비슷하게 맞춰.
스타일 이미지를 확대하거나, 콘텐츠를 축소해서 여러 번 처리 후 합치는 멀티스케일 방식을 써.

② 색이 싹 바뀌어버림

그람 행렬은 색 정보도 스타일에 포함시켜. 그래서 인물 피부색이 파래지기도 해.

해결: Luminance-only transfer.
이미지를 YUV/Lab로 변환해서 밝기 채널(L)에만 스타일을 적용하고,
색상 채널은 원본 걸 그대로 붙여. 인물 사진에 특히 효과적이야.

③ 얼굴이 무너짐

사람 눈은 얼굴 왜곡에 극도로 민감해. 살짝만 틀어져도 "불쾌한 골짜기" 발동.

해결: 얼굴 영역 마스크를 만들어서 그 부분만 스타일 강도를 낮춰.
또는 얼굴 부분에 콘텐츠 손실 가중치를 더 크게 줘.

④ 영상에서 화면이 부글부글 끓음

프레임마다 독립적으로 변환하면 붓 터치가 매 프레임 새로 생겨.
이걸 플리커링(flickering)이라고 해.

해결: 옵티컬 플로우(Optical Flow)로 프레임 간 움직임을 추적하고,
이전 프레임의 결과를 다음 프레임에 워핑해서 시간적 일관성 손실을 추가해.

⑤ 스타일이 배경에만 먹음

스타일 이미지가 평평한 텍스처 위주면 복잡한 영역엔 잘 안 붙어.

해결: 스타일 층 가중치를 조정해봐.
큰 패턴을 원하면 깊은 층(conv4_1, conv5_1)에 가중치를,
섬세한 질감을 원하면 얕은 층(conv1_1, conv2_1)에 가중치를 더 줘.

9. 실무 활용 — 디자이너의 무기로 쓰기

기술 자체보다 중요한 건 "어디에 쓸 거냐"지.
디자인 실무에서 스타일 변환이 실제로 먹히는 지점들이야.

① 무드보드·시안 러프 작업

클라이언트에게 "이런 톤 어때요?"를 보여줄 때,
실사 촬영본 하나로 수채화·리소그래프·유화 버전을 10분 만에 뽑을 수 있어.
초기 컨셉 합의 속도가 진짜 빨라져.

② 브랜드 비주얼 일관성

브랜드 고유의 텍스처나 컬러 팔레트를 스타일 소스로 정해두면,
서로 다른 시기·다른 사진작가가 찍은 이미지들도 하나의 톤으로 통일할 수 있어.

③ 배경 아트 / 게임 에셋

실사 로케이션 사진을 게임 아트 스타일로 변환해서
컨셉 아트 초안으로 쓰는 워크플로우는 이미 업계에서 흔해.
물론 최종 결과물은 아티스트가 다시 그려. 출발점을 당겨주는 역할이지.

④ 인쇄물·굿즈

사진을 회화 톤으로 바꾸면 인쇄 시 노이즈와 화질 열화가 덜 티나.
저해상도 소스를 살릴 때 실용적인 트릭이야.

10. 짚고 넘어가야 할 것 — 저작권과 윤리

재밌는 기술이지만 이건 진지하게 얘기해야 해.

화풍 자체는 저작권 대상이 아니다 (원칙적으로)

대부분의 저작권법에서 '아이디어·스타일·기법'은 보호 대상이 아니야.
보호되는 건 구체적 표현물, 즉 개별 작품이지.

그래서 "인상주의 화풍으로 그리기"는 법적으로 문제가 없어.

그런데 현실은 더 복잡해

• 특정 생존 작가의 이름을 걸고 "○○○ 작가 풍"이라며 상업 판매하는 경우
→ 부정경쟁방지법, 퍼블리시티권 쟁점이 생길 수 있어.

• 학습 데이터에 작가 동의 없이 작품이 포함된 경우
→ 전 세계적으로 소송이 진행 중이고, 아직 결론이 안 났어.

• 스타일 이미지로 쓴 원본 그림이 저작권 보호 중인 경우
→ 개인적 사용은 괜찮아도, 상업 이용은 별개 문제야.

기술은 중립이지만 사용은 중립이 아니야.
누군가 평생에 걸쳐 만든 화풍이라는 점을 잊지 않는 게, 결국 이 생태계를 오래 가게 해.

11. 한 장으로 정리하는 전체 흐름

12. 마무리 — 결국 우리가 배운 건

스타일 변환의 진짜 의의는 "예쁜 사진 만들기"가 아니라고 생각해.

그동안 미술에서 "화풍"은 말로 설명하기 어려운 것이었잖아.
"고흐 느낌"이 뭐냐고 물으면 다들 "그냥... 고흐 느낌"이라고밖에 못 했지.

근데 2015년의 그 논문이 이렇게 답한 거야.

물론 이게 예술의 전부를 설명하진 못해.
고흐의 붓질에는 그의 정신 상태와 시대와 아를의 햇빛이 다 들어있으니까.
그람 행렬이 그걸 담진 못하지.

하지만 "막연한 감각을 계산 가능한 형태로 번역했다"는 점에서,
이건 충분히 아름다운 성취야.

그리고 지금 네가 쓰는 모든 AI 이미지 도구의 밑바닥에는
이 단순한 아이디어가 여전히 깔려 있어.

다음에 셀카를 유화로 바꿀 때,
화면 뒤에서 수백만 개의 숫자가 500번쯤 조금씩 흔들리며 그 그림을 만들어내고 있다는 걸
한 번쯤 떠올려보면 좀 더 재밌을 거야.

그럼, 좋은 작업 되길! 🎨