왜 ‘한계’를 이야기해야 하는가 — 전자기파 공학이 늘 부딪혀 온 벽

전자기파를 다루는 모든 기술은 결국 파동의 위상(phase), 진폭(amplitude), 편광(polarization), 주파수(frequency) 네 가지를 원하는 모양으로 만드는 일입니다. 카메라 렌즈는 위상을 휘어 빛을 한 점에 모으고, 안테나는 전류 분포로 원하는 방향에 전파를 쏘며, 편광필터는 특정 진동 방향만 걸러냅니다. 그런데 이 일을 하는 전통적인 방법에는 공통의 약점이 있었습니다. 바로 “파동이 물질 속을 일정 거리 이상 지나가야 위상이 바뀐다”는 점입니다.

유리 렌즈가 두꺼운 이유를 생각해 보면 쉽습니다. 굴절률이 n인 유리를 두께 d만큼 지나는 빛은 공기 중보다 (n−1)·d에 해당하는 광경로 차이를 얻고, 이것이 위상 지연 2π(n−1)d/λ가 됩니다. 렌즈 가장자리와 중심 사이에 수십~수백 파장만큼의 위상 차이를 만들어야 강하게 초점을 맺을 수 있으니, 렌즈는 필연적으로 휘어지고 두꺼워집니다. 스마트폰 뒷면의 ‘카툭튀’도 따지고 보면 이 물리학의 결과입니다.

전파 대역도 마찬가지입니다. 위상배열(phased array) 레이더는 수천 개의 안테나 소자마다 위상천이기와 증폭기를 붙여 빔을 조향하는데, 이 능동 회로가 비싸고 전력을 많이 먹으며 열을 냅니다. 전자기파 흡수체는 두꺼울수록 잘 흡수하고, 안테나는 작을수록 대역폭이 좁아집니다. 이런 제약은 단순한 기술 부족이 아니라 맥스웰 방정식, 인과율, 에너지 보존, 상호성에서 나오는 원리적 제약인 경우가 많습니다.

메타표면 이야기를 할 때 중요한 것은, 이 벽들을 두 종류로 구분하는 일입니다. 첫째는 “기존 재료와 기존 구조로는 어렵다”는 공학적 한계입니다. 자연 재료의 굴절률은 대략 1~4 범위이고, 위상을 축적하려면 두께가 필요하다는 식의 제약이죠. 둘째는 “어떤 구조를 써도 원리적으로 넘을 수 없다”는 근본 한계입니다. 에너지 보존이나 인과율에서 나오는 Bode–Fano 한계, Rozanov 흡수체 두께 한계 같은 것들입니다. 메타표면이 화려하게 “극복”하는 것은 대부분 첫 번째이고, 두 번째에 대해서는 한계 자체를 정확히 계산하고 그 한계에 최대한 가까이 다가가는 것이 메타표면 연구의 실제 모습입니다.

메타물질에서 메타표면으로 — 3차원 덩어리를 2차원 막으로 압축하기까지

메타표면을 이해하려면 그 선배격인 메타물질(metamaterial)부터 짚어야 합니다. 메타물질은 파장보다 훨씬 작은 인공 구조(메타원자, meta-atom)를 주기적·비주기적으로 배열해, 자연 재료에서 얻기 어려운 유효 유전율(ε)과 투자율(μ)을 만들어낸 인공 매질입니다. 원자가 모여 물질의 성질을 정하듯, 설계된 공진 구조가 모여 전자기적 성질을 정한다는 발상이죠.

메타물질은 매혹적이었지만 현실의 벽이 높았습니다. 3차원으로 공진 구조를 쌓아야 하니 광학 대역에서 제작이 극도로 어려웠고, 금속 공진기는 손실이 커서 빛이 몇 층만 지나도 크게 약해졌습니다. 그래서 연구자들이 내놓은 해법이 “두께 방향을 포기하고, 표면 한 층에서 모든 일을 끝내자”는 메타표면입니다.

메타표면은 파장보다 얇은(보통 λ/10~λ 수준) 한 층에 메타원자를 2차원으로 배열합니다. 이 얇은 층은 매질처럼 ‘굴절률’을 가진다기보다는, 입사파가 표면을 통과하거나 반사되는 순간 위치마다 다른 위상·진폭·편광 변화를 즉시 부여하는 경계 조건 역할을 합니다. 덩어리 매질의 성질을 바꾸는 대신 경계면의 성질을 설계하는 것이죠. 이 전환 덕분에 반도체 공정의 리소그래피 한 번으로 제작할 수 있게 되었고, 손실 문제도 크게 줄었습니다.

첫 번째 돌파: 스넬 법칙을 ‘일반화’하다

중학교 과학 시간에 배우는 스넬 법칙 n₁sinθ₁ = n₂sinθ₂는 사실 더 깊은 원리에서 나옵니다. 바로 계면을 따라 파동의 위상이 연속적으로 이어져야 한다는 조건, 다시 말해 계면 방향의 파수(wavevector) 성분이 보존된다는 조건입니다. 평평하고 균일한 계면에서는 이 성분을 바꿀 방법이 없으니 굴절각이 재료의 굴절률만으로 정해집니다.

그런데 계면 자체가 위치마다 다른 위상 Φ(x)를 덧붙인다면 어떨까요? 페르마의 최소 시간 원리(정확히는 정상 위상 조건)를 다시 적용하면, 계면 방향 파수에 위상 기울기 dΦ/dx가 더해집니다. 그 결과가 2011년 카파소 연구진이 실험으로 보인 일반화된 스넬 법칙(generalized Snell's law)입니다.

식의 의미는 놀랍도록 단순합니다. 위상 기울기가 0이면 원래의 스넬 법칙으로 돌아가고, 기울기가 있으면 재료와 무관하게 굴절각과 반사각을 설계자가 정할 수 있습니다. 수직 입사(θᵢ=0)한 빛도 위상 기울기만 있으면 비스듬히 꺾이고, 반사각이 입사각과 달라지는 ‘이상 반사(anomalous reflection)’도 가능해집니다. 특히 반사 쪽 식에는 굴절률 차이가 없기 때문에, 순수하게 표면 위상만으로 반사 방향이 결정된다는 점이 RIS 같은 전파 응용에서 핵심이 됩니다.

숫자로 감각을 잡아 봅시다. 공기 중에서 파장 λ₀ = 1 μm인 빛이 수직으로 들어오고, 메타표면이 주기 Γ = 2 μm마다 0에서 2π까지 위상을 선형으로 증가시킨다고 해 봅시다. 그러면 dΦ/dx = 2π/Γ이고, 식에 넣으면 sinθ = λ₀/Γ = 0.5, 즉 약 30°로 꺾입니다. 흥미롭게도 이 결과는 주기 Γ인 회절격자의 1차 회절각과 똑같습니다. 실제로 선형 위상 기울기를 가진 메타표면은 “원하는 하나의 회절 차수로만 에너지를 몰아주는 블레이즈드(blazed) 격자”로 해석할 수 있습니다. 메타표면이 완전히 새로운 물리를 만든 것이 아니라, 기존 회절 광학의 원리를 서브파장 분해능의 위상 제어로 극한까지 정교하게 구현했다는 점이 핵심입니다.

큰 각도로 꺾을수록 효율이 떨어지는 이유

초기 메타표면 연구에서 이상 굴절 효율은 기대보다 낮았습니다. 2011년 V자 안테나 실험에서도 이상 굴절된 빛은 입사광의 일부에 불과했고, 나머지는 일반 굴절·반사로 남았습니다. 이후 이론 연구들이 원인을 밝혔습니다. 두께가 거의 0인 표면에 전기적 응답만 있는 경우(전기 전류 시트로만 근사되는 경우), 교차 편광 변환으로 얻을 수 있는 효율은 원리적으로 25%를 넘지 못합니다. 전기 쌍극자만으로는 앞뒤로 대칭적으로 방사하기 때문에, 원하는 방향만 골라 보낼 수 없는 것이죠.

또한 단순히 국소적으로 위상만 맞춰 주는 ‘위상 경사’ 설계는 큰 편향각에서 임피던스 부정합이 생겨 효율이 떨어진다는 사실도 알려졌습니다(Estakhri·Alù 등, 2016). 입사파와 출사파의 파동 임피던스가 각도에 따라 다르기 때문에, 진짜로 100%에 가까운 이상 반사·굴절을 하려면 표면이 에너지를 국소적으로 흡수했다가 다른 곳에서 재방사하는 비국소적(non-local) 응답을 가져야 한다는 결론입니다. 이 결과는 이후 ‘메타격자(metagrating)’, 비국소 메타표면 연구로 이어졌습니다. 다시 말해 “얇은 표면으로 무엇이든 할 수 있다”가 아니라, 무엇을 할 수 있는지 그 경계가 이론적으로 정밀하게 그려지고 있다는 뜻입니다.

위상을 만드는 세 가지 엔진 — 공진 위상, 기하 위상, 전파 위상

일반화된 스넬 법칙이 ‘무엇을’ 해야 하는지 알려준다면, 메타원자 설계는 ‘어떻게’ 하는지를 다룹니다. 실제 메타표면이 0~2π 위상 범위를 확보하는 방법은 크게 세 가지 계열로 나뉩니다.

① 공진 위상(resonant phase): 안테나가 흔들리는 박자를 조절하기

가장 직관적인 방식입니다. 금속 나노안테나나 전파 대역의 금속 패치는 특정 주파수에서 공진하는데, 공진 주파수 근처에서는 입사파 대비 응답의 위상이 급격히 변합니다. 단순한 조화 진동자(용수철에 매단 추)를 떠올리면, 구동 주파수가 공진보다 낮을 때는 같은 박자로, 높을 때는 반대 박자로 움직이며 그 사이에서 위상이 약 π만큼 바뀝니다. 안테나 길이나 모양을 조금씩 바꾸면 공진 주파수가 이동하므로, 같은 입사 주파수에서 소자마다 다른 위상을 얻을 수 있습니다.

문제는 단일 공진기 하나로는 위상 변화 폭이 최대 π에 그친다는 점입니다. 카파소 연구진이 V자 안테나를 쓴 이유가 여기에 있습니다. V자 구조는 대칭·반대칭 두 개의 공진 모드를 가지므로 두 모드의 조합으로 0~2π 범위를 덮을 수 있었습니다. 전파 대역에서는 금속 패치 아래 접지면을 두는 반사형 구조(금속-유전체-금속)로 자기 공진까지 활용해 거의 2π 위상과 높은 반사 효율을 함께 얻습니다. 다만 공진을 쓰는 이상 동작 대역이 좁고, 광학 대역에서는 금속의 오믹 손실 때문에 효율이 크게 떨어지는 단점이 있습니다.

② 기하 위상(geometric phase, Pancharatnam–Berry 위상): 돌리기만 해도 위상이 바뀐다

두 번째 방식은 우아합니다. 똑같은 모양의 이방성 나노구조(예: 직사각형 나노핀)를 평면 안에서 각도 θ만큼 회전시키면, 원편광 입사광 중 회전 방향이 반대로 바뀐(교차 편광) 성분은 정확히 ±2θ의 위상을 얻습니다. 부호는 입사 원편광의 손대칭성(좌원·우원)에 따라 정해집니다. 0°에서 180°까지 돌리면 0~2π가 완성되니, 모양을 바꿀 필요 없이 회전각만 설계하면 됩니다.

이 위상은 공진에서 나오는 것이 아니라 편광 상태가 푸앵카레 구 위에서 그리는 경로의 기하학에서 나오므로, 원리적으로 파장에 덜 민감합니다. 그렇다고 광대역 렌즈가 저절로 되는 것은 아닙니다. 위상 값 자체는 파장과 무관해도, 각 파장이 필요로 하는 위상(렌즈의 경우 2π·f/λ에 비례)이 다르기 때문에 초점 위치는 여전히 파장에 따라 움직입니다. 또 교차 편광 변환 효율은 나노핀이 반파장판처럼 동작하는 조건에서 최대가 되므로, 높은 효율을 위해서는 구조 설계가 함께 필요합니다. 원편광에 의존한다는 점은 한계이자, 반대로 좌·우 원편광에 서로 다른 기능을 부여하는 ‘스핀 선택적’ 소자를 만들 수 있는 장점이기도 합니다.

③ 전파 위상(propagation phase): 아주 짧은 도파로들의 오케스트라

세 번째는 현재 가시광·근적외선 메타렌즈의 주력 방식입니다. 높이가 파장 수준(수백 nm~1 μm 남짓)인 고굴절률 유전체 나노기둥(TiO₂, 비정질 실리콘, 질화규소, 질화갈륨 등)을 세워 두면, 각 기둥은 매우 짧은 도파로처럼 동작합니다. 기둥 지름이 클수록 빛이 고굴절률 재료에 더 많이 갇혀 유효 굴절률이 커지고, 같은 높이를 지나는 동안 더 큰 위상 지연이 쌓입니다. 원형 단면 기둥은 편광에 무관한 응답을 주므로 일반 카메라 렌즈처럼 쓰기 좋습니다.

여기서 눈치 빠른 독자는 의문을 가질 겁니다. “결국 두께만큼 위상을 쌓는 거라면 기존 렌즈와 뭐가 다른가?” 차이는 위상을 2π 단위로 감아(wrap) 쓸 수 있다는 데 있습니다. 기존 굴절 렌즈는 가장자리까지 연속적인 두께로 수십·수백 파장의 위상 차를 실제로 쌓아야 하지만, 메타렌즈는 각 위치에서 필요한 위상을 2π로 나눈 나머지만 구현하면 됩니다. 그래서 높이 1 μm 이하의 기둥 배열로 NA가 높은 렌즈를 만들 수 있습니다. 이는 프레넬 렌즈, 회절 광학 소자(DOE)가 써 온 아이디어와 같지만, 메타표면은 수백 nm 간격의 서브파장 격자로 위상을 매우 세밀하게 샘플링하고, 기둥 단면 모양을 바꿔 편광과 분산까지 함께 조절할 수 있다는 점에서 한 단계 진화한 형태입니다.

④ 호이겐스 메타표면: 반사 없이 투과시키는 조건

투과형 메타표면의 효율 문제를 근본적으로 푸는 방법은 전기 쌍극자와 자기 쌍극자 응답을 동시에, 같은 크기로 만드는 것입니다. 두 쌍극자가 적절한 위상 관계로 함께 진동하면 뒤쪽(반사 방향) 방사가 서로 상쇄되고 앞쪽 방사만 남는데, 이것이 1983년 커커(Kerker) 등이 구의 산란에서 분석한 조건과 연결되는 ‘커커 조건’입니다. 각 메타원자가 호이겐스 원리의 이상적인 2차 파원처럼 앞으로만 파를 내보낸다고 해서 호이겐스 메타표면이라 부릅니다. 전파 대역에서는 위아래로 겹친 금속 패턴(전기 전류와 루프형 자기 전류)으로, 광학 대역에서는 미(Mie) 공진을 지원하는 실리콘 나노디스크로 구현합니다. 앞서 말한 ‘전기 응답만 있는 얇은 시트의 25% 한계’를 이렇게 넘어섭니다. 한계가 사라진 것이 아니라, 한계의 전제(전기 응답만 존재)를 바꾼 것입니다.

메타렌즈 — ‘두께의 벽’을 넘은 가장 확실한 사례

메타표면이 전자기파의 한계를 극복한 사례 중 가장 명확하고 상업적으로 성공한 것은 두께와 부피의 한계입니다. 렌즈에 필요한 위상 분포는 아주 단순한 식으로 쓸 수 있습니다. 초점거리 f인 렌즈가 평면파를 한 점에 모으려면, 중심에서 반지름 r 위치의 위상은 다음을 만족해야 합니다.

이 식은 렌즈 표면의 모든 점에서 초점까지 가는 경로 길이 차이를 위상으로 보상해, 초점에서 모든 파동이 같은 위상으로 만나게 하는 조건입니다. 굴절 렌즈는 이 위상을 유리 두께로 구현하지만, 메타렌즈는 각 위치에 해당 위상을 주는 나노기둥을 골라 배치합니다. 2016년 하버드 연구진의 TiO₂ 메타렌즈는 원자층 증착(ALD)으로 높이 약 600 nm의 고종횡비 나노기둥을 만들어 405, 532, 660 nm 파장에서 각각 동작하도록 설계했고, NA 0.8 수준에서 회절한계에 가까운 집광을 보여 주었습니다. 일부 설계에서 집광 효율은 80%대에 이르렀다고 보고되었습니다.

상업화도 빠르게 진행되었습니다. 하버드 연구진에서 출발한 스타트업 메탈렌즈(Metalenz)는 반도체 기업 ST마이크로일렉트로닉스와 협력해 근거리 3D 비행시간(ToF) 센서 모듈에 메타광학 소자를 넣어 2022년 무렵 양산 공급을 시작했다고 발표했습니다. 첫 상용화 무대가 일반 카메라 렌즈가 아니라 근적외선 단일 파장 센서였다는 점은 의미심장합니다. 메타렌즈의 가장 큰 약점이 드러나지 않는 곳에서 먼저 성공한 것이니까요. 그 약점이 바로 다음에 다룰 색수차입니다.

색수차: 메타렌즈가 마주한 진짜 근본 한계

유리 렌즈에도 색수차가 있지만, 메타렌즈의 색수차는 훨씬 심하고 방향도 반대입니다. 위상을 2π로 감아 쓰는 회절형 소자는 파장이 길수록 초점거리가 짧아지는 강한 음의 분산을 갖습니다. 단순 계산으로도 파장이 바뀌면 초점거리가 대략 파장에 반비례해 변하므로, 가시광 전체(약 400~700 nm)에서 쓰면 초점이 크게 흩어집니다. 일반 카메라처럼 RGB 전부를 선명하게 찍으려면 이 문제를 풀어야 합니다.

해법으로 등장한 것이 분산 엔지니어링(dispersion engineering)입니다. 파장에 따라 필요한 위상은 Φ(r, ω)이고, 이를 주파수 ω에 대해 전개하면 기준 위상, 군지연(group delay, ∂Φ/∂ω), 군지연 분산(∂²Φ/∂ω²) 항이 나옵니다. 광대역 무색수차 렌즈가 되려면 위상뿐 아니라 군지연까지 위치별로 맞춰 주어야 합니다. 연구자들은 나노기둥을 이중 기둥, 고리형, 십자형 등으로 다양하게 만들어 위상과 군지연을 독립적으로 고르는 ‘라이브러리’를 구축했고, 2018년에는 가시광 넓은 대역(약 470~670 nm)에서 색수차를 보정한 메타렌즈가 보고되었습니다(Chen 등, Nature Nanotechnology). 국내에서도 포스텍 노준석 교수 연구팀 등이 메타렌즈 대량 생산 공정, 역설계, 응용 연구에서 활발한 성과를 내고 있습니다.

하지만 여기서 다시 ‘근본 한계’가 등장합니다. 위치별로 요구되는 최대 군지연 차이는 렌즈의 지름과 NA가 클수록 커지는데, 얇은 메타원자 하나가 제공할 수 있는 군지연은 그 높이와 재료 굴절률로 제한됩니다. 이 관계를 정리하면 “두께 × 굴절률 대비 구경 × NA × 대역폭” 사이에 피할 수 없는 트레이드오프가 존재합니다. 실제로 여러 이론 연구가 무색수차 메타렌즈의 최대 구경, 대역폭, 두께 사이의 상한을 유도했습니다(예: Presutti·Monticone, 2020). 결론은 분명합니다. 얇으면서 크고, 밝으면서(높은 NA) 넓은 대역에서 무색수차인 렌즈는 동시에 만들 수 없다는 것입니다. 그래서 현재 메타렌즈는 작은 구경 센서, 단일 파장 응용, 혹은 굴절 렌즈와 메타표면을 결합한 하이브리드 설계, 그리고 영상 복원 알고리즘과 함께 설계하는 ‘계산 이미징’ 쪽으로 발전하고 있습니다.

회절한계는 정말 깨지는가 — 근접장, 소멸파, 그리고 정직한 답

“메타물질로 회절한계를 넘었다”는 문장은 언론 기사에 자주 나오지만, 정확한 의미를 알고 읽어야 합니다. 에른스트 아베(E. Abbe)가 제시한 분해능 한계 d ≈ λ/(2NA)는 렌즈가 받아들일 수 있는 공간 주파수의 상한에서 나옵니다. 물체의 미세 구조 정보는 큰 횡방향 파수를 가진 성분에 담기는데, 횡방향 파수가 자유공간 파수 k₀ = 2π/λ보다 크면 그 성분은 멀리 전파하지 못하고 표면에서 지수적으로 사라지는 소멸파(evanescent wave)가 됩니다. 원거리의 렌즈에는 이 정보가 도착하지 않으니, 아무리 완벽한 렌즈라도 분해능에 한계가 생깁니다.

펜드리의 완전 렌즈는 바로 이 소멸파를 공략했습니다. 음굴절 평판은 소멸파를 증폭해 상(image) 위치에서 원래 크기로 복원할 수 있다는 이론입니다. 실제로 2005년 은 박막 슈퍼렌즈는 광학 대역에서 회절한계보다 작은 패턴을 근접장에서 전사하는 데 성공했습니다. 2007년에는 곡면 다층 구조(쌍곡형 메타물질)를 이용해 소멸파를 전파파로 바꿔 크기를 확대해 원거리로 내보내는 ‘하이퍼렌즈’도 보고되었습니다.

그러나 이 성과에는 분명한 조건이 붙습니다.

그렇다면 2차원 메타표면은 어떨까요? 일반적인 메타렌즈는 원거리장에서 작동하므로 아베 한계 안에서 움직입니다. 높은 NA로 아베 한계에 ‘가까이’ 가는 것은 가능하지만, 넘어서는 것은 아닙니다. 대신 연구되는 길이 몇 가지 있습니다. 하나는 초진동(superoscillation) 렌즈로, 위상·진폭 분포를 정교하게 설계해 회절한계보다 작은 중앙 집광점을 만듭니다. 하지만 그 대가로 에너지 대부분이 주변의 강한 사이드로브로 빠져나가 시야가 매우 좁습니다. 정보 이론적으로 보면 공짜는 없습니다. 다른 하나는 메타표면을 구조화 조명이나 형광 기반 초분해능 기법, 계산 이미징과 결합해 시스템 전체로 분해능을 끌어올리는 접근입니다.

전파 대역의 혁명 — 재구성 지능형 표면(RIS)과 ‘통제 가능한 무선 환경’

무선통신 공학자들에게 오랫동안 전파 환경은 ‘주어진 것’이었습니다. 송신기와 수신기는 설계할 수 있어도, 그 사이의 건물·벽·나무가 만드는 반사·산란·차단은 통계적으로 모델링해 견딜 대상일 뿐이었습니다. 특히 5G의 밀리미터파(예: 28 GHz 대역)나 6G 후보인 서브테라헤르츠 대역은 직진성이 강하고 회절이 약해 장애물 뒤로 돌아 들어가지 못합니다. 건물 모퉁이 하나만 돌아도 신호가 뚝 끊기는 ‘음영 지역’이 생기는 거죠.

메타표면은 이 문제를 정면으로 공략합니다. 앞서 본 반사형 일반화 스넬 법칙을 떠올려 보세요. 표면 위상 기울기만 바꾸면 반사각을 마음대로 정할 수 있습니다. 여기에 각 메타원자의 상태를 전기적으로 바꿀 수 있는 소자를 넣으면, 벽면이 실시간으로 반사 방향을 바꾸는 프로그래머블 반사경이 됩니다. 이것이 RIS(Reconfigurable Intelligent Surface), 또는 IRS(Intelligent Reflecting Surface)입니다.

RIS의 작동 원리: 디지털 메타원자

RIS의 단위 셀은 보통 접지면 위의 금속 패치에 PIN 다이오드, 버랙터(가변 용량) 다이오드, 또는 MEMS 스위치·액정 같은 조절 소자를 결합한 구조입니다. PIN 다이오드를 켜고 끄면 셀의 반사 위상이 대략 180° 차이 나는 두 상태(1-bit)를 오가고, 2개 이상의 다이오드나 연속 가변 버랙터를 쓰면 2-bit 이상 또는 연속 위상을 얻습니다. 추이톄쥔 연구진의 코딩 메타물질 개념은 이 상태들을 ‘0’과 ‘1’ 같은 디지털 코드로 다루어, FPGA 같은 디지털 회로로 표면 패턴을 실시간으로 바꾸는 길을 열었습니다. 표면이 사실상 전파를 위한 디스플레이가 된 셈입니다.

중요한 점은 RIS가 대개 수동형(passive)이라는 것입니다. 각 셀에 증폭기나 RF 체인(믹서, ADC 등)이 없고, 다이오드 상태를 유지하는 데 필요한 적은 전력만 씁니다. 수천 개의 능동 소자를 가진 위상배열 안테나나, 받은 신호를 증폭해 다시 보내는 중계기(relay)와 비교하면 전력·비용·열 측면에서 유리합니다. 또 증폭 과정이 없으니 중계기처럼 잡음을 함께 증폭하지 않습니다.

RIS는 어떤 ‘한계’를 넘는가

RIS가 극복하는 것은 맥스웰 방정식 자체가 아니라 통신 시스템 설계의 전제입니다. 기존 무선 시스템에서 채널은 제어 불가능한 확률 변수였지만, RIS가 있으면 채널의 일부가 최적화 변수가 됩니다. 송신 빔포밍과 RIS 위상 패턴을 함께 최적화하는 ‘공동 빔포밍’ 연구가 폭발적으로 늘어난 이유입니다. 이론적으로 N개의 셀이 모두 수신 지점에서 같은 위상으로 더해지게 맞추면, 원거리 조건에서 수신 전력은 셀 수의 제곱(N²)에 비례해 커지는 빔포밍 이득을 얻습니다. 패널 면적이 두 배가 되면 받는 에너지도 두 배, 형성되는 빔도 좁아져 이중으로 이득을 보는 구조입니다.

그럼에도 산업계의 관심은 뜨겁습니다. 일본 NTT 도코모는 2018년 무렵 메타웨이브(Metawave)와 함께 28 GHz 대역 메타구조 반사판 실험을 발표했고, 이후 투명 메타표면 기반 반사·투과 제어 기술 등을 시연했습니다. 유럽 전기통신표준협회(ETSI)는 RIS 관련 산업 규격 그룹(ISG RIS)을 만들어 용어, 사용 사례, 채널 모델을 정리하고 있으며, 6G 논의에서 RIS는 대표적인 후보 기술로 거론됩니다. 다만 아직 대규모 상용 표준 기능으로 확정된 단계는 아니며, 실제 효용은 배치 시나리오에 따라 크게 달라진다는 점도 함께 기억해야 합니다.

STAR-RIS와 능동형 RIS

최근에는 반사와 투과를 동시에 조절해 표면 앞뒤 공간을 모두 서비스하는 STAR-RIS(Simultaneously Transmitting And Reflecting RIS), 이중 경로 손실을 줄이기 위해 셀마다 저전력 반사 증폭기를 넣은 능동형 RIS 연구도 활발합니다. 능동형으로 가면 이득은 커지지만 잡음과 전력 소모가 다시 생기므로, 결국 ‘수동형 RIS ↔ 능동형 RIS ↔ 중계기 ↔ 분산 안테나’ 사이 어디에 최적점이 있는지가 시스템공학의 질문이 됩니다. 기술 하나로 모든 것이 해결되기보다는, 비용·전력·커버리지를 놓고 설계자가 판단해야 하는 지점이 생긴 것이죠.

안테나의 벽: Chu 한계와 메타표면 안테나

안테나 공학에는 오래된 철칙이 있습니다. 1948년 L. J. 추(Chu)가 유도한 이 한계는 반지름 a인 가상의 구 안에 들어가는 안테나가 가질 수 있는 최소 방사 Q값을 줍니다. 단일 모드(선형 편광 TE 또는 TM) 기준으로 흔히 다음 형태로 씁니다(이후 McLean 등이 정밀화).

ka가 1보다 훨씬 작은, 즉 파장에 비해 아주 작은 안테나일수록 Q가 세제곱으로 커지고, 대역폭은 대략 1/Q에 비례하므로 급격히 좁아집니다. 안테나 주변에 쌓이는 반응성 에너지(저장 에너지)가 방사되는 에너지보다 압도적으로 커지기 때문입니다. 스마트폰 안에 여러 대역 안테나를 넣느라 고생하는 이유, 저주파 IoT 기기의 안테나가 효율이 낮은 이유가 여기에 있습니다.

메타물질·메타표면을 이용한 안테나 소형화 연구는 많았지만, 결론은 수동·선형·시불변 안테나라면 Chu 한계(그리고 그 일반화된 한계)를 넘을 수 없다는 것입니다. 메타표면이 할 수 있는 일은 한계에 더 가까이 다가가도록 전류 분포를 최적화하거나, 안테나 크기를 키우지 않고 방사 패턴·편광·지향성을 개선하는 것입니다. 한계를 진짜로 우회하려면 전제를 깨야 하는데, 대표적인 방법이 비-포스터(non-Foster) 정합 회로처럼 능동 소자로 음의 리액턴스를 만드는 것, 또는 아래에서 다룰 시간 변조입니다. 이 경우에도 안정성·잡음·전력이라는 새로운 비용이 따라옵니다.

메타표면 안테나의 실용화: 홀로그래픽 빔 조향

메타표면이 안테나 분야에서 크게 기여한 곳은 소형화보다 빔 조향 구조의 단순화입니다. 도파로나 평판 전송선로를 따라 흐르는 기준파(feed wave) 위에 조절 가능한 메타원자 배열을 놓고, 각 셀이 기준파를 얼마나 방사할지를 홀로그램처럼 패턴화하면 원하는 방향의 빔이 만들어집니다. 각 셀에 위상천이기와 증폭기를 단 위상배열 대신, 단순한 스위칭·튜닝 소자만으로 빔을 조향하는 방식입니다.

미국의 카이메타(Kymeta)는 액정 기반 메타표면 평판 안테나로 위성통신 단말을 상용화했고, 에코다인(Echodyne)은 메타물질 전자 주사 배열(MESA)로 소형 레이더를 상용화했습니다. 이들 제품은 메타표면이 ‘물리 한계’를 깬 사례라기보다는, 위상배열의 비용·전력·복잡도라는 공학적 한계를 다른 구조로 우회한 사례로 보는 것이 정확합니다. 대신 홀로그래픽 방식은 위상과 진폭을 완전히 독립적으로 제어하기 어렵고, 개구 효율과 사이드로브 특성에서 완전한 위상배열보다 불리할 수 있다는 트레이드오프가 있습니다.

흡수체·스텔스·클로킹 — 얇게 숨기려는 욕망과 인과율의 심판

완전 흡수체와 Rozanov 한계

2008년 랜디(Landy) 등은 금속 공진기-유전체-금속 3층 구조로, 특정 주파수에서 반사와 투과를 거의 0으로 만들어 입사파를 거의 완전히 흡수하는 얇은 메타물질 흡수체를 보고했습니다. 원리는 앞서 본 호이겐스 조건과 비슷합니다. 구조의 유효 임피던스를 자유공간 임피던스(약 377 Ω)에 맞추면 반사가 사라지고, 아래 금속판이 투과를 막으면 남은 에너지는 구조 안에서 열로 소모됩니다. 이후 열화상 위장, 적외선 센서, 태양열 흡수 등 다양한 연구로 확장되었습니다.

하지만 레이더 흡수체 설계자들이 잘 아는 것처럼, 얇은 흡수체에는 피할 수 없는 상한이 있습니다. 2000년 로자노프(K. N. Rozanov)는 인과율과 수동성만으로 금속 뒷판을 가진 흡수체의 두께와 흡수 대역폭 사이의 관계를 유도했습니다.

여기서 R은 반사계수, d는 흡수체 두께, μₛ는 재료의 정적 투자율입니다. 좌변은 “얼마나 넓은 파장 범위에서 얼마나 반사를 줄였는가”를 나타내는 면적이고, 우변은 두께에 비례합니다. 즉 반사를 낮추고 싶은 대역이 넓을수록, 반사를 더 깊이 줄이고 싶을수록 흡수체는 두꺼워야 합니다. 아무리 정교한 메타표면 패턴을 써도 비자성 수동 흡수체라면 이 부등식을 넘을 수 없습니다. 메타표면 흡수체의 진짜 성과는 여러 공진을 겹쳐 이 한계에 근접한 설계를 만든 것, 그리고 좁은 대역이라도 매우 얇아야 하는 응용(예: 특정 주파수 센서)에 최적화한 것입니다. 자성 재료(μₛ>1)를 쓰면 같은 두께에서 한계가 늘어나므로, 실제 전파 흡수체에 페라이트 계열이 쓰이는 이유도 이 식으로 설명됩니다.

클로킹: ‘투명 망토’의 실제 범위

변환광학 기반 클로킹은 공간 좌표를 휘는 것과 같은 효과를 내도록 매질의 ε, μ 분포를 설계해, 빛이 물체를 비켜 돌아간 뒤 원래 경로로 돌아오게 합니다. 2006년 마이크로파 클로크 실험 이후, 바닥면 반사를 흉내 내 물체를 숨기는 ‘카펫 클로크’, 물체 표면에 얇은 메타표면을 덮어 반사파 위상을 평평한 거울처럼 되돌리는 초박형 클로크(2015년 Ni 등, Science) 등이 발표되었습니다.

그러나 여기에도 근본 제약이 있습니다. 빛이 물체를 돌아가려면 더 긴 경로를 같은 시간에 지나야 하므로, 이상적인 클로크는 유효 위상속도가 진공 광속보다 큰 영역을 필요로 합니다. 위상속도는 광속을 넘을 수 있지만, 이런 매질은 필연적으로 강한 분산을 가지며 인과율에 의해 넓은 대역에서 동시에 성립할 수 없습니다. 따라서 수동 클로크는 좁은 대역, 특정 입사각, 특정 편광에서만 잘 동작합니다. 대역폭에 대한 이론적 한계를 정량화한 연구들(예: Monticone·Alù 등)이 있고, 메타표면 클로크도 이 범위 안에 있습니다. 즉, 레이더 단면적(RCS)을 특정 대역에서 크게 줄이는 스텔스 기술로는 의미가 크지만, 영화처럼 모든 색과 모든 각도에서 사라지는 망토는 수동 소자로는 불가능합니다.

상호성의 벽을 넘다 — 시간 변조 메타표면

지금까지 다룬 한계 중 상당수는 공통의 전제를 깔고 있었습니다. 선형(linear), 수동(passive), 시불변(time-invariant)입니다. Chu 한계, Bode–Fano 정합 한계, Rozanov 한계, 그리고 로렌츠 상호성 정리가 모두 이 전제 아래에서 성립합니다. 그렇다면 메타표면의 성질을 시간에 따라 바꾸면 어떻게 될까요? 이것이 최근 가장 뜨거운 연구 분야 중 하나인 시간 변조(time-modulated) 메타표면, 또는 시공간 변조(space-time) 메타표면입니다.

로렌츠 상호성은 쉽게 말해 “A에서 B로 보낸 신호의 전송 계수와 B에서 A로 보낸 신호의 전송 계수가 같다”는 원리입니다. 그래서 일방향으로만 신호를 통과시키는 아이솔레이터나 서큘레이터를 만들려면 전통적으로 외부 자기장으로 바이어스한 페라이트 같은 자성 재료가 필요했습니다. 이 소자들은 부피가 크고 무거우며 반도체 칩에 집적하기 어렵습니다.

메타표면의 각 셀 위상을 주파수 f_m으로 주기적으로 변조하고, 그 변조를 공간적으로도 진행파처럼 이동시키면(시공간 위상 기울기) 반사파는 원래 주파수 f에서 f ± f_m 같은 고조파로 이동하고, 동시에 방향도 꺾입니다. 정방향으로 들어간 파와 역방향으로 들어간 파가 겪는 주파수·운동량 변화가 서로 달라지므로 상호성이 깨집니다. 중요한 점은 시간 변조가 시스템을 시변으로 만들었기 때문에 로렌츠 상호성의 전제 자체가 성립하지 않는다는 것입니다. 즉 이것은 법칙을 위반하는 것이 아니라 법칙이 적용되는 범위 밖으로 나간 것입니다.

물론 공짜는 아닙니다. 변조를 위한 외부 에너지 공급이 필요하고, 원하는 고조파 외에 불필요한 고조파(측파대)가 생겨 스펙트럼 효율과 간섭 문제가 생깁니다. 광학 대역에서는 수백 THz의 반송파에 비해 의미 있는 속도로 굴절률을 바꾸기가 어렵다는 근본적인 재료 문제도 있습니다. 전기광학 효과, 투명 전도성 산화물(ITO 등)의 ‘엡실론-니어-제로’ 영역 활용, 상변화 물질(GST 등), 액정 등 다양한 튜닝 메커니즘이 연구되지만, 속도·변조 깊이·손실을 동시에 만족하는 재료는 아직 찾는 중입니다.

빛을 데이터로 다루는 표면 — 홀로그램, 편광, 아날로그 연산

메타표면이 위치별로 위상과 진폭, 편광을 모두 다룰 수 있게 되자, 단순한 렌즈·반사경을 넘어 파면 자체를 정보로 다루는 응용이 쏟아졌습니다.

메타 홀로그램

컴퓨터 생성 홀로그램(CGH)은 원하는 영상이 나타나도록 계산한 위상 분포를 표면에 새기는 기술입니다. 메타표면은 서브파장 픽셀 크기 덕분에 시야각이 넓고 원치 않는 회절 차수가 거의 없는 홀로그램을 만들 수 있습니다. 2015년에는 기하 위상 기반 메타표면 홀로그램이 80% 수준의 높은 효율로 보고되기도 했습니다(Zheng 등, Nature Nanotechnology). 좌·우 원편광, 파장, 입사각에 따라 서로 다른 영상을 저장하는 ‘다중화’가 가능해 위조 방지 보안 표식, 광학 암호화 연구로 이어지고 있습니다.

편광 카메라와 다차원 센싱

메타표면 하나로 입사광을 편광 성분별로 서로 다른 위치에 모으면, 기존에 여러 장의 편광필터와 회전 기구가 필요했던 편광 측정을 한 번에 할 수 있습니다. 하버드 연구진은 메타표면 회절 격자를 이용한 소형 편광 카메라를 보고했고, 메탈렌즈 같은 기업은 편광 정보를 이용한 생체 인증·센싱 응용을 추진하고 있습니다. 한 화소에서 색, 편광, 깊이 정보까지 함께 얻으려는 ‘다차원 영상’은 메타표면이 특히 잘하는 영역입니다.

아날로그 광 연산

메타표면은 입사파의 공간 주파수(각도) 성분마다 다른 전달 함수를 줄 수 있으므로, 영상의 미분·경계 검출 같은 연산을 빛이 통과하는 순간 수행하도록 설계할 수 있습니다. 2014년 실버(A. Silva) 등은 메타물질 블록으로 미분·적분 같은 수학 연산을 수행하는 개념을 제시했고, 이후 얇은 비국소 메타표면으로 경계 검출을 시연한 연구들이 이어졌습니다. 전자 연산 이전에 광학 단계에서 정보를 미리 처리해, 센서 데이터량과 전력을 줄이려는 시도입니다. 다만 연산 정밀도, 대역, 입력 각도 범위의 제한이 있어 범용 연산이라기보다는 특정 전처리용으로 연구되고 있습니다.

열복사·에너지 응용 — 키르히호프 법칙과 스펙트럼 맞춤

전자기파는 통신과 영상만의 문제가 아닙니다. 모든 물체는 온도에 따라 열복사를 내뿜고, 그 스펙트럼은 흑체복사와 물체의 방사율(emissivity)로 결정됩니다. 키르히호프 열복사 법칙에 따르면 열평형 상태의 상호적 물체는 특정 파장·방향·편광에서 방사율과 흡수율이 같습니다. 그래서 메타표면으로 흡수 스펙트럼을 설계하면 방사 스펙트럼도 함께 설계됩니다.

이 원리를 활용한 대표 응용이 복사 냉각(radiative cooling)입니다. 대기는 약 8~13 μm 파장 대역에서 비교적 투명한 ‘대기의 창’을 갖는데, 이 대역에서는 높이 방사하고 태양광 대역(약 0.3~2.5 μm)에서는 거의 반사하는 표면을 만들면, 한낮에도 주변 기온보다 낮게 식을 수 있습니다. 2014년 스탠퍼드 연구진은 다층 광자 구조로 햇빛 아래에서 주변보다 약 5 °C 낮은 온도를 달성했다고 보고했습니다(Raman 등, Nature). 이후 메타표면, 나노입자 복합 필름, 다공성 고분자 등 다양한 방식이 연구되고 있습니다. 반대로 열광전지(thermophotovoltaics)에서는 고온 방사체의 스펙트럼을 태양전지 밴드갭 바로 위에 집중시켜 효율을 높이는 선택적 방사체로 메타표면이 연구됩니다.

흥미롭게도 키르히호프 법칙 역시 상호성에 기반하므로, 비상호 소자를 쓰면 같은 방향의 방사율과 흡수율을 다르게 만들 수 있습니다. 자기광학 재료나 시간 변조를 이용해 이를 실험적으로 보이려는 연구가 진행되고 있으며, 이는 태양에너지 수확의 열역학적 효율 상한에 접근하는 방법으로 논의됩니다. 여기서도 메타표면은 열역학 제2법칙을 깨지 않습니다. 단지 상호성이라는 추가 제약을 풀었을 뿐입니다.

설계의 진화 — 라이브러리 설계에서 역설계·AI까지

초기 메타표면 설계는 ‘단위 셀 라이브러리 + 국소 주기 근사(local periodic approximation)’ 방식이 주류였습니다. 먼저 주기 경계 조건에서 나노기둥 지름별 투과 위상과 효율을 전자기 시뮬레이션(FDTD, RCWA, FEM 등)으로 계산해 표를 만들고, 목표 위상 분포에 맞춰 위치마다 가장 가까운 기둥을 골라 배치합니다. 직관적이고 빠르지만, 이웃 기둥끼리 크기가 크게 다르면 실제 응답이 주기 근사와 달라져 효율이 떨어진다는 한계가 있습니다. 특히 NA가 큰 렌즈의 가장자리처럼 위상이 빠르게 변하는 곳에서 문제가 됩니다.

이를 넘기 위해 등장한 것이 역설계(inverse design)입니다. 원하는 기능(예: 특정 초점에서의 세기 최대화)을 목적 함수로 정하고, 구조 전체를 설계 변수로 두어 수치 최적화를 합니다. 핵심 도구는 수반법(adjoint method)으로, 정방향 시뮬레이션과 수반 시뮬레이션 단 두 번으로 수백만 개의 설계 변수에 대한 기울기를 한꺼번에 얻습니다. 결과물은 사람이 직관적으로 이해하기 어려운 자유형상 패턴이 되는 경우가 많지만, 기존 설계보다 높은 효율과 다기능을 보입니다.

# 개념 예시: 수반법 기반 메타표면 최적화의 흐름 (의사 코드)
eps = initialize_permittivity_map()          # 설계 영역의 유전율 분포
for it in range(num_iterations):
    E_fwd = solve_maxwell(eps, source=incident_wave)       # 정방향 해석
    FoM = intensity_at_focus(E_fwd)                         # 목적 함수
    E_adj = solve_maxwell(eps, source=adjoint_source(E_fwd))# 수반 해석
    grad = real(E_fwd * E_adj)                              # 전체 기울기
    eps = update_with_constraints(eps, grad)                # 이진화·최소선폭 제약

최근에는 딥러닝이 두 방향으로 쓰입니다. 하나는 전자기 시뮬레이션을 대신하는 대리 모델(surrogate model)로, 단위 셀 형상에서 응답을 즉시 예측해 설계 속도를 크게 높입니다. 다른 하나는 원하는 응답을 주면 형상을 생성하는 생성 모델입니다. 다만 신경망이 학습 범위 밖의 형상을 잘 예측하지 못하거나, 제작 가능한 구조인지 보장하지 않는 문제가 있어 물리 기반 시뮬레이션과 함께 검증하는 것이 표준 절차입니다. 역설계에서도 최소 선폭, 식각 깊이 오차 같은 제조 제약을 최적화 과정에 넣는 것이 실용 설계의 핵심입니다.

비국소 메타표면: 각도와 주파수를 함께 설계하다

기존 메타표면은 각 셀이 독립적으로 국소 위상을 준다는 가정(국소 응답)에 기대어 왔습니다. 반대로 셀 사이 결합을 일부러 강하게 만들어 격자 전체가 공유하는 공진 모드(준-속박 상태, quasi-BIC 등)를 쓰는 비국소 메타표면은, 매우 높은 Q의 좁은 스펙트럼 응답이나 입사각에 민감한 응답을 만듭니다. 이는 특정 파장만 골라 렌즈처럼 작동하고 나머지는 투명하게 통과시키는 소자, 앞서 말한 아날로그 연산, 그리고 ‘공간 압축기(spaceplate)’처럼 렌즈 사이의 빈 공간을 줄이는 소자로 이어집니다. 2021년 무렵 보고된 스페이스플레이트 개념은, 렌즈 대신 렌즈 사이의 자유공간 거리를 얇은 판으로 대체해 카메라 전체 길이를 줄이려는 시도입니다. 물론 압축률, 개구수, 대역폭 사이에도 역시 트레이드오프가 존재합니다.

제조와 상용화의 현실 — 나노 공정, 손실, 그리고 가격

아무리 이론이 아름다워도 공장을 통과하지 못하면 제품이 될 수 없습니다. 광학 메타표면은 수십~수백 nm 선폭과 높은 종횡비가 필요합니다. 연구실에서는 전자빔 리소그래피(EBL)를 많이 쓰지만, 느리고 비싸 대면적 생산에 적합하지 않습니다. 상용화의 열쇠는 반도체 산업의 심자외선(DUV) 리소그래피와 나노임프린트 리소그래피(NIL)입니다. 반도체 노광 장비로 12인치 웨이퍼에 메타렌즈를 대량으로 찍어내는 공정이 보고되었고, 국내에서도 나노임프린트와 고굴절률 입자 복합 레진을 이용해 저비용으로 메타렌즈를 대량 생산하는 연구가 발표되었습니다.

재료 선택도 대역마다 다릅니다. 가시광에서는 굴절률이 높으면서 흡수가 적은 재료가 필요한데, 실리콘은 굴절률이 높지만 가시광 단파장에서 흡수가 커서 TiO₂, 질화규소(SiN), 질화갈륨(GaN) 등이 주로 쓰입니다. 근적외선 ToF·LiDAR 대역에서는 비정질 실리콘이 좋은 선택이 됩니다. 전파 대역에서는 금속 손실은 상대적으로 작지만, 조절 소자(다이오드)의 기생 성분과 바이어스 배선이 성능을 제한합니다. RIS 패널이 커질수록 수천 개 셀의 제어 신호를 어떻게 효율적으로 배선하고 업데이트할지가 시스템 설계의 핵심 과제가 됩니다.

한눈에 보는 결론 — 메타표면이 넘는 벽, 넘지 못하는 벽

지금까지의 내용을 하나의 원칙으로 압축하면 이렇습니다. 메타표면은 “기존 재료와 기존 구조가 만든 공학적 제약”을 탁월하게 극복하지만, “에너지 보존·인과율·상호성 같은 근본 원리에서 나온 한계”는 넘지 않습니다. 근본 한계를 우회하는 경우에는 반드시 그 한계의 전제(수동성, 선형성, 시불변성, 원거리장, 비자성 등)를 바꾸며, 그에 따른 새로운 비용을 치릅니다.

이 표가 말해 주는 것은 메타표면의 한계가 아니라 오히려 그 성숙함입니다. 초창기의 “무엇이든 가능하다”는 흥분은, 이제 “어디까지 가능한지 정확히 안다”는 공학적 자신감으로 바뀌었습니다. 한계를 정량적으로 아는 순간, 설계자는 한계 근처의 최적점을 노릴 수 있고, 어떤 응용에서 메타표면이 기존 기술보다 확실히 유리한지 판단할 수 있습니다. 근적외선 단일 파장 센서에서 먼저 상용화가 이루어진 것, 6G에서 RIS가 ‘만능 해결책’이 아니라 ‘음영 지역을 위한 저전력 보조 수단’으로 논의되는 것 모두 이런 냉정한 판단의 결과입니다.