복소함수

복소수를 받아 복소수를 내는 함수도 실수 함수처럼 미분할 수 있을까? $z$ 가 수직선이 아니라 평면 위에서 움직이면 무엇이 달라질까? 이 과목은 복소 미분을 다음 절의 지수함수에서 쓴다. $e^z$ 를 복소수로 넓힐 때는 실수에서처럼 어디서나 미분되고 도함수가 자기 자신인 함수를 골라야 하고, 그 기준이 이 절에서 정의하는 해석성이다.

복소평면의 영역

복소수 $z=x+jy$ 를 받아 복소수 $w$ 를 내는 함수를 복소함수(complex function)라고 한다.

w=f(z)=u(x,y)+jv(x,y)

$z$ 를 복소변수(complex variable), $w$ 를 $z$ 에서의 $f$ 의 값이라고 부르고, $u$ 와 $v$ 는 두 실변수 $x,y$ 의 실함수이다. 여기서는 $z$ 하나에 값이 하나인 함수(single-valued function)만 다룬다. 예를 들어 $f(z)=z^2=(x^2-y^2)+j2xy$ 이면 $u=x^2-y^2$ , $v=2xy$ 이다.

$|z-a|$ 는 점 $z$ 와 점 $a$ 사이의 거리이다. 그래서 $|z-a|=\rho$ 는 중심 $a$ , 반지름 $\rho$ 인 원이고, $|z-a|<\rho$ 는 그 안쪽의 열린 원판(open disk), $\rho_1<|z-a|<\rho_2$ 는 두 원 사이의 원환(annulus)이다. 단위원은 $|z|=1$ 이다.

등호는 원 자체를, 부등호는 원판이나 원환 같은 영역을 나타낸다. 부등호가 $<$ 이면 경계는 영역에 들지 않는다.

자취(locus)와 영역을 묻는 문제는 $z=x+jy$ 를 넣어 실수 식으로 바꾸면 풀린다. 예를 들어 $|z|=2|z-3|$ 은 원점까지의 거리가 점 $3$ 까지 거리의 두 배인 점들이다. 양변을 제곱하면

x^2+y^2=4\big[(x-3)^2+y^2\big]\;\Rightarrow\;(x-4)^2+y^2=4

이므로 중심 $4$ , 반지름 $2$ 인 원이다. 거리의 비가 $1$ 이면, 곧 $|z-a|=|z-b|$ 이면 원이 아니라 $a$ 와 $b$ 를 잇는 선분의 수직이등분선이 된다.

$|z+1|<2$ 를 만족하는 점 $z$ 의 영역을 고르라.

(가) 중심 $-1$ , 반지름 2인 원의 안쪽(경계 제외)
(나) 중심 $1$ , 반지름 2인 원의 안쪽(경계 제외)
(다) 중심 $-1$ , 반지름 2인 원의 안쪽과 경계
(라) 중심 $-1$ , 반지름 2인 원

풀이

답 (가) 중심 $-1$ , 반지름 2인 원의 안쪽(경계 제외)

(나) $|z+1|=|z-(-1)|$ 은 점 $-1$ 까지의 거리이다.
(다) 부등호가 $<$ 라 경계 위의 점은 들지 않는다.
(라) 원은 등호 $|z+1|=2$ 를 만족하는 점들이다.

$|z+1|=|z-(-1)|$ 은 $z$ 와 점 $-1$ 사이의 거리이다. 이 거리가 2보다 작은 점들이므로 중심 $-1$ , 반지름 2인 열린 원판이다.

극한, 연속, 미분

$z$ 가 $z_0$ 에 가까워질 때 $f(z)$ 가 $l$ 에 가까워지면 다음과 같이 쓴다.

\lim_{z\to z_0}f(z)=l

정확히는, 어떤 $\varepsilon>0$ 을 주어도 $0<|z-z_0|<\delta$ 인 모든 $z$ 에서 $|f(z)-l|<\varepsilon$ 이 되게 하는 $\delta>0$ 이 있다는 뜻이다. $z$ 평면에서 $z_0$ 둘레의 반지름 $\delta$ 원판이 $w$ 평면에서 $l$ 둘레의 반지름 $\varepsilon$ 원판 안으로 옮겨지는 그림을 떠올리면 된다. 실수 함수와 달리 $z$ 는 평면 위의 어느 방향에서든 $z_0$ 에 다가올 수 있고, 극한은 모든 방향에서 같아야 한다.

$f(z_0)$ 가 정의되어 있고 $\lim_{z\to z_0}f(z)=f(z_0)$ 이면 $f$ 는 $z_0$ 에서 연속(continuous)이다.

미분도 실수 함수와 같은 모양으로 정의한다.

\begin{aligned} f'(z_0)&=\lim_{\Delta z\to0}\frac{f(z_0+\Delta z)-f(z_0)}{\Delta z}\\ &=\lim_{z\to z_0}\frac{f(z)-f(z_0)}{z-z_0} \end{aligned}

이 극한이 있으면 $f$ 는 $z_0$ 에서 미분가능(differentiable)하고, 미분가능하면 연속이다. 미분 규칙도 실수 함수와 같다.

\begin{gathered} (cf)'=cf',\qquad (f+g)'=f'+g'\\ (fg)'=f'g+fg',\qquad \left(\frac fg\right)'=\frac{f'g-fg'}{g^2} \end{gathered}

다만 $\Delta z$ 가 복소수이므로 모든 방향에서 같은 극한이 나와야 하고, 이 조건은 생각보다 강하다.

예제 1: 켤레의 미분가능성

$f(z)=\overline z=x-jy$ 는 어디에서도 미분가능하지 않다. $\Delta z=\Delta x+j\Delta y$ 로 놓으면 차분몫은

\frac{\overline{z+\Delta z}-\overline z}{\Delta z}=\frac{\overline{\Delta z}}{\Delta z}=\frac{\Delta x-j\Delta y}{\Delta x+j\Delta y}

이다. 실수축과 나란히 다가오면( $\Delta y=0$ , 경로 I) 값은 $1$ 이고, 허수축과 나란히 다가오면( $\Delta x=0$ , 경로 II) 값은 $-1$ 이다. 각 $\varphi$ 방향에서 다가오면 $\Delta z=|\Delta z|e^{j\varphi}$ 이므로 차분몫은 $e^{-j2\varphi}$ 가 되어 방향마다 다르다. 극한이 하나로 정해지지 않으므로 $\overline z$ 는 어느 점에서도 미분가능하지 않다. 모든 점에서 연속인 단순한 함수인데도 그렇다.

해석함수와 Cauchy–Riemann 방정식

함수 $f(z)$ 가 영역(domain) $D$ 의 모든 점에서 정의되고 미분가능하면 $f$ 는 $D$ 에서 해석적(analytic, holomorphic)이라고 한다. 한 점 $z_0$ 에서 해석적이라는 말은 $z_0$ 의 어떤 근방(neighborhood) 전체에서 해석적이라는 뜻이다. 그 한 점에서만 미분가능한 것으로는 부족하다.

해석성을 판정하는 도구가 Cauchy–Riemann 방정식이다. $f=u+jv$ 가 점 $z=x+jy$ 의 근방에서 정의되고 연속이며 $z$ 에서 미분가능하면, 그 점에서 $u,v$ 의 1계 편미분이 있고 다음을 만족한다.

\begin{gathered} u_x=v_y,\qquad u_y=-v_x\\ \frac{\partial u}{\partial x}=\frac{\partial v}{\partial y},\qquad \frac{\partial u}{\partial y}=-\frac{\partial v}{\partial x} \end{gathered}

이유는 앞의 $\overline z$ 예와 같다. $\Delta z$ 를 실수축 방향으로 보내면 $f'=u_x+jv_x$ 이고, 허수축 방향으로 보내면( $\Delta z=j\Delta y$ ) $f'=(u_y+jv_y)/j=v_y-ju_y$ 이다. 미분가능하면 두 값이 같아야 하므로 실수부끼리, 허수부끼리 비교해 위의 두 식을 얻는다. 역은 조건을 붙이면 성립한다. $u,v$ 의 1계 편미분이 $D$ 에서 있고 연속이며 Cauchy–Riemann 방정식을 만족하면 $f$ 는 $D$ 에서 해석적이다. 증명은 생략한다(편미분이 연속이면 $u,v$ 를 1차식으로 근사할 수 있다는 전미분의 성질에서 나온다).

$\overline z$ 는 $u=x$ , $v=-y$ 라서 $u_x=1$ , $v_y=-1$ 이므로 어느 점에서도 조건을 만족하지 않는다. $z^2$ 는 $u_x=2x=v_y$ , $u_y=-2y=-v_x$ 로 모든 점에서 만족한다.

직접 풀어 보기. $f(z)=jz\overline z$ 가 어디에서 미분가능하고 어디에서 해석적인지 판단하라.

풀이

$z\overline z=x^2+y^2$ 이므로 $f=j(x^2+y^2)$ , 곧 $u=0$ , $v=x^2+y^2$ 이다. Cauchy–Riemann 방정식은

u_x=0=v_y=2y,\qquad u_y=0=-v_x=-2x

이므로 $x=y=0$ , 곧 $z=0$ 에서만 성립한다. $z=0$ 에서는 차분몫이 $j|\Delta z|^2/\Delta z=j\,\overline{\Delta z}\to0$ 이므로 실제로 미분가능하고 $f'(0)=0$ 이다. 그러나 $z=0$ 의 어떤 근방에도 미분가능하지 않은 점이 들어 있으므로 $f$ 는 어디에서도 해석적이지 않다.

$f(z)=\operatorname{Re}z=x$ 가 미분가능한 점을 고르라.

(가) 모든 점
(나) 어디에서도 미분가능하지 않다
(다) 실수축 위에서만
(라) $z=0$ 에서만

풀이

답 (나) 어디에서도 미분가능하지 않다

(가) $u=x$ , $v=0$ 이라 $u_x=1$ , $v_y=0$ 이다. Cauchy–Riemann 방정식의 첫 식이 어느 점에서도 성립하지 않는다.
(다) 실수축을 따라 다가오면 차분몫이 1이지만, 허수축을 따라 다가오면 0이다.
(라) $jz\overline z$ 와 달리 여기서는 $u_x=1$ , $v_y=0$ 이 $z=0$ 에서도 같지 않다.

$u=x$ , $v=0$ 이므로 $u_x=1$ , $v_y=0$ 이다. $u_x=v_y$ 가 어느 점에서도 성립하지 않으므로 미분가능한 점이 없다. 차분몫으로 보아도 $\Delta z=\Delta x$ 이면 $\Delta x/\Delta x=1$ 이고, $\Delta z=j\Delta y$ 이면 $0/(j\Delta y)=0$ 이라 방향마다 극한이 다르다.