합성함수 이야기 (2) : $h\left( x \right) =f\left( g\left( x \right) \right) $의 해석

두 함수 $f$, $g$에 대하여 $g\left( x \right) $의 치역이 $f\left( x \right) $의 정의역의 부분집합이며, $f\left( x \right) $와 $g \left( x \right)$가 미분가능할 때, 함수 $h\left( x \right) = f\left( g\left( x \right) \right) $를 해석해봅시다.

전통적인 방법과 그 한계

세 그래프 $y=f\left( x \right) $, $y=g\left( x \right) $, $y=x$의 위치 관계를 알 때 $y=h\left( x \right) $를 그리는 전통적인 방법을 배워봅시다.

$g\left( a \right) =b$, $f\left( b \right) = c$, $h\left( a \right) =c$일 때, $y=g\left( x \right) $ 위의 한 점 $\xy{a}{b}$와 $y=f\left( x \right) $ 위의 한 점 $\xy{b}{c}$를 찾으면 $y=h\left( x \right) $ 위의 점 $\xy[P]{a}{c}$를 잡을 수 있습니다. 이를 그리기 위해 전통적으로 사용되는 방법은 다음과 같습니다.

1. $x$축 위의 점 $\xy{a}{0}$을 이용해 $\xy{a}{b}$를 잡고, $y$축 위의 점 $\xy{0}{b}$를 잡는다.
2. $y$축 위의 점 $\xy{0}{b}$와 $y=x$를 이용해 $x$축 위의 점 $\xy{b}{0}$을 잡는다.
3. $x$축 위의 점 $\xy{b}{0}$을 이용해 $\xy{b}{c}$를 잡고, $\xy{a}{c}$를 잡는다.

이는 자연스러운 발상이기는 하지만, 전체의 그래프를 그리는 것이 아니라 한 점을 찾는 방법에 그칠 뿐이고, 그마저도 $a$와 $c$의 관계가 시각적으로 명확히 드러나지 않는다는 단점이 있습니다. 따라서 이 방법은 잠시 접어두고, 다른 방법을 알아봅시다.

---

합성함수를 분석하는 새로운 방법 : 극점만 찾아서 그리자

미분가능한 함수의 그래프는 극점의 $x$좌표를 찾고, 각각의 극점에 대하여 극값(극점의 $y$좌표)를 찾고 나면, 나머지 구간에서는 증감성이 확정되어 쉽게 그릴 수 있습니다. 그런데 우리는 합성함수의 극점을 찾는 방법을 배운 적이 없습니다. 정확히는 미적분 선택자만 배우고, 미선택자는 배우지 않습니다. 그래서 이 단원에서는 미적분을 선택하지 않고도, 합성함수의 극점을 찾아 그 그래프를 그리는 새로운 방법을 배워볼 것입니다.

이 정리를 이용하면 다음과 같은 방법으로 합성함수 $h\left(x\right) = f\left(g\left(x \right)\right)$의 극점의 $x$좌표를 찾을 수 있습니다.

1. $g\left( x \right) $의 극점의 $x$좌표를 찾는다.
2. $f\left( t \right) $의 극점의 $t$좌표 $t$를 찾고, $t=g\left( x \right) $인 $x$를 찾는다.
3. ①과 ②에서 찾은 $x$가 $h$의 모든 극점의 $x$좌표이다.

이렇게 극점의 $x$좌표 $\alpha_1$, $\alpha_2$, $\cdots$, $\alpha_n$을 찾고 나면, $h\left( \alpha_n \right)=f\left( g\left( \alpha_n \right) \right) $이므로 직접 대입하여 그 값을 찾거나, 전통적인 방법에서 배운 바와 같이 $y$좌표를 찾을 수 있을 것입니다.

앞으로는 위 정리와 방법이 어떻게 도출되었는지 그 과정을 배워봅시다. 다만, 논의의 편의를 위하여 $f$와 $g$는 정의역 일부 구간에서 `상수함수'도, 그 함수도 아님을 전제로 합니다.¹$f$ 또는 $g$가 상수함수이면 $h$도 해당 구간에서 상수함수이니 의미가 없습니다. 한편 그 함수조차 아직 단독으로도 수능에 출제되지 않은 상황이므로, 출제된 이후에 그 함수를 다른 함수와 합성한 상황을 공부해도 늦지 않습니다.

앞으로 펼쳐질 논리의 흐름은 대략적으로 다음과 같습니다. 이 흐름을 숙지한 상태에서 글을 읽어나가며 사고하시기 바랍니다.

1. 특정 구간에서 $f$와 $g$의 증감성이 어떠한지를 살펴보고, 각각의 경우 $h$의 증감성을 확인한다.
   1. $f$와 $g$의 증감성이 같으면 $h$가 증가한다.
   2. $f$와 $g$의 증감성이 다르면 $h$가 감소한다.
   3. 그러니 $h$를 분석할 때에는 증가구간들과 감소구간들로 쪼개자.
2. $f'=0$ 또는 $g'=0$인 지점이 구간에 포함된다면, 그 지점을 기준으로 구간을 쪼갠 후, 각각의 구간에서 $f$, $g$, $h$의 증감성을 확인한다.
3. 모든 경우를 확인해본 결과, 위의 정리와 결론을 얻는다.

---

$f$와 $g$의 증감이 일정하고 $f' \ne 0$, $g' \ne 0$인 경우\,

$f$와 $g$의 증감성이 동일하면 $h$가 증가합니다. $g$가 구간 $\CCI{a}{b}$에서 증가하고 $f$가 구간 $\CCI{g\left( a \right) }{g\left( b \right) }$에서 증가하면 $h$는 구간 $\CCI{a}{b}$에서 증가합니다. $g$가 구간 $\CCI{a}{b}$에서 감소하고 $f$가 구간 $\CCI{g\left( b \right) }{g\left( a \right) }$에서 감소하면 $h$는 구간 $\CCI{a}{b}$에서 증가합니다.²$g$가 감소함수이므로 $g\left( a \right) >g\left( b \right) $이고, 이로 인해 구간을 잡을 때 $\CCI{g\left( a \right) }{g\left( b \right) }$가 아닌 $\CCI{g\left( b \right) }{g\left( a \right) }$로 잡아야 합니다. 많은 학생들이 혼동하는 부분이므로 주의합시다. $f$와 $g$의 증감성이 다르면 $h$가 감소합니다. $g$가 구간 $\CCI{a}{b}$에서 증가하고 $f$가 구간 $\CCI{g\left( a \right) }{g\left( b \right) }$에서 감소하면 $h$는 구간 $\CCI{a}{b}$에서 감소합니다. $g$가 구간 $\CCI{a}{b}$에서 감소하고 $f$가 구간 $\CCI{g\left( b \right) }{g\left( a \right) }$에서 증가하면 $h$는 구간 $\CCI{a}{b}$에서 감소합니다.³여기서도 후자에서 구간 끝을 설정할 때 주의해야 합니다.

---

$f'=0$ 또는 $g'=0$인 경우가 포함된 경우(4가지)\,

`$x=a$에서 $g$가 극값을 갖는지의 여부'와 `$x=g\left( a \right) $에서 $f$가 극값을 갖는지의 여부'에 따라 $4$가지로 분류할 수 있습니다. 지금까지 배운 방법들을 이용하여, 각 구간에서 $f$, $g$의 증감성에 따라 $h$의 그래프를 그려봅시다.

1) $f$와 $g$가 모두 극값을 갖지 않는 경우

아래와 같이 `$x=a$에서 $g$가 극값을 갖지 않고, $x=g\left( a \right) $에서 $f$가 극값을 갖지 않을 때'입니다. 총 $4$가지 경우가 있으며, 모든 경우에서 $h$가 극값을 갖지 않습니다.

---

2) $g$만 극값을 갖는 경우

아래와 같이 `$x=a$에서 $g$가 극값을 갖고, $x=g\left( a \right) $에서 $f$가 극값을 갖지 않을 때'입니다. 총 $4$가지 경우가 있으며, 모든 경우에서 $h$가 극값을 갖습니다.

---

3) $f$만 극값을 갖는 경우

아래와 같이 `$x=a$에서 $g$가 극값을 갖지 않고, $x=g\left( a \right) $에서 $f$가 극값을 가질 때'입니다. 총 $4$가지 경우가 있으며, 모든 경우에서 $h$가 극값을 갖습니다.

---

4) $f$와 $g$가 모두 극값을 갖는 경우

아래와 같이 `$x=a$에서 $g$가 극값을 갖고, $x=g\left( a \right) $에서 $f$가 극값을 가질 때'입니다. 총 $4$가지 경우가 있으며, 모든 경우에서 $h$가 극값을 갖습니다.

---

정리와 적용\,

지금까지 배운 내용을 통해 순차적으로 알아본 사실을 정리해봅시다. 함수 $h\left( x \right) =f\left( g\left( x \right) \right) $가 $x=a$에서 극값을 가지면 ① 또는 ②가 성립합니다.

1. 함수 $g$가 $x=a$에서 극값을 갖는다.
2. 함수 $f$가 $x=g\left( a \right) $에서 극값을 갖는다.

역으로 ① 또는 ②가 성립하면 $h$가 $x=a$에서 극값을 갖습니다. 따라서 우리는 다음과 같이 합성함수 $h\left(x\right) = f\left(g\left(x \right)\right)$의 극점의 $x$좌표를 찾을 수 있습니다.

1. $g\left( x \right) $의 극점의 $x$좌표를 찾는다.
2. $f\left( t \right) $의 극점의 $t$좌표 $k$를 찾고, $k=g\left( x \right) $인 $x$를 찾는다.
3. ①과 ②에서 찾은 $x$가 $h$의 모든 극점의 $x$좌표이다.

기하 선택자와 확률과 통계 선택자는 이 정도로만 알면 충분합니다. 미적분 선택자들은 이렇게 해석해야 하는 이유를 합성함수의 미분법과 연관지어 추가적으로 탐구할 수 있습니다. 합성함수 미분법에 의하면 $f'\left( g\left( x \right) \right)g'\left( x \right) $인데, 이 식에서 부호의 변화는 $f'\left( g\left( x \right) \right) $의 부호가 바뀔 때 또는 $g'\left( x \right) $의 부호가 바뀔 때 일어나기 때문입니다.⁴이때 예리한 학생은 $f'\left( g\left( x \right) \right) $와 $g'\left( x \right) $의 부호가 동시에 바뀌면 $h'=0$이기만 하고 극점은 아닐 수도 있지 않을까?라는 의문이 들 수 있습니다. 이에 대해서는 다음 페이지에서 설명할 것입니다.

이렇게 증감성 변화를 찾고 나면 각 구간에서의 증감 여부는 쉽게 알 수 있습니다. 예를 들어 $f$와 $g$가 각각 (a), (b)와 같을 때, $h$는 (c)와 같이 그려집니다. ①에서 $x=d$를 찾고, ①에서 $g\left( x \right)=k $를 만족하는 두 실수 $x=b$, $x=c$를 찾고, ③에서 세 점 $\xy{b}{h\left( b \right) }$, $\xy{c}{h\left( c \right) }$, $\xy{d}{h\left( d \right) }$가 $h$의 극점임을 알 수 있습니다. 그 후 $h$의 정의역을 $\OOI{-\infty}{b}$, $\OOI{b}{d}$, $\OOI{d}{c}$, $\OOI{c}{\infty}$의 네 구간으로 나누고, 각 구간에서의 증감성이 일정함을 이용하여 그래프를 그리면 됩니다.

---

$x=k$에서 $g'$ 부호가 바뀌고 $x=g\left( k \right) $에서 $f'$ 부호 바뀔 때, $h'$ 부호도 바뀔까?\,

$x=k$에서 $g$가 극값을 갖고 $x=g\left( k \right) $에서 $f$가 극값을 가지면, $x=k$에서 $g'\left( x \right) $의 부호가 바뀌고, $x=g\left( k \right) $에서 $f'\left( x \right) $의 부호가 바뀝니다. 이러한 상황에서 다음과 같은 의문이 들 수 있습니다. 그러나 우리가 앞서 모든 그래프의 경우의 수를 따져 확인해보았듯이, 사실 우려했던 상황은 발생하지 않습니다. 이는 $x=k$에서 $g$가 극값을 갖고 $x=g\left( k \right) $에서 $f$가 극값을 갖는다면, $g'\left( x \right)$의 부호는 바뀌지만 $f'\left( g\left( x \right) \right)$의 부호가 바뀌지 않기 때문에 결과적으로 $h'\left( x \right)= f'\left( g\left( x \right) \right) g'\left( x \right) $의 부호가 바뀌기 때문입니다.

이를 수식으로 보여봅시다. $g$가 $x=k$에서 극댓값 $M_1$을 갖고, $f$가 $x=g\left( k \right) =M_1$에서 극댓값 $M_2$를 갖는다고 가정해봅시다. 이때 $x=k$를 포함하는 어떤 열린구간 $I_1$에서 $g$와 $g'$은 각각 다음과 같고, $x=g\left( k \right) $를 포함하는 어떤 열린구간 $I_2$에서 $f$와 $f'$은 각각 다음과 같습니다.

1. $x<k$에서 $g<M_1$, $g'>0$
   $x=k$에서 $g=M_1$, $g'=0$
   $x>k$에서 $g<M_1$, $g'<0$

2. $x<M_1$에서 $f<M_2$, $f'>0$
   $x=M_1$에서 $f=M_2$, $f'=0$
   $x>M_1 $에서 $f<M_2$, $f'<0$

이때 구간 $I_1$에서 $f\left( g\left( x \right) \right) $를 따지면 각각 다음과 같습니다.

1. $x < k$
   $g\left( x \right) <M_1$, $g'\left( x \right)>0$, $f\left( g\left( x \right) \right) < M_2$, $f'\left( g\left( x \right) \right) >0$이므로
   $h'\left( x \right) =f'\left( g\left( x \right) \right) g'\left( x \right) >0$입니다.

2. $x=k$
   $g\left( x \right) =M_1$, $g'\left( k \right) =0$, $f\left( g\left( x \right) \right) =M_2$, $f'\left( g\left( k \right) \right) = 0$이므로
   $h'\left( x \right) =f'\left( g\left( x \right) \right) g'\left( x \right) =0$입니다.
3. $x>k$
   $g\left( x \right) < M_1$, $g'\left( x \right) <0$, $f\left( g\left( x \right) \right) <M_2$, $f'\left( g\left( x \right) \right) >0$이므로
   $h'\left( x \right) =f'\left( g\left( x \right) \right) g'\left( x \right) <0$입니다.

따라서 구간 $I_1$에서 $h'$의 부호가 바뀜을 알 수 있습니다. 이는 $f$와 $g$가 모두 극대일 때를 살펴본 것이지만, 극소일 때에도 극대에서와 같은 방법을 이용하여 확인할 수 있습니다.

---