Calculus) 함수의 분석과 미적분 > 함수에 대해 못다 한 이야기

합성함수 이야기 (3) : $g\left( x \right) =f\left( f\left( x \right) \right)$의 해석

함수 $f\left( x \right) $에 대하여 $f$에 $f$를 취한 함수 $\comp ff$는 출제자들이 매우 선호합니다. 이는 $f$ 하나만 적절히 설정하면 여러 가지를 동시에 물을 수 있기 때문입니다. 연속함수 $f$에 대하여 $\comp ff$에 관한 대표적인 상황을 다루어봅시다. 편의상 $g=\comp ff$라 합시다.

$y=f\left( x \right) $를 알 때 $y=g\left( x \right) $ 그리기 : $f\left( f\left( x \right) \right) =f\left( x \right) $ 이용\,

$y=f\left( x \right) $를 알 때 $y=g\left( x \right) $를 그려보기 위해서는 방정식 $f\left( f\left( x \right) \right) =f\left( x \right) $의 해를 찾아야 합니다.

$f\left( f\left( x \right) \right) =f\left( x \right) $를 이용하는 근거

$f$는 주어진 정보이고, $g=\comp ff$는 주어진 정보를 바탕으로 해석하여 알아내야 하는 정보입니다. 따라서 우리는 $f$와 $\comp ff$의 관계에 관심을 가질 수밖에 없고, 그 관계 중 가장 특수한 상황인 두 함수의 함숫값이 같은 상황이 언제인지를 탐구하는 것은 매우 자연스럽습니다.

방정식 $f\left( f\left( x \right) \right) =f\left( x \right) $의 해의 유형

이를 수식으로 나타내면 $f\left( f\left( x \right) \right) =f\left( x \right) $입니다. 이 방정식의 가장 간단한 해는 $f\left( x \right) =x$를 만족시키는 실수 $x$입니다. 좌변과 우변이 모두 $x$로 같아지기 때문입니다. 이는 $y=f\left( x \right) $와 $y=x$의 교점의 $x$좌표이기도 합니다.

그 외의 해가 더 존재하는지를 찾아봅시다. 주어진 방정식에서 $f\left( x \right) =t$로 치환하면 $f\left( t \right) = t$입니다. 이를 단계적으로 해석해봅시다.

  1. $t$는 $f\left( t \right) =t$를 만족시킨다.
    이는 $\xy{t}{f\left( t \right) }$가 $y=x$ 위의 점임을 의미합니다. 그런데 이는 우리가 앞서 살펴보았던 방정식 $f\left( f\left( x \right) \right) =f\left( x \right) $의 가장 간단한 해이기도 합니다.
  2. $x$는 $f\left( x \right) =t$를 만족시킨다.
    ①에서 얻은 $y=f\left( x \right) $와 $y=x$의 교점의 $x$좌표를 $a_1$, $a_2$, $\cdots$라 할 때, $y=f\left( x \right) $와 $y=a_1$, $y=a_2$, $\cdots$가 만나는 점들의 $x$좌표가 우리가 찾던 방정식의 해입니다.
정리하면, $f\left( f\left( x \right) \right) =f\left( x \right) $의 해는 다음의 두 가지로 분류할 수 있습니다.
  1. $f\left( x \right) =x$인 $x$ : $y=x$와 $y=f\left( x \right) $의 교점의 $x$좌표

  2. $f\left( x \right) = a_n$인 $x$ : ①의 해를 $a_1$, $a_2$, $\cdots$이라 할 때, ①의 해와 함숫값이 같은 곳

배운 내용 연습하기 (1)

$f$의 그래프가 그림과 같을 때, $g$의 그래프를 그려봅시다. 이때 $g = \comp ff$ 또한 엄연히 합성함수이므로, Calculus 3.2)에서 배운 논리를 그대로 이용하여 증감성을 분석할 수 있을 것입니다. 그런데 주어진 $f$는 증가함수이므로 $g$도 증가함수임을 쉽게 알 수 있습니다. 따라서 극점은 고려하지 않아도 됩니다.
먼저 $x$좌표가 방정식 $g\left( x \right) =f\left( x \right) $의 해인 경우부터 찾아봅시다. $x$좌표가 ①의 해이면 그 점에서 $y=f\left( x \right) $와 $y=x$가 만나고, 그 점은 $y=g\left( x \right) $ 위의 점입니다.1그림에서는 검은색 점으로 표현되어 있습니다. 이러한 해들을 $a_1$, $a_2$, $\cdots$, $a_n$이라 할 때, $y=f\left( x \right) $와 $y=t$가 만나는 점들의 $x$좌표가 ②의 해이고, 이 점들 또한 $y=g\left( x \right) $ 위의 점입니다.2그러나 이러한 점은 존재하지 않습니다.
앞서 극점이 없음은 알았으므로, 나머지 일반적인 점 $\xy{a}{b}$에 대하여 $\xy{a}{g\left( a \right) }$를 찾아봅시다. $g\left( a \right) =f\left( f\left( a \right) \right) =f\left( b \right) $이므로 $\xy{a}{f\left( b \right) }$를 찾으면 됩니다. (a)와 같이 $y=f\left( x \right) $가 $y=x$의 아래쪽에 있을 경우 $g\left( a \right) <f\left( a \right) $입니다. (b)와 같이 $y=f\left( x \right) $가 $y=x$의 위쪽에 있을 경우 $g\left( a \right) > f\left( a \right) $입니다.

따라서 $y=f\left( x \right) $가 (a)와 같을 때, $y=g\left( x \right) $의 그래프는 (b)와 같습니다.

배운 내용 연습하기 (2)

$f$의 그래프가 그림과 같을 때, $g$의 그래프를 그려봅시다. 이때 $g = \comp ff$ 또한 엄연히 합성함수이므로, Calculus 3.2)에서 배운 논리를 그대로 이용하여 증감성을 분석할 수 있을 것입니다.
먼저 $x$좌표가 방정식 $g\left( x \right) =f\left( x \right) $의 해인 경우부터 찾아봅시다. $x$좌표가 ①의 해이면 그 점에서 $y=f\left( x \right) $와 $y=x$가 만나고, 그 점은 $y=g\left( x \right) $ 위의 점입니다.3그림에서는 검은색 점으로 표현되어 있습니다. 이러한 해들을 $a_1$, $a_2$, $\cdots$, $a_n$이라 할 때, $y=f\left( x \right) $와 $y=t$가 만나는 점들의 $x$좌표가 ②의 해이고, 이 점들 또한 $y=g\left( x \right) $ 위의 점입니다.4그림에서는 색칠된 점으로 표현되어 있습니다.
다음으로 $g$의 극점의 $x$좌표를 찾아봅시다. $f$의 극점의 $x$좌표를 각각 $a$, $b$라 하면, 이는 $g$의 극점의 $x$좌표입니다. 또한 $y=f\left( x \right) $와 $y=a$의 교점의 $x$좌표를 $c$, $y=f\left( x \right) $와 $y=b$의 교점의 $x$좌표를 $d$라 하면, 이는 $g$의 극점의 $x$좌표입니다. 이때 주의해야 할 것은, $g$의 극점의 $x$좌표를 찾았을 뿐이지, 극값을 찾은 것은 아니라는 점입니다. 극값을 찾으려면 $g\left( x \right) =f\left( f\left( x \right) \right) $에 극점의 $x$좌표를 대입하여 $g\left( a \right) $, $g\left( b \right) $, $g\left( c \right) $, $g\left( d \right) $를 찾아야 합니다.5그림의 흰색 점들은 $y=f\left( x \right) $ 위의 점일 뿐 $y=g\left( x \right) $ 위의 점이 아닙니다. 색칠된 점들이 $y=g\left( x \right) $ 위의 점입니다. $x$좌표가 $g\left( x \right) =f\left( x \right) $의 해인 경우와 혼동하기 쉬우므로 주의합시다.
따라서 $y=f\left( x \right) $의 그래프가 (a)와 같을 때, $y=g\left( x \right) $의 그래프는 (b)와 같습니다.

$y=f\left( x \right) $가 그림과 같을 때, $y=f\left( f\left( x \right) \right) $의 그래프를 그리시오.

`모든 실수 $x$에 대하여 $f\left( f\left( x \right) \right) = x$ 조건' 해석하기\,

$f\left( x \right) $가 모든 실수 $x$에 대하여 $f\left( f\left( x \right) \right)=x $를 만족시키는 상황을 해석해봅시다.

$y=f\left( x \right) $ 위의 한 점 $\xy{a}{b}$를 생각해봅시다. 그러면 $f\left( a \right) =b$이고, 모든 실수 $x$에 대하여 $f\left( f\left( x \right) \right)=x $이므로 $x=a$를 대입하면 $f\left( f\left( a \right) \right) = f\left( b \right) = a$입니다. 즉 $\xy{a}{b}$가 $y=f\left( x \right) $ 위의 점이라면 $\xy{b}{a}$도 $y=f\left( x \right) $ 위의 점임을 알 수 있습니다.

그런데 $\xy{a}{b}$와 $\xy{b}{a}$는 서로 $y=x$에 대하여 대칭이므로, $y=f\left( x \right) $의 그래프를 $y=x$에 대하여 대칭이동하면 $y=f\left( x \right) $의 그래프가 됩니다. 이때 $a=b$였다면 $\xy{a}{b}$와 $\xy{b}{a}$는 서로 같은 점 $\xy{a}{a}$인데, 이는 대칭축인 $y=x$ 위의 점이 됩니다.

따라서 $y=f\left( x \right) $ 위의 모든 점은 $y=f\left( x \right) $ 위의 다른 한 점과 $y=x$에 대하여 대칭6$y=f\left( x \right) $와 $y=x$의 교점은 $y=x$에 대하여 대칭이동한 점이 원래의 점과 같습니다.입니다. 이러한 성질을 가진 점들을 모아 그린 것이 $y=f\left( x \right) $의 그래프이므로, $y=f\left( x \right) $의 그래프는 대칭축이 $y=x$인 그래프가 됩니다.

`방정식 $f\left( f\left( x \right) \right) = x$의 근' 조건 해석하기\,

`$x=a$가 방정식 $f\left( f\left( x \right) \right) = x$의 근 중 하나인 상황'을 해석해봅시다. 편의상 $f\left( f\left( x \right) \right) =g\left( x \right) $라 하고, $f\left( a \right) = b$라 합시다.

$g\left( x \right) =x$에 $x=a$ 대입하여 $f\left( b \right) =a$ 얻기

$x=a$는 주어진 방정식 $g\left( x \right) =x$의 근이므로, 방정식의 양변에 $x=a$를 대입하면 등식이 성립합니다. 따라서 $g\left( a \right) =a \cthcn1$가 성립합니다. 이때 ①의 좌변에서 $g\left( a \right) =f\left( f\left( a \right) \right) =f\left( b \right) $이므로 $f\left( b \right) =a \cthcn2$를 얻습니다.

$x=b$가 $g\left( x \right) =x$의 근임을 파악하기

②의 양변에 $f$를 취하면 함수의 정의에 의해 $f\left( f\left( b \right) \right) =f\left( a \right) $이 성립합니다. 이때 좌변에서 $f\left( f\left( b \right) \right) =g\left( b \right) $이고 우변에서 $f\left( a \right) =b$이므로 $g\left( b \right) =b$가 성립함을 알 수 있습니다. 이는 $x=b$가 방정식 $g\left( x \right) =x$의 근임을 의미합니다.

중간정리

지금까지 해석한 바에 따르면 다음의 결론을 얻습니다.
$g(x)= \COMP ffx$라 할 때,
$x=a$가 방정식 $g\left( x \right) =x$의 근이고 $\xy{a}{b}$가 $y=f\left( x \right) $ 위의 점이면
$x=b$가 방정식 $g\left( x \right) =x$의 근이고 $\xy{b}{a}$가 $y=f\left( x \right) $ 위의 점이다.

$a$와 $b$의 관계에 따라 분류하여 마무리하기

$a=b$인 경우

두 점 $\xy{a}{b}$와 $\xy{b}{a}$는 동일한 점 $\xy{a}{a}$가 되고, 이와 동시에 $\xy{a}{a}$는 $y=x$ 위의 점이기도 합니다. 이는 `$y=f\left( x \right) $와 $y=x$의 교점의 $x$좌표'가 방정식 $g\left( x \right) =x$의 근임을 의미합니다.$\cthcn3$

$a \ne b$인 경우7편의상 $a<b$인 경우만 나타냈습니다. $a>b$인 경우는 $a$와 $b$의 위치만 반대로 바뀔 뿐이고, 논리 전개는 모두 동일합니다.
두 점 $\xy{a}{b}$와 $\xy{b}{a}$는 서로 $y=x$에 대하여 대칭입니다. 이때 $y=f\left( x \right) $가 두 점 $\xy{a}{b}$, $\xy{b}{a}$를 지납니다. 이때 $f\left( x \right) $가 연속함수이므로 $f\left( c \right) = c $를 만족하는 실수 $c$가 구간 $\OOI{a}{b}$에 적어도 하나 존재합니다.8그래프를 통해 직관적으로 이해할 수도 있고, 방정식 $f\left( x \right) =x $를 생각하고 $f\left( x \right) -x=0$으로 변형하여 함수 $f\left( x \right) -x$를 생각하고, 이 함수가 연속임을 이용하여 구간 $\CCI{a}{b}$에서 사잇값 정리를 이용하면 논리적으로 실수 $c$의 존재를 보일 수 있습니다. 이때 $\xy{c}{c}$는 $y=f\left( x \right) $와 $y=x$의 교점이므로, ③에 의해 $x=c$는 방정식 $g\left( x \right) =x$의 근임을 알 수 있습니다. 따라서 $a \ne b$, $f\left( a \right)=b$, $g\left( a \right) =a$인 실수 $a$를 찾으면, 방정식 $g\left( x \right) =x$의 근을 적어도 두 개 확정적으로 얻을 수 있으며, 그 중 하나는 $x=b$, 나머지 하나는 $a$와 $b$ 사이에 있는 $x=c$입니다.

배운 내용 적용하기

이제 배운 내용을 적용하여 다음의 문제를 풀어봅시다.
최고차항의 계수가 양수인 삼차함수 $f\left( x \right) $에 대하여 방정식 \[\begin{align*}\COMP{f}{f}{x} = x\end{align*}\] 의 모든 실근이 $0$, $1$, $a$, $2$, $b$이다. \[\begin{align*} f'\left( 1 \right) < 0,\quad f'\left( 2 \right)<0,\quad f'\left( 0 \right)-f'\left( 1 \right) =6 \end{align*}\] 일 때, $f\left( 5 \right)$의 값을 구하시오. (단, $1<a<2<b$)
방정식 $f(f(x))=x$의 실근 중 가장 간단한 경우는 $f(x)=x$인 $x$입니다. 그런데 $f(x)=x$는 삼차방정식이므로 최소 $1$개, 최대 $3$개의 실근을 갖습니다. 그러면 방정식 $f(f(x))=x$의 서로 다른 실근의 개수가 $5$이므로 이 방정식의 실근 중 $f(x)\ne x$인 것은 최소한 $2$개 있음을 알 수 있습니다.

방정식 $f(f(x))=x$의 실근 중 $f(x) \ne x$인 것을 $x=p$라 하고, $f(p)=q$라 하면, $p \ne q$입니다. 이때 $f(f(p))=f(q)=p$가 성립하는데, $f\left( q \right) =p$를 이용하기 위해 주어진 방정식에 $x=q$를 대입해보면 $f(f(q))=f(p)=q$가 성립합니다. 따라서 $x=q$ 또한 방정식 $f(f(x))=x$의 실근이고, 두 점 $\xy{p}{q}$와 $\xy{q}{p}$는 서로 $y=x$에 대하여 대칭입니다.9그림에서는 $p<q$인 경우로 표현되어 있지만, $p<q$인 경우는 어차피 $p$와 $q$의 입장만 서로 바뀌었을 뿐 결과적으로 동일한 상황이 됩니다.

또한 그림과 같이 $\lim_{x \to \infty}\left\{ f(x)-x \right\} = \infty$, $\lim_{x \to -\infty}\left\{ f(x)-x \right\} = -\infty$이므로 사잇값 정리에 의해 두 구간 $\ooi{-\infty}{p}$, $\ooi{q}{\infty}$에 각각 $f(x)-x=0$인 $x$가 적어도 하나 존재합니다. 이는 $y=f\left( x \right) $와 $y=x$의 교점이 적어도 하나 존재함을 의미합니다.

한편 좌표평면에서 두 점 $\xy{p}{q}$, $\xy{q}{p}$를 보면 $y=f\left( x \right) $와 $y=x$가 열린구간 $\ooi{p}{q}$에서 교점을 적어도 하나 가질 것을 예상할 수 있습니다.10논리적으로 설명하려면, 함수 $g\left( x \right) =f\left( x \right)-x $를 생각하여 $g\left( p \right)>0 $, $g\left( q \right)<0 $임과 사잇값 정리를 이용하면 됩니다. 이 교점의 $x$ 좌표를 $c$라 하면 $\xy{c}{c}$가 $y=x$ 위의 점이므로, 이 또한 방정식 $f\left( f\left( x \right) \right) =x$의 근이 됩니다.

이제 지금까지 알아낸 정보를 문제의 상황과 엮어봅시다. $f(f(x))=x$인 $x$의 개수는 $5$이고, $f\left( f\left( x \right) \right) =x$의 근은 $f\left( x \right) = x$인 근과 $f\left( x \right) \ne x $인 근으로 나뉩니다. 이때 후자인 $f(x) \ne x$인 $x$는 쌍으로 존재합니다. $f(x) \ne x$인 $x$를 각각 $x=p$, $x=q$라 하면, $y=f\left( x \right) $는 두 점 $\xy{p}{q}$와 $\xy{q}{p}$를 지납니다.

한편 다섯 개의 근의 대소관계를 살펴보면, $p$보다 작은 근 하나, $p$와 $q$ 사이의 근 하나, $q$보다 큰 근 하나는 모두 $f(x)=x$인 근이 됩니다. 문제에서 $0<1<a<2<b$이므로 $p=1$, $q=2$이고, $y=f\left( x \right) $는 $\xy{1}{2}$와 $\xy{2}{1}$을 지나며, $f\left( 0 \right) = 0$, $f\left( a \right) =a$, $f\left( b \right) =b$입니다.11그림에는 $\xy{a}{a}$가 마치 $\xy{1}{2}$와 $\xy{2}{1}$의 중점처럼 그려져 있습니다. 이는 결과적으로 맞기는 한데, 문제에서 주어진 정보만으로 즉각 알 수 있는 것은 아님을 주의합시다.

이제 식을 작성해 답을 구해봅시다. $f(0)=0$이므로 $f(x) = kx^3+lx^2+mx$라 할 수 있습니다. $f(1)=2$, $f(2)=1$이므로 $k+l+m = 2$이고 $8k+4l+2m = 1$입니다. 또한 $f'(0)-f'(1)=-3k-2l=6$입니다. 세 식을 연립하면 $f(x) = x^3 - \dfrac{9}{2}x^2 + \dfrac{11}{2}x$를 얻습니다. 따라서 $f(5) = 40$입니다.

  1. 1. 그림에서는 검은색 점으로 표현되어 있습니다.
  2. 2. 그러나 이러한 점은 존재하지 않습니다.
  3. 3. 그림에서는 검은색 점으로 표현되어 있습니다.
  4. 4. 그림에서는 색칠된 점으로 표현되어 있습니다.
  5. 5. 그림의 흰색 점들은 $y=f\left( x \right) $ 위의 점일 뿐 $y=g\left( x \right) $ 위의 점이 아닙니다. 색칠된 점들이 $y=g\left( x \right) $ 위의 점입니다.
  6. 6. $y=f\left( x \right) $와 $y=x$의 교점은 $y=x$에 대하여 대칭이동한 점이 원래의 점과 같습니다.
  7. 7. 편의상 $a<b$인 경우만 나타냈습니다. $a>b$인 경우는 $a$와 $b$의 위치만 반대로 바뀔 뿐이고, 논리 전개는 모두 동일합니다.
  8. 8. 그래프를 통해 직관적으로 이해할 수도 있고, 방정식 $f\left( x \right) =x $를 생각하고 $f\left( x \right) -x=0$으로 변형하여 함수 $f\left( x \right) -x$를 생각하고, 이 함수가 연속임을 이용하여 구간 $\CCI{a}{b}$에서 사잇값 정리를 이용하면 논리적으로 실수 $c$의 존재를 보일 수 있습니다.
  9. 9. 그림에서는 $p<q$인 경우로 표현되어 있지만, $p<q$인 경우는 어차피 $p$와 $q$의 입장만 서로 바뀌었을 뿐 결과적으로 동일한 상황이 됩니다.
  10. 10. 논리적으로 설명하려면, 함수 $g\left( x \right) =f\left( x \right)-x $를 생각하여 $g\left( p \right)>0 $, $g\left( q \right)<0 $임과 사잇값 정리를 이용하면 됩니다.
  11. 11. 그림에는 $\xy{a}{a}$가 마치 $\xy{1}{2}$와 $\xy{2}{1}$의 중점처럼 그려져 있습니다. 이는 결과적으로 맞기는 한데, 문제에서 주어진 정보만으로 즉각 알 수 있는 것은 아님을 주의합시다.