【解説・採点基準付き】2007年九州大学文系数学の解答・解説

$f(x)=(x^2-2)(x^2-4x+2)$ とおく。このとき、次の問いに答えよ。

(1) 方程式 $f(x)=0$ の実数解 $x$ をすべて求め、小さい順に並べよ。

(2) 不等式 $f(n)\leqq0$ を満たす整数 $n$ をすべて求めよ。

(3) 不等式 $f(n)\leqq1$ を満たす整数 $n$ をすべて求めよ。

(1)　配点 15点

$f(x)=0$ より

$$x^2-2=0\quad\text{または}\quad x^2-4x+2=0$$

$x^2-2=0$ より $x=\pm\sqrt2$。 $x^2-4x+2=0$ より、解の公式から $x=2\pm\sqrt2$。

$1<\sqrt2<2$ （ $1<2<4$ より）なので

$$-2<-\sqrt2<-1,\quad 0<2-\sqrt2<1,\quad 1<\sqrt2<2,\quad 3<2+\sqrt2<4$$

よって4つの解は、小さい順に $-\sqrt2$、 $2-\sqrt2$、 $\sqrt2$、 $2+\sqrt2$ と並ぶ。4つの解はすべて異なる。

答　$x=-\sqrt2,\ 2-\sqrt2,\ \sqrt2,\ 2+\sqrt2$

(2)　配点 20点

$x^2-2\leqq0\iff-\sqrt2\leqq x\leqq\sqrt2$、 $x^2-4x+2\leqq0\iff2-\sqrt2\leqq x\leqq2+\sqrt2$ なので、(1) の4つの解を境目にした符号表は次のようになる。

よって、 $f(x)\leqq0$ となる実数 $x$ の範囲は

$$-\sqrt2\leqq x\leqq2-\sqrt2,\qquad \sqrt2\leqq x\leqq2+\sqrt2$$

である。これは $y=f(x)$ のグラフが $x$ 軸より下（ $x$ 軸上を含む）にある範囲で、下の図の太線の部分にあたる。

(1) の $-2<-\sqrt2<-1$、 $0<2-\sqrt2<1$ より、1つ目の区間に入る整数は $n=-1,\ 0$。 $1<\sqrt2<2$、 $3<2+\sqrt2<4$ より、2つ目の区間に入る整数は $n=2,\ 3$。

（確かめ： $f(-1)=-7$、 $f(0)=-4$、 $f(2)=-4$、 $f(3)=-7$ で、どれも0以下）

答　$n=-1,\ 0,\ 2,\ 3$

(3)　配点 15点

(2) で求めた $n=-1,\ 0,\ 2,\ 3$ は $f(n)\leqq0\leqq1$ をみたすので、すべて条件をみたす。

残りの整数は、 $n=1$ と、 $n\leqq-2$、 $n\geqq4$ である。

$n=1$ のとき　 $f(1)=(1-2)(1-4+2)=(-1)\cdot(-1)=1$ なので、 $f(1)\leqq1$ をみたす。

$n\geqq4$ のとき　 $n^2-2\geqq16-2=14$。また $n^2-4n+2=(n-2)^2-2$ で、 $n-2\geqq2$ より $(n-2)^2-2\geqq4-2=2$。2つの因数はどちらも正なので

$$f(n)\geqq14\cdot2=28>1$$

$n\leqq-2$ のとき　 $n^2\geqq4$ より $n^2-2\geqq2$。また $n-2\leqq-4$ より $(n-2)^2\geqq16$ で、 $n^2-4n+2=(n-2)^2-2\geqq14$。2つの因数はどちらも正なので

$$f(n)\geqq2\cdot14=28>1$$

よって、 $n\leqq-2$、 $n\geqq4$ の整数は条件をみたさない。

以上より、条件をみたす整数は $n=-1,\ 0,\ 1,\ 2,\ 3$。

答　$n=-1,\ 0,\ 1,\ 2,\ 3$

別解（ $x=1$ を中心に置きかえる）　 $x^2-4x+2=(2-x)^2-2$ なので、 $f(2-x)=f(x)$ が成り立ち、 $y=f(x)$ のグラフは直線 $x=1$ に関して対称である。そこで $t=x-1$ とおくと

$$x^2-2=t^2+2t-1,\qquad x^2-4x+2=t^2-2t-1$$

なので

$$f(x)=(t^2-1+2t)(t^2-1-2t)=(t^2-1)^2-(2t)^2=t^4-6t^2+1$$

よって

$$f(x)\leqq1\iff t^4-6t^2\leqq0\iff t^2(t^2-6)\leqq0\iff t^2\leqq6$$

（ $t=0$ のときも $t^2\leqq6$ に含まれる）。したがって $f(x)\leqq1\iff1-\sqrt6\leqq x\leqq1+\sqrt6$ で、 $2<\sqrt6<3$ より $-2<1-\sqrt6<-1$、 $3<1+\sqrt6<4$。この範囲の整数は $n=-1,\ 0,\ 1,\ 2,\ 3$ で、本解と一致する。

また $f(x)=(t^2-3)^2-8$ と変形できる。 $t^2$ が0から3まで増える間は $f(x)$ は減少するので、 $f(x)$ は $t=0$ （ $x=1$ ）で極大値 $f(1)=1$ をとる。グラフは点 $(1,\ 1)$ で直線 $y=1$ に接し、 $f(n)\leqq1$ の等号は $n=1$ でちょうど成り立つ（上の図）。

別解（グラフと点の代入）　$f(x)=x^4-4x^3+8x-4$ のグラフを書く。 $x=1$ に関して対称で、 $x=1$ で極大値1、 $x=1\pm\sqrt3$ で極小値 $-8$ をとる。(3) は、グラフが $y=1$ の下にある整数を拾えばよく、 $n=-1,\ 0,\ 1,\ 2,\ 3$ は $f(n)\leqq1$ をみたし、 $f(-2)=f(4)=28$ は1より大きいので、その外側は入らない。(2) も、グラフの $x$ 軸より下の部分にある整数として $n=-1,\ 0,\ 2,\ 3$ が拾える。

$t$ を $0\leqq t\leqq1$ を満たす数とし、空間内の4点 $\mathrm{A}(t,\ 0,\ 1)$、 $\mathrm{B}(1,\ t,\ 0)$、 $\mathrm{C}(0,\ 1,\ t)$、 $\mathrm{P}\left(\dfrac49t,\ \dfrac49t,\ \dfrac49t\right)$ を考える。このとき、次の問いに答えよ。

(1) $\triangle\mathrm{ABC}$ は正三角形であることを示し、その面積 $S(t)$ を求めよ。

(2) $\triangle\mathrm{ABC}$ の重心をGとする。 $\overrightarrow{\mathrm{PG}}$ は $\overrightarrow{\mathrm{AB}}$、 $\overrightarrow{\mathrm{AC}}$ の両方に垂直であることを示せ。

(3) 四面体PABCの体積 $V(t)$ を求めよ。また $V(t)$ の最小値とその最小値を与える $t$ の値を求めよ。

(1)　配点 15点

終点−始点より

$$\overrightarrow{\mathrm{AB}}=(1-t,\ t,\ -1),\qquad\overrightarrow{\mathrm{BC}}=(-1,\ 1-t,\ t),\qquad\overrightarrow{\mathrm{CA}}=(t,\ -1,\ 1-t)$$

長さは2乗して比べる。

$$\mathrm{AB}^2=(1-t)^2+t^2+1=2t^2-2t+2$$

$$\mathrm{BC}^2=1+(1-t)^2+t^2=2t^2-2t+2$$

$$\mathrm{CA}^2=t^2+1+(1-t)^2=2t^2-2t+2$$

よって $\mathrm{AB}=\mathrm{BC}=\mathrm{CA}$ である。 $2t^2-2t+2=2\left(t-\dfrac12\right)^2+\dfrac32>0$ なので、3辺の長さはどれも正で、3点A、B、Cは異なる点である。3辺の長さが等しい3点は一直線上に並ばない（一直線上なら、1辺の長さが残りの2辺の和になる）ので、三角形ABCは正三角形である。（証明終）

上の図のように、A、B、Cは1辺1の立方体の3本の辺の上にあり、それぞれ頂点 $(0,\ 0,\ 1)$、 $(1,\ 0,\ 0)$、 $(0,\ 1,\ 0)$ から長さ $t$ だけ進んだ点である。座標を $(x,\ y,\ z)\to(z,\ x,\ y)$ と入れかえるとA→B→C→Aと移るので、3辺の長さの2乗が同じ式になるのは当然である。

正三角形の1辺の長さを $a$ とすると、 $a^2=2t^2-2t+2$ で、1つの角は $60^\circ$ なので

$$S(t)=\frac12a^2\sin60^\circ=\frac{\sqrt3}{4}(2t^2-2t+2)=\frac{\sqrt3}{2}(t^2-t+1)$$

答　$S(t)=\dfrac{\sqrt3}{2}(t^2-t+1)$

別解（三角形の面積の公式）　 $\overrightarrow{\mathrm{AC}}=(-t,\ 1,\ t-1)$ で、 $|\overrightarrow{\mathrm{AB}}|^2=|\overrightarrow{\mathrm{AC}}|^2=2(t^2-t+1)$、

$$\overrightarrow{\mathrm{AB}}\cdot\overrightarrow{\mathrm{AC}}=-t(1-t)+t-(t-1)=t^2-t+1$$

三角形の面積の公式より

$$S(t)=\frac12\sqrt{|\overrightarrow{\mathrm{AB}}|^2|\overrightarrow{\mathrm{AC}}|^2-(\overrightarrow{\mathrm{AB}}\cdot\overrightarrow{\mathrm{AC}})^2}=\frac12\sqrt{4(t^2-t+1)^2-(t^2-t+1)^2}=\frac{\sqrt3}{2}(t^2-t+1)$$

で、同じ答えになる（ $t^2-t+1>0$ を使った）。

(2)　配点 10点

重心Gの座標は、3点A、B、Cの座標の平均なので

$$\mathrm{G}\left(\frac{t+1+0}{3},\ \frac{0+t+1}{3},\ \frac{1+0+t}{3}\right)=\left(\frac{t+1}{3},\ \frac{t+1}{3},\ \frac{t+1}{3}\right)$$

$$\overrightarrow{\mathrm{PG}}=\overrightarrow{\mathrm{OG}}-\overrightarrow{\mathrm{OP}}=\left(\frac{t+1}{3}-\frac49t\right)(1,\ 1,\ 1)=\frac{3-t}{9}(1,\ 1,\ 1)$$

$\overrightarrow{\mathrm{AB}}=(1-t,\ t,\ -1)$、 $\overrightarrow{\mathrm{AC}}=(-t,\ 1,\ t-1)$ との内積は

$$\overrightarrow{\mathrm{PG}}\cdot\overrightarrow{\mathrm{AB}}=\frac{3-t}{9}\{(1-t)+t+(-1)\}=0$$

$$\overrightarrow{\mathrm{PG}}\cdot\overrightarrow{\mathrm{AC}}=\frac{3-t}{9}\{-t+1+(t-1)\}=0$$

$0\leqq t\leqq1$ より $3-t>0$ なので $\overrightarrow{\mathrm{PG}}\neq\vec0$。また $\overrightarrow{\mathrm{AB}}\neq\vec0$、 $\overrightarrow{\mathrm{AC}}\neq\vec0$ である。内積が0なので、 $\overrightarrow{\mathrm{PG}}$ は $\overrightarrow{\mathrm{AB}}$、 $\overrightarrow{\mathrm{AC}}$ の両方に垂直である。（証明終）

G、Pはどちらも $x$ 座標・ $y$ 座標・ $z$ 座標が等しく、原点Oと点 $(1,\ 1,\ 1)$ を結ぶ立方体の対角線の上にある（上の図）。 $\overrightarrow{\mathrm{PG}}$ が $(1,\ 1,\ 1)$ の実数倍になるのはこのためである。

(3)　配点 25点

(2) より $\overrightarrow{\mathrm{PG}}$ は、平面ABC上の平行でない2つのベクトル $\overrightarrow{\mathrm{AB}}$、 $\overrightarrow{\mathrm{AC}}$ の両方に垂直なので、平面ABCに垂直である。重心Gは平面ABC上の点なので、Gは頂点Pから平面ABCに下ろした垂線の足で、四面体PABCの底面を三角形ABCとみたときの高さはPGである。

$$\mathrm{PG}=|\overrightarrow{\mathrm{PG}}|=\frac{3-t}{9}\sqrt{1^2+1^2+1^2}=\frac{\sqrt3\,(3-t)}{9}$$

（ $3-t>0$ なので、Pは平面ABC上になく、四面体PABCはつねにできる）

上の図は、四面体PABCを、P、A、Gを通る平面で切った切り口である（MはBCの中点）。平面ABC（ $x+y+z=t+1$ ）は対角線と垂直に交わり、その交点が重心G、PGが高さになる。

よって

$$V(t)=\frac13\cdot S(t)\cdot\mathrm{PG}=\frac13\cdot\frac{\sqrt3}{2}(t^2-t+1)\cdot\frac{\sqrt3\,(3-t)}{9}=\frac{1}{18}(t^2-t+1)(3-t)$$

展開すると $(t^2-t+1)(3-t)=-t^3+4t^2-4t+3$ なので

$$V(t)=\frac{1}{18}(-t^3+4t^2-4t+3)$$

答　$V(t)=\dfrac{1}{18}(-t^3+4t^2-4t+3)$

$f(t)=-t^3+4t^2-4t+3$ とおくと、 $V(t)=\dfrac{1}{18}f(t)$ で

$$f'(t)=-3t^2+8t-4=-(3t-2)(t-2)$$

$f'(t)$ のグラフは上に凸の放物線で、 $t=\dfrac23,\ 2$ で $t$ 軸と交わる。 $0\leqq t\leqq1$ の範囲（図の太線）では、 $t=\dfrac23$ の前で $f'(t)<0$、後で $f'(t)>0$ と符号が変わる。

$V(t)$ は $t=\dfrac23$ で減少から増加に変わるので、 $0\leqq t\leqq1$ での最小値は

$$V\left(\frac23\right)=\frac{1}{18}\left(\frac49-\frac23+1\right)\left(3-\frac23\right)=\frac{1}{18}\cdot\frac79\cdot\frac73=\frac{49}{486}$$

答　$t=\dfrac23$ のとき最小値 $\dfrac{49}{486}$

$V(t)$ のグラフは上の図のようになる。 $V(0)=\dfrac16$ から減って $t=\dfrac23$ で最小になり、 $V(1)=\dfrac19$ まで増える。 $V(t)=\dfrac{1}{18}(t^2-t+1)(3-t)$ の2つの因数は、 $t^2-t+1$ が $t=\dfrac12$ で、 $3-t$ が $t=1$ で最も小さくなり、小さくなる場所が別々である。だから最小になる $t$ は因数ごとの最小からは決まらず、積を $t$ の3次関数にして調べる必要がある。

別解（高さを点と平面の距離の公式で求める）　A、B、Cの座標はどれも $x+y+z=t+1$ をみたすので、平面ABCの方程式は $x+y+z-(t+1)=0$。Pとの距離は

$$\frac{\left|\dfrac49t\cdot3-(t+1)\right|}{\sqrt{1^2+1^2+1^2}}=\frac{\left|\dfrac{t}{3}-1\right|}{\sqrt3}=\frac{3-t}{3\sqrt3}=\frac{\sqrt3\,(3-t)}{9}$$

で、 $\mathrm{PG}$ と同じ値になる。この求め方は (2) を使わずに高さが求まる。

別解（微分せずに最小値を示す）　 $V(t)-\dfrac{49}{486}$ を因数分解すると

$$V(t)-\frac{49}{486}=\frac{1}{18}\left(-t^3+4t^2-4t+\frac{32}{27}\right)=\frac{1}{18}\left(t-\frac23\right)^2\left(\frac83-t\right)$$

$0\leqq t\leqq1$ では $\dfrac83-t>0$ なので $V(t)\geqq\dfrac{49}{486}$ で、等号は $t=\dfrac23$ のときだけ成り立つ。ただし、最小になる $t=\dfrac23$ が分かっていないと使えないので、本番では微分で増減を調べるのが確実である。

図のような1辺の長さが1の正方形ABCDがある。この正方形の辺上の点Qを、コインを投げて表が出れば反時計まわりに1、裏が出れば時計まわりに1動かす試行を考える。点Qが頂点Aから出発してこの試行が繰り返し行われるものとする。このとき、次の問いに答えよ。

(1) 表の出る確率が $\dfrac12$ のコインを投げて、上記の試行を2回繰り返すとき、各頂点A、B、C、Dに点Qがある確率をそれぞれ求めよ。同様に上記の試行を3回および4回繰り返すとき、各頂点A、B、C、Dに点Qがある確率をそれぞれ求めよ。

(2) 表の出る確率 $p$ が $\dfrac12$ より大きいコインを投げて、上記の試行を2回繰り返すとき、頂点A、B、C、Dのうち点Qが頂点Cにある確率が最大となることを示せ。同様に3回繰り返すとき、点Qが頂点Dにある確率が最大となることを示せ。

正方形の頂点は、図のように A→B→C→D の順に反時計まわりに並んでいる。

試行を $n$ 回繰り返して表が $k$ 回出たとき、裏は $n-k$ 回出ているので、点Qは反時計まわりに

$$k-(n-k)=2k-n$$

だけ進んだことになる（負のときは時計まわりに進んだ）。4進むと1周して元の頂点に戻るので、点Qの位置は $2k-n$ を4で割った余りで決まり、余りが0ならA、1ならB、2ならC、3ならDである（下の図）。特に、点Qの位置は表の回数 $k$ だけで決まり、表と裏の出る順番には関係しない。また、 $2k-n$ は $n$ と偶奇が一致するので、偶数回後はAかC、奇数回後はBかDにいる。

(1)　配点 20点

表の出る確率は毎回 $\dfrac12$ で一定なので、試行を $n$ 回繰り返して表がちょうど $k$ 回出る確率は ${}_n\mathrm{C}_k\left(\dfrac12\right)^n$ である。

2回のとき　表の回数で分けると次のようになる。

よって、Aにある確率は $\dfrac24=\dfrac12$、Cにある確率は $\dfrac14+\dfrac14=\dfrac12$、B、Dにある確率は0である。

3回のとき

よって、Bにある確率は $\dfrac18+\dfrac38=\dfrac12$、Dにある確率は $\dfrac38+\dfrac18=\dfrac12$、A、Cにある確率は0である。

4回のとき

よって、Aにある確率は $\dfrac{1+6+1}{16}=\dfrac12$、Cにある確率は $\dfrac{4+4}{16}=\dfrac12$、B、Dにある確率は0である。

答　2回：Aに $\dfrac12$、Bに $0$、Cに $\dfrac12$、Dに $0$

答　3回：Aに $0$、Bに $\dfrac12$、Cに $0$、Dに $\dfrac12$

答　4回：Aに $\dfrac12$、Bに $0$、Cに $\dfrac12$、Dに $0$

（確かめ：どの回数でも4つの確率の和は1になる。また、表の出る確率が $\dfrac12$ なので、表と裏を入れかえても確率は変わらない。表と裏を入れかえると、点Qの動きは対角線ACについて折り返したものになり、BとDが入れかわる。よって、Bにある確率とDにある確率は等しく、3回の答えと合う）

(2)　配点 30点

$q=1-p$ とおく。 $p>\dfrac12$ より

$$p-q=2p-1>0$$

である。表の出る確率は毎回 $p$ で一定なので、 $n$ 回のうち表がちょうど $k$ 回出る確率は ${}_n\mathrm{C}_k\,p^kq^{n-k}$ である。

2回のとき　(1) の表と同じく、表1回でA、表0回か2回でCにいて、B、Dにはいない。A、B、C、Dにある確率をそれぞれ $a_2$、 $b_2$、 $c_2$、 $d_2$ とすると

$$a_2={}_2\mathrm{C}_1\,pq=2pq,\qquad c_2=q^2+p^2,\qquad b_2=d_2=0$$

差をとると

$$c_2-a_2=p^2-2pq+q^2=(p-q)^2=(2p-1)^2>0$$

よって $c_2>a_2\geqq0=b_2=d_2$ となり、点Qが頂点Cにある確率が最大である。

3回のとき　(1) の表と同じく、表0回か2回でB、表1回か3回でDにいて、A、Cにはいない。A、B、C、Dにある確率をそれぞれ $a_3$、 $b_3$、 $c_3$、 $d_3$ とすると

$$b_3=q^3+{}_3\mathrm{C}_2\,p^2q=q^3+3p^2q,\qquad d_3={}_3\mathrm{C}_1\,pq^2+p^3=3pq^2+p^3,\qquad a_3=c_3=0$$

差をとると

$$d_3-b_3=p^3-3p^2q+3pq^2-q^3=(p-q)^3=(2p-1)^3>0$$

よって $d_3>b_3\geqq0=a_3=c_3$ となり、点Qが頂点Dにある確率が最大である。

（確かめ： $p=\dfrac12$ を代入すると $a_2=c_2=\dfrac12$、 $b_3=d_3=\dfrac12$ となり、(1) と一致する。 $q$ を $1-p$ に戻すと $a_2=-2p^2+2p$、 $c_2=2p^2-2p+1$、 $b_3=-4p^3+6p^2-3p+1$、 $d_3=4p^3-6p^2+3p$ で、どれも和が1になる）

頂点の並びの向きについて　3回で表が3回出ると、点Qは反時計まわりに3進む。A→B→C→Dが反時計まわりの並びなので、これはDである。もし並びが時計まわりなら、反時計まわりに3進んだ先はBになり、3回後に最大になるのはBになる。問題文の「3回でDが最大」は、図の並びが反時計まわりであることと合っている。

別解（1回ずつ確率を追う）　 $n$ 回後に点QがA、B、C、Dにある確率を $a_n$、 $b_n$、 $c_n$、 $d_n$ とする。Bには「Aにいて表」か「Cにいて裏」で来るので $b_{n+1}=pa_n+qc_n$。同じように、Dには「Cにいて表」か「Aにいて裏」で来るので $d_{n+1}=pc_n+qa_n$、Aには「Dにいて表」か「Bにいて裏」で来るので $a_{n+1}=pd_n+qb_n$、Cには「Bにいて表」か「Dにいて裏」で来るので $c_{n+1}=pb_n+qd_n$ である。 $a_0=1$ から順に書き並べると

・1回後： $b_1=p$、 $d_1=q$、 $a_1=c_1=0$

・2回後： $a_2=pq+qp=2pq$、 $c_2=p\cdot p+q\cdot q=p^2+q^2$、 $b_2=d_2=0$

・3回後： $b_3=p\cdot2pq+q(p^2+q^2)=3p^2q+q^3$、 $d_3=p(p^2+q^2)+q\cdot2pq=p^3+3pq^2$、 $a_3=c_3=0$

となり、本解と一致する。 $p=q=\dfrac12$ とすれば (1) の答えも同じように求まる（4回後は3回後の値から $a_4=c_4=\dfrac12\cdot\dfrac12+\dfrac12\cdot\dfrac12=\dfrac12$）。

3辺の長さがそれぞれ $\sqrt{x^2-2x}$、 $4-x$、 $2$ で表される三角形がある。長さ $\sqrt{x^2-2x}$ の辺は他の2辺より長さが短くないとする。このとき、次の問いに答えよ。

(1) このような三角形が描けるための $x$ の満たす範囲を求めよ。

(2) この三角形の最短の辺と向かい合った角の大きさを $\theta$ とするとき、 $\cos\theta$ を $x$ を用いて表せ。

(3) $x$ が(1)で求めた範囲にあるときの $\cos\theta$ の最小値と、その最小値を与える $x$ の値を求めよ。

(1)　配点 20点

3辺の長さは正なので

$$x^2-2x>0,\qquad 4-x>0$$

長さ $\sqrt{x^2-2x}$ の辺は他の2辺より短くないので

$$\sqrt{x^2-2x}\geqq2\quad\cdots(\mathrm{i}),\qquad \sqrt{x^2-2x}\geqq4-x\quad\cdots(\mathrm{ii})$$

最大の辺が $\sqrt{x^2-2x}$ と分かっているので、三角形の成立条件は

$$\sqrt{x^2-2x}<(4-x)+2\quad\cdots(\mathrm{iii})$$

だけでよい（残りの2本は、最大の辺が他の2辺以上なので自動的に成り立つ）。

(i) は両辺が0以上なので、2乗して同値に変形できる。 $x^2-2x\geqq4$ より $x^2-2x-4\geqq0$ なので

$$x\leqq1-\sqrt5,\quad 1+\sqrt5\leqq x\quad\cdots①$$

(ii) は、 $4-x>0$ より両辺が0以上なので、2乗して $x^2-2x\geqq16-8x+x^2$。よって $6x\geqq16$ より

$$x\geqq\frac83\quad\cdots②$$

(iii) は、 $4-x>0$ より右辺の $6-x$ も正なので、2乗して $x^2-2x<36-12x+x^2$。よって $10x<36$ より

$$x<\frac{18}5\quad\cdots③$$

①②③と $x<4$ の共通範囲を求める。 $1-\sqrt5<0<\dfrac83$ なので、①の左側の範囲は②と共通部分をもたない。また、 $\dfrac83<1+\sqrt5<\dfrac{18}5$ である（ $\sqrt5>\dfrac53$ は $5>\dfrac{25}9$ から、 $\sqrt5<\dfrac{13}5$ は $5<\dfrac{169}{25}$ から分かる）。

このとき $x^2-2x\geqq4>0$ も満たされる。

答　$1+\sqrt5\leqq x<\dfrac{18}5$

(2)　配点 15点

(1) より $x\geqq1+\sqrt5>3$ なので $4-x<1<2\leqq\sqrt{x^2-2x}$。よって最短の辺は長さ $4-x$ の辺で、 $\theta$ はこの辺と向かい合う角、つまり長さ $\sqrt{x^2-2x}$ と $2$ の辺にはさまれた角である。

この三角形で余弦定理より

$$\cos\theta=\frac{(x^2-2x)+2^2-(4-x)^2}{2\cdot2\sqrt{x^2-2x}}=\frac{6x-12}{4\sqrt{x^2-2x}}=\frac{3(x-2)}{2\sqrt{x(x-2)}}$$

$x-2>0$ なので $\dfrac{x-2}{\sqrt{x(x-2)}}=\dfrac{\sqrt{x-2}}{\sqrt x}$ と約分できて

答　$\cos\theta=\dfrac{3(x-2)}{2\sqrt{x^2-2x}}=\dfrac32\sqrt{\dfrac{x-2}{x}}$

(3)　配点 15点

(2) より

$$\cos\theta=\frac32\sqrt{\frac{x-2}{x}}=\frac32\sqrt{1-\frac2x}$$

$x>0$ の範囲で $\dfrac2x$ は減少するので、 $1-\dfrac2x$ は増加し、 $\cos\theta$ も $x$ について単調に増加する。よって、 $1+\sqrt5\leqq x<\dfrac{18}5$ で $\cos\theta$ が最小になるのは $x=1+\sqrt5$ のときである。

$x=1+\sqrt5$ のとき

$$1-\frac2{1+\sqrt5}=1-\frac{2(\sqrt5-1)}{4}=\frac{3-\sqrt5}2=\frac{6-2\sqrt5}4=\left(\frac{\sqrt5-1}2\right)^2$$

なので

$$\cos\theta=\frac32\cdot\frac{\sqrt5-1}2=\frac{3(\sqrt5-1)}4$$

答　$x=1+\sqrt5$ のとき、最小値 $\dfrac{3(\sqrt5-1)}4$

検算　 $x=1+\sqrt5$ のとき $\sqrt{x^2-2x}=2$ で、長さ2の辺が2本の二等辺三角形になる。最短の辺は $4-x=3-\sqrt5$ で、余弦定理より $\cos\theta=\dfrac{2^2+2^2-(3-\sqrt5)^2}{2\cdot2\cdot2}=\dfrac{8-(14-6\sqrt5)}8=\dfrac{3(\sqrt5-1)}4$ となり一致する。なお $x\to\dfrac{18}5$ では三角形がつぶれて $\cos\theta\to1$ に近づく。

別解（(3) を2乗して考える）　 $\cos\theta>0$ なので、 $\cos\theta$ が最小になるのは $\cos^2\theta=\dfrac94\left(1-\dfrac2x\right)$ が最小になるときと同じ。 $\cos^2\theta$ は $x$ の分数式で、 $x$ が大きいほど大きいので、最小は $x=1+\sqrt5$ のとき。 $\cos^2\theta=\dfrac94\cdot\dfrac{3-\sqrt5}2$ から、正の平方根をとって同じ答えになる。