【解説・採点基準付き】2012年九州大学文系数学の解答・解説

原点をOとする座標空間に、3点 $\mathrm{A}(1,0,0)$、 $\mathrm{B}(0,0,2)$、 $\mathrm{C}(-2,1,3)$ がある。このとき、以下の問いに答えよ。

(1) $\triangle\mathrm{ABC}$ において、 $\angle\mathrm{B}$ は $\dfrac{\pi}{2}$ より大きいことを示せ。

(2) 点Aから直線BCに下ろした垂線と直線BCとの交点をHとする。点Hの座標を求めよ。

(3) $\triangle\mathrm{OAH}$ の面積を求めよ。

(1)　配点 15点

終点−始点より

$$\overrightarrow{\mathrm{BA}}=\overrightarrow{\mathrm{OA}}-\overrightarrow{\mathrm{OB}}=(1,\ 0,\ -2),\qquad\overrightarrow{\mathrm{BC}}=\overrightarrow{\mathrm{OC}}-\overrightarrow{\mathrm{OB}}=(-2,\ 1,\ 1)$$

（ $\overrightarrow{\mathrm{BA}}$ と $\overrightarrow{\mathrm{BC}}$ は平行でないので、3点A、B、Cは三角形をつくる）

内積を計算すると

$$\overrightarrow{\mathrm{BA}}\cdot\overrightarrow{\mathrm{BC}}=1\cdot(-2)+0\cdot1+(-2)\cdot1=-4$$

$|\overrightarrow{\mathrm{BA}}|=\sqrt5$、 $|\overrightarrow{\mathrm{BC}}|=\sqrt6$ なので

$$\cos\angle\mathrm{B}=\frac{\overrightarrow{\mathrm{BA}}\cdot\overrightarrow{\mathrm{BC}}}{|\overrightarrow{\mathrm{BA}}||\overrightarrow{\mathrm{BC}}|}=\frac{-4}{\sqrt5\cdot\sqrt6}<0$$

$0<\angle\mathrm{B}<\pi$ で $\cos\angle\mathrm{B}<0$ なので、 $\angle\mathrm{B}>\dfrac{\pi}{2}$ である。（証明終）

三角形ABCをその平面に取り出すと上の図のようになる。∠Bは鈍角で、(2) のHは線分BCの外側（Bの先）にある。

別解（3辺の長さの2乗を比べる）　 $\mathrm{AB}^2=1+0+4=5$、 $\mathrm{BC}^2=4+1+1=6$、 $\overrightarrow{\mathrm{AC}}=(-3,1,3)$ より $\mathrm{CA}^2=9+1+9=19$。余弦定理より

$$\cos\angle\mathrm{B}=\frac{\mathrm{AB}^2+\mathrm{BC}^2-\mathrm{CA}^2}{2\cdot\mathrm{AB}\cdot\mathrm{BC}}=\frac{5+6-19}{2\sqrt{30}}<0$$

なので、 $\angle\mathrm{B}>\dfrac{\pi}{2}$ である（ $\mathrm{AB}^2+\mathrm{BC}^2<\mathrm{CA}^2$ を示したことと同じ）。

(2)　配点 20点

Hは直線BC上の点なので、直線上の点はBまで進んでから $\overrightarrow{\mathrm{BC}}$ の実数倍を足して

$$\overrightarrow{\mathrm{OH}}=\overrightarrow{\mathrm{OB}}+t\overrightarrow{\mathrm{BC}}=(0,\ 0,\ 2)+t(-2,\ 1,\ 1)=(-2t,\ t,\ 2+t)\quad(t\text{ は実数})$$

とおける。

$$\overrightarrow{\mathrm{AH}}=\overrightarrow{\mathrm{OH}}-\overrightarrow{\mathrm{OA}}=(-2t-1,\ t,\ 2+t)$$

AHは直線BCに垂直なので $\overrightarrow{\mathrm{AH}}\perp\overrightarrow{\mathrm{BC}}$、すなわち $\overrightarrow{\mathrm{AH}}\cdot\overrightarrow{\mathrm{BC}}=0$ である。

$$\overrightarrow{\mathrm{AH}}\cdot\overrightarrow{\mathrm{BC}}=-2(-2t-1)+t+(2+t)=6t+4=0\qquad\therefore\ t=-\frac23$$

よって

$$\overrightarrow{\mathrm{OH}}=\left(\frac43,\ -\frac23,\ \frac43\right)$$

答　$\mathrm{H}\left(\dfrac43,\ -\dfrac23,\ \dfrac43\right)$

$t=-\dfrac23<0$ なので、HはBから見てCと反対側にある（上の図）。(1) で∠Bが鈍角と分かっていることと合う。 $\overrightarrow{\mathrm{AH}}=\left(\dfrac13,\ -\dfrac23,\ \dfrac43\right)$ で、 $\overrightarrow{\mathrm{AH}}\cdot\overrightarrow{\mathrm{BC}}=-\dfrac23-\dfrac23+\dfrac43=0$ となり、確かに垂直である。

別解（正射影で $\overrightarrow{\mathrm{BH}}$ を求める）　内積は、一方のベクトルの大きさと、もう一方のベクトルをその向きに正射影した長さ（符号つき）の積で表せる。よって、BからHへのベクトルは

$$\overrightarrow{\mathrm{BH}}=\frac{\overrightarrow{\mathrm{BA}}\cdot\overrightarrow{\mathrm{BC}}}{|\overrightarrow{\mathrm{BC}}|^2}\overrightarrow{\mathrm{BC}}=\frac{-4}{6}\overrightarrow{\mathrm{BC}}=-\frac23\overrightarrow{\mathrm{BC}}$$

となり、(1) の内積 $-4$ がそのまま使える。 $\overrightarrow{\mathrm{OH}}=\overrightarrow{\mathrm{OB}}-\dfrac23\overrightarrow{\mathrm{BC}}=\left(\dfrac43,\ -\dfrac23,\ \dfrac43\right)$ で、同じ答えになる。

(3)　配点 15点

$\overrightarrow{\mathrm{OA}}=(1,\ 0,\ 0)$、 $\overrightarrow{\mathrm{OH}}=\left(\dfrac43,\ -\dfrac23,\ \dfrac43\right)$ より

$$|\overrightarrow{\mathrm{OA}}|^2=1,\qquad|\overrightarrow{\mathrm{OH}}|^2=\frac{16}9+\frac49+\frac{16}9=4,\qquad\overrightarrow{\mathrm{OA}}\cdot\overrightarrow{\mathrm{OH}}=\frac43$$

三角形の面積の公式より

$$\triangle\mathrm{OAH}=\frac12\sqrt{|\overrightarrow{\mathrm{OA}}|^2|\overrightarrow{\mathrm{OH}}|^2-(\overrightarrow{\mathrm{OA}}\cdot\overrightarrow{\mathrm{OH}})^2}=\frac12\sqrt{1\cdot4-\frac{16}9}=\frac12\sqrt{\frac{20}9}=\frac12\cdot\frac{2\sqrt5}{3}=\frac{\sqrt5}{3}$$

答　$\dfrac{\sqrt5}{3}$

別解（OAを底辺、Hと $x$ 軸の距離を高さにする）　OAは $x$ 軸上にあり、長さは1である。 $\mathrm{H}\left(\dfrac43,\ -\dfrac23,\ \dfrac43\right)$ から $x$ 軸に下ろした垂線の足は $\left(\dfrac43,\ 0,\ 0\right)$ で、Hと $x$ 軸の距離は

$$\sqrt{\left(-\frac23\right)^2+\left(\frac43\right)^2}=\frac{2\sqrt5}{3}$$

これが三角形OAHの高さなので、 $\triangle\mathrm{OAH}=\dfrac12\cdot1\cdot\dfrac{2\sqrt5}{3}=\dfrac{\sqrt5}{3}$ で、同じ値になる。

三角形OAHを、 $x$ 軸とHを含む平面に取り出すと上の図のようになる。垂線の足 $\left(\dfrac43,\ 0,\ 0\right)$ は線分OAの外にあるが、高さはHと $x$ 軸の距離のままでよい。

関数 $f(x)=x^3+3x^2+x-1$ を考える。曲線 $C:y=f(x)$ について、以下の問いに答えよ。

(1) $t\geqq0$ のとき、曲線 $C$ は傾きが $t$ である接線を2本持つことを示せ。

(2) (1)において、傾きが $t$ である2本の接線と曲線 $C$ との接点を、それぞれ $\mathrm{P}(p,f(p))$、 $\mathrm{Q}(q,f(q))$ とする（ただし $p<q$ ）。このとき、点Pと点Qは点 $\mathrm{A}(-1,0)$ に関して対称の位置にあることを示せ。

(3) $t\geqq0$ のとき、2点P、Qの間の距離の最小値を求めよ。また、最小値を与えるときのP、Qの $x$ 座標 $p$、 $q$ もそれぞれ求めよ。

(1)　配点 10点

$f'(x)=3x^2+6x+1$ である。曲線 $C$ 上の点 $(x,\ f(x))$ における接線の傾きは $f'(x)$ なので、傾きが $t$ である接線の接点の $x$ 座標は、方程式

$$3x^2+6x+1=t\quad\cdots①$$

の実数解である。

$f'(x)=3(x+1)^2-2$ なので、 $y=f'(x)$ は頂点 $(-1,\ -2)$ の下に凸の放物線である。 $t\geqq0>-2$ より、直線 $y=t$ は放物線 $y=f'(x)$ と異なる2点で交わるので、①は異なる2つの実数解をもつ（判別式 $\dfrac{D}{4}=9-3(1-t)=3(t+2)>0$ としてもよい）。よって、傾きが $t$ である接線の接点は2つある。

さらに、接点が異なる2本の接線は異なる直線である。実際、1本の直線 $y=tx+b$ が $C$ と2点 $x=\alpha,\ \beta$（ $\alpha\neq\beta$ ）で接するとすると、 $f(x)-(tx+b)=0$ は $x=\alpha$ と $x=\beta$ をともに重解にもち、左辺は $(x-\alpha)^2(x-\beta)^2$ で割り切れる。しかし左辺は3次式なので、これは起こらない。

よって、 $t\geqq0$ のとき、曲線 $C$ は傾きが $t$ である接線を2本持つ。（証明終）

(2)　配点 15点

$p,\ q$ は①、すなわち $3x^2+6x+1-t=0$ の2つの解なので、解と係数の関係より

$$p+q=-2,\qquad pq=\dfrac{1-t}{3}$$

点Pと点Qが点Aに関して対称であることは、線分PQの中点がAであること、すなわち

$$\dfrac{p+q}{2}=-1\quad\text{かつ}\quad\dfrac{f(p)+f(q)}{2}=0$$

と同じである。1つ目は $p+q=-2$ から成り立つ。

$f(p)+f(q)$ は $p,\ q$ の対称式なので、基本対称式 $p+q$、 $pq$ で表す。

$$p^2+q^2=(p+q)^2-2pq=4-2pq,\qquad p^3+q^3=(p+q)^3-3pq(p+q)=-8+6pq$$

よって

$$f(p)+f(q)=(p^3+q^3)+3(p^2+q^2)+(p+q)-2=(-8+6pq)+3(4-2pq)-2-2=0$$

したがって線分PQの中点は $(-1,\ 0)$、すなわち点Aであり、点Pと点Qは点Aに関して対称の位置にある。（証明終）

別解（ $x+1$ の塊で書き直す）　 $f(x)=(x+1)^3-2(x+1)$ と書ける（展開すると $x^3+3x^2+x-1$ ）。 $f'(x)=3(x+1)^2-2=t$ より $(x+1)^2=\dfrac{t+2}{3}$ で、 $k=\sqrt{\dfrac{t+2}{3}}\ (>0)$ とおくと $p=-1-k$、 $q=-1+k$。このとき

$$f(p)=(-k)^3-2(-k)=-(k^3-2k),\qquad f(q)=k^3-2k$$

なので $f(p)+f(q)=0$、かつ $p+q=-2$ で、本解と同じく中点はAになる。 $u=x+1$ とおけば $y=u^3-2u$ は奇関数であり、グラフが点Aに関して点対称であることが分かる。

(3)　配点 25点

$$\mathrm{PQ}^2=(q-p)^2+\{f(q)-f(p)\}^2=(q-p)^2\left\{1+\left(\dfrac{f(q)-f(p)}{q-p}\right)^2\right\}$$

(2) の $p+q=-2$、 $pq=\dfrac{1-t}{3}$ を使う。まず

$$(q-p)^2=(p+q)^2-4pq=4-\dfrac{4(1-t)}{3}=\dfrac{4(t+2)}{3}$$

次に、直線PQの傾きは

$$\dfrac{f(q)-f(p)}{q-p}=\dfrac{(q^3-p^3)+3(q^2-p^2)+(q-p)}{q-p}=(p^2+pq+q^2)+3(p+q)+1$$

で、 $p^2+pq+q^2=(p+q)^2-pq=4-pq$ なので

$$\dfrac{f(q)-f(p)}{q-p}=4-pq-6+1=-1-\dfrac{1-t}{3}=\dfrac{t-4}{3}$$

よって

$$\mathrm{PQ}^2=\dfrac{4(t+2)}{3}\left\{1+\dfrac{(t-4)^2}{9}\right\}=\dfrac{4}{27}(t+2)(t^2-8t+25)$$

$g(t)=(t+2)(t^2-8t+25)=t^3-6t^2+9t+50$ とおくと

$$g'(t)=3t^2-12t+9=3(t-1)(t-3)$$

$t\geqq0$ での増減は次のようになる。

最小値の候補は、区間の端 $t=0$ と極小の $t=3$ で、 $g(0)=2\cdot25=50$、 $g(3)=5\cdot10=50$ と等しい。よって $g(t)$ は $t=0$ と $t=3$ の2か所で最小値 $50$ をとる。

このとき $\mathrm{PQ}^2=\dfrac{4}{27}\cdot50=\dfrac{200}{27}$ なので、PQの最小値は

$$\sqrt{\dfrac{200}{27}}=\dfrac{10\sqrt2}{3\sqrt3}=\dfrac{10\sqrt6}{9}$$

$p,\ q$ は①の解 $x=\dfrac{-3\pm\sqrt{3(t+2)}}{3}$ で、 $p<q$ である。

$t=0$ のとき $p=\dfrac{-3-\sqrt6}{3}$、 $q=\dfrac{-3+\sqrt6}{3}$。 $t=3$ のとき $p=\dfrac{-3-\sqrt{15}}{3}$、 $q=\dfrac{-3+\sqrt{15}}{3}$。

答　最小値 $\dfrac{10\sqrt6}{9}$。最小値を与えるのは $p=\dfrac{-3-\sqrt6}{3}$、 $q=\dfrac{-3+\sqrt6}{3}$ のときと、 $p=\dfrac{-3-\sqrt{15}}{3}$、 $q=\dfrac{-3+\sqrt{15}}{3}$ のとき

検算　 $t=0$ のとき、 $(q-p)^2=\dfrac{8}{3}$、傾きは $-\dfrac43$ なので $\mathrm{PQ}^2=\dfrac83\left(1+\dfrac{16}{9}\right)=\dfrac83\cdot\dfrac{25}{9}=\dfrac{200}{27}$。 $t=3$ のとき、 $(q-p)^2=\dfrac{20}{3}$、傾きは $-\dfrac13$ なので $\mathrm{PQ}^2=\dfrac{20}{3}\cdot\dfrac{10}{9}=\dfrac{200}{27}$。どちらも一致する。なお $t=0$ のときの2本の接線は $x$ 軸に平行で、P、Qは極大点と極小点になる。

別解（ $g(t)-50$ を因数分解する）　 $g(t)-50=t^3-6t^2+9t=t(t-3)^2$ で、 $t\geqq0$ では $t(t-3)^2\geqq0$。等号は $t=0$ または $t=3$ のときに成り立つので、 $g(t)$ の最小値は $50$ で、本解と同じく $t=0,\ 3$ の2か所で最小になる。

別解（(2) を使って PQ=2AQ とする）　(2) の別解の $k=\sqrt{\dfrac{t+2}{3}}$ を使うと、Aは線分PQの中点なので

$$\mathrm{PQ}^2=4\mathrm{AQ}^2=4\left\{k^2+(k^3-2k)^2\right\}=4k^2\left\{1+(k^2-2)^2\right\}$$

$k^2=\dfrac{t+2}{3}$、 $k^2-2=\dfrac{t-4}{3}$ を代入すると本解と同じ $\dfrac{4}{27}(t+2)(t^2-8t+25)$ になる。

100人の団体がある区間を列車で移動する。このとき、乗車券が7枚入った480円のセットAと、乗車券が3枚入った220円のセットBを購入して、利用することにした。以下の問いに答えよ。

(1) $x$ が0以上の整数であるとき、次のことを示せ。

$\dfrac13(100-7x)$ は、 $x$ を3で割ったときの余りが1の場合に整数であり、それ以外の場合は整数ではない。

(2) 購入した乗車券は、余らせずすべて利用するものとする。このとき、セットAとセットBの購入の仕方をすべて挙げよ。

(3) 購入した乗車券は余ってもよいものとする。このとき、Aのみ、あるいはBのみを購入する場合も含めて、購入金額が最も低くなるのは、A、Bをそれぞれ何セットずつ購入するときか。またそのときの購入金額はいくらか。

(1)　配点 15点

$$\dfrac13(100-7x)=\dfrac{99+1-6x-x}{3}=33-2x+\dfrac{1-x}{3}$$

$x$ は整数なので $33-2x$ は整数である。よって、 $\dfrac13(100-7x)$ が整数であることは、 $\dfrac{1-x}{3}$ が整数であること、すなわち $1-x$ が3の倍数であることと同じである。

$x$ を3で割った余りを $r$ とし、 $x=3k+r$ （ $k$ は0以上の整数、 $r=0,\ 1,\ 2$ ）とおくと

$$1-x=(1-r)-3k$$

$3k$ は3の倍数なので、 $1-x$ が3の倍数であることは、 $1-r$ が3の倍数であることと同じである。 $1-r$ は $r=0,\ 1,\ 2$ に対して $1,\ 0,\ -1$ なので、3の倍数になるのは $r=1$ のときだけである。

したがって、 $\dfrac13(100-7x)$ は、 $x$ を3で割った余りが1の場合に整数であり、それ以外の場合は整数ではない。

別解（3で割った余りで分類）　 $k$ を0以上の整数とする。

$x=3k$ のとき　 $\dfrac13(100-21k)=33-7k+\dfrac13$ で、整数でない。

$x=3k+1$ のとき　 $\dfrac13(93-21k)=31-7k$ で、整数である。

$x=3k+2$ のとき　 $\dfrac13(86-21k)=28-7k+\dfrac23$ で、整数でない。

よって、余りが1の場合に整数であり、それ以外の場合は整数ではない。

(2)　配点 15点

Aを $x$ セット、Bを $y$ セット（ $x,\ y$ は0以上の整数）購入するとする。乗車券は全部で $7x+3y$ 枚で、これを余らせずに100人がすべて利用するので

$$7x+3y=100\quad\cdots\cdots①$$

①より

$$y=\dfrac13(100-7x)$$

$y$ が整数になるので、(1) より $x$ を3で割った余りは1である。

また $y\geqq0$ より $7x\leqq100$ 、すなわち $x\leqq\dfrac{100}{7}=14.2\cdots$ なので $x\leqq14$ 。よって

$$x=1,\ 4,\ 7,\ 10,\ 13$$

それぞれ $y=\dfrac13(100-7x)$ を計算すると、 $y=31,\ 24,\ 17,\ 10,\ 3$ 。

答　（Aのセット数、Bのセット数）＝ $(1,\ 31)$、 $(4,\ 24)$、 $(7,\ 17)$、 $(10,\ 10)$、 $(13,\ 3)$ の5通り

別解（1つの解を見つけて定数項を消す）　 $7\cdot1+3\cdot31=100$ なので、①と辺々引いて

$$7(x-1)=3(31-y)$$

7と3は互いに素より、 $x-1$ は3の倍数である。 $x-1=3k$ （ $k$ は整数）とおくと $31-y=7k$ で

$$x=3k+1,\qquad y=31-7k$$

$x\geqq0$ より $k\geqq-\dfrac13$ 、 $y\geqq0$ より $k\leqq\dfrac{31}{7}=4.4\cdots$ なので、 $k=0,\ 1,\ 2,\ 3,\ 4$ 。これから本解と同じ5通りが求まる。

(3)　配点 20点

Aを $x$ セット、Bを $y$ セット（ $x,\ y$ は0以上の整数）購入するとする。乗車券は余ってもよいので、枚数の条件は

$$7x+3y\geqq100\quad\cdots\cdots②$$

で、このもとで購入金額 $480x+220y$ が最も低くなる $x,\ y$ を求める。

$x\geqq15$ のときは $7x\geqq105$ なので $y=0$ で②をみたし、金額は $480x\geqq480\cdot15=7200$ 円。よって、 $x\geqq16$ の場合は $x=15$ 、 $y=0$ の7200円より高く、調べなくてよい。

$0\leqq x\leqq15$ のとき、 $x$ を決めると金額は $y$ が小さいほど低い。よって $y$ は、 $3y\geqq100-7x$ をみたす最小の0以上の整数にすればよい。

それぞれの $x$ について、 $y$ の最小値と金額をまとめると次のようになる。

表より、最も低いのは $x=13$ 、 $y=3$ のときで、金額は $480\cdot13+220\cdot3=6240+660=6900$ 円。

答　Aを13セット、Bを3セット購入するとき、購入金額は6900円

（表の見方）A3セット（21枚・1440円）とB7セット（21枚・1540円）は同じ枚数で、Aの方が100円安い。そのため、 $x$ を3減らすと $y$ の最小値はちょうど7増え、金額は100円上がる（表で $x=13,\ 10,\ 7,\ \cdots$ と3つおきに見ると、6900円、7000円、7100円、…）。したがって、 $x$ を3で割った余りが同じものの中では $x$ が大きいほど安く、実際には $x=13,\ 14,\ 15$ の3つを比べるだけでも答えが求まる。

別解（金額を「枚数」と「Bのセット数」で表し、(2) を使う）　枚数を $N=7x+3y$ とおくと

$$7(480x+220y)=480(7x+3y)+100y=480N+100y$$

$N\geqq101$ のときは、 $y\geqq0$ より $7\times$ （金額） $\geqq480\cdot101=48480$ 。

$N=100$ のときは、(2) の5通りのうち $y$ が最小の $y=3$ （ $x=13$ ）で $7\times$ （金額） $=48000+300=48300$ が最小。

$48300<48480$ なので、金額が最も低いのは $N=100$ 、 $x=13$ 、 $y=3$ のときで、 $\dfrac{48300}{7}=6900$ 円。

別解（線形計画法の見方）　 $x,\ y$ の不等式 $7x+3y\geqq100$ がからむ最小の問題なので、線形計画法の発想で見る。 $x\geqq0$、 $y\geqq0$、 $7x+3y\geqq100$ の領域で、直線 $480x+220y=k$ を動かすと、実数の範囲では $\left(\dfrac{100}{7},\ 0\right)$ で最小（約6857円）になる。ただし $x,\ y$ は整数なので、この点は使えず、境界 $7x+3y=100$ の近くの整数の点を調べることになる。 $x$ を固定すると $y\geqq\dfrac{100-7x}{3}$ なので、金額は

$$480x+220y\geqq\frac{22000-100x}{3}$$

(2) の5通りのうち最も安い $x=13,\ y=3$ の6900円を候補とする。 $x\leqq12$ では右辺が $\dfrac{20800}{3}\,(=6933.3\cdots)>6900$ 、 $x=14$ では $y\geqq1$ なので $6720+220=6940>6900$ 、 $x\geqq15$ では $480\cdot15=7200>6900$ 。よって最小は6900円で、A13セット・B3セットである。この解き方は、表を16行書かなくてよいぶん、計算も書く量も少ない。

いくつかの玉が入った箱Aと箱Bがあるとき、次の試行Tを考える。

（試行T）箱Aから2個の玉を取り出して箱Bに入れ、その後、箱Bから2個の玉を取り出して箱Aに入れる。

最初に箱Aに黒玉が3個、箱Bに白玉が2個入っているとき、以下の問いに答えよ。

(1) 試行Tを1回行ったときに、箱Aに黒玉が $n$ 個入っている確率 $p_n\ (n=1,2,3)$ を求めて既約分数で表せ。

(2) 試行Tを2回行ったときに、箱Aに黒玉が $n$ 個入っている確率 $q_n\ (n=1,2,3)$ を求めて既約分数で表せ。

(3) 試行Tを3回行ったときに、箱Aの中がすべて黒玉になっている確率を求めて既約分数で表せ。

試行が終わったとき、箱Aにはいつも3個、箱Bにはいつも2個の玉がある。黒玉は全部で3個、白玉は2個。箱Bに入るのは2個だけなので、箱Aには黒玉が必ず1個以上残る。そこで、箱Aの黒玉の数を $n$ （ $n=1,2,3$ ）とおけば、2つの箱の中身は $n$ だけで決まる。

また、箱Aから2個を取り出して箱Bに入れた直後の状態は、箱Aに残った1個の色によって、次の2通りに分かれる。

・X：箱Aに残るのが黒玉1個（箱Bは黒玉2個・白玉2個）

・Y：箱Aに残るのが白玉1個（箱Bは黒玉3個・白玉1個）

玉はすべて区別し、どの取り出し方も同様に確からしいとして数える。各状態の間の移り方を矢印で表すと、次の図のとおり（矢印に添える確率は (1)(2) で順に求めていく）。

(1)　配点 15点

はじめは箱Aの3個がすべて黒玉なので、箱Bに移るのは必ず黒玉2個で、途中の状態はXである。

Xのとき、箱Bには黒玉2個と白玉2個の計4個があり、そのうち2個を箱Aに戻す。戻し方は ${}_4\mathrm{C}_2=6$ 通り。戻した黒玉が $k$ 個なら、箱Aの黒玉は $1+k$ 個になる。

・$k=0$ （白玉2個を戻す）：1通り

・$k=1$ （黒玉と白玉を1個ずつ戻す）： ${}_2\mathrm{C}_1\cdot{}_2\mathrm{C}_1=4$ 通り

・$k=2$ （黒玉2個を戻す）：1通り

したがって、Xから $n=1,2,3$ になる確率は、順に $\dfrac16$、 $\dfrac23$、 $\dfrac16$ である。

答　$p_1=\dfrac16$、 $p_2=\dfrac23$、 $p_3=\dfrac16$

(2)　配点 20点

$n$ から途中の状態へ　箱Aの3個から2個を選んで移す方法は ${}_3\mathrm{C}_2=3$ 通りある。

・$n=1$ （箱Aの中身は黒玉1個・白玉2個）：移すのが白玉2個（1通り）なら黒玉が残ってX、黒玉と白玉を1個ずつ（2通り）なら白玉が残ってY。確率はXへ $\dfrac13$、Yへ $\dfrac23$

・$n=2$ （箱Aの中身は黒玉2個・白玉1個）：黒玉と白玉を1個ずつ移す（2通り）ならX、黒玉2個を移す（1通り）ならY。確率はXへ $\dfrac23$、Yへ $\dfrac13$

・$n=3$ ：移すのは必ず黒玉2個なので、いつもX

Yから次の $n$ へ　Yのとき箱Bには黒玉3個と白玉1個があり、2個を戻す ${}_4\mathrm{C}_2=6$ 通りのうち、黒玉と白玉を1個ずつ戻すのが ${}_3\mathrm{C}_1\cdot1=3$ 通り、黒玉2個を戻すのが ${}_3\mathrm{C}_2=3$ 通り。箱Aには白玉が1個残っているから、次の $n$ は戻した黒玉の数にそのまま等しい。よってYからは、 $n=1$ へも $n=2$ へも $\dfrac12$ ずつ移る。

1回目のあとに箱Aの黒玉が $n$ 個ある確率は $p_n$ なので、2回目の途中がXになる確率は

$$\dfrac16\cdot\dfrac13+\dfrac23\cdot\dfrac23+\dfrac16\cdot1=\dfrac{1+8+3}{18}=\dfrac23$$

Yになる確率は、余事象として $1-\dfrac23=\dfrac13$ となる。

2回目の途中の状態がXの場合とYの場合に分けて足すと

$$q_1=\dfrac23\cdot\dfrac16+\dfrac13\cdot\dfrac12=\dfrac19+\dfrac16=\dfrac{5}{18}$$

$$q_2=\dfrac23\cdot\dfrac23+\dfrac13\cdot\dfrac12=\dfrac49+\dfrac16=\dfrac{11}{18}$$

$$q_3=\dfrac23\cdot\dfrac16=\dfrac19$$

（ $q_1+q_2+q_3=1$ になるので、検算もできる。）

答　$q_1=\dfrac{5}{18}$、 $q_2=\dfrac{11}{18}$、 $q_3=\dfrac19$

(3)　配点 15点

箱Aの中が黒玉だけになれるのは、途中がXで、箱Bから黒玉2個を戻す場合（確率 $\dfrac16$ ）だけである。Yの場合は箱Aに白玉が1個残るので、これは起こらない。

2回目のあとに箱Aの黒玉が $n$ 個ある確率は $q_n$ なので、3回目の途中がXになる確率は

$$\dfrac{5}{18}\cdot\dfrac13+\dfrac{11}{18}\cdot\dfrac23+\dfrac19\cdot1=\dfrac{5+22+6}{54}=\dfrac{11}{18}$$

ゆえに、求める確率は

$$\dfrac{11}{18}\cdot\dfrac16=\dfrac{11}{108}$$

答　$\dfrac{11}{108}$

別解（XとYの移り変わりだけを追う）　いま途中がXだとすると、次の試行でも途中がXになる確率は、(1)(2) で求めた値から

$$\dfrac16\cdot\dfrac13+\dfrac23\cdot\dfrac23+\dfrac16\cdot1=\dfrac23$$

いま途中がYの場合は、次の試行で途中がXになる確率が $\dfrac12\cdot\dfrac13+\dfrac12\cdot\dfrac23=\dfrac12$ となる。1回目の途中は必ずXだから、3回目の途中がXになる経路は「X → X → X」「X → Y → X」の2本（下の図）。よって

$$\left(\dfrac23\cdot\dfrac23+\dfrac13\cdot\dfrac12\right)\cdot\dfrac16=\dfrac{11}{18}\cdot\dfrac16=\dfrac{11}{108}$$