(1)

3角形ABCの頂点\(A,B,C\)の対辺の長さを\(a,b,c\)とすると、
\[ \boldsymbol{I}=\frac{a\boldsymbol{A}+b\boldsymbol{B}+c\boldsymbol{C}}{a+b+c} \] なので、
\begin{align*} \overrightarrow{JI} & =\frac{a\overrightarrow{JA}+b\overrightarrow{JB}+c\overrightarrow{JC}}{a+b+c} \end{align*} となる。
これより、
\begin{align*} \left|IJ\right|^{2} & =\frac{a^{2}\left|JA\right|^{2}+b^{2}\left|JB\right|^{2}+c^{2}\left|JC\right|^{2}+2ab\overrightarrow{JA}\cdot\overrightarrow{JB}+2bc\overrightarrow{JB}\cdot\overrightarrow{JC}+2ca\overrightarrow{JC}\cdot\overrightarrow{JA}}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a^{2}+b^{2}+c^{2}\right)+2abR^{2}\cos\left(\angle AJB\right)+2bcR^{2}\cos\left(\angle BJC\right)+2caR^{2}\cos\left(\angle CJA\right)}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a^{2}+b^{2}+c^{2}\right)+2R^{2}\left(ab\cos\left(2C\right)+bc\cos\left(2A\right)+ca\cos\left(2B\right)\right)}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a^{2}+b^{2}+c^{2}\right)+2R^{2}\left(ab\left(1-2\sin^{2}C\right)+bc\left(1-2\sin^{2}A\right)+ca\left(1-2\sin^{2}B\right)\right)}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a^{2}+b^{2}+c^{2}\right)+2R^{2}\left(ab+bc+ca\right)-4R^{2}\left(bc\sin^{2}A+ca\sin^{2}B+ab\sin^{2}C\right)}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a+b+c\right)^{2}-\left(a^{2}bc+ab^{2}c+abc^{2}\right)}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a+b+c\right)^{2}-abc\left(a+b+c\right)}{\left(a+b+c\right)^{2}}\\ & =\frac{R^{2}\left(a+b+c\right)-abc}{a+b+c}\\ & =\frac{R^{2}\frac{2S}{r}-4RS}{\frac{2S}{r}}\cmt{S=\frac{abc}{4R},S=\frac{a+b+c}{2}r}\\ & =R^{2}-2Rr \end{align*} となり与式が成り立つ。

(2)

(1)より、
\begin{align*} R & =\frac{\left|IJ\right|^{2}+2Rr}{R}\\ & =\frac{\left|IJ\right|^{2}}{R}+2r\\ & \geq2r \end{align*} 等号成立は\(\left|IJ\right|^{2}=0\)すなわち外接円の中心と内接円の中心が一致するときとなる。

(3)

\begin{align*} \frac{r}{R} & =\frac{rR}{R^{2}}\\ & =\frac{2S\sin A\sin B\sin C}{S\left(\sin A+\sin B+\sin C\right)}\cmt{\because S=2R^{2}\sin A\sin B\sin C=rR\left(\sin A+\sin B+\sin C\right)}\\ & =\frac{2\sin A\sin B\sin C}{\sin A+\sin B+\sin C}\\ & =\frac{2\sin A\sin B\sin C}{4\cos\frac{A}{2}\cos\frac{B}{2}\cos\frac{C}{2}}\\ & =\frac{2\sin\frac{A}{2}\cos\frac{A}{2}\cdot2\sin\frac{B}{2}\cos\frac{B}{2}\cdot2\sin\frac{C}{2}\cos\frac{C}{2}}{2\cos\frac{A}{2}\cos\frac{B}{2}\cos\frac{C}{2}}\\ & =4\sin\frac{A}{2}\sin\frac{B}{2}\sin\frac{C}{2}\tag{(*)}\\ & =\cos A+\cos B+\cos C-1\cmt{A+B+C=\pi\rightarrow\cos A+\cos B+\cos C=1+4\sin\frac{A}{2}\sin\frac{B}{2}\sin\frac{C}{2}} \end{align*}