Phương pháp giải:

+) Xác định tâm I.

+) Dựng mặt phẳng chứa BI và song song AM, đưa về bài toán tính khoảng cách từ 1 điểm đến 1 mặt phẳng.

+) Sử dụng công thức tính thể tích để tính khoảng cách từ 1 điểm đến một mặt phẳng.

Lời giải chi tiết:

Ta có \(\left\{ \begin{align}& AM\bot AB \\& AM\bot BN \\\end{align} \right.\Rightarrow AM\bot \left( ABN \right)\)

\(AB\bot \Delta \Rightarrow AB\bot BN\Rightarrow \Delta ABN\) vuông tại B.

Gọi H, I, K lần lượt là trung điểm của AN, MN và AM ta có:

I là tâm đường tròn ngoại tiếp \(\Delta ABN\); \(IH//AM\Rightarrow IH\bot \left( ABN \right)\Rightarrow IA=IB=IN\)

\(IK//AN\Rightarrow IK\bot AM\Rightarrow IA=IM\)

\(\Rightarrow IM=IA=IB=IN\Rightarrow I\) là tâm mặt cầu ngoại tiếp tứ diện \(ABMN\)

Ta có

\(\begin{align}  & AM//IH\Rightarrow AM//\left( BHI \right)\supset BI \\ & \Rightarrow d\left( AM;BI \right)=d\left( AM;\left( BHI \right) \right)=d\left( A;\left( BHI \right) \right) \\\end{align}\)

Ta có \({{S}_{\Delta ABH}}=\frac{1}{2}{{S}_{\Delta ABC}}=\frac{1}{2}.\frac{1}{2}.a.4a={{a}^{2}}\)

\(\begin{align}  & IH=\frac{1}{2}AM=a\Rightarrow {{V}_{I.ABH}}=\frac{1}{3}IH.{{S}_{\Delta ABH}}=\frac{1}{3}.a.{{a}^{2}}=\frac{{{a}^{3}}}{3} \\ & {{V}_{I.ABH}}=\frac{1}{3}d\left( A;\left( BHI \right) \right).{{S}_{\Delta BHI}}\Rightarrow d\left( A;\left( BHI \right) \right)=\frac{3{{V}_{I.ABH}}}{{{S}_{\Delta BHI}}} \\\end{align}\)

Mà \(IH\bot \left( ABN \right)\Rightarrow IH\bot BH\Rightarrow \Delta BHI\) vuông tại H có \(HI=a;\,\,BH=\frac{1}{2}AN=\frac{1}{2}\sqrt{{{a}^{2}}+16{{a}^{2}}}=\frac{a\sqrt{17}}{2}\)

\(\Rightarrow {{S}_{\Delta BHI}}=\frac{1}{2}.a.\frac{a\sqrt{17}}{2}=\frac{{{a}^{2}}\sqrt{17}}{4}\)

Vậy \(d\left( AM;BI \right)=d\left( A;\left( BHI \right) \right)=\frac{3.\frac{{{a}^{3}}}{3}}{\frac{{{a}^{2}}\sqrt{17}}{4}}=\frac{4a}{\sqrt{17}}\)

Chọn A.