Phương pháp giải:

- Gọi \(N\) là trung điểm của \(BC\), chứng minh \(d\left( {AB;SM} \right) = d\left( {AB;\left( {SMN} \right)} \right) = d\left( {A;\left( {SMN} \right)} \right)\).

- Trong \(\left( {ABCD} \right)\) dựng hình bình hành \(ABNH\), trong \(\left( {SAH} \right)\) kẻ \(AK \bot SH\,\,\left( {K \in SH} \right)\), chứng minh \(AK \bot \left( {SMN} \right)\).

- Xác định \(\angle \left( {SC;\left( {ABC} \right)} \right)\) là góc giữa \(SC\) và hình chiếu của \(SC\) lên \(\left( {ABC} \right)\), sử dụng định lí Pytago và tỉ số lượng giác của góc nhọn trong tam giác vuông tính \(SA\).

- Áp dụng HTL trong tam giác vuông: \(AK = \dfrac{{SA.AH}}{{\sqrt {S{A^2} + A{H^2}} }}\) tính \(AK\).

Lời giải chi tiết:

Gọi \(N\) là trung điểm của \(BC\), suy ra \(MN\parallel AB\) (\(MN\) là đường trung bình của \(\Delta ABC\)).

\( \Rightarrow AB\parallel \left( {SMN} \right) \Rightarrow d\left( {AB;SM} \right) = d\left( {AB;\left( {SMN} \right)} \right) = d\left( {A;\left( {SMN} \right)} \right)\).

Trong \(\left( {ABCD} \right)\) dựng hình bình hành \(ABNH\), ta có \(AH\parallel BN\). Mà \(BN \bot MN \Rightarrow AH \bot MN\).

Trong \(\left( {SAH} \right)\) kẻ \(AK \bot SH\,\,\left( {K \in SH} \right)\) ta có:

\(\begin{array}{l}\left\{ \begin{array}{l}MN \bot AH\\MN \bot SA\end{array} \right. \Rightarrow MN \bot \left( {SAH} \right) \Rightarrow MN \bot AK\\\left\{ \begin{array}{l}AK \bot MN\\AK \bot SH\end{array} \right. \Rightarrow AK \bot \left( {SMN} \right) \Rightarrow d\left( {A;\left( {SMN} \right)} \right) = AK\\ \Rightarrow d\left( {AB;SM} \right) = AK\end{array}\)

Vì \(ABNH\) là hình bình hành nên \(AH = BN = \dfrac{1}{2}BC = \dfrac{{a\sqrt 3 }}{2}\).

Ta có: \(SA \bot \left( {ABC} \right) \Rightarrow AC\) là hình chiếu của \(SC\) lên \(\left( {ABC} \right)\), do đó \(\angle \left( {SC;\left( {ABC} \right)} \right) = \angle \left( {SC;AC} \right) = \angle SCA = {30^0}\).

Tam giác \(ABC\) vuông tại \(B\) nên \(AC = \sqrt {A{B^2} + B{C^2}}  = \sqrt {2{a^2} + 3{a^2}}  = a\sqrt 5 \).

Xét tam giác vuông \(SAC\) có: \(SA = AC.\tan {30^0} = a\sqrt 5 .\dfrac{{\sqrt 3 }}{3} = \dfrac{{a\sqrt {15} }}{3}\).

Áp dụng hệ thức lượng trong tam giác vuông \(SAH\) có: \(AK = \dfrac{{SA.AH}}{{\sqrt {S{A^2} + A{H^2}} }} = \dfrac{{\dfrac{{a\sqrt {15} }}{3}.\dfrac{{a\sqrt 3 }}{2}}}{{\sqrt {\dfrac{{5{a^2}}}{3} + \dfrac{{3{a^2}}}{4}} }} = \dfrac{{a\sqrt {435} }}{{29}}\).

Chọn B.