Phương pháp giải:

- Xác định \(\left( P \right)\) chứa \(AB\) và song song với \(OM\), khi đó \(d\left( {OM;AB} \right) = d\left( {OM;\left( P \right)} \right) = d\left( {O;\left( P \right)} \right)\).

- Sử dụng hệ thức lượng trong tam giác vuông để tính khoảng cách.

Lời giải chi tiết:

Trong \(\left( {OBC} \right)\) dựng hình bình hành \(OMBN\) như hình vẽ, ta có \(BN\parallel OM \Rightarrow OM\parallel \left( {ABN} \right) \supset AB\).

\( \Rightarrow d\left( {OM;AB} \right) = d\left( {OM;\left( {ABN} \right)} \right) = d\left( {O;\left( {ABN} \right)} \right)\).

Vì \(OB = OC = a\sqrt 2  \Rightarrow \Delta OBC\) cân tại \(O\) \( \Rightarrow OM \bot BC\) \( \Rightarrow OMBN\) là hình chữ nhật \( \Rightarrow ON \bot BN\).

Ta có: \(\left\{ \begin{array}{l}BN \bot ON\\BN \bot OA\,\,\left( {OA \bot \left( {OBC} \right)} \right)\end{array} \right. \Rightarrow BN \bot \left( {OAN} \right)\).

Trong \(\left( {OAN} \right)\) kẻ \(OH \bot AN\,\,\left( {H \in AN} \right)\) ta có: \(\left\{ \begin{array}{l}OH \bot AN\\OH \bot BN\end{array} \right. \Rightarrow OH \bot \left( {ABN} \right) \Rightarrow d\left( {O;\left( {ABN} \right)} \right) = OH\).

\( \Rightarrow d\left( {OM;AB} \right) = OH\).

Vì \(OMBN\) là hình chữ nhật nên \(ON = BM = \dfrac{1}{2}BC = \dfrac{1}{2}.a\sqrt 2 .\sqrt 2  = a\).

Áp dụng hệ thức lượng trong tam giác vuông \(OAN\) ta có: \(OH = \dfrac{{OA.ON}}{{\sqrt {O{A^2} + O{N^2}} }} = \dfrac{{a.a}}{{\sqrt {{a^2} + {a^2}} }} = \dfrac{{a\sqrt 2 }}{2}\).

Chọn C.