Phương pháp giải:

Gọi H là trung điểm của MC, chứng minh \(A'H\bot \left( ABC \right)\)

Tính A’H, diện tích tam giác ABC và áp dụng công thức \({{V}_{ABC.A'B'C'}}=A'H.{{S}_{ABC}}\)

Lời giải chi tiết:

Gọi H là trung điểm của MC ta có \(A'H\bot MC\)

\(\left\{ \begin{array}{l}\left( {A'MC} \right) \bot \left( {ABC} \right)\\\left( {A'MC} \right) \cap \left( {ABC} \right) = MC\\\left( {A'MC} \right) \supset A'H \bot MC\end{array} \right. \Rightarrow A'H \bot \left( {ABC} \right)\) MA’C là tam giác đều cạnh \(2a\sqrt{3}\) nên \(A'H=\frac{2a\sqrt{3}.\sqrt{3}}{2}=3a\)

Đặt AC = x ta có :

\(AB=AC.\cot 30=x\sqrt{3};BC=\sqrt{A{{B}^{2}}+A{{C}^{2}}}=\sqrt{{{x}^{2}}+3{{x}^{2}}}=2x\)

Ta có : \(M{{C}^{2}}=\frac{A{{C}^{2}}+B{{C}^{2}}}{2}-\frac{A{{B}^{2}}}{4}=\frac{{{x}^{2}}+4{{x}^{2}}}{2}-\frac{3{{x}^{2}}}{4}=\frac{7{{x}^{2}}}{4}\)  

\(\Rightarrow \frac{7{{x}^{2}}}{4}=12{{a}^{2}}\Leftrightarrow x=\frac{4a\sqrt{21}}{7}\)

Khi đó ta có: \(AC=\frac{4a\sqrt{21}}{7};AB=\frac{12a\sqrt{7}}{7}\Leftrightarrow {{S}_{ABC}}=\frac{1}{2}AB.AC=\frac{24{{a}^{2}}\sqrt{3}}{7}\)

\(\Rightarrow {{V}_{ABC.A'B'C'}}=A'H.{{S}_{ABC}}=\frac{72{{a}^{3}}\sqrt{3}}{7}\)

Chọn B.