Phương pháp giải:

Công thức tính thể tích khối nón \(V=\frac{1}{3}\pi {{R}^{2}}h\)

Trong đó: \(h\) là chiều cao của hình nón

                 \(R\) là bán kính đường tròn đáy.

Lời giải chi tiết:

Gọi I là tâm đường tròn nội tiếp tam giác ABC cũng là tâm đường tròn đáy của hình nón.

Gọi E là trung điểm của AC khi đó ta có: \(BE=\sqrt{A{{B}^{2}}-A{{E}^{2}}}=\sqrt{100{{a}^{2}}-36{{a}^{2}}}=8a\).

\(\Rightarrow {{S}_{ABC}}=\frac{1}{2}AC.BE=\frac{1}{2}.12a.8a=48{{a}^{2}}\)

Ta có: \(p=\frac{AB+BC+CA}{2}=16a\Rightarrow r=\frac{{{S}_{ABC}}}{p}=3a\)

Dựng \(IM\bot AB\Rightarrow \left\{ \begin{align}  & AB\bot IM \\  & AB\bot SI\,\,\left( SI\bot \left( ABC \right) \right) \\ \end{align} \right.\Rightarrow AB\bot (SIM)\Rightarrow AB\bot SM\)

\(\left. \begin{align}  & \left( SAB \right)\cap \left( ABC \right)=AB \\ & \left( SAB \right)\supset SM\bot AB \\ & \left( ABC \right)\supset IM\bot AB \\\end{align} \right\}\Rightarrow \widehat{\left( \left( SAB \right);\left( ABC \right) \right)}=\widehat{\left( SM;MI \right)}=\widehat{SMI}={{45}^{0}}\)

Mặt khác ta có:

 \(\begin{align}  & IM=r=3a\Rightarrow SI=IM\tan 45=3a \\  & V=\frac{1}{3}SI.\pi .{{r}^{2}}=9\pi {{a}^{3}} \\ \end{align}\)

Chọn A.