Phương pháp giải:

Sử dụng lý thuyết của đường thẳng vuông góc với mặt phẳng và bài toán tìm giao tuyến của hai mặt phẳng đồng thời việc tính toán trong tam giác, tứ giác cụ thể là tính diện tích đa giác

Lời giải chi tiết:

Vì S.ABC là hình chóp đều nên \(SO\bot \left( ABC \right)\)

(O là tâm của tam giác ABC).

Do đó \(SO\bot AA'\) mà \(\left( \alpha  \right)\bot AA'\) suy ra \(SO\parallel \left( \alpha  \right)\).

Tương tự ta cũng có \(BC\parallel \left( \alpha  \right)\)

Qua M kẻ \(IJ\parallel BC\) với \(I\in AB,\text{ }J\in AC\); kẻ \(MN\parallel SO\) với \(N\in SA'.\)

Qua N kẻ \(EF\parallel BC\) với \(E\in SB,\text{ }F\in SC\).

Khi đó thiết diện là hình thang IJFE.

Diện tích hình thang \({{S}_{IJEF}}=\frac{1}{2}\left( IJ+EF \right)MN\).

Tam giác ABC, có \(\frac{IJ}{BC}=\frac{AM}{AA'}\Rightarrow IJ=\frac{AM.BC}{AA'}=\frac{x.a}{\frac{a\sqrt{3}}{2}}=\frac{2x\sqrt{3}}{3}.\)

Tam giác SBC, có \(\frac{EF}{BC}=\frac{SN}{SA'}=\frac{OM}{OA'}\Rightarrow EF=\frac{OM.BC}{OA'}=\frac{\left( x-\frac{2}{3}\frac{a\sqrt{3}}{2} \right)a}{\frac{1}{3}.\frac{a\sqrt{3}}{2}}=2\left( x\sqrt{3}-a \right).\)

Tam giác SOA’, có \(\frac{MN}{SO}=\frac{MA'}{OA'}\Rightarrow MN=\frac{SO.MA'}{OA'}=\frac{2a.\left( \frac{a\sqrt{3}}{2}-x \right)}{\frac{1}{3}\frac{a\sqrt{3}}{2}}=2\left( 3a-2x\sqrt{3} \right).\)

Vậy

\(\begin{align}  & {{S}_{IJEF}}=\frac{1}{2}MN\left( EF+IJ \right)=\frac{1}{2}.2\left( 3a-2x\sqrt{3} \right)\left( \frac{2x\sqrt{3}}{3}+2\left( x\sqrt{3}-a \right) \right) \\ & =\frac{2}{3}\left( 4x\sqrt{3}-3a \right)\left( 3a-2x\sqrt{3} \right)=-2\left( 8{{x}^{2}}-6\sqrt{3}ax+3{{a}^{2}} \right). \\\end{align}\)

Chọn A