Phương pháp giải:

Để hàm số bậc bốn trùng phương \(y = a{x^4} + b{x^2} + c\,\,\left( {a \ne 0} \right)\) có ba điểm cực trị A, B, C sao cho tam giác ABC vuông cân \( \Leftrightarrow {b^3} =  - 8a\)

Lời giải chi tiết:

Để hàm số có ba điểm cực trị A, B, C sao cho tam giác ABC vuông cân \( \Leftrightarrow {b^3} =  - 8a\)

\(\eqalign{  &  \Leftrightarrow {\left( { - 2{m^2}} \right)^3} =  - 8 \Leftrightarrow  - 8{m^6} =  - 8 \Leftrightarrow m =  \pm 1 \Rightarrow m \in \left\{ {1; - 1} \right\} \Rightarrow \left\{ \matrix{  a = 1 \hfill \cr   b =  - 1 \hfill \cr}  \right.  \cr   &  \Rightarrow S = {a^2} + {b^2} + 2a + 3b = {1^2} + {\left( { - 1} \right)^2} + 2.1 + 3.\left( { - 1} \right) = 1 \cr} \)

Chọn A.