Phương pháp giải:

+) Tìm điều kiện để hàm số có ba điểm cực trị.

+) Tìm các điểm cực trị A, B, C.

+) Gọi H là tâm đường tròn ngoại tiếp tam giác \( \Rightarrow H \in Oy \Rightarrow H\left( {0;h} \right)\) và \(HA = HB = 1\).

Lời giải chi tiết:

TXĐ: \(D = R\)

Ta có: \(y' = 4{x^3} - 4mx = 0 \Leftrightarrow \left[ \matrix{  x = 0 \hfill \cr   {x^2} = m \hfill \cr}  \right.\)

Để hàm số có 3 điểm cực trị \( \Rightarrow pt\,\,y' = 0\) có 3 nghiệm phân biệt \( \Leftrightarrow m > 0\).

Khi đó \(y' = 0 \Leftrightarrow \left[ \matrix{  x = 0 \Rightarrow y = m - 1 \Rightarrow A\left( {0;m - 1} \right) \hfill \cr   x = \sqrt m  \Rightarrow y =  - {m^2} + m - 1 \Rightarrow B\left( {\sqrt m ; - {m^2} + m - 1} \right) \hfill \cr   x =  - \sqrt m  \Rightarrow y =  - {m^2} + m - 1 \Rightarrow C\left( { - \sqrt m ; - {m^2} + m - 1} \right) \hfill \cr}  \right.\)

Gọi H là tâm đường tròn ngoại tiếp tam giác \( \Rightarrow H \in Oy \Rightarrow H\left( {0;h} \right)\).

Ta có: \(H{A^2} = {\left( {h - m + 1} \right)^2} = 1;\,\,H{B^2} = m + {\left( {h + {m^2} - m + 1} \right)^2} = 1\)

\(\eqalign{  &  \Leftrightarrow m + {\left( {h - m + 1} \right)^2} + {m^4} + 2{m^2}\left( {h - m + 1} \right) = 1  \cr   &  \Leftrightarrow \left[ \matrix{  m + 1 + {m^4} + 2{m^2} = 1 \hfill \cr   m + 1 + {m^4} - 2{m^2} = 1 \hfill \cr}  \right. \Leftrightarrow \left[ \matrix{  {m^4} + 2{m^2} + m = 0 \hfill \cr   {m^4} - 2{m^2} + m = 0 \hfill \cr}  \right.\mathop  \Leftrightarrow \limits^{m > 0} \left[ \matrix{  m = 1 = a \hfill \cr   m = {{ - 1 + \sqrt 5 } \over 2} = b \hfill \cr}  \right.  \cr   &  \Rightarrow T = {a^2} + 2{b^2} = 1 + 2{\left( {{{ - 1 + \sqrt 5 } \over 2}} \right)^2} = 4 - \sqrt 5  \cr} \)

Chọn C.