Lời giải chi tiết:

Cách 1: Cách chuẩn

+ Ta có: \(y' = 4{x^3} - 4mx = 4x\left( {{x^2} - m} \right);\,\,y' = 0 \Leftrightarrow \left[ \begin{array}{l}x = 0\\{x^2} = m(*)\end{array} \right.\)

+ Để hàm số có 3 điểm cực trị thì (*) có 2 nghiệm phân biệt khác 0\( \Leftrightarrow m > 0\)(1)

+ Khi đó ta gọi 3 điểm cực trị của hàm số là:

\(A\left( {0;2m - 3} \right),\,\,B\left( { - \sqrt m ; - {m^2} + 2m - 3} \right),\,\,C\left( {\sqrt m ; - {m^2} + 2m - 3} \right)\)

+ Để \(ABC\) là tam giác vuông thì nó phải vuông tại \(A\) do \(ABC\) là tam giác cân tại \(A\).

\( \Leftrightarrow \overrightarrow {BA} .\overrightarrow {CA}  = 0 \Leftrightarrow  - \sqrt m .\sqrt m  + \left( { - {m^2}} \right).\left( { - {m^2}} \right) = 0 \Leftrightarrow  - m + {m^4} = 0 \Leftrightarrow \left[ \begin{array}{l}m = 0\\m = 1\end{array} \right.\,\,\,\left( 2 \right)\)

+ Từ (1) và (2) ta có: \(m = 1.\)

Cách 2: Dùng luôn công thức

+ Để hàm số có 3 cực trị \( \Leftrightarrow ab < 0 \Leftrightarrow 1.\left( { - 2m} \right) < 0 \Leftrightarrow m > 0\)

+ Tạo thành tam giác vuông \(\Rightarrow {{b}^{3}}=-8a\Leftrightarrow {{\left( -2m \right)}^{3}}=-8\Leftrightarrow -8{{m}^{3}}=-8\Leftrightarrow m=1\,\,\,\left( tm \right)\).

Chọn D.