Phương pháp giải:

+) Tính y’, giải phương trình \(y' = 0\), tìm điều kiện để phương trình \(y' = 0\) có 3 nghiệm phân biệt.

+) Tìm các điểm cực trị \({x_i}\) của hàm số, từ đó suy ra \({y_i}\) tương ứng.

+) Để cả ba điểm cực trị đều nằm phía dưới đường thẳng \(y = 5 \Rightarrow {y_i} < 5\).

Lời giải chi tiết:

TXĐ : \(D = R\)

Ta có: \(y' =  - 4{x^3} + 4mx = 0 \Leftrightarrow  - 4x\left( {{x^2} - m} \right) \Leftrightarrow \left[ \matrix{  x = 0 \hfill \cr   {x^2} = m \hfill \cr}  \right.\)

Để hàm số có ba điểm cực trị thì phương trình \(y' = 0\) có 3 nghiệm phân biệt \( \Leftrightarrow m > 0\,\,\left( 1 \right)\).

Khi đó \(y' = 0 \Leftrightarrow \left[ \matrix{  x = 0 \Rightarrow y =  - 4 < 5 \hfill \cr   x = \sqrt m  \Rightarrow y = {m^2} - 4 \hfill \cr   x =  - \sqrt m  \Rightarrow y = {m^2} - 4 \hfill \cr}  \right.\)

Để cả ba điểm cực trị đều nằm phía dưới đường thẳng \(y = 5 \Rightarrow {m^2} - 4 < 5 \Leftrightarrow  - 3 < m < 3\).

Kết hợp điều kiện (1) ta có \(0 < m < 3\).

Chọn B.