Phương pháp giải:

+) Tìm điều kiện của \(m\) để hàm số có hai cực trị hay phương trình \(y'=0\) có hai nghiệm phân biệt \( \Leftrightarrow \Delta ' > 0.\)

+) Áp dụng định lý Vi-ét với phương trình \(y'=0\) và hệ thức bài cho để tìm \(m.\)

Lời giải chi tiết:

Ta có: \(y' = 3{x^2} - 6x + m \Rightarrow y' = 0 \Leftrightarrow 3{x^2} - 6x + m = 0\,\,\left( * \right)\)

Đồ thị hàm số có hai điểm cực trị \({x_1};\,\,{x_2}\)\( \Leftrightarrow \)pt (*) có hai nghiệm phân biệt

\( \Leftrightarrow \Delta ' > 0 \Leftrightarrow 9 - 3m > 0 \Leftrightarrow m < 3\).

Theo hệ thức Vi-ét ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} = 2\\{x_1}{x_2} = \dfrac{m}{3}\end{array} \right.\).

Theo đề bài ta có: \(x_1^2 + x_2^2 = 3 \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} = 3\)

                          \( \Leftrightarrow 4 - \dfrac{{2m}}{3} = 3 \Leftrightarrow m = \dfrac{3}{2}\left( {tm} \right)\)

Chọn A.