Phương pháp giải:

+ Tìm điều kiện để hàm số có 2 điểm cực trị.

+ Áp dụng định lí Vi-ét.

Lời giải chi tiết:

Ta có: \(y' = 6{x^2} - 6mx - 6\left( {3{m^2} - 1} \right)\)

\(y' = 0 \Leftrightarrow {x^2} - mx - 3{m^2} + 1 = 0\).

Để hàm số có 2 điểm cực trị thì phương trình \(y' = 0\) có 2 nghiệm phân biệt.

\(\begin{array}{l} \Leftrightarrow \Delta  > 0 \Leftrightarrow {m^2} - 4\left( { - 3{m^2} + 1} \right) > 0\\ \Leftrightarrow {m^2} + 12{m^2} - 4 > 0 \Leftrightarrow 13{m^2} - 4 > 0\\ \Leftrightarrow \left[ \begin{array}{l}m > \dfrac{2}{{\sqrt {13} }}\\m <  - \dfrac{2}{{\sqrt {13} }}\end{array} \right.\end{array}\)

Khi đó với \({x_1},\,\,{x_2}\) là 2 điểm cực trị của hàm số, thì chúng chính là hai nghiệm phân biệt của phương trình \(y' = 0\). Do đó áp dụng định lí Vi-ét ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} = m\\{x_1}.{x_2} =  - 3{m^2} + 1\end{array} \right.\)

Theo bài ra ta có:

\(\begin{array}{l}{x_1}{x_2} + 2\left( {{x_1} + {x_2}} \right) = 1 \Leftrightarrow  - 3{m^2} + 1 + 2m = 1\\ \Leftrightarrow 3{m^2} - 2m = 0 \Leftrightarrow \left[ \begin{array}{l}m = \dfrac{2}{3}\,\,\,\left( {tm} \right)\\m = 0\,\,\,\,\left( {ktm} \right)\end{array} \right.\end{array}\)

Khi đó \(\dfrac{a}{b} = \dfrac{2}{3} \Rightarrow \left\{ \begin{array}{l}a = 2\\b = 3\end{array} \right. \Rightarrow P = a + 2b = 8.\)

Chọn A.