Phương pháp giải:

Lập BBT, xác định GTNN của hàm số trên \(\left[ {1;2} \right]\) .

Lời giải chi tiết:

\(y = f\left( x \right) = {x^3} - 2m{x^2} - 4{m^2}x + 100 \Rightarrow y' = 3{x^2} - 4mx - 4{m^2}\)

\(y' = 0 \Leftrightarrow 3{x^2} - 4mx - 4{m^2} = 0 \Leftrightarrow \left[ \begin{array}{l}x = 2m\\x =  - \dfrac{2}{3}m\end{array} \right.\)

Do \(m < 0\) nên \(2m < 0 <  - \dfrac{2}{3}m\).

Bảng biến thiên:

TH1: \( - \dfrac{2}{3}m < 1 < 2 \Leftrightarrow m >  - \dfrac{3}{2}\)

\(\mathop {\min }\limits_{\left[ {1;2} \right]} f\left( x \right) = f\left( 1 \right) = 101 - 2m - 4{m^2} = 12 \Rightarrow 4{m^2} + 2m - 89 = 0 \Leftrightarrow m = \dfrac{{ - 1 \pm \sqrt {357} }}{4}\,\,\left( {ktm} \right)\)

TH2: \(1 \le  - \dfrac{2}{3}m \le 2 \Leftrightarrow  - 3 \le m \le  - \dfrac{3}{2}\)

\(\mathop {\min }\limits_{\left[ {1;2} \right]} f\left( x \right) = f\left( { - \dfrac{2}{3}m} \right) = \dfrac{{40}}{{27}}{m^3} + 100 = 12 \Rightarrow m =  - \sqrt[3]{{\dfrac{{297}}{5}}}\,\,\left( {ktm} \right)\)

TH3: \(1 < 2 <  - \dfrac{2}{3}m \Leftrightarrow m <  - 3\)

\(\mathop {\min }\limits_{\left[ {1;2} \right]} f\left( x \right) = f\left( 2 \right) = 8 - 8m - 8{m^2} + 100 = 12 \Rightarrow 8{m^2} + 8m - 96 = 0 \Leftrightarrow \left[ \begin{array}{l}m = 3\,\,\,\,\,\left( {ktm} \right)\\m =  - 4\,\,\,\left( {tm} \right)\end{array} \right.\)

Vậy \(m =  - 4 \Rightarrow S =  - 4 \in \left( { - 5;0} \right)\)\( \Rightarrow  - 5 < S < 0\).

Chọn: C