Phương pháp giải:

Tìm GTLN và GTNN của hàm số \(y = f\left( x \right)\) trên đoạn \(\left[ {a;b} \right]\)

Bước 1: Tìm tập xác định \(D\) , \(\left[ {a;b} \right] \subset D\)

Bước 2: Tính \(f'\left( x \right)\), giải phương trình \(f'\left( x \right) = 0\) tìm các nghiệm \({x_i}\) và các giá trị \({x_J}\) làm cho \(f'\left( x \right)\) không xác định (\({x_i};{x_j} \in \left[ {a;b} \right]\))

Bước 3: Tính \(f\left( a \right);f\left( b \right);f\left( {{x_i}} \right);f\left( {{x_j}} \right)\)

Khi đó: \(\mathop {\max }\limits_{\left[ {a;b} \right]} f\left( x \right) = \max \left\{ {f\left( a \right);f\left( b \right);f\left( {{x_i}} \right);f\left( {{x_J}} \right)} \right\}\)

       Và \(\mathop {\min }\limits_{\left[ {a;b} \right]} f\left( x \right) = \min \left\{ {f\left( a \right);f\left( b \right);f\left( {{x_i}} \right);f\left( {{x_J}} \right)} \right\}\)

Lời giải chi tiết:

TXĐ: \(D = \mathbb{R}\)

Ta có \(y' = 3{x^2} - 3 = 0 \Leftrightarrow \left[ \begin{array}{l}x =  - 1\left( L \right)\\x = 1\left( N \right)\end{array} \right.\)

Khi đó \(y\left( 1 \right) = 2;y\left( 0 \right) = 4;y\left( 2 \right) = 6\)

Suy ra \(m = \mathop {\min }\limits_{\left[ {0;2} \right]} y = 2 \Leftrightarrow x = 1;\,M = \mathop {\max }\limits_{\left[ {0;2} \right]} y = 6 \Leftrightarrow x = 2\)

Do đó \({m^2} + {M^2} = {2^2} + {6^2} = 40.\)

Chọn D.