Phương pháp giải:

+) Xác định giá trị của m đề hàm số đã cho có cực trị.

+) Sử dụng hệ thức Vi-ét để tìm giá trị lớn nhất của biểu thức S.

Lời giải chi tiết:

TXĐ: \(D = \mathbb{R}\). Ta có: \(y' = {x^2} - mx - 4 \Rightarrow y' = 0 \Leftrightarrow {x^2} - mx - 4 = 0\,\,\,\left( * \right)\)

Hàm số đã cho có hai điểm cực trị \( \Leftrightarrow \left( * \right)\) có hai nghiệm phân biệt

\( \Leftrightarrow \Delta  > 0 \Leftrightarrow {m^2} + 4.4 > 0 \Leftrightarrow {m^2} + 16 > 0\,\,\forall m \Rightarrow \) hàm số đã cho luôn có hai điểm cực trị với mọi \(m.\)

Gọi \({x_1},\,\,{x_2}\) là hai điểm cực trị của hàm số \( \Rightarrow {x_1},\,\,{x_2}\) là hai nghiệm của phương trình (*).

Áp dụng hệ thức Vi-ét ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} = m\\{x_1}{x_2} =  - 4\end{array} \right..\)

\(\begin{array}{l} \Rightarrow S = \left( {x_1^2 - 1} \right)\left( {x_2^2 - 1} \right) = {\left( {{x_1}{x_2}} \right)^2} - \left( {x_1^2 + x_2^2} \right) + 1\\\,\,\,\,\,\,\,\,\,\, = {\left( {{x_1}{x_2}} \right)^2} - {\left( {{x_1} + {x_2}} \right)^2} + 2{x_1}{x_2} + 1\\\,\,\,\,\,\,\,\,\,\, = 16 - {m^2} - 8 + 1 = 9 - {m^2} \le 9.\end{array}\)

Dấu “=” xảy ra \( \Leftrightarrow m = 0.\)

Chọn A.