Phương pháp giải:

Để hàm số nghịch biến trên \(\left( 0;1 \right)\Leftrightarrow y'\le 0\,\,\forall x\in \left( 0;1 \right)\) và \(y'=0\) tại hữu hạn điểm.

Lời giải chi tiết:

TXĐ: \(D=R\)

\(\begin{array}{l}y = {x^3} - 3m{x^2} - 9{m^2}x \Rightarrow y' = 3{x^2} - 6mx - 9{m^2}\\y' = 0 \Leftrightarrow 3{x^2} - 6mx - 9{m^2} = 0 \Leftrightarrow 3({x^2} - 2mx - 3{m^2}) = 0 \Leftrightarrow 3\left( {x + m} \right)\left( {x - 3m} \right) = 0 \Leftrightarrow \left[ \begin{array}{l}{x_1} =  - m\\{x_2} = 3m\end{array} \right.\end{array}\)

\(y'<0\,\,\forall x\in \left( 0;1 \right)\Leftrightarrow \left( 0;1 \right)\) nằm trong khoảng 2 nghiệm \({{x}_{1}};\,{{x}_{2}}\).

Hàm số nghịch biến trên khoảng (0;1) khi và chỉ khi:

TH1: \(-m\le 0<1\le 3m\Leftrightarrow \left\{ \begin{align}  m\ge 0 \\  m\ge \frac{1}{3} \\ \end{align} \right.\Leftrightarrow m\ge \frac{1}{3}\) .

TH2: \(3m\le 0<1\le -m\Leftrightarrow \left\{ \begin{align}  m\le 0 \\  m\le -1 \\ \end{align} \right.\Leftrightarrow m\le -1\).

Vậy, \(m\ge \frac{1}{3}\) hoặc \(m\le -1\).

Chọn: A