Phương pháp giải:

-          Hàm số \(y = f\left( x \right)\) đồng biến trên \(\left( a;b \right)\Leftrightarrow f'\left( x \right)\ge 0\,\,\forall x\in \left( a;b \right)\).

Lời giải chi tiết:

Ta có: \(y'=a\cos x-b\sin x+1\)

Ta xét 2 trường hợp:

+) TH1: \(a = b = 0\), khi đó ta có hàm số \(y = x\) luôn đồng biến trên R \(\Rightarrow {{a}^{2}}+{{b}^{2}}=0.\)

+) TH2: \(a\ne 0\) hoặc \(b\ne 0\) ta có:

\(y'=a\cos x-b\sin x+1=\sqrt{{{a}^{2}}+{{b}^{2}}}\left( \frac{a}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\cos x-\frac{b}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\sin x+\frac{1}{\sqrt{{{a}^{2}}+{{b}^{2}}}} \right)\)

     \(=\sqrt{{{a}^{2}}+{{b}^{2}}}\left[ \cos \left( x+\alpha  \right)+\frac{1}{\sqrt{{{a}^{2}}+{{b}^{2}}}} \right]\) (với \(\sin \alpha =\frac{b}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\) và \(\cos \alpha =\frac{a}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\)).

Để hàm số đồng biến với mọi x thì \(y'\ge 0\) với mọi x

\(\Leftrightarrow \cos \left( x+\alpha  \right)+\frac{1}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\ge 0\) với mọi x

\(\Leftrightarrow \cos \left( x+\alpha  \right)\ge \frac{-1}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\) với mọi x

\(\Leftrightarrow -1\ge \frac{-1}{\sqrt{{{a}^{2}}+{{b}^{2}}}}\) (vì \(\cos \left( {x + \alpha } \right) \in {\rm{[ - 1;1]}}\))

\( \Leftrightarrow 1 \le \dfrac{1}{{\sqrt {{a^2} + {b^2}} }} \Leftrightarrow \sqrt {{a^2} + {b^2}}  \le 1 \Leftrightarrow {a^2} + {b^2} \le 1\)

Kết hợp với điều kiện \(a\ne 0\) hoặc \(b \ne 0\) ta có: \(0 \ne {a^2} + {b^2} \le 1\).

Kết hợp hai trường hợp ta có: \(0 \le {a^2} + {b^2} \le 1\).

Chọn D.