Phương pháp giải:

+) Sử dụng công thức hạ bậc: \({\sin ^2}x = \frac{{1 - \cos 2x}}{2}\).

+) \(a\sin x + b\cos x \Leftrightarrow \sqrt {{a^2} + {b^2}} \left( {\frac{a}{{\sqrt {{a^2} + {b^2}} }}\sin x + \frac{b}{{\sqrt {{a^2} + {b^2}} }}\cos x} \right)\)

Đặt \(\left\{ \begin{array}{l}\cos \alpha  = \frac{a}{{\sqrt {{a^2} + {b^2}} }}\\\sin \alpha  = \frac{b}{{\sqrt {{a^2} + {b^2}} }}\end{array} \right. \Rightarrow \sqrt {{a^2} + {b^2}} \left( {\sin x\cos \alpha  + \cos x\sin \alpha } \right) = \sqrt {{a^2} + {b^2}} \sin \left( {x + \alpha } \right)\)

Lời giải chi tiết:

Ta có:

\(\begin{array}{l}y = {\sin ^2}x - \sin 2x + 11 =  - \sin 2x - \cos 2x + 12\\y =  - \sqrt 2 \sin \left( {2x - \frac{\pi }{4}} \right) + 12\end{array}\)

Ta có: \( - 1 \le \sin \left( {2x - \frac{\pi }{4}} \right) \le 1 \Leftrightarrow  - \sqrt 2  \le  - \sqrt 2 \sin \left( {2x - \frac{\pi }{4}} \right) \le \sqrt 2  \Leftrightarrow  - \sqrt 2  + 12 \le  - \sqrt 2 \sin \left( {2x - \frac{\pi }{4}} \right) + 12 \le \sqrt 2  + 12\)

\( \Rightarrow \max y = \sqrt 2  + 12 \Rightarrow M = \sqrt 2  + 12\).

Chọn đáp án B.