Phương pháp giải:

Tính đạo hàm, áp dụng điều kiện để hàm số nghịch biến trên khoảng

Lời giải chi tiết:

Ta có \(y=\frac{\cot x-2}{\cot x-m}\Rightarrow {y}'={{\left( \cot x \right)}^{\prime }}.\frac{2-m}{{{\left( \cot x-m \right)}^{2}}}=-\frac{1}{{{\sin }^{2}}x}.\frac{2-m}{{{\left( \cot x-m \right)}^{2}}}.\)

Để hàm số nghịch biến trên khoảng \(\left( \frac{\pi }{4};\frac{\pi }{2} \right)\)\(\Leftrightarrow \,\,{y}'<0;\,\,\forall x\in \left( \frac{\pi }{4};\frac{\pi }{2} \right)\)       \(\left( * \right).\)

Mà \(-\frac{1}{{{\sin }^{2}}x}<0;\,\,\forall x\in \left( \frac{\pi }{4};\frac{\pi }{2} \right)\) suy ra \(\left( * \right)\Leftrightarrow \frac{2-m}{{{\left( \cot x-m \right)}^{2}}}>0;\,\,\forall x\in \left( \frac{\pi }{4};\frac{\pi }{2} \right)\)

\(\Leftrightarrow \,\,\left\{ \begin{array}{l}
2 - m > 0\\
m = \cot x \notin \left( {0;1} \right)
\end{array} \right. \Leftrightarrow \,\,\left\{ \begin{array}{l}
m < 2\\
\left[ \begin{array}{l}
m \ge 1\\
m \le 0
\end{array} \right.
\end{array} \right. \Leftrightarrow \,\,\left[ \begin{array}{l}
1 \le m < 2\\
m \le 0
\end{array} \right..\)

Vậy \(\left[ \begin{align}  & 1\le m<2 \\  & m\le 0 \\ \end{align} \right.\) là giá trị cần tìm.

Chọn B