Phương pháp giải:

Xét các hàm số ở từng đáp án, tìm khoảng nghịch biến của chúng và đối chiếu điều kiện đề bài.

Lời giải chi tiết:

*TH1: Đáp án A:

Hàm số: \(y=\frac{{{x}^{2}}+x-1}{x-1}\) xác định trên \(D=R\backslash \left\{ 1 \right\}\) nên loại A vì \(1\in \left( 0;\sqrt{2} \right)\)

*TH2: Đáp án B:

Xét hàm số: \(y=\frac{2x-5}{x+1}\) xác định trên \(R\backslash \left\{ -1 \right\}\)

Có \(y'\left( x \right)=\frac{7}{{{\left( x+1 \right)}^{2}}},\forall x\in R\backslash \left\{ -1 \right\}\)

\(\Rightarrow \) Hàm số \(y=\frac{2x-5}{x+1}\) đồng biến trên \(R\backslash \left\{ -1 \right\}\) (loại).

*TH3: Đáp án C:

Hàm số \(y=\frac{1}{2}{{x}^{4}}-2{{x}^{2}}+3\). liên tục trên \(\left( 0;\sqrt{2} \right).\)

Có \(y'\left( x \right)=2{{x}^{3}}-6x<0,\forall x\in \left( 0;\sqrt{2} \right)\)

\(\Rightarrow \) Hàm số: \(y=\frac{1}{2}{{x}^{4}}-2{{x}^{2}}+3\) nghịch biến trên \(\left( 0;\sqrt{2} \right).\)

*TH4: Đáp án D:

Hàm số: \(y=\frac{3}{2}{{x}^{3}}-4{{x}^{2}}+6x+9\)  xác định trên \(R\)

Có \(y'\left( x \right)=\frac{9}{2}{{x}^{2}}-8x+6=\frac{9}{2}{{\left( x-\frac{8}{9} \right)}^{2}}+\frac{22}{9}>0,\forall x\in R\) (loại).

Vậy đáp án C thỏa mãn yêu cầu đề bài.

Đáp án C.