Cho phương trình ẩn x: \({x^2} - 5x + \left( {m - 2} \right) = 0\,\,\,\left( 1 \right)\).

Để phương trình (1) có hai nghiệm dương phân biệt \({x_1},\,\,{x_2}\) thì \(\left\{ \begin{array}{l}\Delta  > 0\\S > 0\\P > 0\end{array} \right.\)

\( \Leftrightarrow \left\{ \begin{array}{l}{\left( { - 5} \right)^2} - 4\left( {m - 2} \right) > 0\\5 > 0\,\,\left( {luon\,\,dung} \right)\\m - 2 > 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}25 - 4m + 8 > 0\\m > 2\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}33 - 4m > 0\\m > 2\end{array} \right.\) \( \Leftrightarrow \left\{ \begin{array}{l}m < \dfrac{{33}}{4}\\m > 2\end{array} \right. \Leftrightarrow 2 < m < \dfrac{{33}}{4}\).

Khi đó áp dụng hệ thức Vi-ét ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} = 5\\{x_1}{x_2} = m - 2\end{array} \right.\).

Theo bài ra ta có:

\(\begin{array}{l}\dfrac{1}{{\sqrt {{x_1}} }} + \dfrac{1}{{\sqrt {{x_2}} }} = \dfrac{3}{2}\\ \Leftrightarrow \dfrac{{\sqrt {{x_1}}  + \sqrt {{x_2}} }}{{\sqrt {{x_1}{x_2}} }} = \dfrac{3}{2}\\ \Leftrightarrow 2\left( {\sqrt {{x_1}}  + \sqrt {{x_2}} } \right) = 3\sqrt {{x_1}{x_2}} \\ \Leftrightarrow 4\left( {{x_1} + {x_2} + 2\sqrt {{x_1}{x_2}} } \right) = 9{x_1}{x_2}\\ \Leftrightarrow 4\left( {5 + 2\sqrt {m - 2} } \right) = 9\left( {m - 2} \right)\\ \Leftrightarrow 9\left( {m - 2} \right) - 8\sqrt {m - 2}  - 20 = 0\,\,\,\left( * \right)\end{array}\)

Đặt \(t = \sqrt {m - 2} \,\,\left( {t \ge 0} \right)\), phương trình (*) trở thành:

\(\begin{array}{l}\,\,\,\,\,9{t^2} - 8t - 20 = 0\\ \Leftrightarrow 9{t^2} - 18t + 10t - 20 = 0\\ \Leftrightarrow \left( {9{t^2} - 18t} \right) + \left( {10t - 20} \right) = 0\\ \Leftrightarrow 9t\left( {t - 2} \right) + 10\left( {t - 2} \right) = 0\\ \Leftrightarrow \left( {t - 2} \right)\left( {9t + 10} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}t - 2 = 0\\9t + 10 = 0\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}t = 2\,\,\,\,\,\,\,\,\,\,\,\left( {tm} \right)\\t =  - \dfrac{{10}}{9}\,\,\,\left( {ktm} \right)\end{array} \right.\end{array}\)

Với \(t = 2\) \( \Rightarrow \sqrt {m - 2}  = 2 \Leftrightarrow m - 2 = 4 \Leftrightarrow m = 6\,\,\left( {tm} \right)\).

Vậy \(m = 6\).

Với \(m = 6\) thì phương trình (1) trở thành:

\(\begin{array}{l}\,\,\,\,\,\,{x^2} - 5x + 4 = 0\\ \Leftrightarrow {x^2} - x - 4x + 4 = 0\\ \Leftrightarrow \left( {{x^2} - x} \right) - \left( {4x - 4} \right) = 0\\ \Leftrightarrow x\left( {x - 1} \right) - 4\left( {x - 1} \right) = 0\\ \Leftrightarrow \left( {x - 1} \right)\left( {x - 4} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}x - 1 = 0\\x - 4 = 0\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}x = 1\\x = 4\end{array} \right.\end{array}\)

Vậy với \(m = 6\) thì tập nghiệm của phương trình là \(S = \left\{ {1;4} \right\}\).