Phương pháp giải:

Liệt kê các phần tử trong tập hợp.

Lời giải chi tiết:

+) Đáp án A: \( - {x^2} + 5x - 2 = 0 \Leftrightarrow \left[ \begin{array}{l}x = \frac{{5 + \sqrt {17} }}{2}\\x = \frac{{5 - \sqrt {17} }}{2}\end{array} \right..\)

\( \Rightarrow \) loại đáp án A.

+) Đáp án B: \(\left| x \right| < 1 \Rightarrow  - 1 < x < 1.\)

\( \Rightarrow \) loại đáp án B.

+) Đáp án C: \({x^2} - 4x = 0 \Leftrightarrow x\left( {x - 4} \right) = 0 \Leftrightarrow \left[ \begin{array}{l}x = 0\\x = 4\end{array} \right.\)

\( \Rightarrow \) loại đáp án C.

+) Đáp án D: \({x^2} - 2x - 3 = 0 \Leftrightarrow \left[ \begin{array}{l}x =  - 1\,\, \notin \left( { - \infty ;\, - 1} \right)\\x = 3\,\,\, \notin \left( { - \infty ;\,\, - 1} \right)\end{array} \right.\)

\( \Rightarrow \left\{ {\left. {x \in \left( { - \infty ; - 1} \right)} \right|{x^2} - 2x - 3 = 0} \right\} = \emptyset .\)

Chọn D.