Phương pháp giải:

Hàm số \(y=f\left( x \right)\)

Nếu \(\underset{x\to \infty }{\mathop{\lim }}\,y=a\Rightarrow y=a\) là TCN của đồ thị hàm số.

Nếu \(\underset{x\to {{x}_{0}}}{\mathop{\lim }}\,y=\infty \Rightarrow x={{x}_{0}}\) là TCĐ của đồ thị hàm số.

Lời giải chi tiết:

\(\eqalign{
& y = {{x - 1} \over {\sqrt {2{x^2} - 2x - m + 1} - x - 1}} \cr
& \,\,\,\, = {{\left( {x - 1} \right)\left( {\sqrt {2{x^2} - 2x - m + 1} + x + 1} \right)} \over {2{x^2} - 2x - m + 1 - {x^2} - 2x - 1}} \cr
& \,\,\,\, = {{\left( {x - 1} \right)\left( {\sqrt {2{x^2} - 2x - m + 1} + x + 1} \right)} \over {{x^2} - 4x - m}} \cr} \)

\(\eqalign{
& \mathop {\lim }\limits_{x \to + \infty } y = \mathop {\lim }\limits_{x \to + \infty } {{\left( {1 - {1 \over x}} \right)\left( {\sqrt {2 - {2 \over x} + {{ - m + 1} \over {{x^2}}}} + 1 + {1 \over x}} \right)} \over {1 - {4 \over x} - {m \over {{x^2}}}}} = \sqrt 2 + 1 \cr
& \mathop {\lim }\limits_{x \to - \infty } y = \mathop {\lim }\limits_{x \to - \infty } {{\left( {1 - {1 \over x}} \right)\left( { - \sqrt {2 - {2 \over x} + {{ - m + 1} \over {{x^2}}}} + 1 + {1 \over x}} \right)} \over {1 - {4 \over x} - {m \over {{x^2}}}}} = - \sqrt 2 + 1 \cr} \)

\(\Rightarrow \) đồ thị hàm số có 2 đường TCN.

Để đồ thị hàm số có 4 đường tiệm cận thì đồ thị hàm số phải có 2 đường tiệm cận đứng. Khi đó phương trình mẫu số phải có 2 nghiệm phân biệt khác nghiệm của phương trình tử \(\Rightarrow \) điều kiện cần: phương trình  \({{x}^{2}}-4x-m=0\) có 2 nghiệm phân biệt \(\Leftrightarrow y'=4+m>0\Leftrightarrow m>-4\Rightarrow \) Loại C. 

Đến đây việc thử từng đáp án là nhanh nhất.

Khi m = -3, đồ thị hàm số có dạng \(y=\dfrac{\left( x-1 \right)\left( \sqrt{2{{x}^{2}}-2x-2}+x+1 \right)}{{{x}^{2}}-4x+3}\), phương trình mẫu có 2 nghiệm phân biệt \(x=1\) hoặc \(x=3\) , trùng với nghiệm của tử, do đó m = -3 không thỏa mãn. Loại B.

Khi m = 5, đồ thị hàm số có dạng \(y=\dfrac{\left( x-1 \right)\left( \sqrt{2{{x}^{2}}-2x-2}+x+1 \right)}{{{x}^{2}}-4x-5}\), phương trình mẫu có 2 nghiệm phân biệt \(x=-1\) hoặc \(x=5\) , không trùng với nghiệm của tử, do đó m = 5  thỏa mãn. Loại D.

Chọn A.