Phương pháp giải:

+) Xét phương trình hoành độ giao điểm, tìm điều kiện để phương trình hoành độ giao điểm có hai nghiệm phân biệt.

+) Tam giác OAB vuông tại O \(\Rightarrow \overrightarrow{OA}.\overrightarrow{OA}=0\)

Lời giải chi tiết:

PT hoành độ giao điểm là \(m+1={{x}^{4}}-3{{x}^{2}}-2\xrightarrow{t={{x}^{2}}}{{t}^{2}}-3t-m-3=0\,\,\left( 1 \right).\)

Hai đồ thị có 2 giao điểm \(\Leftrightarrow \left( 1 \right)\Leftrightarrow \) có 2 nghiệm trái dấu \(\Leftrightarrow {{t}_{1}}{{t}_{2}}<0\Leftrightarrow -m-3<0\Leftrightarrow m>-3\,\,\,\left( 2 \right)\)

Ta có : \(\Delta =9-4\left( -m-3 \right)=21+4m\)

Khi đó\(\left\{ \begin{array}{l}
{t_1} = \frac{{3 + \sqrt {21 + 4m} }}{2}\\
{t_2} = \frac{{3 - \sqrt {21 + 4m} }}{2}
\end{array} \right. \Rightarrow \left\{ \begin{array}{l}
{x_A} = \sqrt {{t_1}} \\
{x_B} = - \sqrt {{t_1}} 
\end{array} \right.\)

Suy ra tọa độ hai điểm A,B là \(A\left( \sqrt{{{t}_{1}}};m+1 \right),B\left( -\sqrt{{{t}_{1}}};m+1 \right)\Rightarrow \left\{ \begin{align}  & \overrightarrow{OA}=\left( \sqrt{{{t}_{1}}};m+1 \right) \\  & \overrightarrow{OB}=\left( -\sqrt{{{t}_{1}}};m+1 \right) \\ \end{align} \right.\)

Tam giác OAB vuông tại O \(\Rightarrow \overrightarrow{OA}.\overrightarrow{OB}=0\Leftrightarrow -{{t}_{1}}+{{\left( m+1 \right)}^{2}}=0\Leftrightarrow -\frac{3+\sqrt{21+4m}}{2}+{{\left( m+1 \right)}^{2}}=0\)

Giải PT kết hợp với điều kiện \(\left( 2 \right)\Rightarrow m=1\Rightarrow m\in \left( \frac{3}{4};\frac{5}{4} \right)\)

Đáp án C